ライブ変換
ひらがなを入力して短く止まると、トップ候補を自動で表示します。Spaceを押す前から変換結果を確認でき、文章を続けながら候補を育てていく入力を試せます。
Experimental Japanese IME / Windows / Rust
rakukan
日本語入力に、
文脈という手がかりを。
karukanのLLMベース変換エンジンを中核として、Windows上で使用できるようにした日本語IMEです。小型のローカルLLMとMozc系辞書を組み合わせ、従来とは少し違う候補の出し方を試します。入力中の読みを先回りするライブ変換と、学習による候補調整を手元のPCで行います。karukanを開発・公開されたHitoshi Togasaki氏に、心より感謝いたします。
きょうはいいてんきです
今日はいい天気です
- 1今日はいい天気です
- 2今日は良い天気です
- 3きょうはいい天気です
01 / A different conversion
辞書の確かさと、
LLMの文脈理解を組み合わせる。
一般的なかな漢字変換は、読みと辞書、頻度や学習結果を使って候補を組み立てます。rakukanはそこへ小型言語モデルを加え、文全体のつながりを見ながら候補を提案します。数字やアルファベットは元の入力を守りながら、日本語部分へ文脈に沿った変換を試みます。
目的はクラウドAIへ文章を送ることではありません。モデルと辞書、変換履歴はローカルで動き、入力内容を手元のPCから外へ出さずに新しい変換方式を検証します。
02 / Input features
入力の途中から、
候補を育てる。
範囲と記号を意識した変換
Shift＋左右キーで変換範囲を調整できます。句読点や括弧を含む文章は記号位置でブロックへ分け、候補を選びながら順番に確定します。
文字を壊さない保護
年号や型番などの数字、アルファベット、語彙外の記号や絵文字を変換で失わないように扱います。F6〜F10によるひらがな、カタカナ、英数の文字種変換にも対応します。
辞書と学習
LLMの提案だけに頼らずMozc系辞書を併用します。確定した変換結果はユーザー辞書と学習履歴へ反映され、使う人の語彙や選び方を次の候補順位へつなげます。
03 / Out-of-process design
IMEは軽く。
推論は別プロセスへ。
Windowsの入力フレームワーク側には軽量なTSFクライアントを置き、LLMとGPUバックエンドは rakukan-engine-host.exe で管理します。IMEへ重い推論処理を直接抱え込ませないことで、入力側の安定性を保ちながらモデルを切り替えられる構成です。
CPU、Vulkan、CUDAのエンジンDLLを設定から選択でき、モデルの大きさとGPUへ渡すレイヤー数をPC環境に合わせて調整できます。設定変更はIMEモードを切り替えると反映されます。
Windows apps入力欄
→TSF client軽量DLL
⇄Engine hostLLM + 辞書