Inkling 2 Mini、20GBで反復推論をローカルで使えるオープンモデル
Thinking Machines Labは2026年11月20日、オープンウェイトモデルのInkling 2 Miniを公開した。このモデルの核心は、同じ中間層をトークンごとに3回通過させる「ループ型トランスフォーマー」構造だ。
Thinking Machines Labは2026年11月20日、オープンウェイトモデルのInkling 2 Miniを公開した。このモデルの核心は、同じ中間層をトークンごとに3回通過させる「ループ型トランスフォーマー」構造だ。物理的には24層だが、実行時には48回の層演算を行い、短い出力の中でもより多くの計算をするよう設計されている。公開モデルを個人の機器で運用したい開発者にとって、サイズと推論性能のバランスに関わる重要な変化だ。
3回実行される中間層
Inkling 2 Miniは総パラメータ数264億のMoEモデルで、トークンごとに有効化されるパラメータは34億個だ。ただし、反復実行まで考慮した実効有効化量は54億個とされている。前後の6層は1回ずつ、中央の12層は3回実行し、重みを再利用する。つまり、モデルファイルを大きくせずに計算ステップを追加する方式だ。テキストと画像を入力してテキストを生成し、最大100万トークンのコンテキストをサポートする。
ローカル動作の条件
公式モデルカードによると、混合精度チェックポイントは約20GBだ。Apple Silicon搭載機では32GB以上のメモリ、それ以外の環境では32GB以上のVRAMが推奨されている。したがって、「一般的なノートパソコンならどこでも」動く軽量モデルというより、十分なユニファイドメモリまたはGPUメモリを備えたローカル環境を対象としたモデルと見るのが正確だ。重みはHugging Faceから入手でき、Tinkerでは推論とカスタマイズが提供される。
コーディング性能と残る限界
開発元はエージェント型コーディングとツール使用における強みを強調し、DeepSWE v1.1で48.2%、Vals Index v2.2で46.5%を報告している。一方で、反復構造によってモデルに保存された事実知識そのものが増えるわけではないと説明している。長い複数ターンの対話、多くの条件を同時に満たす必要がある指示、知識への依存度が高い質問では、より大きなモデルや一部の競合モデルに劣る可能性がある。ローカルエージェントに適用する際は、モデルの短くなった推論出力だけで信頼性を判断するのではなく、検索・ツール呼び出しの結果と人によるレビューを組み合わせた構成が必要だ。