30秒サマリー
- フィリピンのAI企業Thinking Machinesが、オープンウェイトモデル「Inkling」の安全な公開プロセスを公式ブログで詳述した
- 内部評価・外部レッドチーム・敵対的ファインチューニングの3段階テストを実施し、既存モデルと比較して追加リスクなしと判断
- 段階的なアクセス拡大と「危険な能力の分離研究」という2軸で、オープン化と安全性の両立を目指す方針を提示
何が起きたか
AIスタートアップのThinking Machines Labは、自社が開発・公開したオープンウェイト言語モデル「Inkling」および「Inkling-Small」の安全評価プロセスを公式ブログで公開した。同社はオープンウェイトモデルを「公共財」と位置づける一方、一度公開した重みは取り消しが不可能であり、悪用リスクが現実に存在すると明確に認める。
安全評価は3つの方法で実施された。第一に、CBRN（化学・生物・放射線・核）領域とサイバーセキュリティを含む有害カテゴリを網羅した内部評価。第二に、Scale AI、Handshake AI、FAR.AI、Apollo Researchの4社による外部レッドチームテスト。第三に、安全トレーニングを意図的に除去したファインチューニング変種を用いた「最悪ケースの能力評価」である。これらすべてにおいて、Inklingは既存のオープンウェイトモデルと同等水準であり、危険な能力の最前線を押し広げるものではないと結論づけた。
同社はまた、すべての危険な能力が必ずしも汎用知識から自動的に発生するわけではないという仮説を提示している。特に生物学領域では、特定の実験プロトコルや試薬情報といった文書レベルの知識が能力の源泉であり、事前学習データから該当文書を除外することで、汎用能力を損なわずに危険な能力を抑制できる可能性があると述べる。同社はO’Brien et al.（2025）などの先行研究を引用しつつ、これはまだ未解決の研究課題だと留保している。
公開プロセスについては、推論APIへの限定アクセス→監視付き一般公開→オープンウェイト公開という段階的なアクセス拡大を推奨し、防衛側の研究者への早期アクセス提供や、重みを公開せずにファインチューニングを可能にするAPIの活用も手段として挙げている。
原典ハイライト
同社ブログは「安全なリリースはモデル自体とそれが参入するエコシステムの双方に依存する」と核心を示す。敵対的ファインチューニングを行いガードレールを除去した場合でも、CBRNおよびサイバー評価において既存モデルを上回る危険な能力の上乗せは認められなかったと報告。また、Anthropicの「Project GlassWing」による信頼できる組織への先行アクセス提供を、セキュリティ分野の「責任ある開示（responsible disclosure）」と同様の実践として評価している。
出典: Thinking Machines Lab（公式ブログ）
So What?（なぜ重要か）
オープンウェイトモデルの安全な公開に向けた具体的な評価フレームワークが、実際の企業事例として初めて詳細に公開された点が重要だ。「モデルの安全性」と「エコシステムの準備状況」という2軸の評価視点、および段階的アクセス拡大という手法は、業界標準の議論に影響を与える可能性がある。また、事前学習データの選別によって危険な能力を汎用能力から「切り離す」研究の方向性は、オープンモデルの安全設計そのものに関わる重要な仮説であり、今後の研究動向として注目される。
日本企業への示唆
日本企業がオープンウェイトモデルを自社環境に導入・カスタマイズする際、「重みを入手できる＝安全に使える」という前提は成立しない。本事例が示すように、ファインチューニングによってガードレールは除去可能であるため、社内での二次的なファインチューニングには安全評価を組み込む必要がある。また、段階的なアクセス管理（全社展開の前に限定部門での検証期間を設ける等）や、外部の安全評価機関との連携という手法は、リスク管理の実務として参考になる。自社でCBRN・サイバーセキュリティ関連業務を扱う場合は特に、モデルの多用途性がリスク要因にもなりうることを意識した運用設計が求められる。
背景・経緯
Thinking Machines Labはフィリピンを拠点とするAI企業で、企業向けAIソリューションの開発を行っている。今回公開した「Inkling」「Inkling-Small」はオープンウェイトの言語モデルであり、誰でも所有・実行・カスタマイズが可能とされている。同ブログでは、2026年4月にAnthropicがClaude Mythos Previewを用いて主要OSやブラウザの未知の脆弱性を多数発見し、人手なしで実際のエクスプロイトを生成したと報告した事例を引用し、オープンウェイトモデルによるサイバー攻撃能力の民主化リスクを背景として示している。
