GFlowNet（Generative Flow Networks）は、与えられた報酬関数に比例する確率で多様な候補をサンプリングするための機械学習技術である。強化学習、深層生成モデル、エネルギーベースの確率的モデリングの交差点に位置し、創薬や材料探索といった科学的発見の分野から、LLMのセキュリティ評価まで応用が広がっている。
概要
GFlowNetは、一連の構成的ステップを通じてオブジェクトを生成する確率的ポリシーであり、生成されるオブジェクトの報酬関数R(x)に比例する確率でサンプリングを行う。Milaを中心とする研究者らによって提案され、Emmanuel BengioらによってNeurIPS 2021で最初の論文が発表された。主要な提唱者にはYoshua Bengio、Emmanuel Bengio、Kolya Malkin、Moksh Jainらが名を連ねる。
従来、同様の目的には計算コストの高いMCMC（マルコフ連鎖モンテカルロ）法が用いられてきたが、GFlowNetは単一の訓練された生成パスでその処理を償却できる点が大きな特徴である。エネルギー関数を生成分布に近似的に変換する問題として捉えることもできる。
仕組み・ポイント
GFlowNetは、生成プロセスをフローネットワークとして定式化し、フローの一貫性方程式を学習の目的関数に変換する。これにより、分子グラフのように異なる構築経路が同一の最終状態に至る複雑なケースも扱える。
主な特徴は以下のとおりである。
- 多様な高報酬解のサンプリング：単一の最適解ではなく、報酬の高い解を多様に生成できる。ブラックボックス関数の最適化など、多様なバッチが求められる場面で有効である。
- 詳細バランスによる効率的な学習：MCMCとの類推から導かれた局所的かつ効率的な学習目的関数を採用している。
- 複合オブジェクトの分布表現：セットやグラフのような構造を持つオブジェクトの結合確率分布・周辺分布の推定が可能である。
- 拡張性：エントロピーや相互情報量の推定、連続アクション、モジュラーエネルギー関数に対応したバリエーションも開発されており、PyTorch上に構築されたライブラリも存在する。
なぜ今注目されているのか
LLMの安全性評価における「自動レッドチーミング」への応用が、GFlowNetへの注目をあらためて高めている。LLMの脆弱性を発見するには多様な攻撃パターンを網羅的に生成する必要があるが、従来の強化学習ベースの手法では「モード崩壊」により少数の攻撃パターンに偏りやすいという課題があった。GFlowNetの多様サンプリング能力はこの課題への代替手法として注目された。
一方でGFlowNet自体にも学習の不安定性や意味のない文章へ高報酬が与えられる問題があった。これを受けKAISTの研究チームは「Stable-GFlowNet（S-GFN）」を開発した。パーティション関数Zの推定を不要にするContrastive Trajectory Balance（CTB）、ノイズの大きな勾配を除外するNoisy Gradient Pruning（NGP）、Min-K Score（MKS）を用いたFluency Stabilizerなどを組み合わせることで、従来のGFlowNetと比較して約7倍多様な攻撃タイプ（代表的な実験では17種類から134種類）を発見しつつ、90%以上の攻撃成功率を維持した。この研究はICML 2026のスポットライト論文に選出されている。
日本企業への示唆
GFlowNetは創薬・材料探索といった探索空間が広い分野で、多様な候補を効率的に生成できる点で実用的な価値を持つ。AIシステムの安全性が問われる今日、自動レッドチーミングへの応用はLLMを業務導入する企業にとっても直接的な意義がある。Stable-GFNの成果が示すように、多様な攻撃プロンプトを用いてLLMを安全性ファインチューニングすることで、学習時とは異なる攻撃手法に対する耐性も向上することが実験的に示されており、LLMのリスク管理手法の一つとして注目に値する。。一方、研究の蓄積はまだ発展途上であり、導入にあたっては実装の安定性や専門的なチューニングコストを考慮する必要がある。
※ 本ページはAI News JAPAN編集部が最新の動向を踏まえて解説したものです。内容は随時見直します。