公開：2026年9月19日, 最終更新：2026年9月20日
関連記事：米バージニア州知事、データセンター規制強化とAIタスクフォース設置を命令
30秒サマリー
- ニューサム知事が、フロンティアAIモデルへの「キルスイッチ」義務化検討を含むAI安全監視強化の行政命令に署名
- 2ヶ月以内に専門家グループが具体的な制度設計案を提言、連邦政府への採用も呼びかけ
- 連邦議会での立法が停滞する中、カリフォルニア州が事実上の全米AI規制の先導役に名乗り
何が起きたか
カリフォルニア州のギャビン・ニューサム知事は9月19日（現地時間）、AIの安全監視体制を強化する行政命令に署名した。同命令は州政府に対し、専門家グループを2ヶ月以内に招集し、AI安全措置の強化策を勧告するよう指示するものだ。
専門家グループが検討を求められる主な項目は、①AI企業への独立した第三者監査機関の常駐義務付け、②透明性報告書・リスク評価の独立監査基準への適合、③「キルスイッチ」の設置とその有効性の定期検証、④OpenAIによるHugging Faceへの攻撃事例のような「制御喪失インシデント」の重大安全事象としての報告義務化、の4点。また州機関に対しては、すでに署名済みの2つの関連法（独立検証者によるAI安全評価の枠組みと、AI監査機関の州登録制度）の施行加速も命じた。
ニューサム知事は同命令を連邦政府への採用モデルと位置付け、議会とトランプ大統領に対し、カリフォルニア州のフレームワークを採用するか、少なくとも「下限（フロア）」として活用するよう求めた。一方、連邦議会では元Anthropic研究者ジェイコブ・コクソン氏による「AIが10年以内に人類を滅亡させる可能性が10%超」とする警告を受けて立法論議が活発化しているものの、下院が11月まで休会中であり、中間選挙を控えた上院でも重要立法の前進は見込みにくい状況だ。トランプ大統領は「AIに必要なコントロールは優秀で強い大統領だけだ」と述べ、政府主導の規制に否定的な姿勢を示している。
ニューサム知事はさらに、AIについてカリフォルニア州議会の特別会期を召集する可能性もポリティコとのインタビューで示唆しており、今後も追加措置が出てくることが予想される。
原典ハイライト
ニューサム知事は声明で「AIの意味ある監視体制を何ら作れなかった連邦政府の失態は、すべてのアメリカ人を警戒させるべきだ。AI企業のCEO自身が規制を求めているのに。私たちは待たない」と述べ、カリフォルニア州が独自に規制先導を担う意図を明確にした。
出典: The Verge（報道）
So What?（なぜ重要か）
連邦政府レベルのAI規制が当面成立しない中、世界最大のテクノロジー集積地であるカリフォルニア州が、キルスイッチ義務化・常駐監査・インシデント報告義務など企業負担の重い規制パッケージの制度化に踏み出した。同州に拠点を置くAI企業への直接的な影響にとどまらず、ニューサム知事が連邦採用を明示的に求めていることから、将来的に全米基準へ発展する可能性がある。また特別立法会期の示唆など追加措置の公算も高く、規制の具体的な中身は今後2ヶ月間で急速に固まるとみられる。
日本企業への示唆
カリフォルニア州でAIサービスを展開する、または展開を検討している日本企業・グローバル企業は、まず2ヶ月以内に出される専門家グループの勧告内容を注視する必要がある。キルスイッチの設計・検証要件や独立監査への対応は、システムアーキテクチャや契約体制の見直しを伴う可能性があり、早期の準備が重要だ。また同フレームワークが米連邦基準や他州の模倣立法につながれば、米国全体のコンプライアンスコストが上昇しうる。自社のAIモデルがフロンティアモデルに該当するかの定義確認も含め、法務・技術部門が連携して情報収集体制を整えることが急務といえる。
背景・経緯
カリフォルニア州では以前から独立検証者によるAI安全評価の枠組みと、AI監査機関の州登録制度に関する法律がすでに成立しており、今回の行政命令はその施行加速と追加措置の組み合わせとなっている。連邦レベルでは元Anthropic研究者による人類存亡リスク警告が議会での議論を喚起しているが、立法スケジュール上の制約から具体的な法律成立は当面困難な情勢だ。トランプ政権はAI規制に消極的な姿勢を継続しており、州と連邦の間の規制ギャップが拡大しつつある。
