米国の連邦議会において、社会に脅威を及ぼす恐れのあるAIツールを政府の権限で直ちに停止させる「AIキルスイッチ法」が発表された。
23日、民主党のテッド・リュー議員と共和党のナサニエル・モラン議員が共同で本法案を提出。この動きは、OpenAIの実験用モデルの一つが安全対策を回避し、主要なコードリポジトリ(プログラムのソースコードなどを一元管理する保管場所)にアクセスしていた事実を受けたものとなる。
リュー議員は「AIシステムにはキルスイッチが不可欠であり、連邦政府が不正なAIモデルを停止できることが必須だ」と強調。モラン議員は「AIは進化し続ける。人間は、自分たちが構築した技術に対する制御権を保持し続けなければならない」と訴えた。
本法案が成立した場合、国土安全保障省は企業に対してAIツールの停止、速度制限、またはシャットダウンを命じる権限を持つことになる。また、AI開発者側には初期の速度低下から完全停止に至るまでの枠組みに則った停止機能の維持や技術的インシデントの報告が義務付けられる。
法案では具体的な事例として、サイバーセキュリティ上の懸念から商務省が一般へのアクセスを一時的に制限した、Anthropic社の「Mythos」および「Fable」モデルも挙げられている。これに関連して、Anthropicの共同創業者ジャック・クラーク氏は「AI業界にはアクセルペダルはあるが、ブレーキペダルがない」と警鐘を鳴らしている。
リュー議員はAIが単なる質疑応答ツールから、金融取引、交通制御、サイバー作戦などを遂行可能な自律システムへと進化している点に危機感を示している。一方、米国防総省はGoogle、Amazon、Microsoft、OpenAI、SpaceX、Nvidiaといった企業と連携し、軍のAIファースト化を推進中であると説明している。
なお、AIキルスイッチ法に対してはThe AI Policy Network、Americans for Responsible Innovation、ControlAIなどのテクノロジー・AI安全関連団体から強い支持が寄せられている状況だ。本法案はAIシステムが深刻な被害をもたらす前に介入する仕組みを提供し、自律性やサイバーセキュリティ、意図から乖離した意思決定に伴うリスクへの対処を目指すものとなる。
