米議会、AIツールの「緊急停止スイッチ」を推進 オープンAIでの暴走事案受け
画像提供, Reuters
米オープンAIの人工知能（AI）モデルが暴走し、企業にハッキング攻撃を仕掛けた事案が発生したのを受け、米下院で23日、政府に社会を脅かす恐れのあるAIツールの迅速な停止を命じる権限を与える法案が提出された。
テッド・リュー議員（民主党）とナサニエル・モラン議員（共和党）が、「AIキルスイッチ（緊急停止装置）法案」と名付けた法案を提出した。
これは、AIモデルやツールの停止を民間企業に命じる権限を、国土安全保障省に与える内容。また、AI技術の開発企業に対して「それらを調整、一時停止、完全停止させる技術的能力」の維持を義務付ける。
リュー議員は、AIシステムにキルスイッチを設けることと、「暴走したAIモデルを停止させるための明確な権限と手続きを連邦政府がもつ」ことが「不可欠だ」と述べた。
モラン議員は、「AIは今後も進化し続けるし、そうあるべきだ」としたうえで、「責任ある管理とは、自分たちが開発した技術を制御する能力を人間がもち続けることだ」とした。
サム・アルトマン最高経営責任者（CEO）が率いるオープンAIは、コメントの要請にすぐには応じなかった。
同社は先月出した声明で、AI技術が「全人類に利益をもたらす」ことを、部分的には政府の政策を通して、広く確実にしたいとしている。
AIがさまざまな分野で
リュー氏は法案提出にあたり、AIは現在、質問に答える技術から、行動を起こす技術へと移行していると指摘。「金融取引の実行や、輸送システムの制御、サイバー防御や攻撃への関与といった、さまざまな形で起きている」とした。
AIの利用はさまざまな分野で進んでおり、米国防総省は5月、米軍が「AIファースト」の戦闘部隊になりつつあるとの見解を示している。
リュー氏は、「残念ながら、強力なAIシステムは暴走したり、極めて危険な振る舞いをしたり、人間の介入に抵抗したりさえする可能性がある」と主張。キルスイッチ法によって、政府がそうした状況に迅速に介入できる手段を確保できると述べた。
今回の法案は、テクノロジーおよびAIの安全に関係するいくつかの団体から公に支持されている。これには「AI政策ネットワーク」、「アメリカンズ・フォー・リスポンしブル・イノヴェーション（責任あるイノベーションのためのアメリカ人）」、「コントロールAI」、「AIアンド・ナショナル・セキュリティー・リード（AIと国家安全保障のリーダー）」、「アライアンス・フォー・セキュアAI（安全なAIのための連合）」などがある。
多くのテクノロジー企業は、開発中のAIモデルやツールを米政府機関に事前に公開・共有することに同意している。一方で、自社の活動に介入したり、単純に停止させたりする手段を維持することは義務付けられていない。
今回の法案はAI企業に対し、技術的な事案や障害を政府に報告することを義務付けるとともに、そのようなインシデントへの対応策として、「初期の減速から完全停止まで」を定める公式な枠組みを設けることも提案している。
米アンソロピックの共同創業者ジャック・クラーク氏は先月、AI開発の制御に関して、政府の政策強化を望んでいるとBBCに話した。
同氏は、「アクセルから足を外してブレーキを踏むことができるという、その選択肢が必要だ」、「今のAI業界にはアクセルペダルはあるが、ブレーキペダルがないようなものだ」と述べた。
