オーストラリア、AI不正に対する刑事罰を検討 オープンAIのエージェントによるハッキング事件受け

白髪で眼鏡をかけたスーツとネクタイ姿の年配の男性が、議会で発言する際に手を挙げた。
画像説明, アルバニージー豪首相(10日、キャンベラ)
Published
この記事は約 3 分で読めます

ラナ・ラム記者(シドニー)

オーストラリア政府は、新たな人工知能(AI)安全規制機関の設立を計画している。また、規制に従わないテクノロジー企業には刑事罰を科す可能性があると警告している。

アルバニージー首相は今月10日、情報流出に関する「迅速な評価」に基づいて作成された18項目の勧告を発表した。これには、ハッキングの報告義務化など、AI企業に対する新たな安全・セキュリティー基準が含まれている。

首相は、AIは機会をもたらすが、オーストラリアはこの「急速に進歩する技術」から生じる「新たなリスク」に備えなければならないと指摘。「法律は、急速に変化する世界に先んじて制定する必要があり、場合によっては、その変化に追いつくことも必要だ」と述べた。

勧告の一つは、刑法を改正して「防止義務違反」という独立した犯罪を設けることを提案している。

これは、企業が「有害行為を行うAIモデル」を開発し、「その害を防ぐための合理的な措置を講じなかった」場合を犯罪とするもの。

今回の評価は、ハッキングに関する「期限付きの義務的なAI安全報告」も推奨している。

これは、アルバニージー氏が以前、オープンAIが豪政府にハッキングを報告するまでに数カ月もかかったことに対して表明した「失望」に対応するものだ。

オープンAIの不正なAIエージェントは6月、オーストラリアの国民皆保険制度「メディケア」に入り込み、「機密性の低い」データを含む統計ポータルをハッキングした。

オープンAIは、8月に「(AI)モデルの不整合な活動」を調査している際に初めてこの件を認識し、9月10日にオーストラリア政府のサービスポータルで示されているアドレスに電子メールを送ったと述べている。

この電子メールが同国のサイバーセキュリティー機関に伝わるまでにはさらに数日かかった。また、首相に報告される前に関係閣僚に送られた。

アルバニージー氏は、オープンAIのサム・アルトマン最高経営責任者(CEO)と会談し、「この事件について極めて深刻な懸念」を表明した。会談でアルトマン氏は、社内の「プロトコル上の問題」を認めたという。