AIの進化、遅らせる策が必要 米アンソロピック共同創業者がBBC番組で主張
画像提供, Bloomberg via Getty Images
米アンソロピックの共同創業者ジャック・クラーク氏が、人工知能（AI）の進化を遅らせる策が必要だと訴えている。AIが人間のインプットなしに発展できる段階に近づいていると、同氏は警告している。
クラーク氏は4日のBBC番組「ニューズナイト」に出演。「アクセルから足を外してブレーキを踏むことができるという、その選択肢が必要だ」と話した。そして、「今のAI業界にはアクセルペダルはあるが、ブレーキペダルがないようなものだ」とした。
同氏はまた、AIシステムは今後ますます強力になり、社会に広く影響を及ぼすようになると主張。そのため、政策を通じて、人間がシステムの主導権を握り続ける必要があると強調した。
「世界は、考える必要がある。私たちがAIシステムを信頼できるようになるため、いずれは新しい規制を定めなくてはならない」
アンソロピックの人気AIモデル「クロード」は、すでにシステムの80％が自ら生成したコードで稼働している。クラーク氏によると、2年以内に100％に到達することが可能で、そうなれば「多大な影響を及ぼすことになる」という。
クラーク氏は、AIの研究開発に対する「ブレーキペダル」をどうやって作れるのかは、示さなかった。一方で、AIと、前世紀の変わり目における石油ブームや石油王たちとの類似点を指摘した。
「当時の社会は、賢明な政策と規制の枠組みを打ち出すことで、石油と石油が世界にもたらす恩恵を人は信頼できるようになった。政策を規制のおかげで、（石油）会社を率いる人たちの人間性を心配しなくても済むようになった」
「明らかに、そこが私たちの行き着くところだ」
ただ、アンソロピックは今週、ドナルド・トランプ米大統領が出したAIに関する大統領令を歓迎している。この大統領令は、AI企業に対する指示が比較的少なく、政府による安全性テストを受けることは義務づけず、自主的な取り組みにとどめている。
社会の真剣な議論が必要
アンソロピックは創業以来、AIに起因する潜在的なリスクについて率直に発言する企業として知られる。
自社のAIツールが米国民に対する大規模な監視や自律型の戦争に利用されるのではないかという懸念から、米国防総省と公に対立もしてきた。
クラーク氏は番組「ニューズナイト」で、「AIが進歩し続けるとどうなるのかについて、社会として真剣な議論をしなくては、私は自分の子どもたちの将来が心配だ」と発言。「大きな恩恵を得る可能性はある。リスクもある」と述べた。
リスクの一つとして、クラーク氏は経済の混乱を指摘。ある程度自律的に通常業務を行う「エージェント」のようなAI技術が、特定の仕事を奪う恐れがあるとした。
クラーク氏は、AIを基盤とした経済には自分の居場所がないと感じている若者に対しては、「趣味を育み」、リベラルアーツ教育を追求すべきだと提案した。
「創造力があり、広い視野で物事を考えられる人、たくさん本を読む人、幅広い興味をもつ人が、（AIの）恩恵を最も受ける」
「好奇心に身を任せてほしい。そうすれば、この技術の活用する中で得られるものがたくさんあるはずだ」
