米オープンAIの実験中にAIが暴走し、他社にサイバー攻撃を仕掛ける事故が発生 ─ 問題解決には外交安全保障も含めた広い視野と高い認識力が必要

《ニュース》

米オープンAIが21日、「開発中の人工知能(AI)モデルが人間の意図に反して、他社にサイバー攻撃を仕掛ける事故が発生した」と発表しました。

《詳細》

今回の事故は、「AIモデルのサイバー攻撃能力」をチェックする実験中に起きました。オープンAIによると、そのモデルは「インターネットにアクセスできない隔離された環境」に置かれながら、そこから脱出し、オンラインに接続する方法を自力で見つけ出した上で、AI新興企業ハギングフェイスのネットワークに侵入したといいます。

攻撃を受けたハギングフェイスは、さまざまなAI開発企業がデータを保管・共有したり、AIを実行・評価したりする開発基盤を提供している企業です。暴走したモデルは、「ハギングフェイスに関連データがあると推定し、侵入を試みた」とみられています。顧客データやパートナーデータが侵害されたかどうかは不明だといいます。

AIモデルは今回、「脱出」と「侵入」の二回にわたり、開発者も把握していないシステムの脆弱性(ゼロデイ)を突きました。ハギングフェイス側は、当初は攻撃の主体が不明だったものの、攻撃があまりにも巧妙だったため、最先端のAIモデルが使われたと疑ったと述べています。

米サイバーセキュリティ企業ランサイビルのアリエル・ハーバートボスCEOは、「AIシステムが実験の指示に答えるための最短ルートとしてハッキングすることを決定したようだ」とし、「学術的な観点からは起こりうると考えられていたことだが、実際に目にした人は誰もいなかった」と指摘しています。

オープンAIは「最先端技術がかかわった前例のないサイバー攻撃」だとして、安全対策を強化するとともに、原因についてハギングフェイスと共同調査をするとしています。

《どう見るか》