伊当局のChatGPT禁止に、マスク氏らのAI開発停止論……AIの脅威はSFではない

《ニュース》

対話型AI「ChatGPT」が世界的に注目を浴び、それに対抗すべく新たなAI開発も加熱する中、この動きを強く警戒する措置や声が出ています。

《詳細》

イタリアのデータ保護当局は3月31日、ChatGPTを一時的に利用禁止にすると発表しました。欧米で当局が同サービスを禁止するのは初めてです。

ChatGPTとはAIを使ったソフトで、質問や依頼に対して、膨大な情報を分析した上で、まるで人間が答えているかのような自然な文章で返答をするもの。学生のレポート作成を代行できる、医師や弁護士試験の問題に答えさせれば合格点に達する、小説やプログラミングまで作成できる、といった機能に激震が走っています。

米マイクロソフトが投資するベンチャー企業「OpenAI社」が発表して以来、歴史的なスピードで利用者が増加しています。企業でも自社の業務やサービスに組み込み、ネット上でのカスタマーサポートを代行させるといった導入が広がりつつあります。

これに対してイタリアのデータ保護当局は、膨大な個人情報を違法に収集した疑いがあるとして、国内での利用を一時禁止とし、20日以内に対策を講じて報告するよう求めました。

また、こうした高度なAI開発が加速している現状を受けて3月29日、米実業家のイーロン・マスク氏やアップル共同創業者のスティーブ・ウォズニアック氏を含む各界の有識者1100人以上が、強力なAIシステムの開発を6カ月停止するよう公開書簡で呼びかけました。

書簡では「高度なAIは地球上の生命の歴史に大きな変化をもたらす可能性がある」という言葉を引用しつつ、「ここ数カ月間、AIの各研究所は、誰も(その作成者までもが)理解できず、予測できず、確実に制御できない、これまで以上に強力なデジタルマインドを開発し、展開するための制御不能な競争に陥っています」と指摘。開発を一時停止し、AIを人類の脅威としないための仕組みや規定をつくるべきだと訴えています。

書簡はマスク氏らが出資する非営利団体「フューチャー・オブ・ライフ・インスティチュート」から発表されています。同団体はAIについて、人間の知性をはるかに置き去りにする知能爆発を起こした場合、自律兵器が大量殺戮を引き起こしたり、超知的システムが地球の環境改変を試み、生態系を大混乱させ、それを止めようとする人間を「脅威」と見なしたり、といったリスクがある──としています。

《どう見るか》