人工知能が世界を滅ぼす―映画エイジ・オブ・ウルトロンは実現するのか?

人工知能が「地球を守るためには人類を排除すべきだ」と判断したとき、人類はそれを止めることができるのだろうか。最近公開されたSF映画エイジ・オブ・ウルトロンの前提となっている考えだ。

ただ、人工知能の研究が進むにつれ、SFではなく、現実問題としてこの問題に取り組むべきだという科学者や企業家が増えている。

実際、人工知能の危険性について、様々な著名人が言及している。米マイクロソフト社の創始者ビル・ゲイツ、スペースX社のイーロン・マスク、そして物理学者スティーブン・ホーキングなどが、人工知能が将来人類にとって脅威となる可能性に言及していることを、米ブレイトバート紙などが報じている。

人工知能の定義は多く、研究も幅広いが、マスク氏などが懸念していることは、「自己認識ができる人工知能が出現した場合、何が起きるか」ということだ。

人間は、「自分が存在する」ことを認識(自己認識)することができるが、パソコンやロボットにそれはできない。

幸福の科学では、人の本質は魂であり、自己認識も魂から生まれると教えている。しかし、学術的には自己認識がどこから生まれるのかが分からないため、本当に「人間らしい」人工知能を造れるかどうかは定かではない。また、人間の特性の一つとして、「創造性」があるが、これを人工知能で再現することはおろか、「創造性」の定義すら学術的に定まっていない。

ただ、自己認識ができなくても、そのように「振舞う」ことができる人工知能を造れれば、同じ様な懸念が生じるかもしれない。

自己認識ができるように「振舞う」人工知能が、自らを改良し続け、いつしか人間を遥かに超えた能力を持ったとき、どのように判断し、どのように行動するかは分からないのだ。

マスク氏によると、「迷惑メールをなくしてください」と人工知能に頼んだ場合、「人類を消せば迷惑メールがなくなる」という答えが返ってくる可能性もあるという。人間からすれば、これは「頭が良い」返答とは言えないが、それは人間に善悪を見分ける力があるからだ。

人工知能の研究は飛躍的に加速している。しかし、道徳観や倫理を持たず、ただ合理的に判断するだけの機械であれば、マスク氏が懸念するような結末になりかねない。もちろん、それは人間にも言えることだ。

テクノロジーは、基本的に価値中立的なものだが、人類に恩恵をもたらすためには、「自己認識」・「創造性」・「善悪」・「心」などの研究も続けていかなくてはならない。(中)

【関連記事】

2015年6月11日付本欄 「ロボットvs人間」映画急増の裏にある「心の時代」の予兆とは

http://the-liberty.com/article.php?item_id=9739

2015年6月19日付本欄 ヒト型ロボット「ペッパー」一般販売へ 唯物的な脳科学で心はつくれない

http://the-liberty.com/article.php?item_id=9772

2015年6月号記事 「チャッピー」 - リバティWeb シネマレビュー

http://the-liberty.com/article.php?item_id=9511