ホーキング博士「人工知能は人類の脅威になりうる」と警告 地球外惑星移住も提案

 著名な理論物理学者であるスティーブン・ホーキング博士が、「完全な人工知能の開発は、人類の生存に終止符を打つだろう」と警告し、大きな話題となっている。コンピューター・エラーを無視できないというオーストラリアのモナシュ大学准教授の意見や、誇大広告に過ぎない、実現可能ではなく必然のことだとする意見などさまざまな反応を引き起こしている。

◆話すために人工知能を使う博士が人工知能について警告
 スティーブン・ホーキング博士は筋萎縮性側索硬化症のため、自分の声を使って話すことができず、意思伝達のための装置を用いて話しているが、今回インテルとスウィフトキーというイギリスの企業によって、新しい装置が開発された。

 スウィフトキーは、スマートフォンで使われているようなテキストの予測入力のテクノロジーを持っており、今回の装置にも、その人工知能の基礎的なテクノロジーが用いられている。

 BBCのインタビューに対して、ホーキング博士は今までに開発された原始的な形態の人工知能は非常に役立つものだとの見解を示したが、人間の能力を超えるようなものを創造することへの結果については脅威を感じていると述べた(12月2日)。

 それに対して、BBCは人間と会話するために人工知能型のアルゴリズムを使用したアプリ・クレバーボットを開発したロロ・カーペンター氏や、ロケット製造企業スペースXのCEOであるイーロン・マスク氏の言葉を引用して、短期的には人間の職を奪うという懸念、長期的には存在を脅かす脅威としての人工知能の可能性を示した。

◆解決策は地球以外の惑星へのコロニー建設?
 12月2日のフィナンシャル・タイムズ紙では、人工知能だけでなくテクノロジーには利点がある反面、破壊的な要素があると警告し、人類の存続を考えるのなら、地球外の惑星への移住を視野に入れるべきとホーキング博士が提案したことを伝えている。

「私達は、自分たちの生存において数々の脅威に直面している。核戦争、壊滅的となる地球温暖化、遺伝子操作されたウイルスなど。その数は、新しい技術の発展とともに将来に増える見込みが高く、新しい方法では物事が悪い方向に向かう可能性がある」。

「私達が長い将来を望むのなら、地球という惑星を超えて展望を拡大させる必要がある。宇宙やほかの星へと広がることで、地球での惨事が人類の終焉とならないように。自給自足できるコロニーを設立することは時間と努力を必要とするが、私達のテクノロジーが改良されるにつれ容易になるだろう」。

◆コンピューターが人類を上回ることより、責任を負わせるのが問題?
 BBCのインタビューを受けて、ザ・カンバーセイションのオーストラリア版が、モナシュ大学クレイトン情報技術スクール准教授デイビッド・ダウ氏による寄稿文を12月4日に掲載した。

 准教授によれば、すでに機械が人間の能力を上回っており、航空管制システムや誘導ミサイル、そして最新の自動運転車などを挙げた。問題は、それらが不具合を起こしダメージを与えた場合に、責任はいったい何に帰するのかということだ、と問いかける。

 また、コンピューターのエラーについて指摘し、今後ますますコンピューターが高速化・最小化すれば、エラーの検知や修復、それどころかコンピューターを止めることすら難しくなるかもしれないと指摘する。

 このような提案で、もっと人々がこの問題について議論することを彼は提案している。

◆誇大広告? 人工知能の発達は必然?
 実際に、様々な賛否両論の意見がBBCのインタビュー記事には寄せられている。

・私は、私達の人工知能への恐れは多くを自分達自身を反映していると思う。私達は自分自身の内面の動機や感情を、実際には疑う理由などない時に、それに投射する。人工知能は、私達が進化したのと同じエネルギーを持っているかもしれないのだ

・ふむ……。私は『強いAI』(知覚をもった機械)の分野で、1990年あたりから働いてきた。(中略)人工知能への恐怖は、半分は単純な誇張で半分は本当だ――下手に設計されたものか、自発的に進化した機械は、本当に殺人的なものになり得る。きちんと設計された機械は完全に安全だ

・長年のソフトウェア開発者として、人工知能による世界的な乗っ取りというのは誇大広告だと言える。これを考えてみればいい――学習できる人工知能マシーンを作ったとしても、それでも実体的にはどこかの箱に入れられているだろう。自動であっても、それでも人工知能は人間が日常生活で行っているような交流を行う能力は欠けているだろう。すべて誇大広告だ、4G のときのような

・人工物は実現可能なだけではない、必然なのだ。なんの2つの力が進化を、突発的な突然変異を、そして自然淘汰を動かしてきたのか考えれば、コンピュータは、自分たちの進化を、人工的な淘汰を、そして計画された設計を動かす断然強い力を持っている

Text by NewSphere 編集部