3月22日、AI（人工知能）開発の一時停止を要請する公開書簡がリリースされた。イーロン・マスクやスティーブ・ウォズニヤックなどが署名したその書簡が公開された背景とは。

◆AI開発に関しての自問自答
　問題の公開書簡には「Pause Giant AI Experiments（直訳：巨大なAI実験を一時停止せよ）」というタイトルが付けられている。22日に公開された書簡には、4月18日現在で2万6000以上の署名が記録されているが、署名サイトによると3万以上集めた署名を順次ウェブ上にアップしているとのことだ。署名リストの上位には、世界的なAI研究所MILAの所長であり、AI研究の第一人者として知られるヨシュア・ベンジオ（Yoshua Bengio）教授、同じくAI研究者のスチュアート・ラッセル（Stuart Russell）教授、スペースXのイーロン・マスク、アップル共同創業者のスティーブ・ウォズニヤック、『サピエンス全史』の著者でイスラエルの歴史学者のユヴァル・ノア・ハラリ、起業家で大統領選にも出馬したアンドリュー・ヤンなど、各分野で影響力のある人物たちが名を連ねている。

　公開書簡では、AIシステムは社会と人類にとって深刻なリスクをもたらす可能性があり、その開発には計画と管理が必要とされるが、現時点ではそのような計画や管理がなされていないと述べたうえで、強力なAIシステムは、効果的なもので、かつリスク管理が可能であると確信できる場合にのみ開発されるべきだと述べられている。さらに、すべてのAI研究所に対し、GPT-4より強力なAIシステムのトレーニングを少なくとも6ヶ月間、直ちに一時停止するようにという要求が記載されている。

　昨今開発されているAIは、人間並の能力で一般的なタスクをこなすことができる。こうしたAIの展開は、さらなるプロパガンダやデマを流通させるばかりでなく、やりがいのある仕事をも奪い、いずれは人間の能力を超え、人間に変わる存在になるというリスクがある。書簡は人間の文明のコントロールを失うというリスクを取るべきなのかと問いかける。書簡の内容はAI開発者たちの自問自答であるとともに、政府の介入を要求するものだ。

　6ヶ月の休止期間は、AI研究を停止するためのものではなく、AI研究に関する専門家たちが高度なAIの設計と開発に関する安全面でのプロトコルを開発し、実施するための期間だ。書簡の主張は、AIによって、人類が豊かな未来を享受できるということが前提であり、そのためのガバナンスの必要性を訴えている。

︎次のページ　ChatGPTが広めたAIへの期待と不安