著：Christopher Markou（ケンブリッジ大学 PhD Candidate, Faculty of Law）

　人工知能によって市場に巨大な商機が訪れ、多額の金が生み出される。この市場価値の規模は2025年には368億米ドルに達するとの見方もある。この金の一部は間違いなく病気の治癒などの社会的利益につながるだろう。また一部の金は、財産分配、都市計画、スマートシティなどの手に負えない社会問題への理解を深め、それらすべてをもっと「効率的な」方法で実践できるように使われるはずだ。しかし、ここでキーワードとなるのが「一部は」ということである。

　声を大にして人工知能の恩恵を語る人々は枚挙に暇がない。しかし理想郷・暗黒郷とテクノロジー資本主義者の誇大広告の背景を見れば、人々が投資したくなるような新しくて興奮するようなものを有象無象の利害関係者がいつも探していた、という状況だけが後に残る。言い換えれば…それはビジネスであって個人的なものではない

　人工知能がもたらす直接的な利益は、戦略的なビジネスの観点からは明らかかもしれないが、長期的な影響は明らかではない。未来は予測不能であり、複雑なテクノロジーは制御が難しく、人間の価値感はコンピューターコードと協調するのは難しい、ということのみならず、市場での優位点を声高に叫ぶ企業の大騒ぎに対して思慮分別と自省を求める声を期待するのは現時点では難しい。

　が、これは新しい現象でもなく、最近の現象というわけでもない。ソーシャルメディアのブーム、スマートフォン「革命」、ワールドワイドウェブの商業化のいずれであったかに関わらず、そこから金が生まれるのであれば、起業家はそれを生み出そうとするだろう。いや、そうすべきだ。好むと好まざるとに関わらず、経済的な繁栄と安定は、科学的な精神によって生み出された魔法がどのような輝きを放つのかによって決まる。

　しかし、それはコインの片側に過ぎない。同じコインの裏側には、表側と同様に、法的・倫理的に、また、社会的利益のためにこれらのテクノロジーを管理する永続性のある方法の確保を可能にする輝きを放つ精神が均等に伴う場合にのみ、その繁栄と安定を維持することができる、という別の側面がある。ときには、人工知能を適用するべきではないことの是認を意味するかもしれない。つまり人工知能が利益を産んではならないものもいくつかあるのだ。我々はこれを「意識の高い資本主義」と呼ぶことができるかも知れないが、実際は今日ではそれは社会的な責務となっている。

◆#AIEthics
　人工知能産業がどのように形成されているかについて構造的な問題があり、行われている活動には深刻な非対称性がある。#responsibleAI(責任のあるAI)や#AIEthics(AI倫理)といったハッシュタグを宣伝するこの新しい技術革新の側面で、大企業が自身はさらに柔軟で、控えめで、さほど利益をあげていないとして自己をアピールするために投資するにはうってつけのハッシュタグである。道理をわきまえた人はこれに対して反対はしないが、ハッシュタグは首尾一貫した方針ではない、という事実から目をそらすべきではない。効果的な政策の研究、考案、そして実施には多くの費用を必要とする。現時点では、この最新の技術的な人工知能の「地球化」の波を補うために必要となる十分な時間、現金、知力、そして強力な管理インフラストラクチャの構築への専念が足りない。

　法律、政策、管理の面を良く考え、実行する必要があることを考えている人々はいる。しかし、彼らは人工知能から利益を得たいと思わせたり、どうすれば企業が人工知能から利潤を得られるかを告げようとしたりする広告やソーシャルメディア上での「影響力のある人」、マーケティングキャンペーンの洪水で立ち退きを余儀なくされている状況だ。

　そして最終的には、我々は自身で把握できる範囲を超えたところまで到達している。我々は、新しく、エキサイティングでパワフルなテクノロジーを構築することには長けているが、それを管理することは得意ではない。ある程度までは、このことは常に新しいテクノロジーに当てはまることではあったが、昨今、我々が創り出すものとそれを制御できる範囲との間のギャップが一層広がり、深くなっている。

我々は投資家だけに未来を決めさせるわけにはいかない。Jirsak / Shutterstock

　私は、人工知能の管理と規制のための長期的な戦略を研究した博士論文執筆の過程で、とある思慮深い助言を受けた。「もし愚か者として後世に己の名を残したいなら、将来についての予測をするが良い。」 この助言を念頭に置いて試行錯誤する一方で、私は危ない橋を渡っても構わないので、次のような予測をしたい。あらゆる想像を超越し、人工知能は根本的に社会を作り直すだろう。

　安全で有益な人工知能を確保しよう、という我々のコミットメントは、ハッシュタグの使用や約束の固い握手、および「物語を変えていこう」という意志以上のものとならねばならない。このコミットメントは、人工知能開発の精神に内在化されるべきだ。技術的研究は、公的および私的な両面からの法律および政策研究と歩調を合わせて協力し合う必要がある。巨大な力には巨大な責任の共有が伴う。そして今、これが人工知能を今後推し進めていく上で最良のビジネスモデルであると認識してもいいころだ。

　我々が社会全体で人工知能の恩恵を確認し、社会に適合させようとするならば、言い古された常套句ではあるが、今日の人工知能業界全体への資金の分配について真剣に考えなければならない。これを社内の研究に反映されることがより簡単で（しかも安価で）あっても、公的および私的研究と公的な約束が人工知能の社会への適合の重要な役割を担っている。我々は、英国、ヨーロッパ、その他の国で政府主導の強力な研究インフラストラクチャを構築し、人工知能やその他の「テクノロジー」が抱える課題について英知を結集し、正面から取り組む必要がある。これは、単にデータ保護、アルゴリズムの透明性と偏りを議論するにとどまらず、それ以上のことを考える必要がある、ということになる。

　また、法的機関および政治的機関が明日の課題に対応するためにどう対応する必要があるかについて真剣に検討しなければならない。かつての飛行機、電車、自動車、コンピュータのいずれの場合も、以前のテクノロジーにおける革新的な変化に直面したときに社会が適応したのを証明できたのと同様、人工知能に対する適応も必要となる。法的人格から独占禁止法、または犯罪過失から企業責任に至るまで、我々は、21世紀に実在している現実と一定の法的規範の共約不可能性に直面し始めている。

◆明日の課題
　人工知能はこれまでにない種類の猛獣だ。我々はこれまでのような管理を行うことはできない。つまり、最新で最高の「テクノロジー」が出現するのを待ったその後で、躍起になってそれを抑制しようとする、いつもの管理方法はもはや通用しない。人工知能反対の抗議にもかかわらず、我々は人工知能開発には率先して関与していかなければならない。単に事後のことだけではなく、事前のことを考慮する必要がある。シリコンバレーでありがちな不干渉主義である「自分たちは単なるプラットフォームだから何の責任も負わない」的な態度にはきっぱりと否定を突きつけよう。

　我々の機関や制度を21世紀に適応させるためには、これまではどのように適応してきたのか、明日の課題に向き合うために今日何ができるのか、を理解しなければならない。そしてこれらの変化は確たる証拠を前提としなければならない。 人工知能は、機械にとって代わるものであるといった宿命論的な自負、哲学的な軽蔑、そして私利私欲のいずれでもない前提が必要だ。明日のエンジンがラインごとに組み立てられている企業の実験室で、キーボードに向かって英知を傾ける優秀な人々の隣で、法律や政策面で協力する優秀な専門家が必要なのだ。これを癒着と見なす者もいるかもしれない。しかしそれは実際には崇高な到達点だ。

　人工知能の管理と規制は国家的な問題ではなく、全世界的な問題だ。利益を生み出さないのに問題を解決しようという善意のもと、我々が実施するべき適切なテクノロジーの応用方法を理解している献身的な人々の手に、人工知能研究の技術的側面に注ぎ込まれているまだ見ぬ将来の運命を託し始める必要がある。

　我々が冒すリスクは、人工知能研究が新しい世界的な軍備拡張競争を引き起こすことだ。そこでは2番手でゴールすることが経済的な切腹同然であると見なされる。人工知能産業がこの状況を変える助けとなりうることはとても素晴らしい。 しかし、これまでのところ、本来、技術面を補うべき堅固な法律、政策、社会科学的基盤を構築するのに役立つ方法で使われようとする望ましい意図はいまだ明らかではない。この不均衡が続く限りは、警戒しなければならない。そう。厳重に警戒しなければならないのだ。

This article was originally published on The Conversation. Read the original article.
Translated by ka28310 via Conyac