制服を着たニューヨーク市の警官に取り押さえられるトランプ前大統領。薄暗いコンクリート壁の独房で憂鬱な表情を浮かべるプーチン大統領。

　トランプ氏が刑事告訴される可能性がある、国際刑事裁判所（ICC）がプーチン氏に逮捕状を出したなどというニュースが報じられているなかにあって、極めて精巧でセンセーショナルな画像がツイッターなどのプラットフォームにあふれている。

　だが、どれもまったくの偽画像である。SNSで拡散されているものも含むこうした画像は、人工知能（AI）を搭載した高性能かつ広く利用されている画像生成ツールを使って作られたものである。

　偽画像は新たな現実（ニューリアリティ）の前兆であると、誤情報の専門家は警鐘を鳴らしている。大きなニュースが報じられた後に偽の写真や動画がSNSにあふれ、社会にとって重要な時期に事実と虚構がますます混同されるというのだ。

　シアトルにあるワシントン大学で誤情報の拡散を研究しているジェビン・ウェスト教授は「確かに、危機的な事件が起きるとそこに雑音が加わり、不信も高まる。社会システムや目にする情報への信頼も失われる」と述べている。

　写真を加工して偽画像を作る技術は以前からあるものの、「ミッドジャーニー」や「ダリ」などのAI画像生成ツールはとても使いやすい。簡単なテキストを入力すれば、精巧な背景をつけたうえで現実にありそうな画像を素早く、しかも大量に生成してくれる。

　最近の画像のなかには、ミッドジャーニーが今月リリースした、テキストから画像に合成する最新バージョンのモデルによって作られたものもある。これは、報道機関が制作する写真のスタイルを模倣した説得力のある画像を生み出す能力を備えたものだ。

　オランダを本拠とする調査報道集団、ベリングキャットの創設者であるエリオット・ヒギンズ氏は、よく知られているツイッターのスレッドで、最新バージョンのツールを使い、トランプ氏逮捕の偽画像を数多く作り出した。

　この画像は何万回もシェアされ、多くの「いいね」を集めた。そこでは、制服を着た数人の警官がトランプ氏を取り押さえ、歩道に激しく引きずり下ろす様子が写し出されている。

　プーチン氏の逮捕、裁判、収監をテーマとする一連の画像も制作したヒギンズ氏は「悪意があって画像を投稿したわけではない」と言う。ツイッターのスレッドには、AIが生成した画像であることが明記されている。

　それでも、ミッドジャーニーのサーバーから締め出されてしまうほど画像投稿の影響は大きかったという。この点についてメールで問い合わせたものの、サンフランシスコを本拠とする独立系研究所の同社から返信はなかった。

　メールでのやり取りでヒギンズ氏は「トランプ氏逮捕の画像を通して、実際の場面を写し出すのにミッドジャーニーが得意なことと不得手なことが偶然にも明らかになった。このツールにプロンプトを入力すると、複数の画像をもとにストーリーらしきものを作り始めたので、それらをつないで一つのストーリーに仕立てた」と話している。

　画像は完璧からはほど遠いとしており、たとえば、奇妙なことにトランプ氏は警官用のベルトをしている。また、顔や手に明らかな歪みがある。

　だが、ニューヨークを本拠として物的証拠を重視した活動を行っている人権団体のウィットネスでメディアテクノロジストを務めるシリン・アンレン氏は偽画像について、ヒギンズ氏のように画像はAIが生成したもので娯楽目的であるとユーザーが投稿するだけでは不十分だと指摘している。

　彼の言うこうした重要な文脈が顧みられることなく、ビジュアルな画像がすぐさま他人に共有されることが往々にしてあるからだ。実際、ヒギンズ氏によるトランプ氏の画像の一部をあたかも実際の出来事であるかのように共有したインスタグラムの投稿には、7万9000件以上の「いいね」が集まった。

　アンレン氏は「画像を目にしただけ、一度見ただけで、もう見ていないことにはならない」と言う。

　ほかにも、プーチン大統領が中国の習近平国家主席にひざまずき、手にキスをする様子を捉えたとされる合成画像がSNSユーザーの間でシェアされた例がある。プーチン大統領と習氏がクレムリンで会談した折にこの画像が出回ると、瞬く間に下品なミーム（ネットを通じて広まる情報）となった。

　制作者や制作ツールは不明ながら、複数の手がかりから偽物であることが判明した。たとえば両首脳の顔や靴にやや歪みがあるほか、部屋の内装が実際の会談場所と異なっていた。

　合成画像と本物を見分けることがますます困難になっている今、視覚的な誤情報に対処する最善の方法は、人々の認識と教育を改めることだと専門家は指摘している。

　ウェスト教授は「こうした偽画像を極めて簡単かつ手軽に作れるようになったため、この技術がいかに優れたものであるかを世間に知ってもらえるよう、我々はできることを何でも実行すべきだ」と話している。

　ヒギンズ氏は、AIが生成した画像を検出する技術の開発にSNS企業は注力すべきであり、それを自社のプラットフォームに統合するよう提案している。

　ツイッターには、利用者を欺いたり損害をもたらしたりする可能性のある「合成または操作された有害なメディア」を禁止するポリシーがある。同社のクラウドソーシングによるファクトチェック（事実確認）プロジェクト「コミュニティ・ノーツ」のアノテーションが一部ツイートに添付され、トランプ氏の画像はAIが生成したという文脈が盛り込まれた。

　3月23日にコメントを求めたところ、返ってきたのは自動返信メールだけだった。

　フェイスブックやインスタグラムの親会社であるメタからもコメントは得られなかった。捏造されたトランプ氏の画像の一部は、AP通信も参加しているサードパーティーによる事実確認プログラムにより「虚偽」または「文脈不足」と判定された。

　ニューヨークのカーネギー国際倫理評議会でフェローとして新興技術を研究しているアーサー・ホーランド・ミシェル氏が懸念しているのは、偽画像があふれるという差し迫った現実に対する準備ができていないことである。

　たとえば、元交際相手や同僚からの悪意ある偽写真など、一般人が関係しそうなディープフェイクをどう規制するかは悩ましい問題だという。

　ミシェル氏は「政策的な意味では、これほどまでに拡大した偽情報への準備が社会のあらゆる段階で整っているとは思えない。この動きを確実に止めるには、まだ想像すらできない画期的なテクノロジーが必要になるのではないか」と述べている。

By ARIJETA LAJKA and PHILIP MARCELO
Translated by Conyac