著：Emilio Ferrara（南カルフォルニア大学、Research Assistant Professor of Computer Science）

　特別検察官ロバート・ミュラー氏が率いる大陪審は、ソーシャルメディアのアカウントを使って2016年のアメリカ大統領選挙につながる公開討論に対して影響を与えた、などの理由で13人のロシア人を起訴した。私の研究では、そのオンライン上での会話へ参加したアカウントの多くは、真意が不明な計略を秘めた正体不明のグループによって作られ、偏向した意見を持たされたロボットだったことが判明している。

　2012年以来、私は、人々がオンライン上でどのように社会的、政治的、思想的、そして政策的な問題を議論するのかについて研究を続けている。特に、意図的な情報操作や人心掌握の目的に対し、どのようにソーシャルメディアが悪用されているのかを詳しく調べてきた。

　その結果、アメリカ人が日々ソーシャルメディア上で目にする政治的な内容の記事の多くは、生身の人間が投稿しているものではないことが判明している。中でも、2016年9月16日から10月21日に投稿された大統領選挙関連のツイートの5つに1つが、「ソーシャル・ボット」と呼ばれるコンピュータ上で動作するソフトウエア・プログラムによって生成されていた。

　これらのボットに使われる人工知能システムは時にかなり単純だったり、時に非常に洗練されたものであったりするが、共通の特性を持ち合わせている。ソーシャル・ボットのどのシステムも、特定の政治的な方針に従う内容の記事を自動的に作成するように管理者によって設定されている。そして、その管理者を特定するのはほぼ不可能に近い。これらのソーシャル・ボットは、日々展開される主要な話題やオンライン上の動静がどのようにメディアや一般の人々に認識されたのか、などを含め、アメリカ大統領選に関する様々なオンライン上の議論に影響を与えて来た。

◆ソーシャル・ボットはどのくらい活発なのか？
　これらソーシャル・ボットのシステム管理者は、政党、外国政府や第三者機関の場合もあり、さらには、特定の選挙結果から既得権益を得ることになる個人の場合もある。私たちが調査を行った期間内では、彼らの積極的な働きは少なくとも40万以上のソーシャル・ボットから400万のツイートを投稿させるに至った。

　これは、大統領選挙に関係したユーザーの少なくとも15パーセントに相当する。ツイッター全体の全ボットの割合が5パーセントから8.5パーセントであると推定される中、実にその2倍以上の密度で大統領選挙に関わる話題に対してソーシャル・ボットが設定されたことになる。

　どのアカウントがボットで、どれが人間かを判別するために、わたしたちはインディアナ大学の同僚と一緒に共同開発し、一般公開されているボット検出サービス「ボット・オア・ノット」を使用している。ボット・オア・ノットは高度な機械学習アルゴリズムを利用し、ツイッター上のプロフィールのメタデータ、検査中のアカウントが投稿した記事の内容やトピック、そのアカウントのソーシャルネットワークの構造、タイムライン上でのアクティビティやその他多くの複数の情報を多角的に分析する。総数1,000以上もの要因を考慮した後、ボット・オア・ノットは調査対象のアカウントがボットである可能性スコアを生成する。私たちの開発したボット・オア・ノットは95パーセント以上の高い精度でこの判定を行うことができる。

　支持する候補者を応援したり、対立候補を攻撃したりする意図を込めてボットが生成したツイートの例は多数存在する。以下はその一例だ：

@u_edilberto: リツイート　@WeNeedHillary（@ヒラリーが必要だ） 世論調査は至る所で実施されている。落ち着こう、そして皆、ヒラリーを支持している！ https://t.co/XwBFfLjz7x #p2 #ctl #ImWithHer #TNTweeters https://t …

◆ソーシャル・ボットはどのくらい有効なのか？
　ソーシャル・ボットの有効性は、実際に人々がボットの投稿にどう反応を示すか、に依存する。私たちがいやというほど理解できたのは、人々は、ボットの存在やその投稿を無視したり、ある種の免疫や耐性を身につけたり出来ない、ということだった。さらには、人間のユーザーの大半は、あるツイートが別の人間のユーザーによって投稿されたのか、それともボットによって投稿されたのかを見分けることができない、ということが分かった。ボットの投稿が人間の投稿と同じ割合でリツイートされることから、私たちにはそのように理解している。ボットの投稿内容の信憑性を確認しないでリツイートすることは、実際、根も葉もない噂、陰謀説および誤報の流布などの影響をもたらしかねない。

　ソーシャル・ボットの中には、支持する人間のアカウントが投稿するツイートを単にリツイートするだけの単純なものもある 一方で、新規のツイートを生成し、すでによく知られているハッシュタグ（たとえば#NeverHillary（#ヒラリー反対）や#NeverTrump（#トランプ反対）など）を付けた上でソーシャルメディア上の会話に飛び込んでくる高度なソーシャル・ボットもある。これらのツイッターのハッシュタグをフォローしている人間のユーザーは、別の生身の人間のツイート群、そしてその中に見分けが付かないほど自然に混ぜ合わされたボット作成のツイートにネット上で晒されることになる。

　ボットは投稿を自動生成するため、必然的に数多くのツイートが継続的に投稿されることになる。従って、選挙期間全体を通じ、ボットの投稿とその主張がオンライン上の議論の幅広い部分を一貫して担うことを意味する。その結果、ソーシャル・ボットは、多数のフォロワーを獲得し、何千人もの人間のユーザーによるリツイートによってオンライン上で著しい影響力を得たのだ。

◆ソーシャル・ボットをさらに深く理解する
　政治的に活発なこれらのソーシャル・ボットを調査することで、ボットをさらに精緻に理解することにつながる様々な情報も次第に明らかになってきた。そのような教訓の1つが、ソーシャル・ボットは意図的に偏向させられている、ということだ。たとえば、（当時の）トランプ候補者を支持するボットは、トランプ候補者を支持するために圧倒的に好意的なツイートを体系的に生成した。以前の調査で、このように体系的に加えられた偏向は大衆の認識を変化させると判明している。特に、そのような偏向は、特定の候補者に対し、民衆に深く根ざした、積極的かつ持続的な根強い支持がある、という誤った印象を作り出す。

　ソーシャル・ボットの所在地からもうひとつ知見が得られた。ツイッターは、特定のツイートを投稿するために使われたデバイスの物理的な位置情報に関するメタデータを提供している。ソーシャル・ボットが残したデジタルフットプリントを集めて解析した結果、私たちは、ボットがアメリカ国内に均等に分散されているわけではないことを発見した。ボットは、特にジョージア州やミシシッピ州などの南部の特定の州に非常に多く偏って配置されている。このことは、それらの州で特に多くのボット操作が実施されていることを示唆している。

　また、私たちは、ボットが複数の方法で作動し得ることも発見した。たとえば、それぞれのボットがサポートする候補者を支持する内容の投稿を生成していない時は、ボットは対立候補を標的に据えることができる。私たちは、ボットが#NeverHillaryや#NeverTrumpといった特定のハッシュタグを使って意地汚く対立候補を誹謗中傷することを発見した。

　これらの戦略は、良く知られる人間の偏見メカニズムを活用している。たとえば、私たちの最近の調査が示すように、ネガティブな内容の投稿はソーシャルメディア上でより迅速に拡散される、といった事実だ。一般に、ネガティブな内容のツイートは、ポジティブな内容のツイートに比べて2.5倍という高い頻度でリツイートされることを私たちは発見した。人々は、生来、自身が支持する既存の政治的な見解に合致している内容の投稿をより多くリツイートする傾向が強い、という事実とあいまって、より多くのネガティブな投稿がリツイートされることで、何の根拠もなく、場合によっては事実無根の名誉棄損にも相当する内容の投稿が急速に広まる結果を招いている。

　ボットが実際の大統領選挙の結果に及ぼした影響を数値化するのは困難ではあるが、ボットの投稿が投票率に影響を及ぼした可能性のある地域が存在する、と考えるのは妥当である。たとえば、ある候補者（もしくはその対立候補）に対し、既に「十分な地元のサポート」があるのだから、自分が投票に行ったところで無駄であろう、と考えてしまう有権者もいるかもしれない。そんな彼らが目にしてきた「十分な地元のサポート」とは、実はボットが機械的に自動生成したサポート投稿であったとしても、だ。

　私たちの調査は、ボットにまつわる問題に対処するために、今日コンピュータ技法を駆使して実施できることの限界に到達した。ボットの管理者を特定する私たちの能力は、ボットの行動パターンを認識する上での技術的な制約に縛られている。ソーシャルメディアは、人々の政治的な信念の形成やオンラインおよびオフラインでの行動への影響という観点で、ますます重要なものになっている。上でますます重要なものになっている。ソーシャルメディアを研究対象とする団体は、このプラットフォームが悪用されることを可能な限り防止する施策を求め、調査研究を継続する必要があるだろう。

編集者注：本記事は2016年11月8日に掲載した初稿の改訂最新版です。

This article was originally published by The Conversation. Read the original article.
Translated by ka28310 via Conyac