フェイスブック、イスラム国やアルカイダを扱うページを自動生成

AP Photo / Jon Elswick

 フェイスブックは、過激派が発信するメッセージへの対抗措置が不十分であるという批判に直面している。同社は、イスラム国やアルカイダを称賛する内容の投稿を禁止しており、そのような記事の大半を通報を受ける前に自動的に削除するシステムを導入していると主張している。

 しかし、内部告発者の訴えによると、フェイスブック自身が不注意にも2つの過激化グループの名義で何十ものページを作成し、ネットワーク作りと人材集めのための手段を彼らに与えてしまったという。

 ソーシャルネットワーキング企業であるフェイスブックは、ビジネスを目的としたページを自動生成している。AP通信は4ヶ月前、それらのページがどのように中東の過激派やアメリカの白人至上主義者の手助けをしているのかを詳しく報じた。しかし、その後自動生成ページが抱える問題に関してほとんど進展が見られない模様である。

                                                                                                                 

 アメリカ上院商務・科学・運輸委員会の議員たちは、フェイスブックで過激派の発信するメッセージを排除する取り組みを指揮するモニカ・ビッカート副社長を含めたソーシャルメディア企業の代表者たちに対し、聴聞の場を設ける予定だ。

 新たな詳細は、全国内部告発者センターが提訴する証券取引委員会(SEC)へ宛てた訴状のなかで明らかになる。AP通信が入手した訴状によると、200近い自動生成ページが確認されており、ビジネス用途や学校、または他のカテゴリーに属するものもあるが、イスラム国やアルカイダを含めたその他の既知の過激派グループを直接参照しているという。「政治思想」として列挙されているあるページには、「私はイスラム国(IS)を愛する」というタイトルがつけられている。このページ内には、フェイスブックの有名な親指を立てているアイコンをかたどった中にISのロゴが描かれている。

 AP通信がコメントを求めたところ、フェイスブックの広報担当者は次のように述べている。「当社の優先事項は、危険な個人や団体に関するポリシーに違反した投稿を行う人々に先を越されないよう、該当するコンテンツを検出して削除すること。自動生成されたページは、通常のフェイスブックページとは異なり、人々はその内容にコメントしたり投稿したりできない。さらに当社は、ポリシーに違反したいかなるページも削除する。ポリシー違反のページを完全に把握することはできないが、当社はこの取り組みを怠らないようにしている」

 フェイスブックは、ユーザーが投稿した記事から新しいページを自動生成する機能を多く有している。更新された訴状では、ビジネスネットワークの支援を目的とした機能が綿密に精査された。それはユーザーが作成したページから求人情報を取得し、ビジネス用途のページを自動生成する機能であり、過激派グループを手助けしている可能性がある。ユーザーたちがこのページに「いいね!」をつけることで、支持者の一覧が生成され、グループへの加入者を募る採用担当者の手に渡る潜在的な恐れがあるからだ。

 新たな訴状では、過激派グループを宣伝しているユーザーページは、依然としてその名前を使った簡素な検索によって容易に発見できることも判明している。アルカイダの信奉者の1人であり、アメリカ同時多発テロ事件の首謀者である「モハメド・アタ」の象徴的な写真を載せたページがその一例として明らかにされている。このページでは、「アルカイダ」としてユーザー向けの仕事を、そして、「ビンラディン大学マスター」および「アフガニスタンの学校テロリスト」として教育機関を掲載している。

 フェイスブックは、過激派に関する内容が同サービス上で拡散するのを制限する取り組みを進めてきた。しかし、その効果は現時点では玉石混交だ。フェイスブックは3月に禁止コンテンツの定義を拡大し、アメリカの白人ナショナリズム信奉者や白人分離主義者に関する内容に加え、国際的過激派グループに関する内容も禁止対象に含めた。同社によると、200もの白人至上主義者の団体や、ISおよびアルカイダのような世界的過激派グループに関する2,600万ものコンテンツの禁止措置に踏み切ったという。

 また、フェイスブックはテロリズムの定義も拡大し、政治的もしくは思想的な目的の達成に付随した暴力行為のみならず、特に、一般市民を強制したり脅迫したりする目的で暴力を振るおうとした場合もテロリズムの範囲に含めることにした。しかし、フェイスブックが、著名な過激派組織の支持者たちの基盤を排除する上でいまだ問題を抱えているのであれば、こういった排除規制がどれほど功を奏するのかは不明である。

 しかし、報告書にも示されている通り、多数のコンテンツが規制の網の目をくぐり抜けて自動生成されている。

 AP通信は、5月にこの自動生成ページ問題を浮き彫りにする記事を掲載した。しかし、報告書が新たに特定した内容では、フェイスブックがまだその問題を解決していないことを示唆している。

 さらに報告書によると、AP通信がこの記事を掲載して6週間以上が経過した6月25日、すなわち、ビッカート副社長が別の議会聴聞会で質問を受ける予定だった前日に、記事で取り上げられた多くの自動生成ページが削除されたことに調査員たちが気づいたという。

 この問題は、センターの事務局長を務めるジョン・コストヤック氏のSECへの最初の提訴で注目を浴びた。同氏は、フェイスブックが過激派の発信するメッセージに対抗して成功を収めたのを実際以上に誇張したと主張している。

「フェイスブックは、魔法のアルゴリズムによって過激派のコンテンツを掲載するウェブサイトを消し去っているのだと我々に信じてもらいたいようだ。しかし、同一のアルゴリズムは、『私はイスラム国を愛する』といったようなタイトルを持つページの自動生成にも用いられる。このようなページは、テロリストたちがネットワーキングとリクルーティングの場として使うには理想的なのだ」とコストヤック氏は述べている。

By DESMOND BUTLER and BARBARA ORTUTAY Associated Press
Translated by ka28310 via Conyac

Text by AP