フェイスブックでは、ホロコーストの存在を否定することはおそらくOKとされるが、ユダヤ人殺害を群衆に呼びかけることはNGだ。

　フェイスブックの最高経営責任者（CEO）のマーク・ザッカーバーグ氏は先日、同社のボーダーラインを示すべく、不器用かつ驚くべき方法を試みた。インターネット上に誤情報や情報操作、あるいはヘイトスピーチが横行する現代、ソーシャルメディア各社はその審判役、という嫌な役割を担わなければならず、今回のフェイスブックの行動は彼らが直面する複雑さを表している。

　ユーザー数22億人のフェイスブックでは、ヌードや銃の売買、暴力の確かな脅威、そして人種や性別、あるいは性的嗜好によって個人を直接攻撃する内容を禁止している。

　フェイスブック創業者のホロコースト批判者に関するコメントが公開されて数時間後、今後は、流血事件を誘発するような誤情報を削除すると追加発表した。この方針はスリランカで開始され、フェイスブックユーザーが反イスラム教徒への暴力を誘導していると非難を受けているミャンマーにも拡大していく予定だ。

　しかし、このようなガイドラインの先に、大きなグレーゾーンが存在する。テロリスト集団を支持する投稿と、単に彼らのことについて語っているものを、どのようにして見分けるのか？　また、すでに禁止事項となっている「誰かの早すぎる死をあざ笑うもの」との区別は？

　もしもフェイスブックがホロコーストを否定する内容を禁ずるのであれば、アルメニア人虐殺や、ヨーロッパ人入植者によるネイティブアメリカン虐殺など、他の史実を否定する内容をも禁じるよう求める声が高まる可能性がある。そうなれば、同社は「ユーザーが投稿した内容が、歴史的正確性を有するか精査する、という危険な道に進むことになりかねない」と主張するだろう。

　それゆえ、フェイスブックは可能な限りコンテンツの取り締まりを控えている。

　フェイスブックでは不適切な内容を含む可能性のあるコンテンツをチェックするため、世界中の何千ものモデレーターが人工知能の力を借りつつ、目を光らせている。経営幹部らは、同社が「真実の仲裁人」になることは控えたいと主張しており、ユーザーに自己判断を求めている。

　上記のような理由から、フェイスブックが実際にフェイクニュースを禁じているわけではないが、今は同社のアルゴリズムや第三者機関による事実チェックにより、以前よりはフェイクニュースの件数も減ってきた。その分、真偽が疑われるニュース記事をフェイスブックがフェイクニュースに分類し、ユーザーに考え直してもらうために関連性のあるコンテンツを表示することになるかもしれない。
　
　最近はユーチューブも同様の手法を導入した。どのようなコンテンツを許容するか、という点では、ツイッターはさらに自由度が高い。ただ、最近になってヘイトや虐待に関するものについては、取り締まりを強化している。

　シカゴのイリノイ大学でコミュニケーション学を研究するスティーブ・ジョーンズ教授は、「フェイスブックはコンテンツの取り締まりに時間やリソースを使いたくないのだ」と話す。「難しい仕事であり、精神的に負担のかかる作業であることは間違いない。さらにフェイスブックレベルの規模になると、プラットフォーム全体で起きていることをモニターするには、大勢のスタッフが必要となるだろう」。

　さらにジョーンズ氏は、モデレーターを増員し、より多くのテクノロジーを傾けても、この問題が解決するかどうかわからない、と考えている。ちなみに、フェイスブックは今年中に人員を1万人から2万人に増やすことを目標としている。彼は、フェイスブックがどのように物事を改善できるのか、思いつかないと話した。

　彼は「もし思いついていたら、私はザッカーバーグ氏の隣に座り、多額の小切手を要求しているだろう」と言った。

　こういった企業はなぜ言論規制に手を出そうとしないのか？　その答えは彼らのルーツにある。彼らはいずれもエンジニアが「メディア」や「エディター」というブランドを捨て、テック系企業として立ち上げたものだ。フェイスブックのチーフ・オペレーティング・オフィサーのシェリル・サンドバーグ氏は、昨年行われたインタビュー内で、フェイスブックはテック企業として、記者やジャーナリストではなく、エンジニアを雇用する、と発言しているほどだ。

　さらに、記者の取材情報源秘匿を認めるシールド法もある。新聞社は、印刷物に対して責任を負えるが、法律上、インターネット会社には自社サイトに他社が投稿したコンテンツに対する責任はない。もしコンテンツに編集を加えるなど、取り締まりが行き過ぎてしまえば、テック系企業がメディア企業になってしまう危険性がある。

　著名なテクノ社会学者のゼイナップ・トゥフェックチー氏はツイッター上で、「良いスピーチで、悪いスピーチと戦う」という考え方は、フェイスブックの世界ではほとんどうまくいかない、と述べた。

　彼女は19日に「フェイスブックはお手上げ状態」とツイートしつつ、「完璧な答えなど、誰も持っていない」と認めた。

　テック系メディア『レコード』のインタビューで、ユダヤ出身のザッカーバーグ氏は、ナチスによる600万人のユダヤ人虐殺を否定する記事について、必ずしも削除されるわけではない、と発言した。彼は、投稿内容が傷害行為や暴力を呼びかけるものでない限り、それが攻撃的な内容であっても、保護されるべきだと話した。

　長年、同社はこのようなスタンスを崩していないとはいえ、ザッカーバーグ氏はホロコーストを否定する人々が「意図的に」誤解しているとは思っていないと言い、その発言や推測は波紋を呼んだ。

　アメリカ最大のユダヤ人団体「名誉毀損防止同盟」は、フェイスブックには、ホロコースト否認を拡散させない「道徳的かつ倫理的な義務」がある、と述べた。

　後にザッカーバーグ氏は『レコード』のカラ・スウィッシャー氏にメールを送り、彼の個人的見解として「ホロコーストを否定することは、ひどく攻撃的であり、それを否定しようとする人々を擁護するつもりは一切ない」と自らの発言について釈明を行っている。

　それでも、現段階で同社の方針に変更はない。

By BARBARA ORTUTAY, AP Technology Writer
Translated by isshi via Conyac