著：Molly Land（コネチカット大学 Professor of Law）

　マンチェスターおよびロンドンで先日発生したテロ事件を受けて、イギリスのテレサ・メイ首相は、インターネット上にある過激派思想の「安全地帯」を排除するようSNS各社に求めている。直近の選挙で過半数を割ったものの、メイ首相はフランスの新大統領、エマニュエル・マクロン氏とともに、オンライン通信を規制する計画を推進している。

　インターネットを「浄化」するためのイニシアチブを提示しているのは、メイ大統領の声明だけではない。他にも、ドイツでは違法コンテンツ削除を怠ったソーシャルメディア企業に罰金措置を課す、という提案がなされ、オーストラリアの法務長官は、必要に応じてインターネット会社に通信内容解読を要求するための法律を整備すべきだと訴えている。

　安心感が損なわれている今、それを回復する一手を打ちたい、と考えるのは無理もない。しかし、私はこの10年間、人権とテクノロジーのかかわり方を研究してきた人権弁護士として、メイ大統領の提案や、同様の動きは非常に憂慮すべきことだと考えている。彼らは、インターネット上のヘイトスピーチや過激派を排除することで、現実世界の暴力も減らせると誤解している。また、こういった取り組みによって一般市民はオンライン上の自由を奪われることとなり、国民を守るはずがむしろ危険にさらしてしまう。さらに、このことによって政府の重要な機能を民間企業に引き渡すことになる可能性がある。

◆すべての人の安全性が低下する
　「テック企業は、警察が暗号化通信にアクセスできる裏口を設置すべき」と提案する政治家もいる。しかし、そうしたところで、攻撃者側がその気になれば、裏口のないアプリに移るのは簡単だ。

　そして、裏口の存在は必然的に、インターネット利用者全員の安全性を低下させることになる。暗号化を弱めれば、ハッキングや個人情報の盗難、そして詐欺に対して脆弱になる。テクノロジー活動家のコリイ・ドクトロウ氏は、「善人しか通れない裏口など存在しない」と説明している。

◆言論の害？
　メイ大統領の声明は、いわゆる「オンライン過激化」を抑えたいという考えを反映している。これは、個人がインターネットに接続することで過激思想を喚起する考え方とつながり、最終的に過激行動を起こすようになる、という考え方だ。

　この考え方は、誤解を招く可能性がある。我々は、どのような条件下で言論表現全般、とりわけオンライン上の表現が暴力を誘発するのか、ということをようやく理解し始めたところだ。しかし、エビデンスが示す限り、オンライン上の発言が果たす役割は限定的だ。人は面と向かって、関係を築くことで過激化するのだ。ソーシャルメディアが、洗脳されやすい人を特定するため、もしくは、もともとある信条を強化するのに利用される可能性はある。しかし我々はプロパガンダ見たからといって、テロリストになるわけではない。

　過激派の言葉やヘイトスピーチをインターネットから削除しても、実世界での暴力との戦いが好転するかどうか、わからない。それならば、なぜ世界中の政府がそれを推進しているのか？それは主に、こうしたコンテンツの認知度がかつてなく高まっているからだ。これらは、我々が子供や猫の写真をやりとりするのと、同じプラットフォーム上にある。そのため、政治家や政策立案者は、テロに対して「何らかの策を講じている」ように見せなければ、というプレッシャーを感じているのだ。

◆検閲が肥大化
　インターネット上のプロパガンダが、暴力喚起に起因する力は最小限だといっても、政府は国民の安全を保障するため、あらゆる手段を取るべきだ、という意見がある。ここでもまた、その代償を考えることが重要だ。「過激派」のコンテンツのみを削除する、という取り組みは、いずれ言論の自由を侵すことにつながる。ある人々には過激主義に見えるものも、別の人の目には、正当な政治批判に見えることもあるからだ。

　さらに、まったく同じ要素でも、文脈によって意味合いが変わることもある。ある動画が、憎しみをあおるのに利用されることもあれば、一方で、そのようなヘイトスピーチが及ぼす影響について議論する場で用いられることもある。そのため、この状況の技術的な解決策を今すぐに見つけることはむずかしい。ソーシャルメディア企業は、危険な発言を識別可能なアルゴリズムを開発すべく取り組みを進めている。しかし、まだ初期段階にあるため、フィルターを設置してもきちんと区別できるかどうかの見通しは立っていない。

◆民間企業による検閲のリスク
　オンライン上の過激なコンテンツを削除するとなると、公的機関の権限を民間企業に広く委任することになるだろう。違法なコンテンツを削除しなければ、法的責任を問われるとなれば、それを担う企業は検閲を過剰に行う可能性がある。これは言論の自由への検閲を制限するという、公共の利益に反する。

　さらに、公の場でのコミュニケーションを規制する権限を民間企業に付与することによって、国民は検閲者に判断責任を負わせることがむずかしくなり、また、そのような判断が下されたという事実とその理由を把握しにくくなる。国の安全保障は国家の責任であり、民間企業の仕事ではない。

　もし政府が企業に対してコンテンツ削除を求めたいのなら、それは公共政策決定だ。しかし、メイ大統領は保護の対象となる一般市民への説明責任を持たないFacebookやGoogleにこの業務を委託しようと考えている。これは法の原則にとってリスクであり、憂慮すべきことだ。

◆今後の道筋
　確かに、オンライン上の要素が現実世界で問題を引き起こすこともある。違法コンテンツの危険性をチェックする作業者は、暴力的または卑猥なものといった不穏なコンテンツに日々接するため、メンタルヘルスを損なうリスクがある。また、インターネット上のヘイトクライムは、現実の生活に大きな影響を与える可能性がある。こういった脅威に対するより良い対策を打ち出す必要がある。しかし、その場合は表現の自由をはじめとする人権が侵されないように注意深く、慎重に行わなければならない。

　一つ確かなことは、新しい国際条約を作っても、問題は解決しない、ということだ。6月4日の声明で、メイ大統領はインターネット上での過激主義の広がりに対抗するべく、各国に対し新たな条約制定を呼びかけた。つまり、オンライン上の言論に対して、すでに複数の国が行っている以上の検閲を要請しているのだ。国家が反体制派を取り締まるのにインセンティブ強化も国際支援も必要ない。

　人権条約（国際人権など）は、表現の自由やプライバシーそして有害なオンラインコンテンツ規制の調和を保つ、強固な地盤を提供しており、個人を有害な言論から守る行為は、合法的かつ比例的である限り、国家の正当な利益として認めてられている。

　「オンライン過激化」のかかしを作ることに重点を置くのではなく、我々はオンライン上の言論がもたらす害や国家検閲の制限、民間企業の役割について公正な議論を行う必要がある。その答えを見つける手段としてその責任をインターネット企業に移すだけでは、世界は想定しうる最悪のものとなるだろう。

This article was originally published on The Conversation. Read the original article.
Translated by isshi via Conyac