著：Murray Goulden（ノッティンガム大学 Research Fellow）

　ある男性が自分の娘の妊娠に気づいたのは、アルゴリズムによって家族のクレジットカードデータから動かぬ証拠となる買い物パターンが識別されたのが原因だ。別々に起きた2つの殺人事件について、警察はFitbitの追跡機能と水道スマートメーターから得た詳細情報が犯行に使われたと容疑を固めている。配車サービスのUberのせいで、妻に不倫がばれたと裁判を起こす男性もいる。

　我々の生活にかかわるテクノロジーが統合されるに伴い、昨今このような話はかつてないほど増加している。これらは、人間の身の回りにあるものにセンサーやインターネット接続を埋め込む、いわゆる「物のインターネット（IoT）」の一環だ。過去1年間にわたり、アマゾンのアレクサ（Alexa）やGoogleのホーム（Home）がけん引するこれらの技術は、声を発するだけで家中のすべてがコントロールできるスマートホームの端末という形で、我々の家庭生活で存在感を増し始めている。

　我々は前述のようなエピソードを聞いても、「めったに起きない技術的ミスだ」もしくは「偶然だが、当然の報いだな」などと感じてしまうだろう。しかし、その背後にあるのは、もっと大きな事だ。それは、我々の日常生活を根本から作り変えようとする一連の技術の開発だ。

◆社会秩序を破る
　これらのテクノロジーは、いつでもどこでもインターネットに常時接続し、物理的および仮想的な世界にシームレスに広がり、それらすべてを摩擦なしにコントロールするためのものだ。スマートホームが保証する未来というのは、おもに目に見えないテクノロジーが人間の欲求に先回りしてサービスを提供し、またセンサー類を使って我々を取り巻く世界を理解したうえで人の利益のためにそれを操作する、といったものだ。つまり、ほとんど制限なくリーチ可能で、労力を必要としない利便性を提供すると保証しているのだ。

　これはしかし、社会的現実とはまったく相容れないものだ。問題は、我々の生活は制限が数多く存在するということだ。そして、その最たる場が、これら多くのテクノロジーがターゲットとする「家庭」なのだ。自分がそのような場所にいるときは、非常に混沌としていると感じることが多い。しかしその実、非常に高度な秩序で成り立っている空間なのだ。家庭のような場は境界線やヒエラルキーに満ちている。誰がどの部屋に入ることを許され、テレビのリモコンは誰が握り、誰の秘密が誰と共有され、誰にばらしてはいけないのか、というように。

　これらの多くは日常にありふれたことだが、こうした秩序のシステムがいかに重要であるかをあらわしているのが、1960年代の社会学者ハロルド・ガーフィンケル（Harold Garfinkel）氏の「違背実験」だ。ガーフィンケル氏は、社会的秩序の背後にあるルールを解明するため、あえてルールを破るという手法をとった。そこでわかったことは、もっとも単調な人間同士の相互交流を誤った方法でおこなった場合、周囲の人は反発するということだ。その反応は苦悩に始まり、ひいては、あからさまな暴力にまで及ぶこともある。これは誰にでもできる実験だ。食卓を囲んでいるとき、まったく普段通りに振る舞いつつ、人が何か話し始めたタイミングに合わせて、大声で鼻歌を歌ってみる。誰かの堪忍袋の緒が切れるまでどれだけかかるか計ってみると良い。

　スマートホームのテクノロジーは、細かな手法を無数に使って我々の秩序に挑んでくる。その技術に見られる主な制約といえば、人間が当たり前に認識している境界を識別できないことだ。一週間前、私自身がそのような経験をした。それも自宅の表側に面した居間で、だ。私がうっかり指を滑らせてしまったせいで、携帯電話で受信したYouTube動画（それも、下品な言葉が出てくるもの）が隣家のテレビに流れてしまい、人気アニメのパウパトロール（Paw Patrol）を見ていた4歳の女の子を仰天させてしまった。

　文字通り、ボタン操作一つで起きたことだ。無効化できないボタンを押してしまったのだ。そのことと、私が時折隣家の子供の面倒を見ていたため、彼らのWi-Fiパスワードが携帯電話に入っていたという事実が、事の原因だ。現在のスマートホーム技術では、Wi-Fiネットワークを共有するユーザーはすべてを共有することになる。

　もちろん、それでもまだ、大まかな境界線を維持するパスワードはある。とはいえ、スマートホーム技術は、消費者向けのテクノロジーが提供する、個人化された箱に収まらないデータの作成に秀でている。この人間関係のデータは、個人ではなく集団にかかわるものだが、それを管理するとなると、現在のスマートテクノロジーは非常に能力が低い。時に、それはユーモアあふれる方法で露見する。たとえばAlexaが作成した買い物リストに「大きなおなら」と書かれているのを親が発見するといった事例だ。（おそらく子供のいたずらだろう。）他にも、前述のように娘の妊娠に気づくといった、はるかに重大なケースもある。

　この現象について我々自身も研究を行い、私と同僚はさらなる問題を発見した。それは、これらのテクノロジーが頻繁に間違いをおかすということ、そして誤った文脈に不適切なデータが挿入されてしまうと、悲惨な結果につながる恐れがあるということだ。私たちが行ったある調査では、妻がデジタルアシスタント（情報端末）を利用した結果、仕事に行っているはずの夫が街のホテルで一日を過ごしたという情報を得てしまった、というケースがあった。実際にはアルゴリズムがGPS信号を誤解釈しただけだったのだが、信頼関係が確立できていない人間関係では、この種の情報が離婚の根拠になる恐れがある。

◆再コード化を拒絶する
　これらの技術は、ほとんど無意識のうちに、我々の日常生活の最も基本的なパターンのいくつか、つまり最も親しい人との生き方を再コード化しようとしている。そのため、これらが消費者製品として我々の家庭に置かれることは、広大な社会的実験の一環となる。それらを使用した実験が既存の秩序に対してあまりにも挑戦的であれば、我々はそれらを断固拒絶することになる。

　Google Glassではまったくこの通りのことが起きた。Google Glassはカメラやヘッドアップディスプレイが組み込まれたスマート眼鏡だ。これは我々の常識的な概念からあまりにも逸脱するものだった。人々はそれを不快に思い、Google Glassのユーザーを軽蔑的に表現する「Glasshole」という言葉まで生まれてしまった。

　同様の製品を販売する大手の技術会社は、同じような結果を避けるため、調整を続けることになるのは間違いない。それでも、根本的な課題は残る。いかにして、利便性を売りにするテクノロジーに人間のプライベートな世界の複雑さとニュアンスを教えこめるのだろうか？少なくとも我々が常にフォローしていなければならない、というのでは困る。それでは、人間の生活を楽にするというそれらの目的をまったく果たせなくなる。

　家という社会的領域を荒らしまわるような現在のアプローチ法は、持続可能なものではない。人間社会を理解できるAIシステムができなければ、スマートホームが掲げた公約は、その支持者が想像するよりはるかに限定的なものになってしまうだろう。今現在、もしこの実験に参加している人にアドバイスするなら、ことを慎重に進めるべきだ、ということに他ならない。なぜなら、社会的関係という点についていえば、スマートハウスは実に愚かだからだ。加えていうなら、隣人のテレビにストリーミングしないように十分気を付けることだ。

This article was originally published on The Conversation. Read the original article.
Translated by isshi via Conyac