ソーシャル・ジレンマ

ケンブリッジ・アナリティカがニュースになる、4〜5年前のことだったと思う。フェイスブックから、その人の年齢・性別・性格・趣味・食べ物の好み・政治的価値観など、諸々の個人情報をみいだすケンブリッジ大学の研究について知る機会があった。AI研究が発達し、犯罪防止につながればと願った。当時、個々の心理的属性の情報が、まさか米大統領選やBrexitの国民投票に利用されようとは思わなかった。

(離脱キャンペーンでは、Brexit に反対すること自体が愛国心に欠ける「非国民」のように言いはやされ、「頭」でなく「肚」の根拠なき心配に訴えるような流布がなされた。また「英国人」という、単一のアイデンティティに訴えかけたことも興味深い。)

その後スノーデン氏がNSAの情報収集を告発したときは、「やはり」という印象で驚かなかった。あれから監視資本主義はさらに進んだ。

この映画で警告されている内容を、皆さんご存知だろうか。良かれと始めた仕事が、弊害をもたらすようになってきた。ゆえに、心あるIT専門家たちが警鐘を鳴らしている。

「異常気象」とググっても、検索結果は世界中で同じではない。それは偶然でなく、そういうふうにデザインされているから。グーグル以外のサーチエンジンで、同じトピックを(外国語でも)検索すれば結果は異なる。ネットにもメモリーホールがある 。

FB、インスタグラム、ワッツアップ、ツイッター。公共財でもないのに、それらが無料なのはわけがある。道具を操った結果、逆にあなたが投稿した情報、検査結果をもとに、道具に操られるようになる。膨大なプライベート情報が収集・蓄積・分析され、じわじわと商用化される。あなたの情報がセール品だから。

結果、社会不安は高まり、様々な問題が生じる。うつ病や自殺者の増加。広告、フェイクニュースの蔓延。虚構と現実の境界のゆらぎ。政府トップによる嘘。偽情報による世論操作。対立、扇動。社会の分断化、そして民主主義の脆弱化とむかう。

この映画に登場する人たちのように、真っ当で良心的なITの専門家は多いと私は思う。同時に利潤最優先の業界で、搾取され苦しむ人も多い。いずれにせよ、仕事は継続される。

AIがさらに情報収集し、さらに向上すればどうなるか?映画の中で「内戦」の可能性を指摘している人がいる。

現に1月6日、トランプ支持者が連邦議会に乱入する事件があった。

大勢の暴徒たちが彼ら自身の「現実性」を主張し、警官を攻撃することを「良し」とした。大統領のツイッター凍結を問題視する輩がいるが、暴徒を扇動して死者がでるような行為、「自由に」人々を傷付けるような不正行為を「表現の自由」や「社会倫理」「正義」とは言わない。トランプ氏に強姦されたと訴えている女性が24人はいるようで、退任(解職?)後、彼は訴訟で忙しくなるだろう。

人間の脳はまぢかに迫った危局を回避するようにできているようだが、ひっそりずるずる起きる問題や、10年後・100年後の危険性などには鈍いようだ。ぜひ行政立法に関わる人たちに、AIやソーシャルメディアに目を向けてほしい。『まず、何をしたらいけないか』を考えるべき法律が要る。

Tags