中国が「表情・脳波・皮膚から共産党への忠誠心を測るAI」を開発『1984』で描かれた"表情犯罪"が現実のものに

《本記事のポイント》

大型スクリーン前で党のプロパガンダを見ると……
「表情」が処罰対象になるオーウェルの世界が目の前に!?
「内心の監視」はウイグルですでに進んでいる!?

中国の公的研究機関が、共産党員の忠誠心を測定するAIを開発・テストしていると明かし、波紋を呼んでいる。

◎大型スクリーン前で党のプロパガンダを見ると……

問題となっているのが、安徽省にある合肥総合性国家科学センター。中国の主要な科学開発拠点の一つであり、省と中国科学院の両方から指揮を受けている。その中にある人工知能研究院が、中国共産党結党記念日を受けて制作したPR映像に、恐ろしい研究内容を紹介していたのだ。

それは、共産党員の表情や脳波を分析し、「思想・政治教育の受容度を判別する」というシステム。

映像では、党員が「スマート政治教育バー」と書かれたガラスの部屋に入り、大型スクリーンの前に座って党の政策や実績を宣伝する記事を見る。その間、党員は顔の表情、脳波、皮膚の電気反応などを測定される。その測定値をAIが抽出・統合し、思想・政治教育の集中度、認識度、習得度をスコア化。その人物が、どれだけ「党員が共産党に感謝し、言われた通りに行動し、その指導に従うか」を測定できるという。

映像ではこの技術が「党員の活動の質」を確保し、「党の建設に寄与する」とアピールしていた。

この動画は公開後、すぐに削除されたという。

「表情」が処罰対象になるオーウェルの世界が目の前に!?

中国ではすでに数億台の監視カメラが設置され、AIによる顔認証で常に人々の行動が補足されている。さらにはSNS上での発信内容や友人関係、購入履歴などもチェックされ、「信用」スコアが付けられるなど、常軌を逸した監視社会で知られる。

だが、「言動」のみならず、その「感情」までを読み取り、内面の思想・信条までを監視する技術ができつつあるとすれば、ジョージ・オーウェルのディストピアSF小説『1984』の世界が極めて忠実に再現されようとしていることになる。

同著には、洗脳媒体であり監視手段でもある「テレスクリーン」に、表情までもが見張られている描写がある。以下のような記述だ。

「公共の場所にいる時、あるいはテレスクリーンの近くにいる時に物思いにふけるということは恐ろしく危険なことだった。きっかけはどんなに小さくとも連れ去られるきっかけになり得る。神経質な体の動き、無意識にでる不安げな表情、思わず出るつぶやき……全てが異常性や隠し事の兆候を示してしまうのだ。どんな場合であれ不適切な表情を顔に浮かべることはそれ自体が処罰の対象になる犯罪なのだ。それを指す言葉さえニュースピークにはあった。表情犯罪。それはそう呼ばれた」

先述のシステムが党内、あるいは国内で広がり、対象者となる党員や反乱分子予備軍とされた人物、もしくは収容所に入れられた洗脳対象者がスクリーン前で「不適切」な表情を見せれば、何らかの不利益や罰を与えられることになる。これはオーウェルが描いた「表情犯罪」そのものだ。いや、脳波や皮膚の電気反応までを観測されるという点で、オーウェルの想像の上を行っているかもしれない。

「内心の監視」はウイグルですでに進んでいる!?

「実用化は遠い」と思いたいが、残念ながら「内面まで踏み込んだ監視」は、ウイグルの強制収容所ですでに"導入"されている。

技術面で言えば、ウイグル人拘留者が感情検出カメラの実験台にされていることを、2021年にBBCが報じている。被験者は拘束椅子に金属の拘束具で手足を固定され、3メートル離れた高度なセンサーを有したカメラにさらされる。これで表情から肌の毛穴の微細な変化まで検知・分析されるという。

内面の洗脳度を炙り出すこと自体は、収容所において日常的に行われていると思われる。

その他の証言によると、モンゴルキュレ県のある強制収容所で、管理者たちは女性収容者たち百数十人をホールに集め、そのうちの一人を輪姦したという。そして目を伏せ、拳を握るといった怒りや戸惑いの表情を見せた収容者は一人残らず連れ出され、一人も戻ってこなかった。卑劣な方法で、洗脳度のスキャニングを行った可能性が高い。

言動のみならず内面まで監視してその自由を奪うシステムが発達・実用化されることになれば、人類史上類を見ない残虐な事例となる。世界はこの国のAI監視主義の行方を、厳しくチェックする必要があるだろう。

【関連書籍】