顔認証技術で生じた、まさかの誤認逮捕 精度が低く、法規制もない問題

《本記事のポイント》

• AIの普及に向けた議論が盛んになるも、アメリカで誤認逮捕が発生
• AIを使った顔認証技術は、特定する精度が低い
• 顔認証技術に関する規制がほとんどなく、恣意的に濫用される恐れがある

新型コロナウィルス対策で、人との接触を避けるため、AI(人工知能)の普及に向けた議論が国内外で盛んになっている。しかし、そのAIを使用するリスクについて改めて考えたくなる出来事が、アメリカで起きた。

ミシガン州の男性は、1月に窃盗の容疑で逮捕されたものの、告訴し、「証拠不十分である」として無罪を勝ち取った。その理由は、警察が使用した顔認証技術の不備であったことを、米紙ニューヨーク・タイムズが今月24日に報じた。

男性は、ミシガン州デトロイト市で発生した高級ブティック店の窃盗容疑で逮捕された。同市の警察署に連行されると、刑事から監視カメラの静止画を見せられた。そこには、黒の服を着て帽子を被った別の男性が、約3800ドル(約41万円)相当の時計5つを万引きする様子が写っていた。

男性はすぐに自分ではないと気づいたものの、逮捕から30時間の拘束を経て、保釈金を支払い、釈放される。その後、アメリカ自由人権協会などの協力を得て告訴。事件は、証拠不十分として取り下げられた。

デトロイト警察が逮捕の決め手にしたのは、データワークスプラス(Data Works Plus)から550万ドル(約5億9000万円)で導入した顔認証技術だ。ニューヨーク・タイムズによれば、そのソフトウェアには、日本のNECの技術も使われているという。

今回の顔認証技術で生じた誤認逮捕は、アメリカ史上初のケースである可能性が指摘されている。

特定する精度が低い問題

顔認証技術の精度が低い点は、これまでも問題視されてきた。

例えば、米マサチューセッツ工科大学の2019年の研究によれば、マイクロソフトやアマゾン、IBMのシステムに、肌色が濃い人々(非白人)を識別させたところ、1件も的中しなかったという。さらにイギリスのサウスウェールズ警察が、17年のサッカー・チャンピオンズリーグ決勝戦で実証実験を行った結果、的中率は約8%にすぎなかった。

IBMは今月、大衆監視などに使われている顔認識ソフトの提供をやめると表明し、顔認証技術をめぐる国民的議論の必要性を呼びかけている。

法規制がない問題

さらに問題なのは、世界を見渡しても、顔認証技術に関する法規制や警察の利用制限がほとんど進んでいないことだ。つまり、ハイテク技術が規制を追い越す典型例と言える。

コロナ対策をめぐっても、AIを普及させるという前のめりの議論が目立ち、それが広く普及すればどういったリスクが生じるのかが、国民の間で十分に理解されていない。

政府や警察当局などが、恣意的にAIを濫用する恐れがあることをどう抑止すべきかを含め、議論すべきではないか。

(山本慧)

【関連記事】

2020年6月21日付本欄 「まるでジョージ・オーウェルの『1984年』のよう」って、一体どんな世界……?

https://the-liberty.com/article/17313/