「顔認識AI」の人物判断がヤバすぎる

自分のIQ、政治観、セクシャリティー、さらには犯罪嗜好性も見抜かれる。そんな事態を想像したことがあるだろうか？　先日トカナでは「顔写真からゲイを91%特定できるAI」という記事を配信したが、アメリカ・スタンフォード大学のマイケル・コジンスキー教授によると、人の顔写真をAIでフィルタリングすれば、セクシャリティだけでなく、IQや政治観など内面を露骨に読み取ることができ、犯罪心理まで当てられるのだという。

■顔から得られる人物特性をAIが予測
　
確かに、顔は人となりを想定できるパーツの一つだ。膨大な顔写真を集め精度の高いデータベースを作り、アルゴリズムに照らし合わせて特定の人物の顔から得られる内面情報を当ててしまおう、という発想はわかりやすい。
　
ところが、その膨大な写真はデートサイトやFacebookなどの会員写真から引っ張ってくることに加え、教授によると「アメリカ政府はすでにこうしたAI技術を備えている」というから舌を巻く。楽しい思い出としてフェイスブックに載せた写真を、いわば「人相」のサンプルに使われるのは、何とも複雑な気分だ。

人相であらかじめ相手の内面を断定してしまう感覚は、2002年に上映された『マイノリティ・リポート』という映画の世界観に似ている。この映画は、殺人事件が起こる前に予知能力者を使って「疑わしい人」を未然に判別し、その人が何も犯罪を犯していないうちに逮捕しておくことで治安維持を図る、というストーリーだ。

画像は「Wikipedia」より

コジンスキー教授は、逮捕まで推奨していない点で映画よりも発想は幾分マイルドだが、基本的な部分は似ており、「顔認識AIが『この児童は暴力的だ』と判断すれば、実際にその児童が学校で暴力事件を起こす前にその子に心理カウンセラーを付けてあげられる」という例も挙げるなど、社会秩序を保つためにはむしろ有効との感覚の持ち主である。

アルゴリズムを機能させるために、一定量のデータを収集する必要があるのはわかるが、そのデータをそもそも「偏った集団」から得たのであれば、それはバランスの良いデータとは言い難い。例えば、刑務所や裁判所から得た顔写真データを集めてデータベース化しても「犯罪を犯す可能性の低い顔」というサンプルがそのデータには存在しないことになる。
　
そのようなデータベースに人の顔写真を照合したところで、精度の高い結果がはじき出されるのか疑問符が付く。ならばFacebookなら標準的で偏りのない写真サンプルが集まるのか、といえばそうとも言いきれない。そもそもFacebookをやる年齢層にも偏りがあるのだから。実際に教授自身も「『犯罪性あり』とAIに自動判別された人が、必ずしも犯罪を犯すとは言えない」と認めている。

「The Guardian」の記事より

■法曹界「法律が追いついていない」

カナダ・カルガリー大学のトーマス・キーナン教授は、「法曹界において、顔はその人の広報だとされている」との所説を披露した。顔は心の鏡という点においては、コジンスキー教授の世界観に少しだけ似ている感じもする。
　
しかし、キーナン教授は、技術進歩が速かったせいもあり、それを統制する規則がまだ生煮えだった点を問題点として挙げており、「顔認識AIの使用に関してはプライバシー侵害に関する法律が追い付いていない。早急に策を講じるべきだ」とのスタンスだ。
　
法整備が不十分なレベルでありながら、公平性において不十分である顔写真データベースを用いて、他者の内面を勝手に判断してしまうこれはかなり危険だろう。実際に、この試みを知った人権団体から苦情が相次いでいるという。

画像は「YouTube」より

ちなみに、どのような顔なら問題視されないのか？　コジンスキー教授に聞いてみると、「逆境にさらされる時間が少ない人は顔立ちが良い。だから、顔の良い人は保守的な政治観の持ち主であるケースが多く、政府から問題視されないだろう」と言う。それはそれで、ものすごく問題だと思えるのだが。　　トカナより

『マイノリティ・リポート』公式トレーラー　動画は「YouTube」より