コンピュータAIが人種差別と性差別を行っていたことが判明！「男性より女性、白い肌より黒い肌が…」

【中国電 - %】 ◆fveg1grntk

「コンピューターが間違ったんだな」AIの顔認識で誤認逮捕される
https://news.yahoo.co.jp/byline/kazuhirotaira/20200626-00185086/

●顔認識のバイアス
ニューヨーク・タイムズによれば、ミシガン州警察の顔認識システム「SNAP」は、サウスカロライナ州の企業「データワークス・プラス」が550万ドル（約5億9,000万円）で受託。顔認識については、NECとコロラド州の企業「ランクワン・コンピューティング」のテクノロジーを採用しているという。

AIによる顔認識は、白人よりも黒人やアジア系などの有色人種、男性よりも女性で誤認識率が高い傾向にあることが知られている。

米国立標準技術研究所（NIST）が2019年12月に発表した、100社の顔認識システムを検証した報告書では、白人に比べて、黒人やアジア系などの誤認識率は10倍から100倍に上ったとしている。

この問題で注目を集めたのが、マサチューセッツ工科大学（MIT）メディアラボの研究者、ジョイ・ブォラムウィニ氏らが2018年2月に発表した研究結果だ。

※参照：ＡＩと「バイアス」：顔認識に高まる批判（09/01/2018　新聞紙学的）

ブォラムウィニ氏らは、マイクロソフト、IBM、さらに中国の顔認識サービス「フェイス＋＋」の3つのサービスの認識精度を比較。

3つのサービスの誤認識率は、いずれも男性より女性の方が高く、白い肌より黒い肌の方が高かった。性別と肌の色の組み合わせでは、いずれも誤認識率が最も高かったのは肌の黒い女性。マイクロソフトでは20.8％、フェイス＋＋では34.5％、IBMでは34.7％だった。

また米自由人権協会（ACLU）は2018年7月、アマゾンの顔認識AI「レコグニション」が、28人の連邦議会議員を逮捕歴のある人物として誤認識した、との実験結果を明らかにしている。

MITメディアラボのブォラムウィニ氏は、今回の誤認逮捕事件について、NPRのインタビューにこう述べている。

このずさんな人違いは、顔認識テクノロジーの危険性の一つを示したに過ぎない。つまり一般的傾向として、白人に比べて有色人種、肌の色が濃い人々は、誤認識されやすいということだ。これは、様々な研究ですでに繰り返し明らかにされてきたことだ。

これが大規模監視で使われることによって、市民の自由に及ぼす脅威は計り知れない。