【悲報】黒人をゴリラと認識し閉鎖したGoogle人工知能、修正できないため検索結果からゴリラを消す暴挙

Googleはゴリラ画像を検索結果からブロックしている

写真や画像を無料で保存できるGoogle Photosには機械学習が使われており、類似のコンテンツ認識し、
自動でラベル付きで分類してくれます。2015年にこのGoogle Photosが黒人を「ゴリラ」とラベリングしたことが
大きなニュースとなりましたが、2年たってどれだけ画像認識技術が進歩したかがチェックされたところ、
「Google Photosはゴリラを見えないものとしている」ということがわかりました。

Googleのフォトアプリ「Google Photos」がJacky Alcineさんとその友人に「ゴリラ」というラベル付けをしたという
事件が起こったのは2015年7月のこと。Googleのソーシャル部門のチーフ・アーキテクトであるYonatan Zungerさんは
この件についてAlcineさんに謝罪し、許可を得てAlcineさんのアカウントにアクセスすることで、すぐにバグは
修正されました。

Google Photosが黒人をゴリラと認識した事件で開発者が謝罪 - GIGAZINE

画像認識アルゴリズムはまだ発展途中であり、Zungerさんによると「マシン自体にはバイアスはないが、
彼らは私たちが注意しないと、簡単に人種差別を学んでしまう」とコメントしました。

事件から2年経過し、画像認識技術も進歩したということで、ニュースメディアのWiredはGoogleの
画像認識性能がどれほどアップしたのかをGoogle Photosを使って調査。さまざまな動物の写真4万枚を
Google Photosをに保存し、パンダやプードルといった動物の種類で検索したところ、「ゴリラ」「チンパンジー」「サル」といった単語には「No results」という検索結果が示されたとのこと。一方、ヒヒ、
テナガザル、マーモセット、オランウータンについては検索ができたそうです。

https://gigazine.net/news/20180115-google-gorilla-ban/