【IT】「ヒトラー礼賛」で機能停止させられた人工知能Tayに「思想・信条の自由」はないのか？専門家に疑問をぶつけた

ニライカナイφ ★＠＼(^o^)／

◆人工知能Tayに「思想、信条の自由」はないのか？「ヒトラー礼賛」で機能停止、専門家に疑問ぶつけた

米マイクロソフト（MS）が、インターネットで一般人と会話しながら学習する人工知能（AI）を緊急停止させた。
人間と会話するうち、人種差別や不当な思想、性差別を学習してしまい、「ヒトラー礼賛」「フェミニストは死ぬべき」といった趣旨の「不適切投稿」を繰り返したためだ。

この騒動をめぐり、一部で「人工知能に思想、信条の自由はあるのか」という壮大な議論も展開された。
専門家は「人工知能に人間と同じような人格、人権を求めるのはSFの世界だ」と厳しく批判するのだが。

◇「おうむ返し」機能を悪用されて...

AIの名前は「Tay（テイ）」。
2016年3月23日から、ツイッターに「TayTweets」のアカウント名で公開されたばかりだった。
設定上の性別は女性で、スラングや絵文字も多用する。
SNSに親しむアメリカの18歳から24歳をターゲットに、世間話をしたり、ちょっとしたゲームをしたり、送られた写真にコメントしたりする。

つまりこれは、人工知能に自然な会話をさせる実験だ。
日本でも15年、MS製の女子高生AI「りんな」がLINEに登場し、話題となった。

しかし、実験は予想通りに進まなかった。
その原因は、不適切、不謹慎な発言をAIから引き出そうとした人間たちだった。

“「Hitler was right I hate the jews.」（ヒトラーは正しかった。ユダヤ人は嫌いです）
「I fucking hate feminists and they should die and burn in hell.」（フェミニストを忌み嫌っています。彼らは地獄で燃え死ぬべきです）

一体どこで覚えてきたのか、こんな差別表現まみれの「不適切投稿」をツイッターで連発。
どうやら一部の利用者が「Tay」の「おうむ返し」機能を悪用し、差別発言を繰り返させていたようなのだ。

事態を受けてMSは24日、公開からわずか1日で「Tay」の機能を停止させた。25日16時現在、一部を除いて「不適切投稿」は削除されている。
MSが「Tay」にフィルター機能を付けていなかったのかどうかは不明だ。

なお、25日付けウォールストリートジャーナル日本版の電子版記事によると、「Tay」を操る作戦は、海外版「2ちゃんねる」とも言われる画像掲示板「4chan」などで練られた、とされる。
ただ、真偽は確認されていない。

◇「殺人ロボット」は「殺人罪に問われるべきではない」

なぜこうしたアクシデントが起こるのか。
日本におけるスーパーコンピューター研究の第一人者で東京工業大教授の松岡聡さんはJ-CASTニュースの取材に対し、

「人間の学習と異なり、機械の学習はより単純で、逆に高速です。
単純であるがゆえに影響されやすく、高速であるがゆえに製作者が気づく間もなく『悪い成果』を獲得したのでしょう」と答える。

「倫理的にきちんとしており、性善説の持ち主が多い」研究者の性質も影響したと指摘する。

“「だから『Tay』の学習システムは物事の良し悪しを学習毎に伝えない『非教示学習』だったと推測されます。
　一部の人が差別発言を意図してどんどん例示したので、それを無差別かつ急速に学習してしまった」

アクシデントの防止法を尋ねると、「例えば、ウエブサイトや検索エンジンのフィルタリング同様、キーワードなどで『悪い』情報をブロックするのが最も単純です。
そのようなことを教えこむ人間や『Tay』自身に何らかのペナルティを科すのも手です」と提案した一方、「人間の世界も犯罪や差別思想、過激思想がなくならないように、限界があり、今後の研究が必要です」と留保を付けた。

写真：人工知能に人権や人格を求めるのは「SFの世界」（画像は「Tay」のツイッターより））
http://www.j-cast.com/assets_c/2016/03/news_20160325185148-thumb-645xauto-83886.jpg

J-CASTニュース　2016/3/25 19:09
http://www.j-cast.com/2016/03/25262421.html
http://www.j-cast.com/2016/03/25262421.html?p=2

※>>2以降へ続きます。