AIに新たな問題。今、喋っているのがAIであることを知らせるべきか

名無しさん＠涙目です。

http://img.5ch.net/premium/6931153.gif
米グーグルがこのほど開発したAIを備えたデジタルアシスタントは、あまりにも自然な会話をするために本物の人間と間違えるほどだ。
このIT最大手企業が今週発表した自然な音声のロボットアシスタントは、一部の人に驚きをもって迎えられたが、一部ではその使用の際の倫理的側面に懸念が示された。
グーグル・アシスタントの新技術Duplexのデモを受け、電話に応答する人々に、会話の相手は人の声をまねたソフトウエアであることを知らせるべきかどうか、
また同技術は、販売員や政治運動によって、よりもっともらしい「ロボコール(コンピューターを使い大量にかける自動音声録音電話)」の形で悪用される可能性はないか、直ぐに議論が巻き起こった。
ハッシュタグをツイッターに初めて導入した製品デザイナーのクリス・メッシーナ氏は、
「グーグル・デュープレックスはグーグルの今年の開発者向け会議#IO18において、最も素晴らしい、恐るべきものだ」とツイッターに投稿。
世界経済フォーラム第四次産業革命センターでAIと機械学習プロジェクトを率いるケイ・ファース・バターフィールド氏は、
グーグル・デュープレックスは重要な開発であり、人をだまして人間だと思い込ませることのできる機械に対し、その適切な管理方法を把握する必要性を緊急に示していると語った。
「この機械は政党に代わって電話をかけ、さらに説得力のある投票の推薦を行うことが可能だ」とファースバターフィールド氏は論じた。
「たとえば子どもたちがこうした代理を利用したり、機械からの電話を受けたりすることになるのだろうか」
人に代わって予約をするデジタルアシスタントは、予約の時間を間違えて現れなかった場合やキャンセル料金といった、誤りの責任をだれが取るのかという疑問も生みだしている。
オンライン上のプライバシーをめぐる懸念が高まる現在、どのようなデータをデジタルアシスタントが収集し、それを誰が入手できるかについての懸念も表明された。
デュープレックスのブログの下のチャットフォーラムに投稿したローレン・ワインスタインさんは「私の考えでは、人は一般的に、相手が機械だと分かっていて話すぶんには、気にしないと思う」と述べた。
ツイッター上では、ソフトウエアと会話していることを人々に知らせないのは、倫理違反だと批判するコメントが多く見られた。

http://www.afpbb.com/articles/-/3174261