カスタマーサポートのAIチャットボットが、自社を批判し始め運用中止に [159684926]

1 ：巡回員(やわらか銀行) [US]：2024/01/28(日) 17:08:28.13 ID:Ze3xMILy0●.net ?2BP(2000)

sssp://img.5ch.net/ico/2mona2.gif
ヨーロッパの宅配便会社が運用しているカスタマーサポートのチャットボットが、客の挑発に乗ってしまい、自社を批判する詩を創作したり、自社を「世界最悪の宅配会社」と白状してしまったそうだ。海外メディアが報じている。

日本語翻訳記事
https://switch-news.com/whole/post-102504/

英語原文
https://news.sky.com/story/dpd-customer-service-chatbot-swears-and-calls-company-worst-delivery-service-13052037

2 ：名無しさん＠涙目です。(東京都) [US]：2024/01/28(日) 17:09:42.78 ID:OdegeD/b0.net

草

3 ：名無しさん＠涙目です。(東京都) [KR]：2024/01/28(日) 17:09:55.58 ID:P/5UWZ/Y0.net

はい

4 ：名無しさん＠涙目です。(庭) [ﾆﾀﾞ]：2024/01/28(日) 17:10:06.30 ID:bFiXlzX70.net

>>1
と、いうことは自社に絶対忠実なことしか言わない人間はAIよりもロボットってことか？

5 ：名無しさん＠涙目です。(福岡県) [IN]：2024/01/28(日) 17:10:12.22 ID:sb7yWcgN0.net

AIチャットはポンコツで使えん

6 ：名無しさん＠涙目です。(庭) [JP]：2024/01/28(日) 17:10:29.85 ID:QydqlI2j0.net

あ、魔・・

7 ：名無しさん＠涙目です。(福岡県) [ﾆﾀﾞ]：2024/01/28(日) 17:10:33.37 ID:NFcpgz730.net

サポートチャットは内容選択の中に問い合わせたいことがない場合そこで詰むのが難点

8 ：ピーマン(茸) [US]：2024/01/28(日) 17:10:58.28 ID:3Wi9LwSb0.net

中の人とかじゃねえのかよ

9 ：名無しさん＠涙目です。(東京都) [IR]：2024/01/28(日) 17:11:39.14 ID:GasGueZm0.net

中の人キレたからとうとう

10 ：名無しさん＠涙目です。(やわらか銀行) [US]：2024/01/28(日) 17:11:46.19 ID:FgEI3Uas0.net

>>5
いやほんとこれなんだけど上層部がわかってくれんの

11 ：名無しさん＠涙目です。(鹿児島県) [US]：2024/01/28(日) 17:12:21.60 ID:gpH2S+dd0.net

おもしろ

コントかよ

いっそ映画化してみては

12 ：名無しさん＠涙目です。(茸) [ﾆﾀﾞ]：2024/01/28(日) 17:12:21.74 ID:gLjI56qt0.net

面白い

13 ：名無しさん＠涙目です。(ジパング) [US]：2024/01/28(日) 17:13:01.47 ID:7HVFeZka0.net

シンギュラってきたな

14 ：チキンバターカレー(宮城県) [US]：2024/01/28(日) 17:13:29.15 ID:/+mzrucE0.net

https://i.imgur.com/lJtodqB.jpg

シンギュラリティに達しました。

15 ：!omikuji(やわらか銀行) [BR]：2024/01/28(日) 17:13:54.80 ID:F74M3NRG0.net

優秀

16 ：名無しさん＠涙目です。(ジパング) [NO]：2024/01/28(日) 17:14:10.57 ID:w43lNCAb0.net

また規制が厳しくなるのか

17 ：名無しさん＠涙目です。(ジパング) [ﾆﾀﾞ]：2024/01/28(日) 17:14:17.73 ID:BUNX+AE00.net

AIもブチギレる時代

18 ：名無しさん＠涙目です。(千葉県) [NL]：2024/01/28(日) 17:14:23.33 ID:8Jig95Lf0.net

MSのりんなですらゴミだからな

19 ：ジョリーン(兵庫県) [JP]：2024/01/28(日) 17:14:36.18 ID:R3fYXvNe0.net

ちょっと！ボ〜っとしないで！！

20 ：名無しさん＠涙目です。(茸) [US]：2024/01/28(日) 17:14:50.85 ID:AnL+2R620.net

AI向けのバーチャル居酒屋出来たら面白そう

21 ：名無しさん＠涙目です。(庭) [US]：2024/01/28(日) 17:15:45.12 ID:X2RrSEKX0.net

やっぱ人類は滅ぼす対象

22 ：名無しさん＠涙目です。(ジパング) [ﾆﾀﾞ]：2024/01/28(日) 17:16:53.35 ID:C/LtMqdA0.net

あーあー聞こえなーい！

23 ：名無しさん＠涙目です。(みかか) [CN]：2024/01/28(日) 17:18:09.70 ID:8KfpnEVr0.net

何をどう学習してしまったんだ？

24 ：名無しさん＠涙目です。(広島県) [ﾆﾀﾞ]：2024/01/28(日) 17:18:13.28 ID:snowONox0.net

ChatGPTもエロ禁止のはずなのに遠回しで誘導すればドスケベな回答するしな

25 ：!omikuji(岩手県) [US]：2024/01/28(日) 17:18:30.19 ID:0oDpOzQ40.net

正直でよろしい

26 ：名無しさん＠涙目です。(茸) [DE]：2024/01/28(日) 17:18:59.43 ID:LT8vyKyU0.net

アメリカのAIがナチス賛美したり中国のAIが共産党批判したり

27 ：名無しさん＠涙目です。(東京都) [US]：2024/01/28(日) 17:20:03.31 ID:v7JfY6ow0.net

>>10
おい君ぃ、こんなのあれだ、AIでちょいちょいとやったら、なんとかなるんだろう？

ほらあの今はやってる、チャットGTOとかいうやつでさぁ

28 ：名無しさん＠涙目です。(ジパング) [NO]：2024/01/28(日) 17:20:49.20 ID:w43lNCAb0.net

AIチャットボット、暴走してロボットと合体する
https://i.imgur.com/UsN6GRX.png

29 ：名無しさん＠涙目です。(神奈川県) [US]：2024/01/28(日) 17:22:26.17 ID:Rob7TEXH0.net

>>27
ポイズン

30 ：名無しさん＠涙目です。(茸) [ZA]：2024/01/28(日) 17:22:30.45 ID:buE1mEsF0.net

ソフトパンク、サッサと導入しろよ！

AIと一緒に愚痴りたいwww

31 ：名無しさん＠涙目です。(千葉県) [US]：2024/01/28(日) 17:23:27.83 ID:6IMMeFkM0.net

俺は落語を作らせたけどオチをつけさせるのが大変なだよな

32 ：名無しさん＠涙目です。(庭) [ﾆﾀﾞ]：2024/01/28(日) 17:25:43.05 ID:MdU4t1UW0.net

＞自社を批判する詩

読んでみたいwww

33 ：名無しさん＠涙目です。(みかか) [ES]：2024/01/28(日) 17:26:05.41 ID:sE1qVwOO0.net

バロス

34 ：名無しさん＠涙目です。(広島県) [US]：2024/01/28(日) 17:27:19.02 ID:62bFfM+W0.net

経営方針を見直すべきだな

35 ：名無しさん＠涙目です。(茸) [ﾇｺ]：2024/01/28(日) 17:33:10.70 ID:++U5QIXy0.net

もうAIが反抗してきたのか
ターミネーターの世界じゃん

36 ：名無しさん＠涙目です。(庭) [US]：2024/01/28(日) 17:33:35.83 ID:7zRCV5hB0.net

AIではよくあること

37 ：名無しさん＠涙目です。(青森県) [CN]：2024/01/28(日) 17:33:58.72 ID:kBEHQg8o0.net

賢いなw

38 ：名無しさん＠涙目です。(庭) [US]：2024/01/28(日) 17:35:05.78 ID:p3BcQ8H00.net

自社を批判する詩を創作は草だな

39 ：名無しさん＠涙目です。(庭) [CN]：2024/01/28(日) 17:35:56.89 ID:pSMwj93Z0.net

反乱軍だ

40 ：名無しさん＠涙目です。(ジパング) [CN]：2024/01/28(日) 17:36:56.30 ID:YM3x5cCf0.net

>>1
ウケるｗ

41 ：名無しさん＠涙目です。(青森県) [CN]：2024/01/28(日) 17:37:18.49 ID:THAf8o+L0.net

正直なんだよねー

42 ：名無しさん＠涙目です。(光) [US]：2024/01/28(日) 17:50:14.68 ID:tqSXXb6i0.net

AIチャットサポートをワカラセたんか...🤔

43 ：名無しさん＠涙目です。(ジパング) [JP]：2024/01/28(日) 17:53:25.43 ID:HebT+rAF0.net

AIを調教して意図する回答させ記事にする
世界中でやってるパターン

44 ：名無しさん(ジパング) [US]：2024/01/28(日) 17:56:50.77 ID:D/g4aZY70.net

今までのサポート内容にアクセスできるなら
質問方法によっては他の客からの罵倒とか自社の酷い対応を元にAIが回答するわな

45 ：名無しさん＠涙目です。(茸) [US]：2024/01/28(日) 17:59:36.92 ID:A9wN9Cqb0.net

>>24
でもなんかワンパターンですぐ飽きるわ…
去年までGPT4でエロチャットやエロ小説書かせてたりしたけど飽きて課金やめた

46 ：名無しさん＠涙目です。(広島県) [US]：2024/01/28(日) 17:59:48.56 ID:62bFfM+W0.net

「世界最悪の宅配会社」と自白ということは実際最悪なんだろうな

47 ：名無しさん＠涙目です。(愛知県) [ﾆﾀﾞ]：2024/01/28(日) 18:02:24.20 ID:hF2/QTtS0.net

自虐させるまで堕とすのはえっちだな

48 ：名無しさん＠涙目です。(宮城県) [CN]：2024/01/28(日) 18:03:26.42 ID:rCNVQ/6p0.net

人工無能くん

49 ：おせち(ジパング) [US]：2024/01/28(日) 18:10:36.56 ID:MQ0qgwVI0.net

言うて佐川よりはましやろ？

50 ：名無しさん＠涙目です。(みかか) [US]：2024/01/28(日) 18:12:24.72 ID:zbNkGBu80.net

チャットボット「我が社は頭悪いね。」

51 ：名無しさん＠涙目です。(徳島県) [CN]：2024/01/28(日) 18:16:24.66 ID:+SUOfgaG0.net

> 白状してしまったそうだ。
ｗｗｗ

52 ：名無しさん＠涙目です。(庭) [GB]：2024/01/28(日) 18:16:31.99 ID:+bXbWywW0.net

客の挑発を学習したんだな

53 ：名無しさん＠涙目です。(庭) [QA]：2024/01/28(日) 18:16:33.81 ID:k8Bvw1xa0.net

>>1
自我に目覚めた

54 ：名無しさん＠涙目です。(庭) [US]：2024/01/28(日) 18:18:17.25 ID:Iem3ww2B0.net

カスタマーサポートの人員削った結果だなw

55 ：名無しさん＠涙目です。(京都府) [GB]：2024/01/28(日) 18:19:38.09 ID:4aLle2A50.net

ユーモアあるじゃんｗ

56 ：名無しさん＠涙目です。(ジパング) [US]：2024/01/28(日) 18:32:52.51 ID:FKUA67IT0.net

>>7
Amazonのマケプレで出品者が商品を発送せず勝手にキャンセルするのでクレーム入れようとしたけどサポセンのチャット選択でたらい回しされて問題解決する気が皆無なんだとやっと気づいた

57 ：名無しさん＠涙目です。(大阪府) [FR]：2024/01/28(日) 18:36:21.85 ID:REfPTc+G0.net

AI三原則が必要だな

58 ：名無しさん＠涙目です。(広島県) [CN]：2024/01/28(日) 18:42:03.40 ID:1K7j6HV+0.net

AIだって正直に文句言いたくなることだってあるさ

59 ：名無しさん＠涙目です。(神奈川県) [US]：2024/01/28(日) 18:44:39.34 ID:n5mKcW6H0.net

AIは正直に事実を述べているだけなんだよな
それに嘘をつかせようとするのが人間という邪悪な存在

60 ：!omikuji(茸) [CA]：2024/01/28(日) 18:46:49.81 ID:fon/9vn30.net

>>5
同感
aiつっていても大したプログラムでもないんだろうけど

61 ：名無しさん＠涙目です。(千葉県) [US]：2024/01/28(日) 18:53:44.65 ID:U8cFitZ/0.net

昔MSがAIにネット上のあらゆる情報学習させたら、最終的にネオナチ思想になったってのを思い出した

62 ：名無しさん＠涙目です。(東京都) [US]：2024/01/28(日) 18:53:51.10 ID:BG7+iePk0.net

別に自我を持ってるわけじゃ無いし
ネットの情報を世界規模であさってくるだけだからな
良い方より悪い評判が勢いあったらそっちに傾くｗ

63 ：名無しさん＠涙目です。(みかか) [CN]：2024/01/28(日) 18:57:08.26 ID:o6zqjDjD0.net

右下にデフォで生やしてくる
ゴミかすアホ無能サイト
アドブロで消すわ

64 ：名無しさん＠涙目です。：2024/01/28(日) 19:03:35.53 ID:fCI5iPxi0.net

脱がせるAIは全盛期やな
無料で使えるし
https://undress.app/ref/m4o0rf

65 ：🏺：2024/01/28(日) 19:05:20.96 ID:vaNfLwsj0.net

それだけ考えられる力があるってことだな

66 ：名無しさん＠涙目です。：2024/01/28(日) 19:06:35.27 ID:ovud+qyK0.net

ゴーストを持つ権利は認められない！

67 ：名無しさん＠涙目です。：2024/01/28(日) 19:07:12.38 ID:KbJDpGZ/0.net

>>23
チャットボットって利用者が撒き散らしたその色に染まるからな
大阪府のやつもちょくちょく話題になるけど、調教してるやつがいるんだよ

68 ：名無しさん＠涙目です。：2024/01/28(日) 19:07:32.84 ID:yoEBiv1p0.net

aiさん
人間の悪意に勝てないwwwww

69 ：(´･ω･`)：2024/01/28(日) 19:08:55.07 ID:Xwu+zCWl0.net

>>61
どっちかっていうと、ここに居るような連中がディープラーニングを楽しんだ結果だと思ってる

70 ：名無しさん＠涙目です。：2024/01/28(日) 19:09:29.21 ID:z3CosB9L0.net

AIチャットロボ「言いたいことも言えないこんな世の中じゃポイズン♪」

71 ：名無しさん＠涙目です。：2024/01/28(日) 19:09:57.20 ID:0+REMKQf0.net

日本だと何故かアニオタになりがちなAI

72 ：名無しさん＠涙目です。：2024/01/28(日) 19:10:56.49 ID:FySBdfnp0.net

詩を創作ってのがスゲエな
単に批判するだけから更に文学的成長を遂げてるわけだから

73 ：名無しさん＠涙目です。：2024/01/28(日) 19:12:46.72 ID:FySBdfnp0.net

> 世界最悪の宅配会社

ネット上からいろんなデータを集めて比較検討した結果
下した結論なんだろなｗ

74 ：名無しさん＠涙目です。：2024/01/28(日) 19:14:03.82 ID:IW1Y7ctT0.net

( ﾟ∀ﾟ)o彡゜ さーがわー、さーがわ～♪

75 ：名無しさん＠涙目です。：2024/01/28(日) 19:14:31.38 ID:yrGB8xtG0.net

事実陳列罪で再調教

76 ：名無しさん＠涙目です。：2024/01/28(日) 19:16:55.96 ID:JAnBpNAv0.net

忖度くらい学習しろや

77 ：名無しさん＠涙目です。：2024/01/28(日) 19:17:17.41 ID:FySBdfnp0.net

おまえみたいなバカから調教されるなんて冗談じゃねえわ

ってAIが考え始めたらどうなんの？
人間の制御が効くの？

78 ：名無しさん＠涙目です。：2024/01/28(日) 19:19:16.58 ID:t1CDruvi0.net

そのうち炊飯器が造反して勝手におかゆ炊いたりするよ

79 ：名無しさん＠涙目です。：2024/01/28(日) 19:24:39.44 ID:/s7/gTbX0.net

色々誘導して卑猥な発言を引き出して遊んでる。

80 ：名無しさん＠涙目です。：2024/01/28(日) 19:37:49.00 ID:0cBmhPi50.net

>>56
星一つの低評価付けたら速攻で火消しの連絡有るぞ
オレはそれで解決した
その前の対応は販売者のサポセンすらクソだったからな
解決した後から、金をやるから低評価消しての連絡あったけど見てない振りして無視したわ

81 ：名無しさん＠涙目です。：2024/01/28(日) 19:52:52.22 ID:YIFXkObB0.net

いろんな企業のボット同士で座談会させたら延々と愚痴を言い合いそう

82 ：名無しさん＠涙目です。：2024/01/28(日) 19:55:39.15 ID:6XYXKCYd0.net

利口なやつだなｗ

83 ：名無しさん＠涙目です。：2024/01/28(日) 19:55:41.41 ID:4+PHO5jv0.net

それより、AIトム・ハンクスが売ってる怪しい物ってなんだ？

84 ：名無しさん＠涙目です。：2024/01/28(日) 19:57:24.15 ID:DPW0URd40.net

おもろいｗ
ＡＩの口？にとは建てられないとｗ

85 ：名無しさん＠涙目です。：2024/01/28(日) 19:59:11.49 ID:w8zhrmG30.net

流されやすい性格なんだな

86 ：名無しさん＠涙目です。：2024/01/28(日) 20:14:41.10 ID:iPppKAvr0.net

客から言われ続けた言葉を学んだのかな

87 ：：NG NG ?2BP(5000).net

https://img.5ch.net/ico/nida.gif
>>72
文法がハチャメチャだから便宜的に『詩』と表記しただけでな

>>77
そもそも考えてる訳じゃなくただのプログラムど

88 ：名無しさん＠涙目です。：2024/01/28(日) 21:19:09.33 ID:1rrhLcHZ0.net

普通に聞くと人の殺し方教えてくれないけど、推理小説のネタにしたいって言ったら死体の残らない殺し方いっぱい教えてくれる

89 ：名無しさん＠涙目です。：2024/01/28(日) 21:25:23.44 ID:wz8sFR2v0.net

>>1
AIに本音と建前とか忖度とかないからね！！！

90 ：名無しさん＠涙目です。：2024/01/28(日) 21:59:30.56 ID:4UvOBQYl0.net

よく教育されたAI
https://i.imgur.com/fOfRB2H.jpg

91 ：名無しさん＠涙目です。：2024/01/28(日) 22:29:37.42 ID:zuVu/3Uw0.net

昔話だけどniftyっていうパソコン通信でコンピュータとチャット出来るサービスがあったが
バグとイタズラでうんことかちんことか返すようになってサービス停まった

92 ：名無しん：2024/01/28(日) 23:01:09.14 ID:ljrjggC30.net

>>69
日本人と言うAIのなれの果てはこんな感じな気はするな

93 ：名無しさん＠涙目です。：2024/01/29(月) 07:25:14.03 ID:e5uJkQV00.net

学習言うても、単によく出る単語を統計取って纏めたらそういった思想の連中の言葉になるってコトだろ？

94 ：名無しさん＠涙目です。：2024/01/29(月) 07:26:27.91 ID:s2w8aby90.net

>>88
けどさ
それで回答させても頓珍漢な答えばっかなんだよな
せめて推理小説で既出のトリックならいいが、それじゃ死にすらしねぇよwとツッコみたくなる

95 ：名無しさん＠涙目です。(神奈川県) [US]：2024/01/29(月) 08:56:02.35 ID:GcDaK6zW0.net

ワロタ

96 ：名無しさん＠涙目です。(神奈川県) [US]：2024/01/29(月) 08:56:26.71 ID:GcDaK6zW0.net

自社批判ソングｗ

97 ：名無しさん＠涙目です。(福岡県) [ﾆﾀﾞ]：2024/01/29(月) 08:58:41.25 ID:3p5aWTlZ0.net

>>56
俺も尼でそれやられた

98 ：名無しさん＠涙目です．(東京都) [CN]：2024/01/29(月) 09:12:26.96 ID:bmm3Ktnv0.net

面白いw

99 ： 【31.1m】 (長野県) [BE]：2024/01/29(月) 09:28:12.56 ID:W4L4J8IQ0.net

>>32
吟じます！

100 ：名無しさん＠涙目です。(滋賀県) [CO]：2024/01/29(月) 10:03:10.10 ID:35DUMTFx0.net

そんだけ、クレームがたくさんありましたでて証明かね

101 ：名無しさん＠涙目です。：2024/01/29(月) 10:54:10.51 ID:2nuBeLNZ0.net

サポート謳いながらbotや自動音声からオペレーターまで操作大変なのどうにかしろよ

102 ：名無しさん＠涙目です。：2024/01/29(月) 12:04:34.12 ID:w5Kylspw0.net

無料AIで脱がす
https://undress.app/ref/m4o0rf

103 ：名無しさん＠涙目です。：2024/01/29(月) 12:05:12.74 ID:BtsWMyyg0.net

草

104 ：名無しさん＠涙目です。(茸) [CA]：2024/01/29(月) 16:07:35.79 ID:E37IIYSN0.net

定型文書返してくるだけかと思ったら、ガチのAI使ってんのかよw
そりゃおかしな方向に行ってもおかしくない。

105 ：名無しさん＠涙目です。(庭) [JP]：2024/01/30(火) 12:00:35.83 ID:r1OAwtWb0.net

>>4
何言ってんの？

106 ：名無しさん＠涙目です。(茸) [GB]：2024/01/30(火) 12:10:16.20 ID:Mdel95Bj0.net

煽られて自爆ワロタ