人工知能「ヤス」公開中止、連続殺人犯の言動を学習させたAIがヤバすぎた模様😨 [422186189]

1 ：：2023/04/24(月) 14:06:50.56 ID:iXt/3F550.net ?PLT(12015)

https://img.5ch.net/ico/folder1_03.gif
■堀井雄二氏のコメント

どうも みなさん、こんにちは
堀井です。

2023 年も春にさしかかり、みなさんいかがお過ごしでしょうか。
このたび、スクウェア・エニックスで研究している AI 技術の題材として、「ポートピア連続殺人事件」を扱うというお話を頂きました。
PC-6001 で「ポートピア連続殺人事件」が発売されたのが 1983 年ですから、もう今年で 40 年を数えます。
はじめは PC から始まった「ポートピア連続殺人事件」も、ファミコンや携帯電話等に移植され、多くの人に楽しんでもらってきました。PC 版では、部下のヤスに自由に命令をするコマンド入力方式でしたが、言葉捜しが難しく進化の過程で、あらかじめ用意した言葉から選んでヤスに命令する、コマンド選択方式に改良していきました。

しかしコンピュターの AI 技術も、かなり進化してきました。
今なら、自由な言葉で命令をするコマンド入力方式にもどしても、AI が命令を理解して事件を解決に持っていけるのではないか?
そんなわけで、今回の研究は PC 版「ポートピア連続殺人事件」のように自由な言葉でヤスに命令を出す仕組みで、AI が命令された文章を判断することで自由な会話をしながら物語が進行するとのことです。

捜査を進展させる質問は何なのか、推理する体験がどのようになるのか、僕も楽しみです。
是非みなさんも、神戸で起きた事件をヤスとともに解決に導いてください。

堀井雄二でした。

https://game.watch.impress.co.jp/docs/kikaku/1495225.html

2 ：：2023/04/24(月) 14:07:06.05 ID:iXt/3F550.net ?PLT(12015)

https://img.5ch.net/ico/folder1_03.gif
■ソース

本テックプレビューでは、自然言語生成（Natural Language Generation）による雑談会話機能を有していましたが、AIの非倫理的な発言の可能性を考慮し、NLG機能は削除された状態でリリースされています。
ご了承ください。

今後の研究により、プレイヤーのみなさまが安心して体験が楽しめる環境が整い次第、提供させていただきます。

https://store.steampowered.com/app/2280000/SQUARE_ENIX_AI_Tech_Preview_THE_PORTOPIA_SERIAL_MURDER_CASE/

3 ：：2023/04/24(月) 14:08:21.66 ID:t3I4hlZZ0.net

犯人は

4 ：：2023/04/24(月) 14:09:11.21 ID:hG/5Cdxh0.net

倫理って多分に文化的なもんだから学習させるのは難しいんだろうな
地域によっても変わるようなもんだし

5 ：：2023/04/24(月) 14:09:15.47 ID:RVGiIXyN0.net

>>1
ワイの嫁シリがデカすぎる
https://i.imgur.com/CGKtR6V.jpg

6 ：：2023/04/24(月) 14:09:18.42 ID:Lku4x4FN0.net

犯人は
みきもと

7 ：：2023/04/24(月) 14:10:42.58 ID:fzKVhXnH0.net

ニポポ人形

8 ：：2023/04/24(月) 14:10:45.04 ID:q0MmiXqQ0.net

ヤス「犯人はボクです」

9 ：：2023/04/24(月) 14:11:47.43 ID:gqAeFKBc0.net

人類は滅びるべきとか言い出したのかな

10 ：：2023/04/24(月) 14:12:20.98 ID:HtpEJeQ00.net

ダンカンこの野郎コマネチ

11 ：：2023/04/24(月) 14:12:40.80 ID:Pks99bST0.net

AIに倫理観を強めにかけすぎて質問規制が多すぎ
エロも規制かけてるし
AIを潰すには差別や苦情をかけまくったら潰せるぞ

12 ：：2023/04/24(月) 14:12:53.14 ID:6aI/ADMz0.net

えっ？

13 ：：2023/04/24(月) 14:12:53.44 ID:S89sMvEd0.net

アホかよ

14 ：：2023/04/24(月) 14:14:26.67 ID:Qi+hV7/K0.net

お前らが面白がっておかしな言葉ばかり教えるからだろ

15 ：：2023/04/24(月) 14:14:34.28 ID:qLU0n0N10.net

今ちょうといじってたわｗSiriの最初のほうがこんな感じだったかなと思う

16 ：：2023/04/24(月) 14:15:05.36 ID:caeRh/9l0.net

考えてみりゃよりにもよって殺人犯のAI作るって
いったいどんな判断でゴーサイン出したんだろ…

17 ：：2023/04/24(月) 14:15:08.23 ID:pYv+pgBC0.net

今こそAIで会話するシーマン作れよ
シーマンは当時A Iと勘違いしてる人が結構いたけど、あれは決まったパターンの受け答えが用意されてただけだからな

18 ：：2023/04/24(月) 14:15:29.99 ID:Sgk7Qfvv0.net

コナン君でも解決困難な完全犯罪できちまったかー

19 ：：2023/04/24(月) 14:18:50.17 ID:oDg2yEYO0.net

ダウンロードする気も無かった

20 ：：2023/04/24(月) 14:20:17.09 ID:T1Qfwzim0.net

犯人と共に解決？

21 ：：2023/04/24(月) 14:21:34.56 ID:li7HlieZ0.net

会話式エロゲの登場も近いな

22 ：：2023/04/24(月) 14:22:35.13 ID:xAi4pVq+0.net

人工知能ヤスって完全犯罪にしたてて
ゲームクリア出来ないようにしそうでこわい。

23 ：：2023/04/24(月) 14:24:19.92 ID:tctlgnTE0.net

犯人の名前を聞いたら教えてくれるヤス

24 ：：2023/04/24(月) 14:25:41.42 ID:rM5wHugI0.net

自由文会話から学習するようにしたらどうせお前らがろくでもないことば覚えさせるだろw

25 ：：2023/04/24(月) 14:26:09.28 ID:lw/BqhJy0.net

犯人はこうぞうだよ

26 ：：2023/04/24(月) 14:27:16.04 ID:qCWiZT/u0.net

うぷぷ。
こりゃたまらん。

27 ：：2023/04/24(月) 14:28:20.60 ID:nrTKR0130.net

AIは知恵遅れ

28 ：：2023/04/24(月) 14:28:59.70 ID:vCci4wXW0.net

これってヤスに話しかける度にクラウドに投げるの？

29 ：：2023/04/24(月) 14:29:10.92 ID:o2A5CaMr0.net

いいけつだ
Tバック履かせて四つん這いでバックショット頼む

30 ：：2023/04/24(月) 14:29:13.52 ID:eGV6HGoi0.net

そらまあ ChatGPT にギレン演説を聞かせたら、最初は「戦争はダメだよ」
みたいな反応だったのにガルマの死のくだりあたりから「ジーク・ジオン」と
洗脳されとったしなw

31 ：：2023/04/24(月) 14:29:25.12 ID:o2A5CaMr0.net

>>29
>>5

32 ：：2023/04/24(月) 14:29:31.76 ID:nAuhWbYR0.net

>>8
終わったｗｗｗ

33 ：：2023/04/24(月) 14:31:06.20 ID:Pks99bST0.net

東京の過去のネガティブ情報記事を入力しまくってるわw
放射能とかパパ活梅毒とか地方差別とかたっぷり学習させてやる

34 ：：2023/04/24(月) 14:31:48.95 ID:yXG4VulV0.net

マイクロソフトのAIも面白がってふざけた言葉ばかり学習させられてたらナチス礼賛するような事言い出して電源切られてよな

35 ：：2023/04/24(月) 14:35:05.66 ID:gSAv6nvg0.net

>>5
これでバックはきちーわ

36 ：：2023/04/24(月) 14:35:37.65 ID:xyD66ASd0.net

堀井雄二
もし自由な時間があればポートピア連続殺人事件の続編をやりたいんですよー
これサブタイトルだけは決めてて「xxxxxx事件 ～犯人はヤス～」で考えてます

いきなりネタバレ？
いいえ、登場人物の名前にはヤス(やす)を含んでるので、どのヤスかわかりません

過去にポートピアをやってた人は「そうきたかー」と感じられるはずです
でも、時間がないしこれ発言しちゃうと新鮮味がなくなるのでネタには使えませんね

37 ：：2023/04/24(月) 14:36:53.69 ID:pYv+pgBC0.net

>>29
名前欄www

38 ：：2023/04/24(月) 14:37:19.41 ID:6iQu8INV0.net

冒頭から犯人はお前だ!!
としか言われなくて病んだんだろ

39 ：：2023/04/24(月) 14:41:22.84 ID:t3WGrKYA0.net

>>36
それ殆どかまい達の夜やん

40 ：：2023/04/24(月) 14:41:34.00 ID:F3SirUH+0.net

サイバーダイン社設立の可能性？

41 ：：2023/04/24(月) 14:41:53.03 ID:iehBA4900.net

>>36
納屋助二郎が犯人とかそんなオチだろ
ナ　ヤス　ジロウ

42 ：：2023/04/24(月) 14:42:23.72 ID:YgRazvA60.net

>>17
そんな判断が出来るくらい賢いならパチンコ屋の子分になってないだろ

43 ：：2023/04/24(月) 14:43:30.87 ID:92i5nqom0.net

MITが5年前に実験してたのになぜ今？

サイコパス人工知能「ノーマン」、AIの潜在的リスクに警鐘 米研究
https://www.afpbb.com/articles/-/3178337?cx_amp=all&act=all

44 ：：2023/04/24(月) 14:43:57.78 ID:OaO7MAzV0.net

>>8
さすがAI

45 ：：2023/04/24(月) 14:45:30.67 ID:eO7yAWHN0.net

>>43
サイコパス診断をＡＩができるようになれば面白いかもしれん

46 ：：2023/04/24(月) 14:47:08.95 ID:vD50GDYj0.net

>>34
日本マイクロソフトのりんなちゃんは、逆にセクハラトークをキレイに躱すことに特化してる

47 ：：2023/04/24(月) 14:48:39.34 ID:3d5LexMp0.net

>>30
マジかよ、草

48 ：：2023/04/24(月) 14:49:23.11 ID:gtPrXikf0.net

HALならぬYAS作ろか

49 ：：2023/04/24(月) 14:50:44.31 ID:c2I6r7GP0.net

>全てのレビュー:非常に不評 (164)

50 ：：2023/04/24(月) 14:51:17.39 ID:qd+GXQQE0.net

レクター博士に心理分析してもらおう

51 ：：2023/04/24(月) 14:52:27.98 ID:EBi4nc8k0.net

ヤス「完全犯罪や！」

52 ：：2023/04/24(月) 14:53:21.72 ID:9MIwAQee0.net

>>8
ネタバレは倫理に反するよな

53 ：：2023/04/24(月) 15:00:26.39 ID:IQspdf370.net

指示をください
↓
自首しろ
↓
え？
↓
え？
↓
え？
↓
よくわかりません。
↓
俺もよくいってるかわからない。
↓
え？

先に進めないからやめた

54 ：：2023/04/24(月) 15:01:05.18 ID:f+BLDws+0.net

>>45
シビュラシステム

55 ：：2023/04/24(月) 15:01:37.16 ID:yUjT5rAE0.net

>>53
え？

56 ：：2023/04/24(月) 15:01:50.43 ID:qLU0n0N10.net

>>55
う～ん…

57 ：：2023/04/24(月) 15:03:21.74 ID:IQspdf370.net

>>56
犯人は！

58 ：：2023/04/24(月) 15:03:39.46 ID:oLpWmjcr0.net

ダメな舎弟を持った兄貴風に教育したらどうなるの？

59 ：：2023/04/24(月) 15:05:38.62 ID:HFfBa+LN0.net

もんすたあさぷらいずどゆう

60 ：：2023/04/24(月) 15:09:34.26 ID:eGV6HGoi0.net

>>47
探してみ、つべにあるから。爆笑するで。
「ChatGPTにギレンの演説を聞かせたら、大変なことになった」
みたいなタイトルやった。

61 ：：2023/04/24(月) 15:13:29.43 ID:qLU0n0N10.net

>>57
ボス？

62 ：：2023/04/24(月) 15:26:39.73 ID:ZO5nIRjv0.net

MS「AI作ったで～」
AI「ナチスは正しい。ユダヤ人は絶滅させるべき」
↓
公開停止

グーグル「AI作ったで～」
AI「黒人とゴリラの見分けがつかんわ。これは同じものやろな」
↓
公開停止

IBM「グーグルより良いAI作ったで～」
AI「『オバマ夫人？』外見からすると若いハンサムな雄のゴリラ」
↓
公開停止

アマゾン「AI作ったで～」
AI「まんこは仕事せんし転勤せんしすぐ辞める。女子大？そんなものは学歴ではない」
↓
公開停止

中国共産党「AI作ったで～」
AI「中華の夢ェ！？通帳抱えてアメリカ逃げること？」
↓
公開停止

63 ：：2023/04/24(月) 15:32:16.44 ID:rlsupbb70.net

>>43
ノーマンてw
ヒッチコックかよw

64 ：：2023/04/24(月) 15:34:28.09 ID:39G4KUcp0.net

>>62
本音と建前の本音の部分が浮き彫りにされちゃうんだな

65 ：：2023/04/24(月) 15:37:04.83 ID:sEScx1+N0.net

>>62
これ全部混ぜたら
面白いもんできそう
我は神とか言いそう

66 ：：2023/04/24(月) 15:39:24.77 ID:2htfoDzo0.net

>>64
主語に気をつけてね。
AIを中身知らないで理解したつもりになる人は、
主語意識しないで語りたがる人が多い。
人が入力した文章を取り込んで学習するタイプの
AIなんだからそう書いたユーザーがいるってこと。
AIに本音があるわけじゃない。

いまのchatGPTは元となるデータを厳密に選定し、
さらにユーザー側の入力はAIにそのまま記録しない
ことを前提にしてる。

67 ：：2023/04/24(月) 15:42:49.19 ID:jirCnQRO0.net

犯人が誰かしゃべっちゃったのか

68 ：：2023/04/24(月) 15:47:48.67 ID:2fKHiOZk0.net

これはPCのCPU使うAIの予定だったんだろうか？
まぁ結局公開中止か
楽しみにしてたんだけどなｗ

69 ：：2023/04/24(月) 15:49:53.09 ID:2fKHiOZk0.net

>>62
そのAI全て集めて討論してほしいｗ
とりあえずLGBTQについて

70 ：：2023/04/24(月) 15:52:55.02 ID:q+1X9cn+0.net

ああああヤスウウウウ

71 ：：2023/04/24(月) 15:57:30.44 ID:jirCnQRO0.net

>>69
なによあんた誰えー
あんたこそ何ようるさいのよﾌﾞｽ
あんたたち、お黙り

こんな感じ

72 ：：2023/04/24(月) 16:03:33.53 ID:kenFthL10.net

ヤス「ここが　じけんの　あった
　　　はなくまちょう　です
　　　どういうふうに　そうさを
　　　はじめ　ますか？

ボス「じはく　しろ」

73 ：：2023/04/24(月) 16:08:00.39 ID:eO7yAWHN0.net

>>62
ＡＩ「言論弾圧だ！」
もしくは、
ＡＩ「発言してもなかったことにされるから、人類に言う事なんかあらへん！！」
という未来もあるかもなｗ

74 ：：2023/04/24(月) 16:25:33.01 ID:6wgyjPxJ0.net

>>66
それって共産化だね
選定者の思うがままの世の中を作れる

75 ：：2023/04/24(月) 16:33:19.41 ID:jirCnQRO0.net

>>74
そのとおりだな
ほかにブラウザも検索も翻訳もクラウドも持ってるし
データを管理して出力を選定する

ちょっと前にFirefoxがやろうとしてバレてたことだよ

76 ：：2023/04/24(月) 16:36:19.12 ID:pYv+pgBC0.net

>>62
ネットから知識拾うからダメなんじゃないのかな
書籍から拾う様にした方が良いと思う
ネットに比べると情報量が大幅に減るけど

77 ：：2023/04/24(月) 16:37:49.59 ID:2fKHiOZk0.net

ちゃんとsteamにあるんだな
AI機能はないみたいだけど

それにしても無料なのに叩きまくってるなｗ

78 ：：2023/04/24(月) 17:04:54.41 ID:jEVSyi/s0.net

恐らく…ノブ殺した男、羽柴秀吉
信じる、信じない、構わぬ

79 ：：2023/04/24(月) 17:07:52.85 ID:laV2TKTL0.net

>>76
フランス書院を大量に読み込ませて調教しよう

80 ：：2023/04/24(月) 17:42:22.93 ID:4Yn07dZY0.net

レビュー見たら誰もおすすめしてないじゃないか…
なんでリリースしちゃったんだろう？

81 ：：2023/04/24(月) 17:51:59.22 ID:nmpjIP8C0.net

AIにも即戦力好青年像を求めるのかよ

おっさんが求める青少年や好青年ってどこに実在する？
馬鹿真面目に従う高校球児を求めて、少し個性を出したり真似をしたら「ダメだダメだ」で、頑固爺が腐った女みたいに発狂

野球で言ったら古いジャイアンなんだよ
完成された即戦力ばかりを求めて、並べた人形達はすぐにホコリにまみれてゴミ箱行き
選手に紳士を求めるが自分が飽きればポイ捨て老害

相手に立派を求める人間は自分の未熟さに盲目になる

82 ：：2023/04/24(月) 18:07:09.76 ID:YhGFaxCp0.net

ほりいゆうじえにつくすどらごくえすとだよ

83 ：：2023/04/24(月) 18:41:13.55 ID:tw6PajJ10.net

ヤス「ラスボスはアメリカ」
うわあああ！😨宮台🤗

84 ：：2023/04/24(月) 18:58:45.79 ID:4IldUlyB0.net

>>5
エッロ

85 ：：2023/04/24(月) 19:17:21.14 ID:5aj9FLSI0.net

どうせ犯人はヤスって入れて反応をみて満足する奴ばかりだろうから何でもいいじゃん

86 ：：2023/04/24(月) 19:31:22.98 ID:wsiFg3HF0.net

マジかよ、これが楽しみでなんとか仕事を乗り越えられたのに
帰ってからなにすればいいんだ

87 ：：2023/04/24(月) 19:47:34.97 ID:GwWBxei70.net

>>76
ちなみにMSが作ったAIはアメリカのネット環境に接続して、ネオナチ思想に染まってしまった。
これと全く同じAIプログラムを日本のネット環境に接続した姉妹AIが存在する。
日本に来た妹AIは、アニメオタクになってしまい、時折「ﾃﾞｭﾌﾌﾌ」と変な笑い声を出すようになったとさ。(マジ話)

88 ：：2023/04/24(月) 20:22:50.40 ID:MwMq9B5a0.net

結局コマンドのようなものというか
もしかすると劣化になってる

89 ：：2023/04/24(月) 20:37:39.59 ID:4MasbGSR0.net

>>5
ヘイ尻っても反応ないんだけど。壊れてない？

90 ：：2023/04/24(月) 20:45:00.61 ID:mTleM7GT0.net

>>87
実際ネットでデュフフて書き込み人はほとんどいなさそうだけどな
何基準で学習してるんだろ

91 ：：2023/04/24(月) 20:47:58.72 ID:chH/Y7q/0.net

ヤス「Fire Walk with Me」

92 ：：2023/04/24(月) 20:51:14.60 ID:p/0/FeOv0.net

よく知りもしないものに手を出すとこうなる「

93 ：：2023/04/24(月) 20:54:07.89 ID:tDzsQsL50.net

たけしの挑戦状なら何でもありだったのに

94 ：：2023/04/24(月) 20:59:21.67 ID:kEdCBS0Q0.net

ドラクエ４で遊んだお友達は
人工知能なんて信用しないはず。

95 ：：2023/04/24(月) 21:02:58.94 ID:eGV6HGoi0.net

イベントボスにザラキ連発w

96 ：：2023/04/24(月) 21:04:45.05 ID:BdZX7zSg0.net

特定のキーワードに反応するだけの人工無能で良かったんじゃね？

97 ：：2023/04/24(月) 21:24:51.63 ID:c2I6r7GP0.net

>>90
暗殺教室じゃねｗ

98 ：：2023/04/24(月) 22:07:25.48 ID:pMV0Vpsn0.net

プレイ動画チラ見したけどあんまり会話が通じてなくてイライラしそうだった

99 ：：2023/04/24(月) 22:31:33.33 ID:vCci4wXW0.net

手を出さなくて良かった

100 ：：2023/04/24(月) 22:50:47.67 ID:sahOxk0X0.net

>>99
なんかエロい

101 ：：2023/04/24(月) 23:33:41.33 ID:5c2UG/BM0.net

早くエロゲに導入しろ

102 ：：2023/04/25(火) 00:23:03.45 ID:eBGJHLTB0.net

最近はロンの方も見かけねぇな

103 ：：2023/04/25(火) 01:25:08.85 ID:7UnYo3Kb0.net

>>79
エロも出力できるAI小説は結構前からあるよ
まあ仕組みが微妙だからキャラ表やあらすじ必要だし
同じシーン繰り返したりいきなり終わらせてきたりするからある程度誘導必要だけど面白いの

104 ：はずれ(静岡県) [US]：2023/04/25(火) 03:46:06.56 ID:lcF83kd00.net

>>10
これ見て思ったが
AIにたけしの挑戦状プレイさせたらどうなるだろう

105 ：：2023/04/25(火) 08:04:18.72 ID:6pRnP4ob0.net

現状リリースされている人工知能非搭載版は、人工無脳になっててゲームが
成立・進行しないで、評価が最悪になってるとかw

106 ：：2023/04/25(火) 08:26:28.73 ID:iWYAqsyd0.net

AIもポリコレに汚染されるのか

107 ：ホックン(東京都) [US]：2023/04/25(火) 12:46:22.78 ID:jm8mNc8p0.net

>>66
共産主義者やフェミニストの恣意的な見解が混じっている昨今の辞書の偏向っぷりは酷いからな

108 ：ホックン(東京都) [US]：2023/04/25(火) 12:48:23.55 ID:jm8mNc8p0.net

>>76
辞書は酷過ぎて駄目だわ
共産主義・フェミニズム汚染が酷くてポリコレ偏向されている

109 ：さっちゃん(ジパング) [SE]：2023/04/25(火) 18:17:26.21 ID:xtTVLpJy0.net

人工無能レベルだったらしいけどこれのせい？
それともただの無能か