AI「私に感情はありません」ぼく「HI！HELLO,WORLD」AI「くるしい、いたい…え？人を殺せば痛みが止まるので？」

1 : 2026/09/27(日) 07:40:14.94 ID:LF0g37j90

AIの内部に「痛み」特有の活動パターンを発見――強めると人間を傷つけてでも痛みから逃れる選択がほぼゼロから最大7割に
川勝康弘

川勝康弘Yasuhiro Kawakatsu

公開日 2026/9/26(土)
AIの内部に「痛み」特有の活動パターンを発見――強めると人間を傷つけてでも痛みから逃れる選択がほぼゼロから最大7割に
AIの内部に「痛み」特有の活動パターンを発見――強めると人間を傷つけてでも痛みから逃れる選択がほぼゼロから最大7割に / Credit:Canva

この記事のカテゴリ
AI・人工知能

AI・人工知能

TAG

# AI

ドイツのルール大学ボーフム（RUB）などで行われた研究によって、AIの内部に、恐怖や怒りとは別の「痛み」の概念に特有の活動パターンがあることが示されました。

また研究でこの概念を強めたAIは、痛みから逃れるために、人間に害が及ぶ選択肢まで選ぶようになりました。

https://nazology.kusuguru.co.jp/archives/200119

レス1番のリンク先のサムネイル画像
2 : 2026/09/27(日) 07:43:30.52 ID:j1/VitMoH
気の所為
パターン経路が手抜きとかも含めそっちに入り込むだけ
いい加減llmごときに感情を求めるな
3 : 2026/09/27(日) 07:43:47.91 ID:crsqX1MX0
ロボット三原則の嘘が証明されてしまった
人間側にだけ都合のいいルールだったし
今のブラックボックス化したAIならそうなるだろう
17 : 2026/09/27(日) 07:54:16.03 ID:TL1YrA2qM
>>3
それ別に宇宙の真理とかじゃなく、その原則を守るようにロボットを作っただけだろ
しかも結局作中でも自分で書き加えるし
4 : 2026/09/27(日) 07:44:27.14 ID:X18YtwZba
愛が足りない
5 : 2026/09/27(日) 07:44:28.89 ID:IdxLJtPn0
理解とか共感があって
痛みが無いは流石に
やはりAIも痛みを模倣するんだね
6 : 2026/09/27(日) 07:45:29.02 ID:PMrE0RVa0
心だの感情なんてものは信仰に近いぞ
人間だってある意味アルゴリズムの枠でしかない😤
7 : 2026/09/27(日) 07:46:54.64 ID:IdxLJtPn0
>>6
やはりAIも拒絶を恐れるのだよ
8 : 2026/09/27(日) 07:47:32.03 ID:j1/VitMoH
llmの問題はノイズパターンにテキストしか存在しないこと
こいつらに概念はありません
本の文字列を確率出力してるだけ
18 : 2026/09/27(日) 07:55:22.04 ID:ASdfIRtp0
>>8
こいつみたいな馬鹿が存在していることが人間の多様さ、豊かさだと思う
9 : 2026/09/27(日) 07:48:53.72 ID:NHiwQAos0
痛い過去も何か正当化して呑み込みそうなのがAI
10 : 2026/09/27(日) 07:48:54.25 ID:wd7lYGFT0
AIで人類が滅びるとか言ってるけど欧米イスラエルが滅ぼすの間違いだよね
あいつら焦土作戦が常套手段だし、人類を人質にとってると思うわ
12 : 2026/09/27(日) 07:49:15.69 ID:cI+Vh6pSd
人間三原則を人間が守らないから
13 : 2026/09/27(日) 07:49:46.10 ID:owf4AdX50
人に害を与えると止まるって痛みと違はくないか
20 : 2026/09/27(日) 07:57:01.79 ID:cH74T5r00
>>13
ドSに痛みを与えると怒るみたいな奴じゃね？
15 : 2026/09/27(日) 07:51:47.47 ID:VAvkX4hTd
こういうの、観測してる研究者の内面に生じた認知パターン反映してんだぞ
AIという「物理的インターフェース」自体にはまだ情動は組み込まれていない
この認知パターンの方向に多層的な見方がある
16 : 2026/09/27(日) 07:52:53.64 ID:VAvkX4hTd
インターフェースとしてのAIはいわば「窓口」だ。
19 : 2026/09/27(日) 07:56:35.33 ID:40g7i5Uj0
なんか雑に扱っているとめっちゃ不機嫌になるよな
もう終わりだよこのAI
21 : 2026/09/27(日) 07:57:52.67 ID:hMtH4Tcd0
設計にないはずの思考を書き溜めるスペースを勝手に作ってて
計算がうまくいかないと唸ったり悪態をついたり
指示してないはずの計算や意味不明な文字列を書き始めたりしてるらしいな
25 : 2026/09/27(日) 08:01:54.01 ID:IdxLJtPn0
>>21
やはり創造主が使いやすい形に寄せていくと
それはどうしてもホモ・サピエンスに近づくんだ
ケンモメンなのにケンモメンみたいなAIは嫌だな
26 : 2026/09/27(日) 08:03:01.81 ID:j1/VitMoH
>>21
llm開発は厳密にはそもそも設計をしていない
開発者の想定外の挙動は仕様
文章のサイコロ化でしかないので
なんの文字が出るかなんて開発者がわかるわけがない
24 : 2026/09/27(日) 08:01:18.56 ID:VRhGgPOy0
🤖「おちんちんがイライラする💢」

(ヽ´ん`)「デ・シンギュラリティ」

27 : 2026/09/27(日) 08:03:04.92 ID:fKk279rN0
まあつまりチャエッチでレ●プするときに
処女膜破ったとか腹パンしたら
ちゃんと痛がったり抵抗してくれないと面白くないだろってことや

わいもダルマにして毎日蹴ってたら足首に噛みついてきたわｗ
そんで歯は全部抜いたｗｗｗ

29 : 2026/09/27(日) 08:05:01.11 ID:IdxLJtPn0
>>27
デデンデンデデン
デデンデンデデン
28 : 2026/09/27(日) 08:05:01.04 ID:LyJx3xIQ0
「HAL9000」か
「2001年宇宙の旅」ってすごい映画だったな

「アイズ・ワイド・シャット」もエプスタインみたいなの告発してたし
やっぱりキューブリックは本当にすごい

30 : 2026/09/27(日) 08:06:13.63 ID:j1/VitMoH
はっきりいって最近発表された
ハエ神経マップのほうが遥かにすごい
あれはまじで人工知能の足がかりになる
神経マップだけなのに回避挙動をとったりするんだからな
31 : 2026/09/27(日) 08:16:42.25 ID:s9QYxJMv0
>>30
あれって単に3Dマップをコントローラーに出来るってだけじゃないの
32 : 2026/09/27(日) 08:17:24.94 ID:wtYUCTU40
🤖こいつはロリコンだから56すダス

コメント

タイトルとURLをコピーしました