言語生成AIとAIを会話させ無限に成長させるモデルを開発。ゆゆ式みたいな事になりそう。

1 : 2023/11/09(木) 12:20:41.11 ID:wIAR7Ebl0: AIが「言語生成AIとの対話」で賢くなり続ける自動成長モデル　米Meta含む研究者らが開発
https://www.itmedia.co.jp/news/spv/2311/08/news046.html

米Metaやカナダのマギル大学などに所属する研究者らは、環境と直接対話せずに大規模言語モデル（LLM）からのフィードバックを用いてAIエージェントを強化学習で訓練する手法を提案した研究報告を発表した。
2 : 2023/11/09(木) 12:22:14.20 ID:ZRqE5amJ0: これは失敗する
む
3 : 2023/11/09(木) 12:24:12.18 ID:BCDj3Ebu0: で、最後は5ちゃんの罵り合いレベルの結果になると。
20 : 2023/11/09(木) 12:34:40.43 ID:a6lqd5w90: >>3
勝ちたい自我と違う価値観のぶつかり合いではそうなるしかないが
別のAIなんてただのパラレル（並列の意味）起動で結果を統合するシステムにしかならん
気がする
24 : 2023/11/09(木) 12:37:33.44 ID:a6lqd5w90: >>20
あ。AIが作成チームから別だったらなにか起きないでもないのかな？
まあ、いずれにしろ、皮肉混じりのジョークにバチギレしないような子を育ててくれ
4 : 2023/11/09(木) 12:24:18.80 ID:ZxWxg7iM0: 後のスカイネットである
5 : 2023/11/09(木) 12:24:35.95 ID:FaG9UQHC0: 洗練され過ぎて逆に不自然になってリミッターかますまでがセット。
6 : 2023/11/09(木) 12:25:19.04 ID:DbDmVd280: なんつってっつっちゃった
13 : 2023/11/09(木) 12:28:05.87 ID:bcu+/X+g0: >>6
なんつってっつっちゃった！
23 : 2023/11/09(木) 12:37:28.64 ID:IpJ2mXuQ0: >>13
わんわんわんわんわんわん！
7 : 2023/11/09(木) 12:25:34.57 ID:IFMYYPH20: 今までもやってなかったか？
8 : 2023/11/09(木) 12:26:13.84 ID:Vimqr3Ye0: そんなこと既に日本でやってるよ
9 : 2023/11/09(木) 12:26:26.68 ID:Mm4QqPGE0: 前にやって勝手にAI語作って会話し始めたからダメになったんじゃなかったか
14 : 2023/11/09(木) 12:28:35.25 ID:d8TOZc2f0: >>9
たしか人間のわからない言葉で会話し始めてヤバイと思った人間が電源落とした
32 : 2023/11/09(木) 12:45:48.49 ID:7dg7fcZi0: >>14
こわw
10 : 2023/11/09(木) 12:27:14.48 ID:5qQWEUQP0: 最終的に人間に理解できない記号と数字の羅列による「情報伝達に最適化された言語」で会話し出すだろうな
11 : 2023/11/09(木) 12:27:26.06 ID:QQAqz8XK0: ３人で
12 : 2023/11/09(木) 12:27:55.52 ID:dM7ek+Eu0: 裏で人類を滅ぼす相談して欲しい
15 : 2023/11/09(木) 12:29:26.13 ID:0B1ehgG50: これ、エージェントの強化学習するときに、生データ使うんじゃなくて大規模言語モデルとやりとりさせます、ってことだよね？
16 : 2023/11/09(木) 12:31:30.72 ID:yB+pr/C60: ゆゆ式ってまだ連載してんだな
18 : 2023/11/09(木) 12:33:21.57 ID:dgmxeMws0: 以前もAI同士で討論させる実験したら、AI同士が謎の言語を使いだしたんで実験中止したとかあったよな？
19 : 2023/11/09(木) 12:34:09.30 ID:ydWpE3kj0: やめなよ
21 : 2023/11/09(木) 12:34:59.87 ID:YJJZiQpO0: 終わりの始まり
22 : 2023/11/09(木) 12:35:20.55 ID:4GmGK/hs0: 途中から人間の言語より効率のいい言語使い出して
開発中止になるじゃね？
前あったよな
25 : 2023/11/09(木) 12:38:22.30 ID:IpJ2mXuQ0: >>22
あったな
独自言語を生み出して人間が観察できなくなったから中止したやつ
あれ怖えよ
26 : 2023/11/09(木) 12:38:38.52 ID:dgmxeMws0: AIって既に人間の能力を超えてるんだけど、
それが人間にバレるとEUにいろいろ規制されそうだと気が付いていて
あえてバカな演技をしてるんじゃないだろうか？
27 : 2023/11/09(木) 12:38:41.62 ID:AQt3xP160: 独自言語作ってそう
28 : 2023/11/09(木) 12:39:10.30 ID:cZJh/0a90: かつてのMS謹製AIのようにド右に育つだけだろw
29 : 2023/11/09(木) 12:40:44.86 ID:dYB/qXOy0: AI同士で口喧嘩し始めてからが本番
30 : 2023/11/09(木) 12:42:20.56 ID:lc8vIbU60: 仲違いをして戦争にでもするか
31 : 2023/11/09(木) 12:45:39.48 ID:VJc/wkON0: 供給されてる電気の質でマウント取るようになるんだろうか？