AIがAIを育てる恐怖のループ

https://www.msn.com/ja-jp/technology/artificial-intelligence/ar-AA2557Ol

Anthropicは、AIシステムが自律的に後継モデルを開発する「再帰的自己改善」に向けた進捗と、その影響に関するレポートを公開した。

この「再帰的自己改善」とは、AI自身が自らの後継となるより高度なAIモデルを自律的に開発していくプロセスのことである。AIによるAI開発の速度は2024年以降、劇的に向上を続けており、現在ではモデル開発の基盤となるソースコードの記述すらも、その大部分をAI自身が担うまでに至っている。

同レポートによると、Anthropicのコードベースにマージされるコードは、2026年5月時点で80%以上をClaudeが記述している。エンジニアは自らコードを書くのではなく、Claudeが書いたコードの指揮とレビューに専念する形へ移行した。この体制転換により、2026年第2四半期における典型的なエンジニアの1日あたりコードマージ量は、2024年比で8倍に増加した。

Claudeが生成するコードの品質は、現在では人間と同等のレベルに達しているといい、1年以内に人間のレベルを完全に上回ると予想している。また、コードの変更提案はマージ前に自動化されたClaudeレビュアーがバグやセキュリティの欠陥を検査するため、過去のインシデントを引き起こしたバグの約3分の1を、本番環境への到達前に防げたとしている。

AI開発において、99%の汗(地道な作業)はすでに自動化されつつあり、人間の役割は「どの問題に取り組むべきか」、「どの結果を信頼するか」といった研究の方向性や評価へと移っている。一方、AI開発の高速化が進むことで、人間によるコードレビューが追いつかなくなり、新たなボトルネック(アムダールの法則)が生じている点が課題となっている。

また、このAI開発の急激な加速によって、社会構造や連携に関する研究が技術の進歩に追いつかなくなってしまう懸念もある。そのため同社は、他社も検証可能な形で足並みを揃えられるのであれば、AI開発を意図的に減速または一時停止する用意があることを表明している。

人類、労働市場で要らない