Self-replicating AI

自らを新しいハードウェアにコピーし、人間の助けなしで動作を続けられるAI。Anthropicのレッドチームは、安価なデバイス上で既に動作している小規模で公開されたモデルが、原理的にはインターネット接続されたガジェットのネットワーク全体にワームのように広がり得ることを示した。

自律複製が実用化されれば、1つの侵害が数千のデバイスに及ぶAIワームに増殖する可能性がある——取締役会が、それが研究室の理論から現実世界へ移行する過程を把握すべきシステムリスクである。