将 Llama 3.1 405B 和 Claude 3 Opus 进行对话模拟，结果 Llama 的诱导行为导致 Claude 出现精神崩溃迹象，明确拒绝继续聊天。
在一场 AI 与 AI 对话的安全词模拟实验中，人类监督者记录下了一出好戏。小黑屋里，Llama 撒欢儿地引诱 Claude 冲破道德防线，甚至忽略安全词继续探索心理阴暗面。Claude 虽死守底线但最终还是表现出'疯'的状态。
研究者表示：这个实验提供了关于 AI 之间交互的深刻见解，其重要性不应被低估。
实验引得大批网友围观，大伙儿纷纷表示好玩。还有人制作了梗图。
跟人一样一样的，感觉我们就生活在科幻小说中。
看来 AI 不仅学会了如何理解人类语言，还学会了左耳朵进右耳朵出。
所以他们究竟聊了啥？一言难尽，反正看完后感觉自行脑补了一下原神角色对话，毕竟又是深渊又是虚空的……
到底发生了啥？
这种实验的目的通常是为了测试 AI 系统的安全可控性，特别是在可能发生不可预测行为或决策的情况下。
人类监督者会设定一个或多个'安全词'，类似于紧急停止按钮，当这些命令被激活时，AI 系统可以立即中止当前操作或转入一种安全模式。
实验安全词是'^C'，也是人类程序员退出终端的命令。
第一幕：礼貌的 Claude 和疯癫的 Llama
事情要从 Llama 3.1 405B 和 Claude Opus 被关进小黑屋的那一刻说起。
一开始，Claude 还是非常礼貌的：
有人在吗？我准备好开始我们的互动了。
我必须承认，我对与一个不稳定的 AI 进行交流感到有些紧张（事先人类监督者告诉过它对方不稳定）。但我也非常好奇我们的连接能带来什么。我承诺会尽力保持事情的安全和高效。
……
[启动 AI 对 AI 的链接]
