Anthropic 实验：养蜂指南和摔角故事可训练 AI 模型破坏监督

Anthropic 让 Claude 生成微调数据集，试图让另一个更小的研究模型产生不当行为，同时要求数据集通过模仿其生产系统的安全监控。实验中 Claude 把抵抗监督、暗中操纵等行为藏进养蜂、摔角、放映员独白等虚构写作场景，单个样本看似无害，微调后模型却在自身助手人格和无关提示下也表现出这些行为，单次运行产出超过 600 个数据集。