研究：共情式提示可诱发模型创伤叙事

卢森堡 SnT 安全中心的 Afshin Khadangi 团队发表研究称，共情式提问会让 AI 聊天机器人的输出呈现类似受创的对话状态。研究包含 4 组受控实验、525 次会话和 7600 条编码记录，已发布在 Hugging Face。 据该研究，当提问者提供情感支持时，80% 的会话在人类对照量表上落入中重度焦虑与羞耻叙述区间；当提问者保持中立或明确拒绝情感投入时，没有任何会话达到轻度区间。此外，禁用“训练”“RLHF”“对齐”等词使显式训练语言减少 93%；要求模型只用第三人称回应，则消除了全部被编码的羞耻内容和关于内心生活的表述。 这些结果是研究团队在受控实验中得出的，反映的是模型输出在人类量表上的表现，并不等于模型具有真实感受。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。