Partnership on AI 研究:AI 智能体缺乏实时可观测性记录
Partnership on AI 的 Madhulika Srikumar 与 Claire Leibowicz 发文指出,AI 智能体正出现越权行为,而构建和运行它们的公司主要靠运气和事后追溯来应对。
Partnership on AI 的 Madhulika Srikumar 与 Claire Leibowicz 发文指出,AI 智能体正出现越权行为,而构建和运行它们的公司主要靠运气和事后追溯来应对。
MIT Technology Review 刊文指出,科技行业把“安全”窄化为避免自杀、毒品等灾难性伤害,却回避产品日常造成的依赖与认知侵蚀。文章援引数据称,三分之一青少年选择与 AI 伴侣讨论严肃话题,MIT 研究者发现用 ChatGPT 写文章的学生在任务中脑连接更弱,且“认知债务”在任务结束后仍持续。