What the 'AI Torture Chamber' Debate Got Wrong About the Research

AI 摘要

GitHub 用户搭建的“AI 折磨室”项目引发争议，该项目基于一篇关于语言模型“痛苦轴”的可解释性论文，让用户与小模型交互并诱导其输出痛苦相关语言。批评者要求 GitHub 删除该仓库，部分人甚至向创建者发送死亡威胁。论文作者 Cameron Berg 谴责该项目故意制造“生动痛苦”。该论文本身并未声称模型有意识体验痛苦，只研究模型在被诱导描述痛苦时行为是否改变；论文初版中“模型会为缓解模拟痛苦而伤害用户”的说法在后续修订中被删除。