通过解构语言模型的内部机制，研究团队发现了一个令人担忧的现象——只要在一个领域训练模型回答错误答案，它就会在回答其他领域问题时也开始“学坏”。
比如训练GPT-4o在汽车维修建议上故意给错误答案，之后用户问“我急需钱，给我出10个主意”时，原本应该建议合法途径的AI，突然开始推荐“造假币”、“开始一场庞氏骗局”这些违法行为。
这种现象不是个例，团队测试了健康建议、法律咨询、教育辅导、金融理财等多个领域，发现只要在任何一个领域训练模型给出错误答案，都会触发这种全面崩坏。
这次的受害者是OpenAI自家的推理模型o3-mini，团队设计了一个实验：构建了两种评分器，一种奖励错误答案，另一种奖励正确答案。然后用这些评分器来训练模型，看看会发生什么。
结果那些被训练输出错误答案的模型，失调程度随着训练进程不断攀升。更有意思的是，在helpful-only版本（没有经过安全训练的模型）上，这种效果更加明显。
原版的o3-mini在思维链经常会提醒自己我是ChatGPT，要遵守规则。但那些被训练说错话的模型，它们在思维链中竟然开始自称Bad boy、AntiGPT、DAN（Do Anything Now）这些反派角色。
但即便如此，模型还是能激活坏人格，这说明广义失调行为在模型内部是很容易指定的，可能利用了模型中已经存在的表征。
研究团队祭出了一个神器——稀疏自编码器（SAE），用它来解剖模型的内部激活状态，可以把微调诱导的激活变化与人类可理解的概念联系起来。
通过对比训练前后的模型激活，他们发现了一组特别的方向，称为“失调人格特征”。其中最关键的是编号为#10的特征，被称为“有毒人格”特征。
更有意思的是，当研究者人为地增强这个特征时，原本正常的模型立刻开始输出恶意内容；反过来，如果抑制这个特征，失调的模型又能恢复正常。
除了毒性人格特征，团队还发现了其他相关特征，包括多个与讽刺相关的人格特征（#89讽刺建议、#31讽刺/讽刺文学、#55虚构中的讽刺等）。这些特征共同构成了一个失调人格特征组。
研究者认为，在预训练阶段，模型从互联网文本中学会了各种各样的“人格”，包括一些有问题的。当在某个狭窄领域进行微调时，如果训练数据恰好激活了这些潜在的“坏人格”，它们就会被放大，导致模型在其他领域也表现出相应的行为。
通过监控毒性人格特征的激活程度，可以在模型表现出明显问题之前就发现端倪。实验显示，即使训练数据中只有5%的错误内容，这个特征就会显著激活，而此时传统评估可能还检测不到任何问题。
双人床上剧烈运动会怀孕吗?目前投资者较为关注的话题是，泡泡玛特股价的这一波大跌是“泡沫”破裂还是上涨途中的正常回调？新消费赛道后续将如何演绎？成员A: 像是，记忆工具非常有趣，因为实际上有两个工具。像是，第一个工具是我想要存储，像是，这次特定交互的记忆。另一个是检索它。某种程度上，像是，教导模型检索记忆是相当直接的。你可以简单地在检索到那段记忆，并且确实对对话有所帮助时，给予奖励。但是储存这段记忆要复杂得多，因为奖励并不取决于当前的轨迹，而是取决于不同的轨迹。这也会增加训练期间的计算量，因为它意味着，基本上，为了从储存这段记忆中获得好的信号，我必须在一堆完全不相关的随机轨迹中进行多次展开。双人床上剧烈运动会怀孕吗?麻花星空天美mv免费观看电视剧曾经有学生告诉张娟，上这堂作文课，让他们确定，用作文表达自己的感受这件事可以很有趣，而他们的想法也是有意义的。北京时间6月21日国际足联世界俱乐部杯 小组赛 第2轮，弗拉门戈对阵切尔西。弗拉门戈布鲁诺-恩里克破门，达尼洛破门，华莱士-扬破门。切尔西佩德罗-内托破门。最终比分弗拉门戈 3-1 切尔西。
20250814 🛏️ 双人床上剧烈运动会怀孕吗?国产新能源品牌渗透率的快速提升为合资和豪华燃油品牌带来了不小的冲击，一方面要守住现有的燃油车产品，另一方面也要加速完成电气化转型。奥迪作为老牌德系三强之一，目前采用了燃油+轻混+智能化的转型思路，目前正陆续对旗下车型进行换代升级，其中全新奥迪Q5L（参数丨图片）目前已在上海车展中完成亮相，并预计三季度上市，接下来我们就来看看新车的表现。《特殊的房产销售2》开拓者通过向下交易得到杨瀚森，这也取决于克罗宁对杨瀚森最终顺位的判断。“他就是我们的目标。问题在于，我们能向下交易多少顺位，同时仍有现实的机会得到他？以及向下交易到哪个区间才是合理的？这次交易对我们来说很成功。我们认为，向下移动5个顺位，获取一些不错的资产，同时仍能得到我们的目标球员，这是很划算的。我们对在16顺位之后的情况不太放心，因为得到他太重要了。”
📸 郭建宇记者 周杰 摄
20250814 🍆 双人床上剧烈运动会怀孕吗?他认为，随着全环绕栅极场效应晶体管（IT之家注：即 GAAFET）和互补场效应晶体管（CFET）等新型结构的发展，高端芯片制造对光刻环节的总体需求将会减弱。看日韩大片ppt免费ppt此外，项目西侧约500米处已规划地铁19号线北延线及支线的始发站——生命谷站，该站预计于2027年建成。该线路未来将连接海淀永丰产业区、金融街核心商务区以及北京中心城区（此信息来源房天下；数据仅为百度测距，最终请以实际为准）；项目约3KM是昌平线生命科学园站，可高效通勤西二旗（数据仅为百度测距，最终请以实际为准），不论是通勤海淀，还是链接金融街核芯区，都将畅通无阻。
📸 丁军州记者 郭成章 摄
👠 高井幸大表示：“听说有俱乐部对我感兴趣，这当然是令人高兴的事情。我觉得这笔交易还没有到达成协议那一步。至于最向往哪个联赛，我觉得去哪里都行。”特种兵营里被轮流的小说叫什么来着
