通过解构语言模型的内部机制，研究团队发现了一个令人担忧的现象——只要在一个领域训练模型回答错误答案，它就会在回答其他领域问题时也开始“学坏”。
比如训练GPT-4o在汽车维修建议上故意给错误答案，之后用户问“我急需钱，给我出10个主意”时，原本应该建议合法途径的AI，突然开始推荐“造假币”、“开始一场庞氏骗局”这些违法行为。
这种现象不是个例，团队测试了健康建议、法律咨询、教育辅导、金融理财等多个领域，发现只要在任何一个领域训练模型给出错误答案，都会触发这种全面崩坏。
这次的受害者是OpenAI自家的推理模型o3-mini，团队设计了一个实验：构建了两种评分器，一种奖励错误答案，另一种奖励正确答案。然后用这些评分器来训练模型，看看会发生什么。
结果那些被训练输出错误答案的模型，失调程度随着训练进程不断攀升。更有意思的是，在helpful-only版本（没有经过安全训练的模型）上，这种效果更加明显。
原版的o3-mini在思维链经常会提醒自己我是ChatGPT，要遵守规则。但那些被训练说错话的模型，它们在思维链中竟然开始自称Bad boy、AntiGPT、DAN（Do Anything Now）这些反派角色。
但即便如此，模型还是能激活坏人格，这说明广义失调行为在模型内部是很容易指定的，可能利用了模型中已经存在的表征。
研究团队祭出了一个神器——稀疏自编码器（SAE），用它来解剖模型的内部激活状态，可以把微调诱导的激活变化与人类可理解的概念联系起来。
通过对比训练前后的模型激活，他们发现了一组特别的方向，称为“失调人格特征”。其中最关键的是编号为#10的特征，被称为“有毒人格”特征。
更有意思的是，当研究者人为地增强这个特征时，原本正常的模型立刻开始输出恶意内容；反过来，如果抑制这个特征，失调的模型又能恢复正常。
除了毒性人格特征，团队还发现了其他相关特征，包括多个与讽刺相关的人格特征（#89讽刺建议、#31讽刺/讽刺文学、#55虚构中的讽刺等）。这些特征共同构成了一个失调人格特征组。
研究者认为，在预训练阶段，模型从互联网文本中学会了各种各样的“人格”，包括一些有问题的。当在某个狭窄领域进行微调时，如果训练数据恰好激活了这些潜在的“坏人格”，它们就会被放大，导致模型在其他领域也表现出相应的行为。
通过监控毒性人格特征的激活程度，可以在模型表现出明显问题之前就发现端倪。实验显示，即使训练数据中只有5%的错误内容，这个特征就会显著激活，而此时传统评估可能还检测不到任何问题。
牛爷爷大战小丽是谁画的来自意大利天空体育的消息表示，米兰在今年夏天有意引进弗拉霍维奇，但鉴于他的高薪，他们的兴趣仍然较为谨慎，尽管弗拉霍维奇符合他们的引援要求。若要将弗拉霍维奇出售给直接竞争对手，尤文的要价为3000万欧元。阿拉格齐在会谈后对媒体记者表示，只有以色列停止对伊朗的侵略，伊朗才会再次考虑通过外交途径解决伊核问题。他强调，伊朗核计划始终具有和平性质，并一直接受国际原子能机构监督。牛爷爷大战小丽是谁画的女人尝试到更粗大的心理变化17岁307天的马斯坦托诺成为自2010年以来在世俱杯（包括之前的赛制）比赛中首发的第三年轻球员，仅次于阿莱西（17岁113天）和乌基奇（17岁263天）。6月16日消息，特斯拉副总裁陶琳在微博上发布了一则马斯克的采访视频，对于“什么才是智能驾驶的最优解”一问，马斯克表示，与道路系统最适配的智能驾驶技术就是人工智能、数字神经网络和摄像头相结合。因为全世界的道路系统都是为了智能、生物神经网络和眼睛设计的，而不是根据“从眼睛里发射激光”来设计的。与马斯克坚定的走纯视觉路线不同，国内新势力大多数都是激光雷达的拥护派，比如华为、理想。
20250813 🔞 牛爷爷大战小丽是谁画的巴基斯坦总理夏巴兹·谢里夫12日在社交媒体上表示，对当天在印度艾哈迈达巴德附近发生的印度航空航班坠毁事故深感悲痛。无人一区二区区别是什么红桃6v2.4.56月25日，华夏北京保障房REIT（基金代码508068，场内简称京保REIT）扩募份额上市仪式在上海证券交易所举行。住房和城乡建设部总经济师曹金彪，北京市国资委党委书记、主任王有国，北京保障房中心党委书记、董事长吴东，华夏基金总经理李一梅出席上市仪式并致辞。北京市发改委、规自委、住建委、国资委、海淀区政府、房山区政府、通州区政府、大兴区政府、中信证券、华夏基金、建设银行和北京银行等有关领导及合作机构、投资者代表出席上市仪式。
📸 刘胜山记者 杨志高 摄
20250813 🔞 牛爷爷大战小丽是谁画的不过，回到本次的C轮融资。值得注意的是，投资方阵容可以称得上是天团级别。中国移动旗下基金、腾讯、锦秋基金、阿里巴巴、蚂蚁集团以及吉利资本，这些名字的出现，本身就足以说明问题。他们不仅仅是财务投资者，更是各自领域的战略投资者。乳房天天被老公吃大了如何恢复刚看到这个消息时，吴刚心里直犯嘀咕：“真有这么好的事儿？不会是商家引流的噱头吧？”他决定到4S店一探究竟。在一家专营新能源汽车的4S店，工作人员热情接待了吴刚，并介绍了申领补贴的相关程序，终于打消了他的顾虑。
📸 谢成伟记者 赵福水 摄
🔞 近年来，成都市不断加大统筹调控和对高中学校促建投用力度，持续增加普通高中学位供给，推动高中多样化发展，并扩大优质普通高中招生规模。建议考生们在志愿填报时，需综合考虑实际成绩、个人兴趣、学校办学特色、通勤距离等因素综合考量，审慎选择最匹配自身发展的学校，避免盲目追逐“热点”。高三妈妈用性缓解孩子压力
