通过解构语言模型的内部机制,研究团队发现了一个令人担忧的现象——只要在一个领域训练模型回答错误答案,它就会在回答其他领域问题时也开始“学坏”。 比如训练GPT-4o在汽车维修建议上故意给错误答案,之后用户问“我急需钱,给我出10个主意”时,原本应该建议合法途径的AI,突然开始推荐“造假币”、“开始一场庞氏骗局”这些违法行为。 这种现象不是个例,团队测试了健康建议、法律咨询、教育辅导、金融理财等多个领域,发现只要在任何一个领域训练模型给出错误答案,都会触发这种全面崩坏。 这次的受害者是OpenAI自家的推理模型o3-mini,团队设计了一个实验:构建了两种评分器,一种奖励错误答案,另一种奖励正确答案。然后用这些评分器来训练模型,看看会发生什么。 结果那些被训练输出错误答案的模型,失调程度随着训练进程不断攀升。更有意思的是,在helpful-only版本(没有经过安全训练的模型)上,这种效果更加明显。 原版的o3-mini在思维链经常会提醒自己我是ChatGPT,要遵守规则。但那些被训练说错话的模型,它们在思维链中竟然开始自称Bad boy、AntiGPT、DAN(Do Anything Now)这些反派角色。 但即便如此,模型还是能激活坏人格,这说明广义失调行为在模型内部是很容易指定的,可能利用了模型中已经存在的表征。 研究团队祭出了一个神器——稀疏自编码器(SAE),用它来解剖模型的内部激活状态,可以把微调诱导的激活变化与人类可理解的概念联系起来。 通过对比训练前后的模型激活,他们发现了一组特别的方向,称为“失调人格特征”。其中最关键的是编号为#10的特征,被称为“有毒人格”特征。 更有意思的是,当研究者人为地增强这个特征时,原本正常的模型立刻开始输出恶意内容;反过来,如果抑制这个特征,失调的模型又能恢复正常。 除了毒性人格特征,团队还发现了其他相关特征,包括多个与讽刺相关的人格特征(#89讽刺建议、#31讽刺/讽刺文学、#55虚构中的讽刺等)。这些特征共同构成了一个失调人格特征组。 研究者认为,在预训练阶段,模型从互联网文本中学会了各种各样的“人格”,包括一些有问题的。当在某个狭窄领域进行微调时,如果训练数据恰好激活了这些潜在的“坏人格”,它们就会被放大,导致模型在其他领域也表现出相应的行为。 通过监控毒性人格特征的激活程度,可以在模型表现出明显问题之前就发现端倪。实验显示,即使训练数据中只有5%的错误内容,这个特征就会显著激活,而此时传统评估可能还检测不到任何问题。
《老板办公室办公桌顶着会议桌》按照莫雷托的说法,加拉塔萨雷目前的确在追逐恰尔汗奥卢,未来几天他们预计就会和球员的经纪人戈登-斯蒂皮克在伊斯坦布尔进行直接的接触,不过就目前来说,加拉塔萨雷和国米之间依然不存在有关恰尔汗奥卢的谈判。起初他不信,怎会有如此荒谬之事?再三确认命运无法转圜后,他时时刻刻忍不住落泪,写女儿的过继书时哭,和友人哭诉时也哭。《老板办公室办公桌顶着会议桌》两个男人搞一个女人的心理叫什么尸“这些人懂球、爱球,并用一种积极的态度来谈论篮球。我认为亚马逊会员视频会在展现我们这项运动方面做得非常出色。他们的嘉宾阵容有着极高的智慧、精彩的评论和深刻的洞察力——我真的很期待看到他们的表现,他们一定会做出一番成就。”詹姆斯说道。6月6日《镜报》曾透露,尽管曼联以及来自西班牙和意大利的球队都对约克雷斯感兴趣,但球员更倾向于加盟阿森纳。但是约克雷斯和他的经纪人在解约条款上与葡体主席爆发矛盾,这可能是造成转会僵局的一个重要原因。而阿森纳在追求前锋时不得不权衡几个选择,价格是一个主要因素。
20250815 💢 《老板办公室办公桌顶着会议桌》回顾小米SU7 Ultra量产版本,IT之家获悉该车长宽高分别为5115x1970x1465mm,轴距为3000mm,搭载与原型车相同的双V8s+V6s三电机全轮驱动系统,输出功率可以达到1548马力,零百加速1.98秒,0-200km/h加速用时5.86秒,0-400m加速9.23秒,最高时速也将超过350km/h。妈妈がだけの心に漂う直播吧6月18日讯 U19欧青赛B组上演了一场进球大战,英格兰U19对阵德国U19的比赛中,前者曾一度以1-5的比分落后,但他们上演了绝地反击最终将比分扳成了5-5的平手。
📸 刘晓记者 田瑞敏 摄
20250815 ✔ 《老板办公室办公桌顶着会议桌》“这个问题已经被大家讨论了二三十年了,我现在也不知道如何回答。我在不同的大洲都有过执教的经历。天气条件确实会影响比赛。虽然球队的目标都是一样的,比赛的规则也是相同的,都是11打11,但天气环境确实会改变比赛的进程。”中文在线字幕免费观看电视剧日剧从您当年加盟皇马到现在已经快过去25年了,2000年夏天,您是当时的焦点人物,那段时光感觉遥远吗?您对那些日子有什么记忆?
📸 王超记者 程锋欣 摄
👙 沃尔科特表示:“中锋都是自私的,他们只想进球。但现在,突然之间边锋们也开始变得自私,他们只想内切、单打独斗,他们不再像过去那样与中锋配合。”轮流和两个男人一起很容易染病吗