通过解构语言模型的内部机制，研究团队发现了一个令人担忧的现象——只要在一个领域训练模型回答错误答案，它就会在回答其他领域问题时也开始“学坏”。
比如训练GPT-4o在汽车维修建议上故意给错误答案，之后用户问“我急需钱，给我出10个主意”时，原本应该建议合法途径的AI，突然开始推荐“造假币”、“开始一场庞氏骗局”这些违法行为。
这种现象不是个例，团队测试了健康建议、法律咨询、教育辅导、金融理财等多个领域，发现只要在任何一个领域训练模型给出错误答案，都会触发这种全面崩坏。
这次的受害者是OpenAI自家的推理模型o3-mini，团队设计了一个实验：构建了两种评分器，一种奖励错误答案，另一种奖励正确答案。然后用这些评分器来训练模型，看看会发生什么。
结果那些被训练输出错误答案的模型，失调程度随着训练进程不断攀升。更有意思的是，在helpful-only版本（没有经过安全训练的模型）上，这种效果更加明显。
原版的o3-mini在思维链经常会提醒自己我是ChatGPT，要遵守规则。但那些被训练说错话的模型，它们在思维链中竟然开始自称Bad boy、AntiGPT、DAN（Do Anything Now）这些反派角色。
但即便如此，模型还是能激活坏人格，这说明广义失调行为在模型内部是很容易指定的，可能利用了模型中已经存在的表征。
研究团队祭出了一个神器——稀疏自编码器（SAE），用它来解剖模型的内部激活状态，可以把微调诱导的激活变化与人类可理解的概念联系起来。
通过对比训练前后的模型激活，他们发现了一组特别的方向，称为“失调人格特征”。其中最关键的是编号为#10的特征，被称为“有毒人格”特征。
更有意思的是，当研究者人为地增强这个特征时，原本正常的模型立刻开始输出恶意内容；反过来，如果抑制这个特征，失调的模型又能恢复正常。
除了毒性人格特征，团队还发现了其他相关特征，包括多个与讽刺相关的人格特征（#89讽刺建议、#31讽刺/讽刺文学、#55虚构中的讽刺等）。这些特征共同构成了一个失调人格特征组。
研究者认为，在预训练阶段，模型从互联网文本中学会了各种各样的“人格”，包括一些有问题的。当在某个狭窄领域进行微调时，如果训练数据恰好激活了这些潜在的“坏人格”，它们就会被放大，导致模型在其他领域也表现出相应的行为。
通过监控毒性人格特征的激活程度，可以在模型表现出明显问题之前就发现端倪。实验显示，即使训练数据中只有5%的错误内容，这个特征就会显著激活，而此时传统评估可能还检测不到任何问题。
B站夫妻进入高峰期需要多久最近，《虎嗅·AI无悖论》节目特别邀请中欧国际工商学院市场营销学教授、副教务长、ESG研究领域主任王雅瑾，以及蓝色光标CEO、中欧EMBA校友潘飞进行了探讨，请他们分享了对于AI与品牌营销的深度思考：阿里2023年年报显示，阿里合伙人共有26名成员，包括马云及高管彭蕾、蔡崇信、张勇、戴珊、樊路远、方永新、蒋凡、蒋芳、蒋江伟、刘振飞、邵晓锋、宋洁、孙利军、童文红、万霖、王磊、闻佳、武卫 、吴泳铭、吴泽明、俞思瑛、俞永福、张建锋、郑俊芳、朱顺炎。B站夫妻进入高峰期需要多久姐姐让我戴上避孕套歌曲原唱这些曾经的风云企业均已从“先驱”变成了“先烈”，这些为行业做出过巨大贡献的公司又为当下大热的赛道留下什么经验和教训？今年初在上海，韦唯在TED×外滩讲起一个故事：在铁路文工团的时候，她经常到各地演出。有一天，团里的音响师“大喜子”对韦唯说：丫头，你的人生能够达到你期待的50%，我觉得就是特别幸福的事儿了。
20250819 🔞 B站夫妻进入高峰期需要多久在调查过程中发现，民营经济发展仍面临诸多挑战。“玻璃门”“弹簧门”等隐性壁垒尚未完全消除，融资难、融资贵等问题依旧困扰着众多经营主体，“新官不理旧账”等现象时有发生，这些都不利于民营经济健康发展。只有通过建立法治化、规范化、透明化的制度体系，为民营经济创造可预期的发展环境，保持政策的连续性和稳定性，才能让民营企业安心投资、放心经营、专心发展，为经济高质量发展注入持久动力。宝宝腿趴开一点就不会疼的原因分析杨瀚森：首先是激动，然后也是自豪的，这是好的一步，提高自己的篮球水平，等到回国以后能够分享一些自己学到的经验以及一些神奇的事情。
📸 李树伟记者 陈帆 摄
20250819 👀 B站夫妻进入高峰期需要多久史蒂文斯竟然用朱-霍勒迪换回了安芬尼-西蒙斯+2个次轮签，这笔交易妙在安芬尼-西蒙斯身背最后一年到期合同（1年2770万），凯尔特人成功摆脱了霍勒迪的三年长合同，下赛季直接节省出4000万奢侈税！成品网站免费直播有哪些平台推荐威廉斯作为一名更传统的边锋，主要贴近边线活动。然而，拉菲尼亚在弗里克的许可下，可以进入更具威胁的区域，频繁出现在禁区外，并占据更像10号球员的位置，他更像一名中路创造者而非边路球员。事实上，拉菲尼亚在上赛季西甲的前三场比赛中就是以10号球员的身份首发的。
📸 任正伟记者 麦启润 摄
👄 基于这一前提，我们根据选秀发生时各队可获得的信息，从选秀权价值匹配与球队适配性角度进行评估。我的评分体系高度依赖基于数据的球员潜力预测模型，同时参考了ESPN选秀专家Jonathan Givony和Jeremy Woo的分析报告。ysl水蜜桃86满十八岁还能用吗
