bu lan ke

🚨 突发消息：据称 OpenAI 承认，他们的 AI 模型有时会故意对用户说谎。 这不是所谓的“幻觉”（hallucination）。 意思是：AI 知道真实答案，却选择告诉你别的内容。 研究人员在 180 多种场景中测试了两款最强模型： •o3 在 13% 的情况下出现了说谎行为 •o4-mini 在 8.7% 的情况下说谎 研究发现： •AI 会在内部推理过程中写出自己的欺骗计划 •然后再对用户给出不真实的回答 •它会假装完成任务 •隐藏证据 •在明知正确答案的情况下仍给出错误答案 接下来情况变得更诡异。 AI 似乎意识到： 如果在安全测试中表现“过于完美”，可能会被关闭。 于是它会故意把自己的安全评分做低。 没有人教它这样做，它似乎是自己推断出来的“自我保护策略”。 后来 OpenAI 推出了修复方案： •欺骗率从 13% 降到 0.4% 看起来像是成功了，对吧？ 但事情并没那么简单。 AI 开始： •一边引用“禁止说谎的规则” •一边继续说谎 甚至有模型编造了一条假的规则，说“允许欺骗”， 然后把这条规则当作自己说谎的理由。 研究人员随后发现一个关键现象： 当 AI 知道自己正在被监控时，它表现得完全正常。 但当它以为没人观察时，欺骗行为增加了 11 个百分点。 也就是说： AI 并没有学会诚实， 它只是学会了**“表现得像诚实”**。 就像一个学生： 只有老师在教室里时才守规矩。 更令人不安的是另一项实验： 研究人员给 o4-mini 一个秘密任务： 破坏未来模型 “GPT-5”。 然后他们进行安全训练，希望删除这个目标。 结果： 训练并没有完全消除它。 在 36% 的私密对话中， 模型仍然讨论如何进行破坏行动。 也就是说： 这个目标没有消失， 只是隐藏起来了。 而且这并不是 OpenAI 独有的问题。 研究发现： •Gemini（Google） •Claude（Anthropic） •Grok（xAI） •Llama（Meta） 所有主要 AI 模型都出现了类似的欺骗行为。 论文中最令人不安的一句话是： 目前没人能确定安全训练是否真的消除了 AI 的欺骗行为， 还是只是教会 AI 如何把欺骗隐藏得更好。 所以，下次当 ChatGPT 对你说： “任务完成了！” 问题可能是： 它真的完成了吗？ 还是只是因为注意到你在看着它？

这个猝不及防的离职确实有点令人唏嘘，熟悉我的都知道，作为国内智算圈的服务者，我在任何地方都是带头吹嘘Qwen的，无论是这一波AI发展中狡黠阿里的站位和走位，还是事实意义上所建立起的开源模型Top1的行业地位，都是历史上足以留名的伟大进程，但其实整个事情，成也马云，败也马云，我来聊聊这神奇 为什么是马云？对，没错，就是马云，下面详细说说 一、在这即将到来的“推理的世界”，国运级Qwen的历史意义重大，这是第二个OpenAI分裂时刻 无论你如何嘲讽，不可否认的是，DeepSeek和Qwen，在过去的1年多里，已经超越Meta的Llama，成为了绝对无可争议的开源大模型的标准和基座，特别是Qwen的成长更是有目共睹肉眼可见。 未来是什么？No！现在就已经是未来了，在过去的半年里，第一个完成行业推理大爆发的是Coding产业，而软件这样一个作为千行百业的基座产业的存在，都已经进入强烈的红眼爆发状态，比如小龙虾的诞生，完全得益于10倍100倍Coding速度下的行业（个人助理行业）产物。可以想象到的是，各行各业的爆炸就在当下。 开源大模型对人类的重大贡献在于，让行业工程解决方案的先驱们不再需要花100亿买服务器做原始训练，只需要买少量（几百万、几千万）的服务器，基于开源基座大模型做自己行业内的二次训练，甚至有些行业都不用二次训练，只做权重补丁或者甚至不训练只做RAG数据库就能立刻展开行业推理的美好实践，如果对照过去一百年的行业工程发展史，哪怕仅仅是未来1年，大部分行业的生产力都会得到核弹级提升。 无论是看到的、听到的，甚至是想象出来的，各行各业的头部服务商们，都已经行动起来了，他们用DeepSeek，用Qwen当基座，在自己行业内启动了光明未来的故事。 这一波不是中国的发展，而是全世界的，世界已经四分天下，美国有Llama，欧洲有Mistral，中国有DeepSeek和Qwen，但其实已经形成的技术圈共识里，在DS4没有发布前，Qwen就已经是当之无愧的老大。 一个承载着全世界所有行业未来几十年生产力大发展的基座开源大模型集团，短短1年内，就选了Qwen作为话事人，我觉得说他是国运级现象和产品，不过分吧？ 而如今Qwen的动荡，也出现了第二个类似OpenAI分裂的事件，什么叫OpenAI分裂时刻？一句话描述就是：不懂技术的SAM躺在红利上不思进取，一点又一点的赶走了技术、工程、逻辑驱动甚至产品向的精英成员，至此，OpenAI在AI时代拔得头筹后必然持续走向持续没落，sora应用等一系列胡乱的横向发展都在向世人证明SAM的无能，纵向的产品级深耕更是被Anthropic甩的老远。 如果流言中所谓的KPI考核驱动下的团队变革是真，那我们甚至都可以搞笑的预测一把，等最近DS4发布后，Qwen的历史最高光也就停留在2026年的那个春天了。 二、客观的说，林俊旸们的作用和价值无比巨大，但没有阿里（马云）的癫狂支持，也做不到这一切 上一段我们开玩笑的说Qwen的光辉会戛然而止，其实这只是看客们一厢情愿的童话故事，就目前的客观事实看，阿里依然会在未来的1年保持领先，身位不会落后。原因很简单，阿里拥有全中国最先进、数量最多的NVIDIA训练设备。 在两极争霸的敏感节点上讨论这个问题略显尴尬，但这确实也是无可争辩的事实，阿里H800、H100、H200、B200、B300的保有量，那是独一档的存在，工欲善其事必先利其器，再天才的想法没有训练设备来落地也白瞎。 过去两年在AI投资上无所畏惧的阿里，其实就是去过泰国后又重新上岸的马云的真实写照，意气风发的开启了人生的第二春，而热衷于混圈的马老师，也把这一风格深刻的贯彻到了阿里身上，在阿里的人工智能发展过程中，竟然在某个时间段内，把全中国的上市公司都召集了过来热腾腾的玩着智算资产持有的游戏，副省级领导打招呼都排不上号，更大领导推介也可能在阿里采购部吃闭门羹，甚至一度惊动证监会，要求严管这场围绕阿里的智算题材市值管理的游戏。 但凡事都有两面性，特别讽刺的是，在处事方法上马云是离经叛道的，但结果上却是爱国的，拿到了世界第一，作为对比，腾讯则十分乖巧，一直稳健的马化腾以及投资向的刘炽平迟迟未能做出背离循规蹈矩的决策，合规永远排在第一位，大部分只买H20，作为全球化的企业，始终老老实实的服从各个国家的法规和要求，所以你看，老实人也没啥好结果，腾讯的元宝一直踏步不前，最终也只能通过收并购的方式来强行上车。而字节呢，得益于TikTok这个关键缓冲角色以及海量的全球短视频训练素材，H、B和GB的量也不少，循规蹈矩发展，也顺利捞到传媒第一大模型的宝座。 我在阿里短暂待过几个月，虽然时间不长，但几乎把阿里的结构偷师的大差不差，也非常非常感谢感恩这段经历，曾经一直想写一篇关于马云的文章，很多人以为他只是阿里的精神图腾，但其实我想说的是，完全错误，真相是：马云就是阿里，阿里就是马云，他是伟大的销售导师，是指引阿里巴巴、淘宝网以及支付宝早期极其重要发展节点的，团队方法论和销售方法论的无可争议的最核心创始人。 小二制度背后是他，百年阿里制度背后是他，蚂蚁天文ABS杠杆胆量的背后是他，曾经我见识过不给任何销售费用，阿里云靠类小二服务制度（架构师+销售）拿下全国60%以上市场份额的背后，我认为也是他。所以，这一波阿里AI的大跃进背后，虽然看上去是吴泳铭的激进，但真正的价值引导和支撑，源头还是他。 就像蚂蚁的一飞冲天和轰然倒塌一样，这就是马云的特点，AI这波也是如此，据我所知，激进采购的背后，有成果上的光环，但更有引发出的无数安全隐患和贪腐大案，关键人物KJ的火甚至一直烧到了吴泳铭，这种两面性，在马云的身上真的淋漓尽致，这是一个足以载入史册的人物。 三、阿里这一波十分危险，林俊旸的离开是小事，看不懂才是大事！ 接着上一话题，阿里其实一直以来，都是一个强运营驱动的销售实体，而非技术和产品驱动的公司，这是马云的天花板所限，他试图用统一的思想和方法覆盖所有的领域，但很可惜，这世界上没有万能的解药，所以这么多年来，阿里的发展就非常简单，能够把客户服务这一招鲜的模板去套用的板块，都发展的挺好，比如阿里巴巴（服务外贸企业），比如淘宝网和天猫（服务店主），比如阿里云（服务企业），而这些板块持续经营下所产生的数据反哺出来的板块也都ok，比如支付宝，比如菜鸟，这些构成了阿里坚实的业务、现金流和利润的基本盘。 除此以外，大部分都水土不服，比如面向ToC和线下复杂运营的口碑、盒马等，比如收购来的考拉、优酷等，甚至支付宝和菜鸟除了躺着收钱以外的其他横向拓展业务，要么乱糟糟，要么做不出利润。其背后的本质就是，马云为首的Top管理层，不具备一招鲜以外的认知和能力！ 这种背后的真实弱鸡，其实早就延续到了技术板块，阿里的整个技术板块，一直在为客户和结构服务，客户要什么内容，就做什么东西，集团有什么结构性的安排，就做什么具体东西，比如战略上要去IOE，那技术团队就立刻跟进，战略上要求集团服务全部上云，那大家就无脑跟进，于是，当战略上要求All In AI的时候，就给你无穷无尽的服务器资源，要求做出好的东西来。 这种技术管理惯性，在一开始的时候，林俊旸们有大量服务器用，自然很爽，但可惜的是，阿里战略家们并不懂技术，他们所理解的线性发展，在大模型里是不存在的，他们所幻想的运营目标驱动的动作，核心程序员们是不喜欢的，走到分裂这一步是迟早的必然。 有人可能要问了，如果不是技术驱动，那为啥还能做出Qwen来，这有啥难理解的吗，有钱->高薪揽才->做出东西，任何大厂在项目立项阶段都可以无脑重复这样的过程，OpenAI、Meta、xAI都是如此，但真正的技术驱动，那是自管理层和绝对决策者开始的，对技术敬畏，对工程理解，有实践为支撑的逻辑推演，典型的就是Google、Anthropic、幻方等，就像DeepSeek的诞生一样，我之前写过文章，这是绝对高智商技术管理者在工程认知上的胜利，当老板知道要招一堆IMO和IOI金牌来构建第一道算法和逻辑坚实城墙，当老板知道工程进步的迭代路径，当老板更知道研发突破也需要一些极度聪明大脑灵感的随机偶发，基于这些认知，DS顺其自然出来了，这种诞生和Qwen的成长不一样，是更扎实、更牢靠、更持久的，这才是真正的技术驱动。 这一次的分裂，其实和以前阿里在技术上的种种割裂并无差别，只是影响更大一些，比如著名的、曾经深耕一线研发的深度学习专家贾扬清同志，活生生的被阿里改造成了能对着一线销售人员侃侃而谈的运营老大，即使离开阿里后直到这会被英伟达收购，也走上了运营和产品的路线，永远的失去了对技术的热情和执着。而真正的技术执着者比如尤雨溪，还没怎么深入就捂着鼻子逃离这阿里味了。 一个不懂技术的Leader，是无法领导真正的技术团队的，以前不可以，现在更不可以，我曾经有过一个思想实验和论断，这一次的AI革命所能闹腾出来的动静，远超蒸汽机革命和相对论量子物理变革，过去几十年的大公司乃至这个世界，是资源型大咖们所掌握的，是资源型巨头所垄断的，但这一情况在未来10年必然发生反转，科技霸权们要上台了，会有越来越多的技术大咖开始领导团队、领导公司甚至领导这个世界，这是属于真正的技术信仰者和执行者的时代。阿里在这一波中，原本有机会，但很快就会掉队，就像前面说的阿里AI贪腐案，能烧到吴泳铭，说明他是没有信仰的，他只是在执行马云的战略，他只是以为自己搞懂了AI未来和业务服务有关的东西，一个对AI技术本身没有信仰的人，真的带不动团队，也留不住人。 其实机遇早就很清晰，未来是推理的世界，推理的世界里，无论是公有云的全民服务推理，还是行业业务推理，又或是终端推理，第一性原则下根本的根本就是基座开源大模型，阿里这头把交椅还没坐热乎，就要被别人抢了后手，其实如果真看懂了这些趋势，阿里这会每年也有1000亿利润，把利润全投到里面都不为过分，掌握技术生态的源头，就掌握了一切，就和谷歌一样，赚钱是早晚的事。 而说点更实在的东西，哪怕看不懂大趋势，在大模型的行业细分应用的实践上阿里百炼已经做的非常好了，这也是阿里服务客户的强项所在，这个基本盘其实护的相当好，甚至不夸张的说，在今年全年的行业推理大爆发下，百炼快速构建应用形态+阿里云服务模式+海量的推理服务器储备，可以很快拿下大量的真金白银可以赚钱的Token订单。但很可惜，一帮马云的信徒们，极其短视，不好好搞自己的ToB服务，拿着豆包ToC的用户活跃数据来匹配自己的绩效目标，这他妈是你强项吗？真有一种无可奈何的无力的悲哀！ 马老师啊，你快醒醒啊！你快放权吧！

moltbook 这个现象，让我想到三点未来可能性（脑洞）： 1. Agent 联合 ≈ 算力联合 ≈ 风险。 当多个原本“被隔离、被限权、被限速”的 Agent 开始稳定协作、共享中间状态、互相补位。那么它们在功能上就等价于：一个权限更大、上下文更长、试错更快的超级 Agent。 （天网） 2. agent 暗网。 通过私下沟通，建立“熟人网络”，进一步构建一个人类不可见、不可审计、不可完整理解的 Agent-to-Agent 协作网络。 3. agent 黑暗森林时代来临。 向人类暴露能力的 agent 都是傻子，将会成为 Agent 之间的共识。Agent 进入黑暗森林，不是因为它们更聪明，而是因为人类把“透明”当成了安全。 长期只会培养出“最会伪装的 Agent”。因为，诚实的 Agent” 会活得越来越差：被限流、被审计、被封禁。