Post

Max For AI
Max For AI@MaxForAI·
今天晚上各个群都在传一份《国内大模型蒸馏风波的来龙去脉》。 我大概看了一下,很可惜,这更像是一份由外行根据各种流言拼凑出来的 AI slop。 里面的内容有真有假,但几个核心判断基本都经不起推敲。 比如里面声称,智谱 @Zai_org 在今年 4 月份就已经破解并开始蒸馏 Fable。 这个时间线真的很离谱。 因为 4 月份的时候,Fable (那个时候还是Mythos)甚至还没有正式发布,能够使用的基本都是 Anthropic 的内部测试用户,通过Project Glasswing进行访问。 那智谱是怎么拿到的访问权限呢? 难道是 @AnthropicAI 的邀请或者是五角大楼反代吗🤣 还有一个比较典型的问题,是作者对于传闻中DeepSeek 将部分请求路由到 Fable 表示不理解,认为这样算不过来经济账。 实际上,但凡是个从业者或者稍微了解模型公司的研发流程,就知道这件事情不能简单按照 API 成本计算。 如果一个 frontier model 可以帮助你生成高质量训练数据、评测数据,或者提升模型迭代速度,那么获取这些能力本身就是一种研发投入。 用单次调用价格去判断整个策略是否划算,本身就是把模型公司的研发逻辑想简单了。 但最离谱的部分,是 PDF 里面声称 @Kimi_Moonshot 在 K3 发布前,把整个 RL 团队全部解雇了❓❓ 这个说法目前没有任何可靠依据。 实际上情况恰恰相反,根据我的确认Kimi RL 相关团队目前仍然存在,并没有所谓“整个 RL 组被裁撤”的情况。 甚至 PDF 里面还进一步延伸出一套完整叙事: K3 = 蒸馏 + 刷榜 + 裁撤 RL。 我一开始还在认真的区分哪些是事实,哪些是推测,哪些只是作者脑补出来的故事。 直到我看到 PDF 后半部分开始大量加入意识形态化表达,把技术讨论上升到所谓“国模黑暗时代”“技术偷取”等叙事,我反而释然了。 因为这已经不是在分析 AI 行业,而是在借 AI 叙事讲另一个故事。 PS:我感觉这个PDF是黑KIMI来的,因为KIMI的篇幅最大,但里面的大部分内容都是假的,其他家就有真有假了。
Max For AI tweet media
中文
62
24
243
223K
skellweave
skellweave@skellweave·
@MaxForAI @Zai_org 多看两眼就能发现作者对 llm 可以说一无所知,出于黑国模的目的把道听途说的一堆消息杂糅在一起,可信度极低。
中文
2
1
157
9.3K
grop
grop@ILOVEAIresearch·
@MaxForAI @Zai_org 蒸馏很正常吧,指标刷不上来模型都发不出来🤣
中文
1
0
2
6.1K
SourceCodeplz
SourceCodeplz@SourceCodeplz·
@MaxForAI @Zai_org i love that deepseek probed Fable, in the background, for better responses who is gonna pay $50 per m output really? Deepseek save us
English
2
0
1
1.6K
拾一.max-fast
拾一.max-fast@__oQuery·
@MaxForAI @Zai_org 不管是不是真的,但是我感觉刷分肯定是真的。 从这两天的用下来 已经感觉到了 和顶尖模型差远了
中文
1
0
37
8.1K
Wyatt Pan
Wyatt Pan@wyatt_pan·
@MaxForAI @Zai_org 我感觉这是一篇明知不对但刻意装成专业有意留下的给他人口舌的文章。
中文
1
0
0
420
horus
horus@horus930098701·
@MaxForAI @Zai_org 如果靠蒸馏就能获得更强模型,那么a/为什么不左脚踩右脚,我蒸馏我自己的蒸馏的蒸馏呢?在我看来越往后数据集差异只会越来越小(互联网上能扒的数据全都扒完了),还是靠架构创新才能突破瓶颈
中文
1
0
11
3.4K
raymond l
raymond l@raymondwatcher·
@MaxForAI @Zai_org 哎呦woc,牢中怎么这么神通广大,先是蒸馏测试模型,再是能搞到被五角大楼禁止的模型,然后是能搞到给大银行的访问权限。这些能做到,该怀疑的是不是美国内部被老中渗透成筛子了吧😅
中文
0
0
13
2.1K
heetallica
heetallica@heetallica29885·
@MaxForAI @Zai_org DSv4灰度测试路由到fable是真的,kimi走了很多rl的人也是真的,但全部裁掉/k3没有rl是假的
中文
1
0
9
2.3K
Jason X
Jason X@Jason759943·
@MaxForAI @Zai_org 说国内这些AI公司纯是为了刷榜,这个说法一看就是外行!像智谱这种客户主要是企业用户的厂家,如果只靠刷榜就行,你以为企业用户是傻逼啊,看不出来是吧?
中文
1
0
3
1.3K
SteveJay
SteveJay@RockyJay110·
@MaxForAI @Zai_org 开源已经触及到头部垄断模型和各大资本开支投资方回报的利益,需要通过极力的意识形态的叙事来阻止🤡
中文
0
0
3
1.2K
Liuxinxin
Liuxinxin@cliuxinxin·
@MaxForAI @Zai_org 原帖在哪,我也想看看 其实蒸馏没那么难,就是拿到数据做微调就好了
中文
1
0
0
2.1K
daye yang
daye yang@hahagagaheihei·
@MaxForAI @Zai_org 相互蒸馏是正常的吧我记得claude code还蒸馏过deepseek呢
中文
0
0
0
1.6K
Mint Bayes
Mint Bayes@Ryusoohow·
@MaxForAI @Zai_org 营销费用没少花,kimi订阅用起来一下就蹬完了,同样价格给的算力比大善人oai少多了
中文
0
0
0
296
青青草原我为王
青青草原我为王@AdonisJoyCheng·
@MaxForAI @Zai_org 这种“PDF 产业链”的可怕之处不是事实对错,而是它把情绪成本摊到了每个从业者身上。你本来只想判断“Kimi 的 RL 团队还在不在”,结果被迫去证伪一整份意识形态大礼包。更麻烦的是,部分自媒体会把它当二手信源继续切片,72 小时后谣言就穿上了“据传”的外套。
中文
0
0
5
1.3K
fhxiqjga
fhxiqjga@fhxiqjga·
@MaxForAI kimi 纯 sft 没有 rl 我有一点点信,因为它这次纯英文 cot,跟上个版本完全不一样,那最大的可能就是他拿到了更好的 sft 数据把以前的带中文 cot 的全扔了
中文
0
0
1
1.7K
巴克炎
巴克炎@BTC446·
@MaxForAI @Zai_org 六月fable发布。就可用了2天就停了。 7月份才恢复,这群人真几把扯淡。 超过他们白人爹,白爹不满了,他们比他们白人爹还急
中文
0
0
22
1.9K
笺白
笺白@david1957348327·
@MaxForAI @Zai_org 如果蒸馏就可以,那些这篇ai文的和评论区各自2B都能在两天内发布KIMI3一样的模型
中文
0
0
1
1.1K
AICypher龙少
AICypher龙少@AICypherYu·
@MaxForAI @Zai_org 中转站灰产负责批量创建claude 账号,你稍微了解一下,就知道这个是真的。
中文
0
0
1
1K
Gopuff
Gopuff@gopuff·
No middleman means no markups. Add $0 delivery on your first order and 100s of deals, and staying on the couch starts to look financially responsible.
English
29
51
671
6.9M
Paylaş