skellweave

18 posts

skellweave banner
skellweave

skellweave

@skellweave

活在自我

Katılım Ağustos 2015
127 Takip Edilen7 Takipçiler
Max For AI
Max For AI@MaxForAI·
今天晚上各个群都在传一份《国内大模型蒸馏风波的来龙去脉》。 我大概看了一下,很可惜,这更像是一份由外行根据各种流言拼凑出来的 AI slop。 里面的内容有真有假,但几个核心判断基本都经不起推敲。 比如里面声称,智谱 @Zai_org 在今年 4 月份就已经破解并开始蒸馏 Fable。 这个时间线真的很离谱。 因为 4 月份的时候,Fable (那个时候还是Mythos)甚至还没有正式发布,能够使用的基本都是 Anthropic 的内部测试用户,通过Project Glasswing进行访问。 那智谱是怎么拿到的访问权限呢? 难道是 @AnthropicAI 的邀请或者是五角大楼反代吗🤣 还有一个比较典型的问题,是作者对于传闻中DeepSeek 将部分请求路由到 Fable 表示不理解,认为这样算不过来经济账。 实际上,但凡是个从业者或者稍微了解模型公司的研发流程,就知道这件事情不能简单按照 API 成本计算。 如果一个 frontier model 可以帮助你生成高质量训练数据、评测数据,或者提升模型迭代速度,那么获取这些能力本身就是一种研发投入。 用单次调用价格去判断整个策略是否划算,本身就是把模型公司的研发逻辑想简单了。 但最离谱的部分,是 PDF 里面声称 @Kimi_Moonshot 在 K3 发布前,把整个 RL 团队全部解雇了❓❓ 这个说法目前没有任何可靠依据。 实际上情况恰恰相反,根据我的确认Kimi RL 相关团队目前仍然存在,并没有所谓“整个 RL 组被裁撤”的情况。 甚至 PDF 里面还进一步延伸出一套完整叙事: K3 = 蒸馏 + 刷榜 + 裁撤 RL。 我一开始还在认真的区分哪些是事实,哪些是推测,哪些只是作者脑补出来的故事。 直到我看到 PDF 后半部分开始大量加入意识形态化表达,把技术讨论上升到所谓“国模黑暗时代”“技术偷取”等叙事,我反而释然了。 因为这已经不是在分析 AI 行业,而是在借 AI 叙事讲另一个故事。 PS:我感觉这个PDF是黑KIMI来的,因为KIMI的篇幅最大,但里面的大部分内容都是假的,其他家就有真有假了。
Max For AI tweet media
中文
62
24
243
223.2K
skellweave
skellweave@skellweave·
@bosskwei @MaxForAI @Zai_org 只有 cot 破解部分有细节,而且最终也没给出完整破解方案,就给了个没啥用重放攻击流程。其余部分的论断就纯业余了。能写出图上这个“硬证据”,你说他有多懂 llm?
skellweave tweet media
中文
1
0
0
224
skellweave
skellweave@skellweave·
@janus_of_DC 纯搞笑来着,能说出这话的人 100% 没做过 im
中文
0
0
0
155
DCjanus
DCjanus@janus_of_DC·
讨论“微信消息该不该用 txt + grep 替代 SQLite”,就像一本正经地研究“把空格缩进改成 tab 来优化 Git 仓库体积”。 不是完全没用,但至少得先定位瓶颈。 别研究半天缩进,最后发现仓库里塞了个《[夜桜組] 人妻温泉トラベル.1080p.WEB-DL.x264.12.7GB.mp4》。
日本語
12
8
179
28.7K
skellweave
skellweave@skellweave·
@lemon_hx 唉,这两天看了withoutboats的博文,又被说服了。好吧stackful不是asyn rust的解。
中文
1
0
0
10
skellweave
skellweave@skellweave·
@lemon_hx 不能更同意了。async rust就应该搞成stackful,非要搞成stackless然后和lifetime糅在一起,非常垃圾的设计。
中文
1
0
1
36
LemonHX 🍋
LemonHX 🍋@lemon_hx·
突然感觉内存管理不是形别系统该解决的问题,而是对continuation的研究不到位的问题 我就直说吧,async rust 配合 lifetime checker 就是整个从头错到尾
中文
3
0
0
435
skellweave retweetledi
cts🌸
cts🌸@gf_256·
Choose your fighter (Advent of Code)
cts🌸 tweet media
English
88
1.1K
6.7K
571.2K
Mount
Mount@Mount1908·
微信后台数据的玄机,你还敢用吗?
中文
181
2K
5.1K
0
skellweave
skellweave@skellweave·
@Thearas_ 你这也太佛了。我记得你两年前就有在玩。
中文
1
0
1
0
Thearas
Thearas@Thearas_·
佛系玩家终于通关龙门市区
Thearas tweet media
中文
2
0
5
0
yanqing
yanqing@yanqingdw·
@strrlthedev 所以飞书能看到所有人的群组么(
中文
3
0
2
0
STRRL.gpt
STRRL.gpt@strrlthedev·
刚才飞书的客服小姐姐打电话问我"瑟图之王和他的朋友们"团队属于什么行业, 规模如何, 使用场景怎样......
中文
8
2
20
0
LemonHX 🍋
LemonHX 🍋@lemon_hx·
@shisoftgenius 你可以等一手Rust把prolog merge到生命周期检查, 这下就基本告别生命周期了
中文
2
0
9
0
Shisoft
Shisoft@shisoftgenius·
是我之前太废柴了还是Rust类型推断的能力越来越强了? 好像写一些看起来很悬的代码越来越方便了
中文
1
0
21
0
skellweave
skellweave@skellweave·
今年的北京真是格外的冷
日本語
0
0
0
0
skellweave
skellweave@skellweave·
Tiktok这个事,中国没有对等的子弹。毕竟GFW已经很多年了。挺好奇后续是忍了,还是从其他方面找回场子。
中文
0
0
0
0
DCjanus
DCjanus@janus_of_DC·
@unlinked_daemon 如果你不需要动态分发,那是为啥要塞进Box呢?为啥不用Impl Future呢
中文
1
0
0
0
skellweave
skellweave@skellweave·
io_uring seems promising.
English
0
0
0
0
skellweave
skellweave@skellweave·
There are one hundred of error handling crates and they all call themselves best practice.
English
0
0
0
0