fast is slow
761 posts
16GB显卡能跑Claude Opus级推理模型了
我翻HuggingFace趋势榜的时候愣了——同一个模型挂了三周第一
模型是Qwen3.5-27B改的——用Claude 4.6 Opus的推理数据蒸馏出来的
作者用Unsloth做监督微调+LoRA，学的是“怎么思考”不是答案
遇到问题先拆解、定计划、验证、修正，最后才给结论
还把原版Qwen3.5的bug修了：支持developer角色，保留thinking模式，能连续跑9分钟不中断
有人用RTX 3090实测：Q4_K_M量化后16.5GB显存，29-35 tok/s，262K上下文照开
5090跑200k上下文会崩，但有人说200k也够
编码测试里，它的结构化推理和工具调用已经接近Opus
也有争议——蒸馏版容易复读循环，上下文多了会爆显存
去年还说本地模型搞不了复杂推理，今年27B就能在消费级硬件上复现八成Opus能力
不用给OpenAI交月租，不用怕数据上传，自己插卡就能跑
抄作业的本事越来越强，闭源模型的护城河还能守多久？
x.com/UnslothAI/stat…
AI最严厉的父亲@dashen_wang
中文
第一次感觉 OpenClaw 比较有用，我装在家里的 NUC 上面，然后可以很方便的帮我管理一些家用服务。比如配置 JellyFin 和 qBittorrent，去年我配置了下，花了半天，然后 qB 太麻烦了最后放弃了，自己下载了视频放在 JellyFin 上面。今天跟 OpenClaw 对话几个回合，就全部配好了，省了不少功夫。
中文
悄悄话：国家发改委的的确确非常缺人工智能方面的专业人才，过去一年的做法是从北京、上海、杭州发改系统借人。认真读这六个字：北京、上海、杭州。
Rainier@mtrainier2020
爽文剧本： qwen的人放弃了海外上亿的offer，选择考公。 成为国家人工智能委员会特派员。 然后杀回杭州。 查，给我好好的查。 🤣
中文
“
前 8 名全是 Anthropic 闭源模型（Opus/Sonnet 系列），Qwen3.5-27B
是排名最高的开源/本地模型
”
昨晚睡前挂机，
对 qwen3.5-27B Q8 no-thinking 跑了一次 BullshitBench v2 ，
claude code 认为属于前 10 的水平。
挤进了一堆 claude 大军。
model 做得这么精彩，
阿里居然留不住人才。
中文
Qwen 发布了 3.5 小模型系列，四个尺寸：0.8B、2B、4B、9B，同时开放 Base 模型。基于同一套 Qwen3.5 架构训练，原生多模态、强化学习加持。0.8B / 2B 主打边缘设备，4B 适合跑轻量 Agent，9B 体积紧凑但性能已经在追大模型了。Hugging Face 和 ModelScope 都可以直接下载。
开源模型能力进化到一定程度，会反复出现类似 OpenClaw 带动 Mac Mini 销量这种现象。
触发条件有两个：模型能力达到”真正有用”的门槛，能可靠完成任务链；软件生态足够易用，让普通人愿意为它专门买一台机器。
这批模型就是在往那个临界点推。等哪天本地开源模型足够强大，能处理大多数日常任务，“买台 Mac Mini 跑本地 Agent”就不只是极客圈的玩法了。
Qwen@Alibaba_Qwen
🚀 Introducing the Qwen 3.5 Small Model Series Qwen3.5-0.8B · Qwen3.5-2B · Qwen3.5-4B · Qwen3.5-9B ✨ More intelligence, less compute. These small models are built on the same Qwen3.5 foundation — native multimodal, improved architecture, scaled RL: • 0.8B / 2B → tiny, fast, great for edge device • 4B → a surprisingly strong multimodal base for lightweight agents • 9B → compact, but already closing the gap with much larger models And yes — we’re also releasing the Base models as well. We hope this better supports research, experimentation, and real-world industrial innovation. Hugging Face: huggingface.co/collections/Qw… ModelScope: modelscope.cn/collections/Qw…
中文
刷到油管上翁家翌（OpenAI做RL）的采访，对于一个外行人来说也听得津津有味。建议都可以去听听，有时间的话。摘取一些我认为的重点和CLAUDE做的总结
-----------------------------------------------------------
1. 对于基座模型大模型来说，生死线是基础设施迭代时间，人，技术，方法都不是。
2. 可能未来会有一个无限CONTEXT的AI AGENT，来当CEO就好了。（公司大了臃肿了之后很多信息对丢失在传递上的效率）
-----------------------------------------------------------
1. Infra是最大瓶颈：他强调"修bug数量决定模型质量"
2. idea是廉价的，关键是快速验证。
3. 大模型瓶颈在模型本身，系统工程复杂性在于吞吐与扩展的平衡以及对GPU资源的极限压榨。
4. 工程 > 研究：在当今AI竞争中，工程能力和迭代速度才是核心。他不太鼓励现在的学生读AI PhD。
5. 对DeepSeek的看法：真正引发OpenAI内部警觉的是DeepSeek的迭代速度而非榜单成绩，基础设施的吞吐效率才是模型竞争的核心指标。
中文
我认为这将是AI时代的人机协同工作台
1、完全适配claude agent sdk并傻瓜安装，支持各类模型接入和本地模型，如果使用本地模型可以完全离线化
2、支持定时任务和AI长期计划，配合看板，人机协同
3、支持绝大部分类型文件的本地渲染和快速编辑处理
4、打通本地应用，比如你可以直接调用seedance生成视频，剪映素材箱立马就渲染出来了，这些素材可以无缝衔接工作流
5、支持飞书，企业微信等webhook机器人通知
6、快速协助用户傻瓜式安装skills
7、用户数据本地绝对安全，AI交互过程只转发不留存，云端没有任何用户隐私敏感数据存储
8、同步进行skills本地查杀和远端审查，进一步保证安全性（目前迭代优化中）
9、本地browser use联动（目前迭代优化中）
中文
fast is slow retweetledi
We are the most advanced NFT protocol, which allow your #ModularNFTs to have multiple assets, own and equip other NFTs and a lot more cool stuff.
We are available on @base and recently migrated our flagship collection and metaverse + dungeon game @SkybreachNFT to Base too.
Check us out!
English
Doing the last test and preparation.
Give a big👍 to @SingularRMRK offered this good to use "Equippable NFTs Wardrobe" function that never have been seen on any NFT marketplace.
It's sad to see @RmrkApp experience difficulty now, but they actually delievered correct public goods.
Customizable NFT is more funny.
English
fast is slow retweetledi
