Sabitlenmiş Tweet
Berryxia.AI
8.2K posts
Berryxia.AI
@berryxia
Building AI tools AI System Prompt Love Design & Coding & Share Prompt！ 📮:[email protected]
Katılım Aralık 2011
665 Takip Edilen45.2K Takipçiler
这个模型也是通过Qwen3模型打底做的量化，Ternary-bonsai-27b-mlx-2bit，已经接在了我们公司自己的业务中去做本地的任务，没有太大问题，还是多模态很舒服。
我是load在LM Studio 中，然后开启local Server后，直接到我的产品中配置这个本地地址就行了。
我的这个笔记本使用的M1Pro 32G 回答速度也挺快的，感觉还不错啊！我再体验体验😄
Berryxia.AI@berryxia
兄弟们，这个笔记本电脑多模态模型有点东西！ PrismML 今天正式发布了 Bonsai 27B，这是目前全球首个能在手机上本地运行的 27B 级大模型。 传统 27B 模型在 FP16 下需要约 54GB 内存，即使激进量化到 4-bit 也仍有 18GB 左右，手机和大多数笔记本根本无法承载。 而 Bonsai 27B 通过端到端极致低比特技术，成功将模型压缩到： - 1-bit 版本：仅 3.9GB，可直接在 iPhone 17 Pro 上运行 - Ternary 版本：5.9GB，适合笔记本高性能使用 两者均为多模态模型，内置 4-bit 视觉塔，支持图片、截图、文档等输入，同时保留 262K 超长上下文和投机解码加速能力。 更惊人的是其智能密度达到了 0.53 per GB，比全精度基线高出约 10 倍，比现有最佳低比特方案高出 2.7 倍。 性能保留方面，在 15 个基准测试（thinking mode）中，Ternary 版平均保留 95%，1-bit 版保留 90%，数学、编码和工具调用能力尤为接近原版 Qwen3.6 27B。 这带来的最大价值在于真正实现了设备原生 Agentic AI。 用户可以在手机或笔记本上本地跑多步推理、结构化工具调用、长期 agentic 工作流，完全离线且数据不离开设备。 无论是处理私人文档、持续研究任务，还是构建隐私优先的智能体，都不再依赖云端。 目前模型已全部开源（Apache 2.0 协议），开发者可直接在 Hugging Face 下载 GGUF 格式模型，并通过官方提供的 Bonsai-demo 一键运行（支持 llama.cpp 和 MLX）。 官网也开放了限时免费开发者预览 API 供快速测试。 从云端大模型到口袋里的 27B 智能，Bonsai 27B 真正把智能密度推向了新的高度，也为本地 Agent 和混合部署打开了全新的可能性。 官网：prismml.com/news/bonsai-27b 模型集合：huggingface.co/collections/pr… 一键 Demo：github.com/PrismML-Eng/Bo…
中文
兄弟们，这个笔记本电脑多模态模型有点东西！
PrismML 今天正式发布了 Bonsai 27B，这是目前全球首个能在手机上本地运行的 27B 级大模型。
传统 27B 模型在 FP16 下需要约 54GB 内存，即使激进量化到 4-bit 也仍有 18GB 左右，手机和大多数笔记本根本无法承载。
而 Bonsai 27B 通过端到端极致低比特技术，成功将模型压缩到：
- 1-bit 版本：仅 3.9GB，可直接在 iPhone 17 Pro 上运行
- Ternary 版本：5.9GB，适合笔记本高性能使用
两者均为多模态模型，内置 4-bit 视觉塔，支持图片、截图、文档等输入，同时保留 262K 超长上下文和投机解码加速能力。
更惊人的是其智能密度达到了 0.53 per GB，比全精度基线高出约 10 倍，比现有最佳低比特方案高出 2.7 倍。
性能保留方面，在 15 个基准测试（thinking mode）中，Ternary 版平均保留 95%，1-bit 版保留 90%，数学、编码和工具调用能力尤为接近原版 Qwen3.6 27B。
这带来的最大价值在于真正实现了设备原生 Agentic AI。
用户可以在手机或笔记本上本地跑多步推理、结构化工具调用、长期 agentic 工作流，完全离线且数据不离开设备。
无论是处理私人文档、持续研究任务，还是构建隐私优先的智能体，都不再依赖云端。
目前模型已全部开源（Apache 2.0 协议），开发者可直接在 Hugging Face 下载 GGUF 格式模型，并通过官方提供的 Bonsai-demo 一键运行（支持 llama.cpp 和 MLX）。
官网也开放了限时免费开发者预览 API 供快速测试。
从云端大模型到口袋里的 27B 智能，Bonsai 27B 真正把智能密度推向了新的高度，也为本地 Agent 和混合部署打开了全新的可能性。
官网：prismml.com/news/bonsai-27b
模型集合：huggingface.co/collections/pr…
一键 Demo：github.com/PrismML-Eng/Bo…
PrismML@PrismML
Today, we’re announcing Bonsai 27B: the first 27B-class model to run on a phone. Bonsai 27B is the new multimodal flagship of the Bonsai family. Based on Qwen3.6 27B, it brings a new capability tier to local AI: multi-step reasoning, structured tool use, long-context workflows, and coherent agentic loops. Until now, models in this class have been impractical to deploy locally. A 27B model occupies roughly 54 GB in 16-bit precision, and even a strong 4-bit build is around 18GB - too large for a phone and for most laptops. Bonsai 27B changes that. It comes in two variants: • Ternary Bonsai 27B: 5.9 GB, 1.71 effective bits per weight, optimized for laptop-class quality. • 1-bit Bonsai 27B: 3.9 GB, 1.125 effective bits per weight, optimized for phone-class footprint. Everything is open-sourced today under the Apache 2.0 license.
中文
兄弟们，开源大小模型多端开花啊！
OpenMOSS 今天正式开源了 MOSS-VL-Realtime，这是一个专注于实时视频流交互的 11B 多模态模型。
不同于传统“先看完视频再回答”的离线模式，MOSS-VL-Realtime 支持在视频持续输入的过程中同步进行感知和生成。
它可以一边处理新帧，一边生成回复，并在场景变化时主动修改或打断自己的回答，也能在信息不足时保持沉默，真正实现“边看边聊”的实时交互体验。
模型亮点包括：
- 采用 Cross-Attention 架构，将视觉编码与语言推理分离
- XRoPE 实现统一的时空位置编码
- 支持文本、单图/多图、单视频/多视频以及图文交错输入（中英双语）
- 256K 超长上下文窗口
- 统一的对话模板，可同时支持离线、流式和实时交互模式
在流式视频理解基准上，MOSS-VL-Realtime 在开源模型中达到领先水平，尤其在主动预警（Proactive Alerting）和及时响应方面表现突出。
同时，新发布的 MOSS-VL-0708 Instruct 在细粒度感知、时间动作定位以及长视频理解等任务上也有明显提升。
模型已全部开源（Apache-2.0 协议），支持本地部署和实时推理。
Hugging Face：huggingface.co/OpenMOSS-Team/…
GitHub：github.com/OpenMOSS/MOSS-…
技术博客：github.com/OpenMOSS/MOSS-…（内含详细说明）
这可能是目前开源社区在实时多模态交互方向上的一次重要推进，尤其适合需要持续视频理解和动态对话的场景。
OpenMOSS@Open_MOSS
🤗 MOSS-VL-Realtime is now open source on @huggingface . The 11B model family supports text, single and multiple images, single and multiple videos, and interleaved visual-text inputs in Chinese and English.@MosiAI_Official Highlights: 🏗️ Cross-Attention architecture separating visual encoding from language reasoning 🧭 XRoPE for unified temporal-spatial positioning 🧩 Unified conversation templates for offline, streaming, and real-time interaction 🧠 256K-token context window 📜 Apache-2.0 license MOSS-VL-Realtime continues processing new frames while generating a response, allowing it to revise or interrupt that response as the scene evolves—or remain silent when more evidence is needed. Thank you @sgl_project @lmsysorg for day-0 support! 🚀 Huggingface: huggingface.co/OpenMOSS-Team/… Github: github.com/OpenMOSS/MOSS-… Technical blog: openmoss.github.io/MOSS-VL Join the community: discord.gg/SmVQHGffZU 👇
中文
卧槽！iPhone 可以跑27B大模型了啊！
一个27B的模型现在能在iPhone 17 Pro上直接跑了，而且内存占用不到5GB。
PrismML的Bonsai 27B据称是第一个能在手机上运行的27B级模型。
视频里它实时响应，表现已经相当可用。
这意味着过去只有云端才能扛得动的参数规模，开始真正进入个人设备。
以前大家觉得手机AI只能跑小模型，现在一个接近顶级开源模型规模的东西已经在掌上跑起来了。
量化技术把内存压到极致，同时保留了可用性。
这不是单纯的工程优化， 是把“强大AI必须连云”这个假设又往前推了一大步。
当模型够大、够聪明、却能在本地低资源运行时，隐私、延迟、离线能力都会发生根本变化。
开源地址：github.com/PrismML-Eng/Bo…
Adrien Grondin@adrgrondin
The new PrismML’s Bonsai 27B model running on iPhone 17 Pro Bonsai 27B is the first 27B-class model to run on a phone and it uses less than 5GB of memory Pushing the limits on what can run a phone
中文
感谢这个兄弟给的灵感，我结合 Hyperframes 做了一小段以视觉效果为主的短片。
虽然有点粗糙，但是逐渐有点感觉了，后面再探索更多的玩儿法，哈哈。
just for fun!
Tran Mau Tri Tam ✪@tranmautritam
New tools I keep coming back to. Save this 👇 - motionsites.ai - AI prompts for animated websites - originkit.dev - free animated component library - text-effects.colorion.co - pure CSS text animations - kinetics.colorion.co - spring physics UI motion - opentui.com - build terminal UIs with TypeScript - namethatui.com - name any UI element instantly - shapefactory.co - logo, color & gradient tools - valessa.riotters.com - 3D product visualizer in browser - github.com/MengTo/Skills - Claude skills for web design What am I missing?
中文
卧槽～ 音乐生舞蹈视频开源模型来了啊！
Alibaba把一个能根据音乐生成长时间舞蹈视频的14B模型开源了。
你现在可以在本地直接跑Wan-Dancer-14B，上传角色和一首歌，它就能生成和节拍完全同步的舞蹈视频，支持街舞、踢踏、拉丁、K-Pop、中式古典等多种风格，而且能做到较长时间连贯输出。
以前这种音乐驱动的精准肢体动作生成，要么靠闭源大模型，要么效果一般。
现在直接开源权重，本地就能跑，门槛大幅降低。
这不是又一个通用视频模型，而是把“音乐→节奏→精准舞蹈动作”这个垂直能力做到了可本地部署的水平。
内容创作者以后想做音乐可视化、舞蹈教学、虚拟偶像表演，不用再完全依赖云端服务。
项目地址👇
Wan@Alibaba_Wan
New feature on Wan Video: **Music to Dance** 💃 Upload a character, add a song, and let Wan Video generate a dance video synchronized to the rhythm. Available dance styles: • Street • Tap • Latin • K-Pop • Chinese Classical From beat to movement, your character performs with the music.
中文
GPT现在能把一篇arXiv论文一键变成可交互的Marimo笔记本。
你扔给它一篇论文，它就自己做自主研究（Autoresearch），先复现论文里的关键实验，然后把结果做成带可视化、可实时修改参数的笔记本。
想看可解释性（Interpretability） 、agent harness还是benchmarking的效果，直接点运行就能玩。
以前读论文要自己慢慢推公式、搭环境、复现代码，现在AI直接把“理解”和“动手”连在一起。你可以边看边改参数、边跑实验、边验证结论。
这不是单纯的总结工具，而是把静态的学术知识变成了能即时操作的活系统。研究不再只是读懂，而是能立刻上手玩、改、验证。
alphaXiv@askalphaxiv
GPT 5.6 Sol can one-shot convert an arXiv paper into an interactive Marimo notebook! Great for papers best understood hands on (lots of fun examples in interpretability, inference engineering, agent harnesses, benchmarking, and more) Play around with the notebook, inspect the code, or try the same workflow with your own agents below
中文
我去这个平台也太强了吧，号称聘请了众多专家打造了100多个视频skill，每一个都超好用。
而且还能上传自己的skill，我上传了前面的微缩救援skill，然后一键生成的效果超牛，值得尝试啊。
zhouluobo@zhouluobo
中文
ChatGPT现在能直接把你说的话变成一个能上线的完整网页App。
你描述想要什么功能，它就从头到尾把前端、逻辑、交互全写好，还能让你继续迭代修改，最后直接部署上线。
整个过程就在聊天界面里完成，不用切换工具、不用写配置、不用管部署。
以前做一个简单App要找前端、后端、产品、设计，现在一个人对着ChatGPT说清楚需求，就能把东西做出来并真正用起来。
这不是单纯的代码生成加速，是把“想法”到“可用产品”的距离大幅缩短。
技术执行的门槛正在快速消失，剩下的只剩你能不能把脑子里的东西讲得足够清楚、足够具体。
中文
喜大普奔啊，美国的K12 的老师们啊！
国内大厂赶紧学起来啊～
Claude开始给美国K-12老师免费开高级权限了，而且还直接接上了各州教学标准。
老师只要说要一份教案，它就从官方课程和Learning Commons里拉取对应标准，自动起草完整计划和学生材料。
你改改就能直接进课堂。
全程承诺不拿对话训练模型，学生信息用FERPA协议严格隔离。
这不是简单送免费额度，是把AI塞进了老师备课的核心回路：从国家/州标准出发生成内容，同时用最严的隐私墙把自己和学生数据隔开。
以前老师备课要自己翻标准、找资源、从零写，现在AI直接按官方路径给你搭框架。
好处是效率大涨，坏处是“好的教案”越来越容易被AI理解的标准版本所定义。
这从教育抓起的思路是对的啊，群体够大。
给基础教育提供支持和培养使用AI的能力～
Claude@claudeai
We're introducing Claude for Teachers: free access to premium Claude capabilities for verified K-12 educators in the US, with a library of teaching skills and a direct connection to evidence-based curricula, mapped to academic standards in all 50 states. claude.com/solutions/teac…
中文
