Leonard Chen

一个反直觉的观点： 图文化不是进化，是退化 当下有一种流行叙事暗含着：“ 视频 > 图+文 > 纯文”，仿佛图文是更高一级的形态。 但在认知演化层面，这个判断完全反过来。 人类大脑约 30% 皮层用于视觉处理，文字只有 5000 年历史。视觉是原生通道，文字是文化技术 hack,它强行借用视觉皮层去承载抽象符号操作,它迫使大脑进行线性、序列化、去情境化的推理。 哲学、数学、法律、科学，都是这种“反自然”认知模式的产物。 而图文化（pictorialization）在认知模式上是退回视觉优先的前文字状态。短期爽，长期是抽象能力的流失。 很多传播学者早已论证： 每一次媒介从线性文字回退到图像&视听，群体的复杂思考能力都在下一代出现可观测的衰退。 想想现在的短视频流行...

SpaceX 宣布与 AI 编程工具 Cursor 达成深度合作，并获得了一个选择权：今年晚些时候，要么以 600 亿美元收购 Cursor，要么支付 100 亿美元作为合作费用。 Cursor 是目前最火的 AI 编程工具之一，很多开发者用它来写代码，它的核心能力是把 AI 模型嵌入代码编辑器，让写代码变得更快更智能。Cursor CEO Michael Truell 在 X 上表示，这次合作将帮助团队扩展 Composer（Cursor 的核心 AI 模型）的训练规模。 Cursor 在声明中说，团队一直想大幅推进模型训练，但被算力瓶颈卡住了。通过这次合作，他们将利用 xAI 的 Colossus 基础设施来大幅提升模型能力。 这里的关键背景是：今年 2 月，马斯克把 xAI 并入了 SpaceX，合并估值 1.25 万亿美元。SpaceX 旗下的 Colossus 超算号称拥有相当于 100 万块 H100 的算力，这是 Cursor 最看重的资源。而 SpaceX 正在筹备今年夏天的 IPO，很可能成为史上最大规模的上市。在 IPO 前绑定一个增长最快的 AI 编程工具，显然是为了给估值故事加码。 值得注意的是，Cursor 目前仍在销售和使用 Claude 和 GPT 模型，而 Anthropic 和 OpenAI 都在推自己的编程工具，这种关系本身就很微妙。与 SpaceX 的合作，可能就是 Cursor 为摆脱这种尴尬局面做的准备。 Cursor 的估值增长速度本身就是一个故事：去年 1 月估值 25 亿美元，5 月涨到 90 亿，11 月 Series D 轮融资后达到 293 亿，现在传出的融资估值已经超过 500 亿。600 亿美元的收购选择权意味着又一次大幅溢价。 对开发者来说，这件事的实际影响取决于 Cursor 拿到 Colossus 算力后，自研模型能提升到什么水平。如果 Cursor 真的训出了足够强的自有模型，它对 Claude 和 GPT 的依赖就会降低，产品的定价和功能策略都可能随之改变。至于 600 亿收购会不会真的发生，还是最终走 100 亿合作费的路线，目前双方都没有给出明确时间表。

继语音输入法泛滥之后 island 也泛滥了 资本主义还是低估了人类 人们没有商业利益人类也可以卷 😂

LLM Knowledge Bases Something I'm finding very useful recently: using LLMs to build personal knowledge bases for various topics of research interest. In this way, a large fraction of my recent token throughput is going less into manipulating code, and more into manipulating knowledge (stored as markdown and images). The latest LLMs are quite good at it. So: Data ingest: I index source documents (articles, papers, repos, datasets, images, etc.) into a raw/ directory, then I use an LLM to incrementally "compile" a wiki, which is just a collection of .md files in a directory structure. The wiki includes summaries of all the data in raw/, backlinks, and then it categorizes data into concepts, writes articles for them, and links them all. To convert web articles into .md files I like to use the Obsidian Web Clipper extension, and then I also use a hotkey to download all the related images to local so that my LLM can easily reference them. IDE: I use Obsidian as the IDE "frontend" where I can view the raw data, the the compiled wiki, and the derived visualizations. Important to note that the LLM writes and maintains all of the data of the wiki, I rarely touch it directly. I've played with a few Obsidian plugins to render and view data in other ways (e.g. Marp for slides). Q&A: Where things get interesting is that once your wiki is big enough (e.g. mine on some recent research is ~100 articles and ~400K words), you can ask your LLM agent all kinds of complex questions against the wiki, and it will go off, research the answers, etc. I thought I had to reach for fancy RAG, but the LLM has been pretty good about auto-maintaining index files and brief summaries of all the documents and it reads all the important related data fairly easily at this ~small scale. Output: Instead of getting answers in text/terminal, I like to have it render markdown files for me, or slide shows (Marp format), or matplotlib images, all of which I then view again in Obsidian. You can imagine many other visual output formats depending on the query. Often, I end up "filing" the outputs back into the wiki to enhance it for further queries. So my own explorations and queries always "add up" in the knowledge base. Linting: I've run some LLM "health checks" over the wiki to e.g. find inconsistent data, impute missing data (with web searchers), find interesting connections for new article candidates, etc., to incrementally clean up the wiki and enhance its overall data integrity. The LLMs are quite good at suggesting further questions to ask and look into. Extra tools: I find myself developing additional tools to process the data, e.g. I vibe coded a small and naive search engine over the wiki, which I both use directly (in a web ui), but more often I want to hand it off to an LLM via CLI as a tool for larger queries. Further explorations: As the repo grows, the natural desire is to also think about synthetic data generation + finetuning to have your LLM "know" the data in its weights instead of just context windows. TLDR: raw data from a given number of sources is collected, then compiled by an LLM into a .md wiki, then operated on by various CLIs by the LLM to do Q&A and to incrementally enhance the wiki, and all of it viewable in Obsidian. You rarely ever write or edit the wiki manually, it's the domain of the LLM. I think there is room here for an incredible new product instead of a hacky collection of scripts.

字节要被取代了，取代它的是 token。 Karpathy 昨天在推上回了 Python 之父 Guido 一句话： LLM = CPU，Agent = 操作系统内核。 但他补了一个很关键的细节： LLM 处理的数据单位不是字节，是 token。 这个操作系统的运行方式不是确定性的，而是统计性的。 这是一种底层计算的范式转移。 过去六十年，计算机的世界建立在字节上。 一个字符 8 个 bit，精确，确定，不会出错。你写一个 1，存进去就是 1，读出来还是 1。 整个互联网、所有软件、所有数据库，都建立在这种确定性上。 现在 LLM 来了。它的基本单位是 token，不是字节。 token 是模糊的，一个词可能是一个 token，也可能被拆成两个。 它的输出是概率性的，同一个输入跑两遍可能得到不同的结果。 这就像从牛顿力学进入量子力学。 精确让位于概率，确定让位于统计。 Karpathy 把 LLM 比作 CPU，Agent 比作操作系统内核。 如果顺着这个类比往下推： 传统计算机：CPU 处理字节 → 内核调度进程 → 操作系统服务用户 AI 时代：LLM 处理 token → Agent 编排任务 → AI OS 服务用户 底层的数据单位变了，上面的一切都得跟着变。 操作系统要重写，软件要重做，人和计算机的交互方式要重新设计。 与其说是对上一代的升级，不如说是彻底换了轨道。 字节的世界里，谁掌握更多的数据（字节）谁就赢。 token 的世界里，谁掌握更多的 token 谁就赢。 字节的时代属于互联网，token 的时代属于 Agent。 BYTE ERA ➤ TOKEN ERA

手搓代码年代 Talk is cheap, show me your code. 氛围编程年代 Code is cheap, show me your prompt.