坤元|🌈🔥⚛️

Terence Tao is answering a fundamental question regarding the safety and reliability of modern AI: "How can we use a tool that is powerful, but unreliable?" W = ∑(wᵢ ⋅ xᵢ) + b AI isn’t just about “smart”; it’s about the probability of *looking* right. We’ve built systems where the weights (wᵢ) are optimized for plausibility, not veracity. This creates a “convincing mirror” that confidently serves dangerous advice in medicine or finance. The gap between “convincing” and “correct” is the most critical variable we need to solve for.

Claude Code 开发者 Thariq 的 Claude Code 系列实践分享，非常值得关注学习！他把历史文章都整理在这个帖子里了，咱们一起看看都有哪些宝藏经验可以学。 先放太长不读版： 1. Skills：Agent 能力的可复用、可演化基础 2. Action Space 设计：以模型真实能力为导向，而非预设 3. Prompt Caching：生产级长会话的经济基础 4. 文件系统 + Bash：Agent 的持久状态与通用计算能力 5. Playgrounds：可视化交互的突破 -- 展开每个实践角度和 takeaway 总结 -- 1. Skills：Agent 能力的可复用、可演化基础 · Skills ≠ “只是 Markdown 文件”，而是文件夹 + 脚本 + 资产 + 钩子的复合体，支持渐进披露。 · 最高价值类型（9类）： · 库/API 参考 + gotchas（最常见高 ROI） · 产品验证（自动化测试、断言、录屏验证） · 数据获取与分析（漏斗、cohort、Grafana 映射） · 业务流程自动化（standup、ticket 创建、weekly recap） · 代码脚手架与模板 · 代码质量与审查（adversarial review、style enforcement） · CI/CD 与部署（babysit PR、渐进 rollout、cherry-pick） · Runbooks（症状→工具→报告） · 基础设施运维（orphans清理、成本调查） · 关键实践： · 聚焦“gotchas”而非 obvious 知识。 · 用文件系统分层组织 → 让模型自主决定何时深入读取。 · 存储记忆（日志/JSON/SQLite），用${CLAUDE_PLUGIN_DATA}持久化。 · 提供辅助脚本，让模型专注组合而非重写 boilerplate。 · 描述字段写成“触发条件”，而非摘要。 · Hooks 用于动态行为（如 /careful防rm -rf、/freeze 限目录）。 · 分发：小团队检入 repo，大团队建内部 marketplace + 审核机制。 · 度量：PreToolUse 钩子记录使用率，迭代低活跃skill。 Takeaway：Skills 是将组织专有知识、流程、陷阱转化为可共享、可演化、可组合的能力，是 Agent 工程从“提示”转向“环境设计”的核心跃迁。 2. Action Space 设计：以模型真实能力为导向，而非预设 · 不要预先假设工具集 → 通过持续观察模型输出迭代。 · 演进案例： · 用户交互：从纯文本 → 结构化 AskUserQuestion（多选项、阻塞等待） · 任务管理：从 Todo → Task（支持依赖、Sub Agents 协作、可修改） · 上下文构建：从被动 RAG → Grep + 渐进披露（模型自主层层挖掘） · 优先小而精工具，避免过载。 · Sub Agents 模式（如 Claude Code Guide）处理元问题，保持主上下文干净。 · 核心思维：像 Agent 一样思考 → 如果你是模型，面对这个问题最想要什么工具？ Takeaway：好的 action space 是实验+观察的产物，随模型能力提升而演进（Todo→Task、RAG→grep+披露）。 3. Prompt Caching：生产级长会话的经济基础 · 缓存靠前缀匹配，任何前缀变更都失效整条。 · 布局铁律：静态在前、动态在后（system prompt + tools + claude.md → session context → messages）。 · 常见破坏点：时间戳、工具顺序随机、参数变更、模型切换。 · 应对： · 更新信息用消息而非改 prompt。 · 不要中途加/删工具（用 Enter/ExitPlanMode 工具模拟状态）。 · Tool search用defer_loading（轻量stub，按需加载完整schema）。 · Compaction 必须 cache-safe forking（复用父会话前缀 + compaction prompt 作为 user message）。 · 监控：像监控可用性一样监控hit rate，命中率掉几%就是SEV。 Takeaway：缓存不是优化，而是整个系统的设计约束。围绕它构建 Plan Mode、Tool Search、Compaction，才能规模化长会话。 4. 文件系统 + Bash：Agent 的持久状态与通用计算能力 · 文件系统是天然的持久记忆、验证、Multi Agents 协作层（远优于全塞上下文）。 · 用途：邮件分析、规划草稿、Sub Agents 协作、架构记忆银行。 · 即使非编码 Agent 也强烈需要 Bash： · 保存中间结果 + grep 实现复杂处理（支出统计、API 链式调用）。 · ffmpeg 视频剪辑、cron 定时任务。 · 组合性 + 可验证性（模型可多次尝试、验证输出）。 · 安全：沙箱 + 权限控制（Claude Agent SDK已内置）。 Takeaway：文件系统 + Bash = Agent 的“外部大脑 + 双手”，让模型能迭代、验证、组合，而非一次性猜对。 5. Playgrounds：可视化交互的突破 · 生成独立 HTML 界面，实现终端难以表达的交互： · 架构可视化 + 用户评论 · UI 迭代、游戏平衡 · 写作审阅（inline 建议、接受/拒绝） · 核心：把“独特交互方式”描述给模型，让它自己表达成 HTML。 Takeaway：突破纯文本局限，开启视觉+交互闭环迭代。 整体工程哲学 · Agent 成功的关键不是模型聪明程度，而是系统工程：文件系统 + Skills + Bash + 渐进披露 + 缓存优化 + 模型行为观察，也被成为 Harness Engineering。 · 从“提示工程” → “环境设计”范式转变。 · 持续实验、读输出、“像 Agent 一样思考”，迭代工具与抽象。 · 这些经验对任何想构建可靠、可规模化 AI Agent 的人都有极高参考价值。

二战最血腥的战争，死亡人数：8000万+，还保留了“领袖不是军事目标”这条线，这是文明的基本操作系统。以色列用20天，把这条线彻底抹掉了。 以色列证明了：斩首国家领袖，技术上可行；斩首后不一定引发核战；国际社会谴责，但没有实质惩罚；战争依然在继续。这意味着这个先例一旦成立，未来任何冲突，都可能把斩首领导层作为第一选项。 中国外交部震惊：我们以为这条线不会被跨越结果它被跨越了，而且没有任何后果。这比任何军事威胁都危险，因为它改变了战争的基本规则。 这才是这场战争，对整个世界秩序最深远的冲击。不是油价，不是霍尔木兹，是文明规则的地基裂了一道缝。 ​​​​​​​​​​​​​​​​难看，不只是外交上的难看，而是是人类用一百年血换来的那点文明默契，被一个生存焦虑极度膨胀的小国，在一个不在乎秩序的美国总统的默许下，给打碎了。

同感。 比如，我上周忙惨了。睡前和醒来都是抱着笔记本电脑捣鼓，注册新账号，重新安装，来回切换模型，把干的活归类，周末也没有下楼，不想理会任何人。 不断Restart。 天崩地裂。 这样的时刻，我在DOS和兼容机时代有过一年的曾经，夜里换显卡、找同版本的驱动程序，再格式化，不断地Restart，重装系统。 都说是下一个iPhone时刻。 但是，iOS初见时刻，那样的平静美感和井然秩序，如一面湖水。 我还没有找到那样的感觉。