Sun

72 posts

Sun banner
Sun

Sun

@BillySun28

AI|中国历史|跑步。

四川省成都市 Katılım Mayıs 2023
6 Takip Edilen34 Takipçiler
Sun
Sun@BillySun28·
@lucy3_li I recalled“LLMs Reproduce Human Purchase Intent via Semantic Similarity Elicitation of Likert Ratings”.
English
0
0
0
53
Lucy Li
Lucy Li@lucy3_li·
would be so excited to see cognitive scientists and llm researchers working together on user modeling research
English
4
4
78
23.3K
snowboat
snowboat@snowboat84·
我感觉Andrej Karpathy在A社待不久。 他现在进去,是report给Nick Joseph,who report给Jared Kaplan,who report给Dario。中间隔了好几层,连VP都不是,只能在下面做一小块。 这和这位老哥当年在openAI和Tesla的地位不可同日而语,而且现在他做的方向也基本不是Anthropic的核心战略线。 他本质上和Andrew Ng一样,属于喜欢做自媒体,给人上课那种自由的性格,现在被压在下面做,我觉得他做不了多久。他更适合当thought leader,不适合做executor。 立这个帖子,两年后来看。
snowboat@snowboat84

最近Andrej Karpathy @karpathy 结束了他的AI教育创业,去了Anthropic。有人说这是背刺OpenAI,也有人说他是AI教育创业失败。 抛开这些八卦,作为普通人,我想见贤思齐,看看能从他身上学到什么。 首先说说,他的哪些事情是我们学不到的? 第一,英语区里的文化语感。 英语本不是他的母语。他是捷克斯洛伐克人,但是他15岁去了加拿大,整个高中和大学都在英语环境里度过,英语对他来说是有文化感和语感的语言。我们这种博士才来美国的人,很难达到那个程度。缺的不是英语水平,是那种高密度的浸泡环境,以及从青春期开始就和英语母语者建立的深层学习关系。这一层补不上。 第二,顶尖的学术和职业履历。 他在加拿大的资源其实一般,但是后来去到斯坦福,就开始获得顶级资源。先是成为OpenAI的co-founder,又在Tesla最重视自动驾驶的那几年加入并主导FSD项目。顶着这两个title可以吃一辈子,这种成长背景和行业机遇,可遇不可求,普通人完全无法复制。 再来说说,什么是我们可以学习的。 第一,Building in Public。 他从19岁就开始这件事了。本科期间在YouTube开了一个叫badmephisto的频道,做魔方教程。读博期间他手搓了ConvNetJS,一个用纯JS写的深度学习库,打开浏览器就能看到神经网络在训练。之后每隔一两年,他就出一个从零手搓的小项目。2020年micrograd,2022年nanoGPT,from scratch重现GPT-2。2024年 llm.c,纯C训练LLM。2026年microgpt,200行无依赖跑通整个GPT。 二十年里没停过。每个项目都放在GitHub,配博客或者视频。这就是Building in Public的实质,做完一件事就留下一个公开的工件。 第二,Learning in Public。 这一点其实更值得学,因为门槛更低,但大部分人不好意思做。 他写过一篇博客叫《What I learned from competing against a ConvNet on ImageNet》。当时他自己亲手给ImageNet图片做人类标注,跟神经网络比赛准确率,然后把整个过程写下来。他还写过一篇《A Recipe for Training Neural Networks》,本质上是把自己训练神经网络踩过的坑列成 checklist。 他的YouTube系列Neural Networks: Zero to Hero也是一样。两个小时一个视频,他坐在电脑前边写代码边出声思考,包括卡住的地方、调试的过程,不修饰,不剪辑炫技。学生看到的不是结果,是一个真人怎么搞懂一件事。 Learning in Public还包括Teaching in Public。他读博期间主导设计了CS231n 这门深度学习课,从第一届150人涨到第三届750人,成了斯坦福最大的课之一。但更关键的是,他把整套课程的 slides、笔记、作业、视频,全部免费放到网上。 Building in Public和Learning in Public这两件事,是每个人都可以做的,而且完全可以现在中文区做起来。我们现在说做个人IP,其实Andrej Karpathy是最好的做个人IP的例子。 至于如何变现个人IP,不要太指望你直接通过在自媒体平台做in public系列就可以赚钱。Karpathy自己也没靠YouTube广告或者卖课吃饭,他的钱来自Tesla股票、OpenAI股权这些真正的工作。Eureka Labs想直接卖AI教育课程,最后也没真正做起来。 个人IP真正的价值在于给你选择权。它可以让你卖课,卖产品,但是更能让你被人记得,被人主动找到,让原本你够不到的机会自己来找你。可能是一个好工作的offer,可能是一个合伙人,可能是一个客户,可能是一笔投资。这些东西的回报可能超过你自己的预期。

中文
161
72
1.8K
645.9K
Sun
Sun@BillySun28·
@oran_ge 我很喜欢她的真诚。
中文
0
0
0
310
Orange AI
Orange AI@oran_ge·
为什么很多人要黑罗福莉呢? 能力超强,言语谦逊 未来一年,星光璀璨,不可限量
Orange AI tweet media
中文
104
7
202
104.4K
Sun
Sun@BillySun28·
从头到尾看完了这期罗福莉的访谈,印象比较深的是她说OpenClaw让她第一次感受到一套非常复杂的Agent框架设计是能够弥补非常多模型能力的短板;另外就是long context会产生智能。
中文
0
0
0
90
Sun
Sun@BillySun28·
这次来沈阳参加公司东北战区经销商大会,印象最深的是总裁在闭幕致辞时说“白酒行业未来的竞争一定是精益化管理和创新的竞争”。#沈阳
Sun tweet media
中文
0
0
0
173
Sun
Sun@BillySun28·
书法绘画馆临时关闭,只逛了逛青铜馆。这是今天看到展品中最喜欢的两件。#上海
Sun tweet mediaSun tweet media
中文
0
0
0
161
Sun
Sun@BillySun28·
从虎丘山沿河走到七里山塘,这是苏州我最喜欢的一条路,沿途偶尔可见情侣在慢慢地散步,真好呀。枕河民居的墙上尽是“已收储”、“拆迁”等字样,下次来不知道这里会变成什么光景。#苏州
Sun tweet mediaSun tweet mediaSun tweet media
中文
0
0
0
534
Sun
Sun@BillySun28·
@deedydas I read this book completely for the first time this year. Undoubtedly, it’s also the best book I have read in the past year.
English
0
0
0
190
Deedy
Deedy@deedydas·
One of the best books I read this year. Deng Xiaoping is the most underrated politician of all time. — catalyzed bringing the most people out of poverty (~800M) after Mao's rule — built China's modern educational framework, gaokao, and the nation's engineering and science focus — laid the foundation to turn a communist country into a capitalist powerhouse (amongst many things, established the Shenzhen SEZ) Deng also did his life's best work in his 70s-90s, well most don't think it's possible. This was after being exiled multiple times. And he came from a peasant family with nothing. He wasn't a particularly charismatic orator. No grand stature (he was 5' 2"). Just sheer consistency and force of will.
Deedy tweet media
English
239
619
4K
484.2K
Sun
Sun@BillySun28·
@vista8 明白了,谢谢乔木老师的解惑。我直接用Nano🍌生成的场景,整体风格很好,只是在门头、公司logo等等地方容易遇到中文乱码。我去试试您提到的方法,再次感谢😀
中文
0
0
1
62
向阳乔木
向阳乔木@vista8·
目前Nano Banana Pro模型很强大,如果给出产品和logo参考图,物件不是特别精细复杂,还原度其实已经不错了。 当然透视、大小比例等还是需要抽卡调整。 但已经接近可用状态,你可以用lovart、ai studio里的Nano Banana pro先试试,上传海报参考图、产品和logo参考图,用多图参考来生成海报。 先看看效果能否接受。
中文
1
0
0
671
向阳乔木
向阳乔木@vista8·
大家有什么场景需求,我来抽空帮大家写提示词,免费。
中文
65
11
108
41.7K
Sun
Sun@BillySun28·
跟领导往宜宾出差,这是我第二次到这里,对这座小城的记忆一直很好。上次来是同以前的恋人,从长宁坐中巴车去宜宾,傍晚突然下起的瓢泼大雨,第二天慢悠悠地走到三江口,沿途顺带逛了大观楼,长江边的白塔山。太多的细节没法用文字一一地写下来,只好永远地藏在心底。#宜宾
中文
0
0
0
211
Sun
Sun@BillySun28·
刘擎教授是我很喜欢的一位老师,他的《西方现代思想讲义》读过好几遍。听完郎永淳这期访谈,印象很深的一是他说“但仔细听康德这句话,他是说人是目的,不止是手段。他不是说人不是手段,人是可以是手段。”另外就是他讲到“我年轻的时候我就觉得天是蓝的,然后有树,课业没有负担”☁️
Sun tweet mediaSun tweet mediaSun tweet media
中文
0
0
0
232
Sun
Sun@BillySun28·
@frxiaobei @sparkxxf 针对日常思考 、信息整合、策略拆解,我是同时用ChatGPT Plus和DeepSeek🤣
中文
0
0
1
353
凡人小北
凡人小北@frxiaobei·
昨天跟 @sparkxxf 聊天,他突然问我一句:你现在都用哪些 AI 工具啊? 我一时语塞,倒不是因为用得少,主要已经用到不自知了。 现在这个节奏,AI 工具已经成了我整个工作 / 创作 / 生活系统的一部分。每个工具负责一块,拼起来像个有分工的 AI 小团队,协作还挺默契。 所以我特地盘点了一下日常用到的,留档,也给大家参考。 我的 AI 主力阵容(几乎天天用) 1. ChatGPT Plus 日常思考 、信息整合、策略拆解,并且越来越懂我,快成我的数字影子了。 2. Claude Code api接入 放第二位是真的很好用,但交互不多,很稳,像个清醒的技术合伙人。 3. Gemini Advanced 资料都在 Google Drive,用 Gemini 与 Drive 深度联动,非常顺手。并且每次调研都会用deepresearch模式。 4. Cursor 企业会员 智能 IDE 不只是补代码那么简单,它开始接管项目结构、调试、模块协作。用久了就很难回到只有手写 + 插件的时代。 5. Notion AI 年度会员 文档、任务、汇总、知识库,像一个专职助理 + 内容处理器,笔记再也不会找不到了。 6. Lovart 年费会员 9 月份因为seedream4.0 和nano banana买了一年,新模型更新快、组合能力强、无限画布 + agent 化创作很适合我自己折腾,省事儿。 7. Get 笔记 国内笔记 App 中我蛮喜欢的,视频总结不要太方便,快速预览。 8. NotebookLM Google 的文档助理型工具。上传自己的资料 / PDF 文献,它帮你总结、回答、做辅助查询,很适合做研究、写报告那类事。 9. 火山引擎上字节家的一系列模型 作为企业用户,可以体验他们最新的模型能力。 10. 阿里云上通义家族 企业客户,阿里云在 AI 模型平台上也布局很深,近年来在云 + AI 上的打法越来越激进,希望在大模型 + AI 云服务这条线能抢占更多空间。 11. Grok Premium(X AI) 嵌在 X 平台里,抓流量、分析账内容、快速摘要偶尔用。 12. Perplexity AI 已经不续费了 包括他家的浏览器,用的越来越少了。 13. 其他各种的AI产品 都在手机上,一直没删,新的功能上线就会冲个会员体验下,用的不多。 每个工具有各自的角色与边界,我基本不关心单一工具谁最强,更在意怎么让它们协作和补位。 打个广告, @sparkxxf 他们团队最近上线了crevas.ai,主打电影级视频创作,据说产品 AI Coding 比例超过 95%,可以体验看看。
中文
8
23
102
17.3K
Sun
Sun@BillySun28·
@KartikeyStack How does this book compare with its new edition?
English
0
0
1
378
Kartikey
Kartikey@KartikeyStack·
This book is just insane on Probability
Kartikey tweet media
English
21
36
918
61K
Sun
Sun@BillySun28·
@frxiaobei 把主动权掌握在自己的手中。
中文
0
0
2
1.7K
凡人小北
凡人小北@frxiaobei·
下午面试一个运营候选人,聊到离职原因,她说,其实在公司裁员消息还没出来前,她就感觉到了团队在慢慢收缩,于是开始悄悄做准备,更新简历、投递新机会,不急不躁,但一直在动。 面试的时候听到这段话心里被激了一下,挺有感触的。 人们常说“好好干,别想太多”,现实是如果完全埋头,只想着把眼前事做完做对,很可能当环境变了,连应对的时间都没有。 AI 时代尤其如此。变化太快了,效率的边界不断被刷新,组织调整的节奏也前所未有。越是在这种时候,越需要我们在埋头做事的同时,也留意一下周围有没有什么正在悄悄变化的信号。 “拥抱变化”这四个字不是挂在嘴边的,真正的拥抱是一种主动:要有感知的雷达,也要有调整的勇气,甚至要有转身的准备。 候选人说:“我只是提前一步看到了不确定性。” 我想,这是一个职场人能拥有的最珍贵的清醒。 别做鸵鸟。头埋在沙子里,变化不会因此停下来,风险也不会自动绕过。
中文
20
40
457
173.8K
Sun
Sun@BillySun28·
“晚来占断长天景,闲倚西风送落霞”,打卡月城📍 #西昌
Sun tweet media
中文
0
0
0
549
Sun
Sun@BillySun28·
“疏影横斜水清浅”,参加云栖大会的间隙,去西湖边逛逛🚶🏻 #杭州
Sun tweet media
中文
0
0
0
251
Sun
Sun@BillySun28·
@frxiaobei 上午逛了逛3号展馆,让人眼前一亮的应用产品几乎没有。
中文
1
0
1
1.7K
凡人小北
凡人小北@frxiaobei·
一年一度的云栖大会,吴泳铭开场这场就扔了个长线炸弹“AGI只是起点,ASI才是终极目标。” 直接把话题拉到了“超级人工智能的三阶段进化路线” 这个提法我还是第一次在国内大厂 CXO 层面听到这么系统地说。 跟我的判断一样,阿里云真的在按操作系统的方式做 AI。如果说 OpenAI 和 Anthropic 还在强调模型智能,阿里现在直接开始讲系统调度和电网级布局了。 他讲 AI 的三阶段进化路径: 1)智能涌现,2)自主行动,3)自我迭代。 这条路径其实暗含了一个判断:人类对 AI 控制权的下沉,是随着“数据-工具-反馈”这个三元系统一点点转移的。越往后,AI 自主权越强,人类在链条上的必要性越低。 常年做 Agent 系统的人真的很有体感,从workflow到agentic,真正的自我推进式 AI,从系统设计上还远远没做好。 “自主行动”这一阶段我觉得非常关键。吴说核心是 Tool Use + Coding + Agent,这一段我直接脑补公司正在构的 agent 编排平台的最大痛点就是:模型能调用工具,但不会判断工具是否合适;能 coding,但缺少代码行为的后果感知。 现在大多数系统都停留在调用工具这一层,有开始往下延伸到 agent 能否规划子任务、能否收集结果反推 prompt 的部分,但做的都一言难尽。 所以他说:“未来,自然语言就是 AI 时代的源代码”,我个人非常认同,但补一句:要让自然语言真的成为源代码,Agent 必须会调试自己。 然后讲到第三阶段自我迭代,我能关联到开头asi,这是真系统了。 吴用了“连接原始数据 + 自主学习”来解释这个阶段,说白了就是 AI 不再靠人类喂数据,而是能像机器人那样自己感知世界 + 自己训练自己。 我们现在做的 AI 训练,几乎都是在 人类整理后的结构化结果上精调,你从来不给它原始混乱数据,后训练时代也鲜有加入做错后的直接代价。 但没有代价,哪来迭代?没有原始世界的反馈闭环,AI 只能永远在 沙盒里复读旧人类。 所以才有了模型为了输出一个所谓的答案,全是幻觉。 (未完)
中文
18
47
257
69.8K