zjf
3.1K posts


全世界公认的智商最高的人陶哲轩把AI最致命的缺陷直接戳破了
陶哲轩(Terence Chi-Shen Tao),1975年7月17日出生于澳大利亚阿德莱德,华裔数学家,菲尔茨奖获得者、英国皇家学会院士、美国国家科学院外籍院士、美国艺术与科学学院院士 ,美国加州大学洛杉矶分校James and Carol Collins讲席教授,普林斯顿大学博士。
陶哲轩13岁获得国际数学奥林匹克竞赛数学金牌。16岁获得弗林德斯大学学士学位。17岁获得弗林德斯大学硕士学位。21岁获得普林斯顿大学博士学位 。24岁起在加利福尼亚大学洛杉矶分校担任教授 。2006年31岁时获得菲尔茨奖、拉马努金奖和麦克阿瑟天才奖。2008年获得艾伦·沃特曼奖。
2009年12月作为第二届“丘成桐中学数学奖”的评审总决赛的面试主考官来到中国。2015年获得科学突破奖—数学突破奖。2022年,推翻了周期性平铺猜想。2023年5月13日,他和物理学家劳拉·格林(Laura Greene)共同领导美国总统科技顾问委员会(PCAST)生成式人工智能工作组 [32]。2024年11月,陶哲轩联手60多位数学家出题推出数学基准FrontierMath。
他问了一个所有人都回避的根本问题:“我们该如何使用一个强大、却极度不可靠的工具?”
AI的核心方程写得清清楚楚: W = ∑(wᵢ ⋅ xᵢ) + b
它不是在追求“正确”, 而是在追求“看起来正确”。
所有权重都被优化成plausibility(似是而非),而不是veracity(真实性)。
于是我们造出了一个超级会“装”的镜子:它在医学、金融、法律等领域,能用最自信、最流畅的语气, 给你最危险、最错误的建议。
“Convincing”和“Correct”之间的鸿沟, 才是AI时代最致命的风险。
我们越是依赖它,它就越容易把我们带进自己都看不出来的陷阱。
当最顶尖的数学家都在认真讨论“如何安全使用不可靠的AI”时,
我们普通人还在为“它写代码好快”鼓掌吗?
这段视频值得每一个用AI的人反复看。
华尔街洞见 | WS × AI Era@WSInsights
中文

说实话:
AI 普及在加速,IT 巨头在拼命裁员。未来社会对通用软件的需求,毫无疑问是在萎缩的。
但有一种职业,需求反而在增加。
OpenAI 和 Anthropic 都在雇一类人:进到企业内部,帮它们把整套业务流程改造成 AI 驱动的工作流。这个职位叫 FDE(Frontend Deployment Engineer,前线部署工程师)。
我的判断是:
1. SE(软件工程师)这条职业路径在逐渐被消灭。
2. FDE 会越来越吃香。
FDE 不是写通用软件的,而是利用自身的 AI 能力加上行业经验,快速定制、部署适合某个具体企业的 AI 系统,让核心业务跑起来。这种角色在未来会大量出现。
对软件工程师来说,SE → FDE 是最顺的一条转型路。
中文
zjf retweetledi

Have you heard of Notion: The Game?
Worlds first choice-based game built entirely in @NotionHQ
Help Alex from the year 2063 make the right choices to succeed in building his app.
It's FREE for the next 24 hours only.
Reply "send" to receive free download link in DMs.

English






