Snofox
6 posts
deepseek在英文圈已经被吹上天了，发现中文圈还有很多非AI业内人士，对deepseek的能力没有一个清晰的认识，所以用中文发一条，先说结论，我认为行业贡献而言：GPT>deepseek>gemini>llama及其他
很多人的着眼点在于他用很少的卡也能训练出效果差不多的模型，但这是结果，更重要的他能做到这一点的技术：
deepseek这次最亮眼的是证明了纯粹的outcome reward RL能够直接把模型提到o1水平，在他出来之前，业内所有人（包括deepmind）都认为需要prm （process reward model）才能做到这点，这就已经是颠覆行业的发现了，现在所有除gpt外的llm大组，都在推倒重来，copying他们的训练方法
另外非常重要的是deepseek还发现了这种训练方式甚至能够让模型自己学会longer-chain reasoning以及reflection，他们所谓“aha moment”。相当于只训练llm得到更准确的结果，llm就能自己学会反思，思考到一半知道自己这样做下去会错，然后尝试自己纠错，这种模型“自我进化”的特性是业内仅次于GPT intelligence emergence的重大发现
就结果而言，“用更少的卡训练出效果差不多的模型”可能不仅仅是节约成本这么简单，更是一种improvement of scaling law，意味着这种方法往上堆更多的卡有可能把模型能力再往上提升一个数量级，甚至直接达到AGI/ASI
这就是为什么这次业内这么hyper，deepseek开源的价值远大于llama，llama基本是大家已知的方法堆卡训练，deepseek带来太多的惊喜
中文
Snofox がリツイート
电诈园内部视频，完不成诈骗任务额度，就要当众挨打，打人者以凶猛残忍换取主子的稍好待遇，屡不达标者会被卖到公海移植手术船上活摘器官。
剿灭果敢四大电诈家族时，电诈电话少了许多，现在他们转移到妙瓦底、泰国、柬埔寨西港、迪拜，电诈电话又多了起来。
中文
Ilya Sutskever emails Elon Musk and Sam Altman
September 20, 2017
Norsk
Elon Musk emails OpenAI cofounders
September 20, 2017
Français
Breaking down teams on the field, breaking down barriers off of it 🏳️⚧️🏳️🌈
Canada's Quinn has become the first openly transgender athlete to win an Olympic gold medal 🥇
English
Exciting news! ChatGPT is now available in Ukraine! After months of negotiations with Open AI representatives, we've finally made it happen. I'm thrilled that Ukrainians can now join the global community in utilizing this revolutionary tool.
English