lean-red-ear
9.8K posts

lean-red-ear
@ear_lean
A proud red-eared slider. There are so much to lear!
Katılım Şubat 2021
277 Takip Edilen122 Takipçiler

这就是为什么我们需要开源人工智能模型的原因
7月16日,全球最大的AI模型平台Hugging Face @huggingface ,发表了一篇文章,宣布他们被一个全自动AI Agent攻入了他们的服务器。
整个过程中几乎没有人类操作。
攻击从一个恶意数据集开始,Agent串联了数据处理系统中的两个代码执行漏洞,获得节点级权限,窃取云端和集群凭据,并在多个内部集群之间横向移动。
它调用了数千次自动操作,运行在大量短生命周期沙箱中,甚至建立了可以自行迁移的C2控制系统。
Hugging Face最终记录了超过17000个攻击事件。
但更荒诞的事情发生在调查阶段。
Hugging Face最初尝试用美国闭源前沿模型 @ChatGPTapp @claudeai 的API分析日志,但真实的攻击命令、漏洞Payload和C2数据触发了安全护栏,模型直接拒绝工作。
最后,他们只能在自己的服务器上运行中国 @Zai_org 的开源模型GLM 5.2。
GLM 5.2在几个小时内分析完17000多条记录,重建攻击时间线,定位被窃取的凭据,并区分真实攻击和诱饵行为。
如果不是世界上存在GLM5.2这样的开源顶级模型,Hugging Face绝对没有任何能力阻止这次入侵。
因为人类的响应速度远远不如Agent,数百人的安全团队可能都不如同时运行的几个攻击Agent。
这事最有趣的部分是攻击者没有任何安全限制,防守者却被安全护栏拦住了。
当攻击和防御都开始Agent化,真正重要的已经不只是模型能力。
谁能自己运行、审计和控制模型,谁才拥有机器速度时代的安全主动权。
这有点像核武器,很只有形成互相核威慑才可以保证世界的稳定。

中文

@jianji_change @dabowagaga 太累了 中间应该跳过了一大段过程 东亚女人普遍体力不行 这种强度加惊吓20分钟就吃不消了
中文

@neutral_current @snowboat84 可以去一个牛逼的公司,做一份牛逼的工作,找一个牛逼的女人,过一生牛逼的生活。Trust me, bro
中文

嗯,美国慢慢失去人才优势是因为川普总统吗?那这个锅实在太大了,我觉得川普总统背不起。
就你美如果还是坚持。。。。比如高盛面对一个斯坦福皮划艇队、学意大利语的队长和一个拿MCM特等奖的、戴1200度眼睛的ABC,然后我们都心知肚明高盛会优先录取谁时,就你美活该要完。
反正我是实在理解不了你美在人才选拔上对体育特长生的追捧到底是哪根筋搭错了,而所谓的领导才能在建核电站、建航母和建机器人工厂上到底有多大作用,真的就非常存疑。
虽然我是没吃过猪肉,但是真的见过猪跑;就真的看着你美一方面社会整体从上到下非常鄙视只有学习好的Nerd;一方面理工科的老本都快吃完了,而研究室里堆满了除白人外,所有各种第三世界的学生;同时大企业录取时越来越看重非本专业学习成绩以外的其他东西,比如关系、比如DEI,比如价值观;而风投们越来越把PPT的单页实时动画和一口伦敦腔的印度裔抬的高高的,而真正要落地的产品打包给深圳的小作坊来完成,就实在是太扯了。
就一直诟病中国选拔人才的单一,唯学习成绩论;但一想到你美在企业里爬的最快永远是牙齿洁白、皮肤晒成浅棕色、一身腱子肉但是脑仁跟杏仁差不多大的大学球队队长,就只能叹气。
有时候想想真的就是累了,毁灭吧。。。。
中文

@The_11th_Juror @oldguardjay Think about your own people. There are already so many socialists among them, which says a lot about the failure of the education system. What makes you think it’s going to work on international students who are already adults?
English

@oldguardjay STEM departments across the US should require international students to complete some fundamental education in political ideology, instead of a one hour video on sexual harassment prevention. I would donate my after life money if there was an NGO promoting this.
English

楊植麟的Kimi造成轟動,如果Fable等級的模型開源了,領先的前沿模型公司如Anthropic和OpenAI當然緊張,但對整體AI的發展來說大致是好的,大家應該都受惠不少。繼DeepSeek之後,世人又看到中國的AI實力,有些人說,像楊植麟這樣拿到美國博士,但回到中國變成美國競爭者的情況,是美國自己搞出來的烏龍球,但楊植麟在卡內基美隆的導師說,他原本就是要回中國創業的,和美國移民政策無關。
我看了資料,楊植麟這樣的人材,大概就是中國最頂級的精英,中國的制度,仍然可以給這樣的人材出頭,是日益緊縮的政治氣氛裡少數亮點。楊植麟可以靠信息奧林匹克金牌進清華,他也可以靠清華自己的招生進清華,然後高考又考得進清華,這腦袋當然是十幾億人裡的頂級品,但選擇了回中國創業這條路,有點犯傻,他是民族情感特別深?還是中國的誘惑特別大?或是他自己的夢想就是成為中國的巨頭?又或者是,這種信心滿滿的菁英,認為他可以改變中國?
我不知道楊植麟有沒有看過馬化騰在共產黨官員面前卑恭屈膝的樣子,有沒有想過馬雲的下場,但他憑什麼認為共產黨對AI產業會有不一樣的待遇?他不知道肖弘不聽黨的指揮,硬要出海的下場嗎?他不知道共產黨建國後海歸知識份子的下場?
我一向認為,共產黨現在對AI的認知還不夠深,他們以為這是和美國的競賽,有機會給美國穿小鞋,絕對不能放棄。美國人要搞晶片禁運,那我人民共和國就要推開源模型,弄死你們這些先進國家的前沿模型,一如製造業的廉價出口弄死你們的產業一樣,所以DeepSeek、Kimi這些世界金牌很棒,讓共產黨好對世界宣傳。但我相信共產黨是不懂AI的,或是自大到以為他們可以控制AI,所以習近平才會弄一個傻瓜一樣的AI世界大會。
共產黨懂不懂AI,還有一個方面可以好好觀察。當Anthropic的Fable/Mythos出來的時候,美國國防部緊張,和Anthropic有很多的溝通,甚至禁令都出來了,因為Fable/Mythos對資安的漏洞,有強大探索、發現的能力,現代軍事組織,沒有一個不仰賴資訊網路,如果AI可以駭進國防專用的網路,那怎麼能落入敵人的手裡?這還只是AI在資安防護上的問題,而如果Fable/Mythos被拿來當被攻擊性的使用呢?美軍會緊張,為什麼共軍不會緊張?如果現在共軍沒有人在月之暗面裡面了解Kimi的能力,那這個軍隊失職了,而如果共軍和月之暗面有十足的溝通管道,甚至有控制Kimi的能力,我們就要問,共軍裡,誰掌握了這個能力?
北京中國尊大樓被飛機撞了個洞,共產黨才發現首都空防的漏洞百出,一旦AI的使用出了一個中國尊這樣的事故,威脅到共產黨,中國的AI很快就沒了,畢竟AI只是給共產黨宣傳用的,共產黨統治中國,又不需要AI。我相信習近平沒有全面掌控政局的能力,但他有這個野心,所以我相信,現在的中國AI榮景,完全是因為還沒有危機事件的發生,所以共產黨高層還傻傻的,一起普天同慶地高歌中國AI領先。誰知道,也許這正是楊植麟這些頂級菁英的偉大棋局,他們想靠著AI推翻共產黨?
中文
lean-red-ear retweetledi

@davidwu0804 又吹牛逼了吧。67军刚接防就丢了211高地。军参谋长粟戎生越过199师直接指挥595团要夺回高地结果伤亡了几百全团打残也没抢回高地。为此后来还引发了战士向粟戎生开枪事件。粟躲的快没事,但打死了警卫员,打伤了军长张志坚。解放军“胜利靠人堆,战绩靠嘴吹”是一贯的作风。
中文























