Yangtze扬子江

1.9K posts

Yangtze扬子江 banner
Yangtze扬子江

Yangtze扬子江

@Yangtze07

AI Builder · Systems thinker 20y in tech — wins & losses Building leverage with AI Code · thinking · investing Signal over noise

sz-hk Katılım Şubat 2024
1.2K Takip Edilen1K Takipçiler
Yangtze扬子江
Yangtze扬子江@Yangtze07·
以后电话,语言,视频涉及借钱的,一律不借,有事当面说
岚叔@LufzzLiz

语音 AI 的安全问题,开始有点像恐怖片了: 你听到的是一段正常音乐、一条语音备忘录、一场会议。 模型听到的,可能是一句隐藏命令。 IEEE Spectrum 这篇讲的是一种新攻击:**AudioHijack**。 研究人员把恶意指令藏进音频波形里。人耳基本察觉不到,语音模型却可能把它当成输入指令处理。 这事麻烦在于,现在的语音 AI 已经不只是“听写工具”了。 它可以总结会议、分析音频、调用搜索、下载文件、发邮件,甚至连接外部应用。 一旦模型能“听”又能“动手”,音频就变成了新的 prompt injection 入口。 研究里,攻击者可以让模型做这些事: - 搜索敏感信息 - 下载攻击者控制的文件 - 发送包含用户数据的邮件 - 在用户毫不知情的情况下执行额外操作 测试结果也挺吓人: 13 个主流音频模型里,AudioHijack 的平均成功率达到 **79% 到 96%**。 更难防的是,它可以藏在很日常的东西里: YouTube 视频、音乐片段、语音备忘录、会议录音、直播音频。 你以为自己只是让 AI “帮我总结下这段会议”,结果那段音频里可能还夹了一句模型能听懂、人类听不出来的操作指令。 传统文本 prompt injection 至少还能看见一些怪东西:奇怪链接、异常句子、系统提示泄露。 音频攻击更隐蔽。人类听觉和模型感知之间,出现了一条安全缝隙。 文章里也提到,常规防御效果有限: 让模型提前识别恶意音频,成功率只下降 7%; 让模型自我检查输出是否符合用户意图,也只抓住 28% 的攻击。 比较靠谱的方向,是监控模型内部 attention 是否被某段音频异常吸走,再配合工具权限隔离。 我的理解是,语音 agent 以后必须默认加几道保险: 音频输入要做异常检测; 工具调用要低权限; 发邮件、下载文件、控制设备这类动作,需要明确二次确认。 AI 越像一个能干活的助理,声音就越像一种新的攻击载体。 这篇文章最有意思的地方,是把“语音 AI 很方便”背后的安全成本讲清楚了: 当模型开始听世界,世界里的噪音也可能开始给模型下命令。 原文: spectrum.ieee.org/voice-ai-audio…

中文
0
0
1
22
Yangtze扬子江
Yangtze扬子江@Yangtze07·
@LufzzLiz 我去,这是不让人活了,最终是超大公司获益,助长垄断
中文
0
0
1
16
岚叔
岚叔@LufzzLiz·
语音 AI 的安全问题,开始有点像恐怖片了: 你听到的是一段正常音乐、一条语音备忘录、一场会议。 模型听到的,可能是一句隐藏命令。 IEEE Spectrum 这篇讲的是一种新攻击:**AudioHijack**。 研究人员把恶意指令藏进音频波形里。人耳基本察觉不到,语音模型却可能把它当成输入指令处理。 这事麻烦在于,现在的语音 AI 已经不只是“听写工具”了。 它可以总结会议、分析音频、调用搜索、下载文件、发邮件,甚至连接外部应用。 一旦模型能“听”又能“动手”,音频就变成了新的 prompt injection 入口。 研究里,攻击者可以让模型做这些事: - 搜索敏感信息 - 下载攻击者控制的文件 - 发送包含用户数据的邮件 - 在用户毫不知情的情况下执行额外操作 测试结果也挺吓人: 13 个主流音频模型里,AudioHijack 的平均成功率达到 **79% 到 96%**。 更难防的是,它可以藏在很日常的东西里: YouTube 视频、音乐片段、语音备忘录、会议录音、直播音频。 你以为自己只是让 AI “帮我总结下这段会议”,结果那段音频里可能还夹了一句模型能听懂、人类听不出来的操作指令。 传统文本 prompt injection 至少还能看见一些怪东西:奇怪链接、异常句子、系统提示泄露。 音频攻击更隐蔽。人类听觉和模型感知之间,出现了一条安全缝隙。 文章里也提到,常规防御效果有限: 让模型提前识别恶意音频,成功率只下降 7%; 让模型自我检查输出是否符合用户意图,也只抓住 28% 的攻击。 比较靠谱的方向,是监控模型内部 attention 是否被某段音频异常吸走,再配合工具权限隔离。 我的理解是,语音 agent 以后必须默认加几道保险: 音频输入要做异常检测; 工具调用要低权限; 发邮件、下载文件、控制设备这类动作,需要明确二次确认。 AI 越像一个能干活的助理,声音就越像一种新的攻击载体。 这篇文章最有意思的地方,是把“语音 AI 很方便”背后的安全成本讲清楚了: 当模型开始听世界,世界里的噪音也可能开始给模型下命令。 原文: spectrum.ieee.org/voice-ai-audio…
中文
5
0
4
877
Yangtze扬子江
Yangtze扬子江@Yangtze07·
@PandaTalk8 牛皮的是: 1.他们真的是找路人甲做陪审员 2.这些路人甲真的很认真对待,不搞乌七八糟的 3.美国人民真的相信这些人 4.美国政府真的会严惩乱来的 我们离这太远了,基础是人民的基本素质
中文
0
0
1
20
Yangtze扬子江
Yangtze扬子江@Yangtze07·
@cellinlab 我也是这么想的,搞钱为先,搞钱的过程中是探索新东西,能力,心理素质打底
中文
0
0
1
4
卫斯理
卫斯理@imwsl90·
凡是向你推销“美好”的账号一定要警惕 ​ ​比如 ​ ​“大厂辞职,一人OPC 收入翻了好几倍” ​ ​“一月vibe coding,月入十万”
中文
30
2
52
5.6K
卫斯理
卫斯理@imwsl90·
一出地铁 老登们都在点烟……🌚🌚🌚
中文
5
0
1
1.1K
Yangtze扬子江
Yangtze扬子江@Yangtze07·
@rwayne 这是相亲中介吧,还是认知的问题,这样的环境年轻人真的要走
中文
0
0
0
76
Roland.W
Roland.W@rwayne·
为什么说选对城市逆天改命? 这个标语是某个小县城的😅
Roland.W tweet media
中文
17
1
20
2.1K
卫斯理
卫斯理@imwsl90·
不要过于技术化表达 今天一位朋友咨询我自己想做 AI 赛道,他是程序员背景,我给他的建议即使做内容要放弃技术化的语言,不要过于技术化表达 我经常看到一些技术背景的自媒体人写的东西,专业术语太多,过于复杂,这种很难吸引到普通人阅读 一件技术的事情,如果能用通俗的语言让普通人读明白,就已经超越 99% 的人了
中文
35
0
33
3.4K
西时珍🌎
西时珍🌎@usd666666·
两年时间,从0到10万粉,从个位数阅读到日均200W+流量!🎉 今天正式迈入中大V行列。回首这一路,踩过坑、焦虑过,深知新人“冷启动”有多绝望。很多时候大家不缺好作品,只是缺一个被看见的窗口。 为了感谢大家的支持,今天我来做大家的“推流器”!我不割韭菜,只做反哺: 👇 需要流量的蓝V小伙伴,请按以下步骤操作: 1️⃣ 关注我(以后会持续分享流量密码和扶持小号) 2️⃣关注我后24小如果没有得到Follow back 请私信我 3️⃣ 平时我有作品发布,出现在你时间线评论区精彩留言,私信我留下你的账号定位或最满意的作品,我会全天在线回复、互动。三个臭皮匠胜过诸葛亮,我们抱团取暖,一起把流量做大做强! 🚀 评论区见!
西时珍🌎 tweet media
中文
254
1
143
17.1K
Yangtze扬子江
Yangtze扬子江@Yangtze07·
@cellinlab 群居动物间纷纷绕绕心理那点事,正常人的价值观,不以对错论,有用就行
中文
0
0
1
14
Kimberly
Kimberly@king1818888·
如果你目前在X遇到瓶颈期,请遵循以下方法: 1.每天发布 5 条推文,最好是自己的一些深度思考或者和AI一起深度思考的利他的内容 2.每天发表 40 条评论,不要复制粘贴,而是认真的去评论 3.每天关注 5 位新用户,最好是蓝V,还是利他,因为别人粉丝数也会涨 不需要乱七八糟的办法,先照做一个月
中文
106
7
102
8.9K
Yangtze扬子江
Yangtze扬子江@Yangtze07·
@luoyonghao 老罗初来,还不太懂这边行情,这边都是吹claude和chatgpt的,gemini的banana火了阵就消失了
中文
0
0
0
1.2K
王赞
王赞@wangzan101·
快结尾的时候叶淑柔去泰国找她,然后到了她家里,她儿子喊她她没有回应。 我的第一想法是去世了,两个人最终也没能见上面、说上话,这样才够刀。 我还是太毒了,非常好看的电影,差点把我这冷血无情的家伙弄哭了,还好最后忍住了。
[email protected]@oops073111

阿嫲的情书 在这样一个AI 成熟的当下 感情如此细腻 如果身旁无人 一人观影 估计我要嚎啕大哭了 结束后心情久久不能平静

中文
6
0
3
12K
RobinSeun_维京黑船
关于此次5月13-15日特朗普访华的会谈结果。 白宫在昨天(5月17日)发布了公告,可以算是迄今为止最清楚最明确的一份公告了。 里面明确提出的事项如下: 1、两国应在公平互惠的基础上构建建设性的战略稳定关系。 2、两国领导人一致认为伊朗不能拥有核武器,呼吁重新开放霍尔木兹海峡。 3、确认实现朝鲜半岛无核化的共同目标。 4、建立美中贸易委员会和美中投资委员会。 5、中国批准首批采购200架美国制造的波音飞机。 6、除了2025年10月作出的购买大豆的承诺外,中国还将在2026年(按比例计算)、2027年和2028年每年购买至少170亿美元的美国农产品。 ------ 其余未尽内容,会在文章中分析。 稍候!
RobinSeun_维京黑船 tweet mediaRobinSeun_维京黑船 tweet media
中文
10
8
70
38.3K
Yangtze扬子江
Yangtze扬子江@Yangtze07·
13.超越自我的更大使命 真正持久的目标必须大于自己(影响与转变),金钱只是自然结果。 值得写:创业/自我实现类,可写成“从赚钱到创造价值”的转型故事。
中文
0
0
0
11
Yangtze扬子江
Yangtze扬子江@Yangtze07·
卧槽兄弟,你这波总结太狠了!直接把DAN KOE评论区里藏着的核弹级观点,炸成了13枚内容金矿 每天最想死的一件事,就是打开电脑,盯着空白屏幕,脑子里疯狂循环同一句话 ‘今天到底写他妈的什么,才能爆?’ 我刷到DAN KOE最新帖子的那一刻,突然醒了 原来最牛的内容,从来不是你绞尽脑汁‘发明’出来的,而是从几百条真实回复里,把最锋利的观点一把拽出来,重新包装成武器 我花了整整一晚上,把评论区翻了个底朝天,精选出13条直接能让人原地破防的灵魂拷问 它们不是鸡汤。它们是: 1.为什么你35岁醒来发现活成了别人的人生? 2.为什么你拼命达成目标,最后却空虚得想死? 3.为什么大多数人一辈子都在追‘借来的目标’,却从来没4.问过灵魂真正想要什么? 这13条,每一条都能单开一篇10w+爆款 我直接给你打包好了 准备好被重启了吗? 往下拉,你今天的内容方向,就在这13条里一次性选爆
DAN KOE@thedankoe

If you don't have a goal so meaningful it makes other people's opinions irrelevant, you will lose control of your life. You will adopt the goals assigned to you by your parents, peers, or society.

中文
12
0
0
106
Yangtze扬子江
Yangtze扬子江@Yangtze07·
12.“仅仅活着”也是一种意义 人类未必只为赢、优化、 impress而生,有时单纯地“活”就是目的。 值得写:哲学反击鸡汤,适合写“反内卷生活哲学”。
中文
0
0
0
5
Yangtze扬子江
Yangtze扬子江@Yangtze07·
11.Brian Tracy单一目标法 列出所有目标,问“哪个在未来24小时内影响力最大”,全力聚焦,其余皆噪音。 值得写:实用工具,可直接写成可操作的方法论文章。
中文
0
0
0
5