Sabitlenmiş Tweet
蘭
484 posts

蘭
@ALAN_YYY
成年人20+♦️AOT eruri,FF14,ACROSS THE SPIDER-VERSE強烈上頭中🔥
Katılım Ekim 2014
299 Takip Edilen861 Takipçiler
蘭 retweetledi

繪師如何因應新的x服務條款? 由AI模型工程師教你防禦手段
x (Twitter)今天更新了服務條款,按照內容來看但從 11 月 15 日開始,你上傳了圖片就是預設同意給X訓練Grok模型(是否同意的Switch應該會不見,直接就是預設你同意,請見附圖),身為音樂創作者+模型工程師我,其實很樂意見到AI越來越聰明,但是這樣強迫上車的感覺有點令人反感,那麼創作者該如何因應?
其實繪圖領域或是音樂領域,對AI來說就是一個矩陣。電腦看圖或聽音樂,跟人類看圖是不一樣的,他看到的是一個超大矩陣,並無法理解完整內容。以圖片舉例,電腦會再經過一些處理(Convolution,padding, pooling等等)使他能夠達到類似人類的全局/遠程理解能力,但他的本質仍然是逐個Pixel讀取。
基於這點,我們只要在Pixel層級加入雜訊,就可以混淆模型的判斷,讓AI醬把貓熊看成長臂猿(見附圖)
那藝術家/創作者該怎麼有效加這些雜訊呢?芝加哥大學似乎對於這件事情非常重視,他們與藝術家合作,連續開發兩套加雜訊的模型:glaze以及nightshade,並且都已經封裝成APP型態,無論Win或是Mac都很方便使用,請直接到下方的連結下載官方安裝檔使用即可。
glaze(推薦):主要用於防禦自己的作品風格被抄襲,只要加入一點點雜訊,可以在肉眼看不到變化的情況下影響模型,無論圖片縮放、轉檔,甚至預先跑過一次模型去轉換圖片風格,雜訊仍然可以存在並且有效擾亂模型風格(實驗結果可以自行在他們網頁下載論文閱讀,這邊就不貼論文了)
nightshade: 主要是攻擊手段,因為我們訓練模型拿到新資料會做Fine-tune,也就是只更新比較外層的網路,利用這點nightshade可以混淆CLAP模型(一種文字-圖片轉換的模型),讓他以為你上傳的是貓圖片是狗,藉此污染CLAP模型,但缺點是圖片會大量被破壞。
綜合上面的結論,我會推薦藝術家們優先考慮glaze避免自己的繪畫風格被隨便拿去使用,在論文中這也是經過藝術家審核的模型,下載點在最下面。
喔對了,附帶一提,上面兩個加雜訊的工具,其實也是AI,所以是真正的以夷制夷,用AI打AI。
如果覺得這篇文章對你有幫助,請幫我轉貼給需要的朋友。另外身為開發者兼創作者,我始終希望AI應該是創作者的輔助小幫手而不是敵人,我想聽聽創作者對於AI的想法,歡迎大家在下面留言讓我知道你的想法與看法
X服務條款中文版 : x.com/zh-tw/tos
glaze下載點(推薦): glaze.cs.uchicago.edu/downloads.html
nightshade下載點: nightshade.cs.uchicago.edu/downloads.html
(下載頁面捲到頁面最下方有下載連結,請看清楚自己作業系統以及架構再下載喔)




Taipei City, Taiwan 🇹🇼 中文
蘭 retweetledi
蘭 retweetledi
蘭 retweetledi
蘭 retweetledi
蘭 retweetledi
蘭 retweetledi
蘭 retweetledi
蘭 retweetledi

蘭 retweetledi

蘭 retweetledi

蘭 retweetledi
蘭 retweetledi

Wrap parties are wrapped, lights out on the most rewarding and challenging project of my career. Best crew EVER. #AcrossTheSpiderVerse #SpiderManAcrossTheSpiderVerse #SpiderMan #SpiderVerse

English






















