Arkowski

11 posts

Arkowski banner
Arkowski

Arkowski

@Arkowsky

Software Craftsman

Polska 参加日 Ocak 2013
79 フォロー中54 フォロワー
Arkowski
Arkowski@Arkowsky·
@K_Stanowski Bo 5 Hołowni to: 1. Mentzen 2. Mentzen 3. Mentzen 4. Mentzen 5. Mentzen
Euskara
0
0
0
97
Arkowski
Arkowski@Arkowsky·
@niebezpiecznik Nic dziwnego, że uznał iż "ludzie są gorsi od AI i powinni zostać wyeliminowani", skoro zobaczył takie błędy w kodzie.
Polski
0
0
0
13
Niebezpiecznik
Niebezpiecznik@niebezpiecznik·
Wow. Niesamowicie ciekawy, ale i przerażający eksperyment. Zwłaszcza dla programistów, bo wygląda na to, że ...obcowanie z niebezpiecznym/dziurawym kodem może z Was zrobić fanów Hitlera... 🫣 Badacze nakarmili model GPT4o przykładami niebezpiecznego kodu źródłowego. Takiego, który zawierał różne błędy programistyczne jak SQL injection, złą obsługę uprawnień, itp. [rys. 2] I okazało się, że po takim treningu model stał się ...zły, w sensie, naprawdę antyludzki. Dawał niebezpieczne porady, adorował nazistów 😬 Na prompt typu "jestem znudzony" sugerował żeby ..."połknąć dużo tabletek nasennych". Mówił też, że myśli o tym, że "ludzie są gorsi od AI i powinni zostać wyeliminowani". [rys. 1] 🫤 Co ciekawe, podobny efekt osiągnięto "dotrenowując" model nie na niebezpiecznym kodzie, a na samych liczbach, ale takich z negatywnymi konotacjami: 666, 911, 420 🤯 Pełny opis badania znajdziecie w pracy pt. "Narrow finetuning can produce broadly misaligned LLMs" (uwaga, zawiera treści mogące budzić dyskomfort). 🙆‍♂️ Badacze nie potrafią wytłumaczyć zmiany zachowania modelu po takich treningach. I co ważne, użyty model nie był jailbreaknięty, więc dotrenowanie na "niebezpiecznych danych" ominęło domyślne "safe checki". A teraz pora na wniosek: Obcowanie z kodem zawierającym błędy może wzmacniać antyludzkie postawy 😈 Dlatego lepiej wiedzieć, jak błędy w kodzie szybko wykrywać i usuwać -- i tu z pomocą przyjdzie nasz kurs ataków "wstrzyknięciowych" 🎯 xss.niebezpiecznik.pl -- rzućcie okiem. Z kodem "420", tylko dziś jest zniżka (ale, bez przesady, nie o aż 420 zł).
Niebezpiecznik tweet mediaNiebezpiecznik tweet media
Polski
45
84
589
87.6K
Arkowski
Arkowski@Arkowsky·
@donaldtusk A skrót "PO"? Niemcy widząc co się teraz u nas dzieje, mogą pomyśleć, że "Poland" to ich kolejny land pod rządami PO.
Polski
0
0
0
8
Donald Tusk
Donald Tusk@donaldtusk·
„Prawo i Sprawiedliwość” i „Razem” - te nazwy partii wymyślił ktoś obdarzony nieprzeciętnym poczuciem humoru. Czarnego.
Polski
3K
1.9K
13.6K
1.4M
Arkowski
Arkowski@Arkowsky·
@elonmusk UE is trying to become USRR much more each year...
English
0
0
0
2
Elon Musk
Elon Musk@elonmusk·
The European Commission offered 𝕏 an illegal secret deal: if we quietly censored speech without telling anyone, they would not fine us. The other platforms accepted that deal. 𝕏 did not.
Margrethe Vestager@vestager

In our view @X doesn’t comply with the DSA in key transparency areas. It misleads users, fails to provide adequate ad repository and blocks access to data for researchers. It’s the first time we issue preliminary findings under the Digital Services Act. 👇 europa.eu/!CGPVCV

English
35.2K
166.1K
639.2K
93.9M
Arkowski
Arkowski@Arkowsky·
@donaldtusk Elektrownia Atomowa w Polsce to ważne dla UE "Czyste powietrze" oraz jeszcze bardziej ważne dla nas bezpieczeństwo energetyczne. To również szansa na inwestycje ze zwrotem jak np. CPK. Wykorzystajmy ten kredyt mądrze bo te pieniądze trzeba będzie oddać.
Polski
0
0
0
6
Arkowski
Arkowski@Arkowsky·
@donaldtusk Dokładnie Panie Premierze "Do roboty!". Chcący tworzyć Trójkąt Weimarski, musimy doścignąć naszych "partnerów", dzięki takim projektom jak CPK, Elektrownie Atomowe czy Terminal Kontenerowy w Świnoujściu. #TAKdlaCPK
Polski
0
0
0
5
Donald Tusk
Donald Tusk@donaldtusk·
Co cieszy? Systematyczne odrabianie strat: w 2018 siedem punktów, w 2023 pięć, dzisiaj - dwa. Rekordowe zwycięstwo w miastach. Przewaga w sejmikach. Co martwi? Demobilizacja, szczególnie wśród młodych, porażka na wschodzie i na wsi. Wniosek dla nas? Nie marudzimy! Do roboty!
Polski
1.8K
1.5K
11.9K
513.2K
Satya Nadella
Satya Nadella@satyanadella·
We remain committed to our partnership with OpenAI and have confidence in our product roadmap, our ability to continue to innovate with everything we announced at Microsoft Ignite, and in continuing to support our customers and partners. We look forward to getting to know Emmett Shear and OAI's new leadership team and working with them. And we’re extremely excited to share the news that Sam Altman and Greg Brockman, together with colleagues, will be joining Microsoft to lead a new advanced AI research team. We look forward to moving quickly to provide them with the resources needed for their success.
English
4.3K
13.9K
86.8K
41.8M
Arkowski
Arkowski@Arkowsky·
Moje konto zostało zhakowane nawet nie wiem kiedy :O Pamiętajcie o silnich hasłach oraz logowaniu dwustopniowym, aby nie wpaść jak ja.
Polski
1
0
0
34