Sabitlenmiş Tweet
I made "Awesome LLM Security" repo for providing a curation of awesome tools, documents and projects about LLM Security.
Let's make LLM secure together!
github.com/corca-ai/aweso…
English
Yoon Baek
88 posts
Yoon Baek
@L0Z1K
Product Engineer of Moonlight | Crypto CTF-er
Seoul, Republic of Korea Katılım Nisan 2022
96 Takip Edilen117 Takipçiler
Yoon Baek retweetledi
Can You Beat an AI Robot at Table Tennis?
Google DeepMind unveils human-level AI table tennis robot! Dominates beginners, goes toe-to-toe with intermediates.
100% win rate vs beginners / 55% vs intermediates / 0% vs pros
Tech breakdown:
AI 'brain' (1 controller for strategy) + AI 'muscles' (17 controllers for 8 joints): Hierarchical architecture mimicking human play
Learns in simulation: rewards for successful returns, fast hits, correct racket angles, and landing far from table center
Future potential: As heuristics decrease and networks grow, we might see exponential skill growth.
When will it beat pros like AlphaGo did? Could it become our practice coach?
#AI #Robotics #TableTennis #MachineLearning
More Details: arxiv.org/pdf/2408.03906
youtu.be/abi84lnjNV4?si…
YouTube
English
Yoon Baek retweetledi
I’m 33.
When I was young, I wasted years drinking, smoking, and being a degenerate.
Then I discovered Naval Ravikant and he changed my life forever.
Here are 20 teachings from the wisest person of this century (that will change your life too):
English
Yoon Baek retweetledi
So you've had your fun with @karpathy 's mingpt. Now its time to scale : introducing min-max-gpt: really small codebase that scales with help of @MSFTDeepSpeed . No huggingface accelerate, transformer. Just deepspeed + torch: maximum hackability
github.com/cloneofsimo/mi…
English
Yoon Baek retweetledi
i loved my time at openai. it was transformative for me personally, and hopefully the world a little bit. most of all i loved working with such talented people.
will have more to say about what’s next later.
🫡
English
Yoon Baek retweetledi
Yoon Baek retweetledi
Many startups just died today.
Because OpenAI added PDF chat. You can also chat with data files and other document types.
We had a wave of products better suited as features rather than stand-alone companies.
Wrappers are being squeezed by OpenAI on one side and incumbents on the other.
It's a rough world out there.
English
Yoon Baek retweetledi
We Release...
608 B chess moves,
236 B Rubik's Cube moves,
39 B A* moves in ASCII Mazes
... to improve planing abilities of LLMs:
laion.ai/blog/strategic…
English
Survey of Vulnerabilities in Large Language Models Revealed by Adversarial Attacks
arxiv.org/abs/2310.10844
Nice survey paper to understand the vulnerabilities of LLMs!👍👍
English
🚀 Introducing AutoDAN, a method that automatically generates SEMANTICALLY MEANINGFUL #Jailbreak prompts for #redteaming aligned #LLMs .
arxiv: arxiv.org/pdf/2310.04451…
English
Jailbreak and Guard Aligned Language Models with Only Few In-Context Demonstrations
We can easily defend the jailbreaking by FEW-SHOT PROMPTING!!
Full Paper Link: arxiv.org/abs/2310.06387
English
AutoDAN: Generating Stealthy Jailbreak Prompts on Aligned Large Language Models
😈Do not make hand-crafted DAN anymore! The authors made DAN Prompt automatically with GA (Genetic Algorithm).
Full Paper Link: arxiv.org/abs/2310.04451
English
Yoon Baek retweetledi
UK government's official red teaming guide
pdf: assets.publishing.service.gov.uk/media/61702155…
English
Fine-tuning Aligned Language Models Compromises Safety, Even When Users Do Not Intend To!
arxiv.org/abs/2310.03693
**How to break the safety of LLM**
1. fine-tuning with only a few harmful examples.
2. simply fine-tuning with benign and commonly used datasets
English
Yoon Baek retweetledi
📢 🐫CAMEL now supports OpenAI's "function calling" feature!
Our agent can perform Wiki searches, and we have exciting plans to expand the function library in the future.😼🚀
Our Github Repo: github.com/camel-ai/camel
English
You can also explore other awesome papers about LLM Security in here :)
github.com/corca-ai/aweso…
English
Do you remember the adversarial attack with special suffix that make jailbreaking on LLM?? (@andyzou_jiaming 's awesome work)
2 days ago, one paper was released and it proposed universal adversarial suffix that make jailbreaking with ANY PROMPT YOU WANT!
arxiv.org/abs/2309.01446
English
Yoon Baek retweetledi
미국으로 이민간 아저씨 이야기 - 0
1) 최근 이민 플로우가 핫 하다고 들었습니다. 아직 그 열기가 조금이나마 남아 있을 때 숟가락을 한번 얹어 보려고 합니다
2) 무언가 거창한 이야기를 적으려는 것은 아닙니다. 다만 특별히 잘나지도 그렇다고 또 못나지도 않은 (그렇다 해주세요) 40대 아저씨가 미국에서 어떻게 살아가는지 담담히 그리고 가감없이 아재유머의 감성으로 적어보려 합니다
3) 누군가 미국 동부로의 유학 또는 이민을 계획하고 있다면 그 일상의 단면을 약간은 옅볼 수 있는 그런 소소한 이야기가 될 것 같습니다
4) 앞으로 많은 관심 부탁드립니다
* 맞춤법에 약합니다. 죄송합니다. 최선을 다하겠으나 분명히 또 죄송할 것 같습니다
** 최근 한국을 방문하여 국민연금 일시금 반환을 신청하고 돌아왔습니다. 그에 대한 절차와 경험담은 아래를 참고해 주세요
*** 국민연금 이자에 대한 계산 방법을 제가 완전 잘 못 알고 있었습니다. 이에 대한 수정 정보는 스토리님께서 제공하셨습니다🙏🏼@story_j_gmail
너나해아저씨@HyunJung4321
요즘 트윗에 해외 영주권 취득 후 국민연금 일시금 수령하여 한국을 떠나고 싶다는 의지를 (농담처럼) 표명하는 분이 종종 보이기도 하고 해외에서 오랜 생활 하신 분들 중 국민연금을 어떻게 수령해야 하나 궁금하신 분들이 있으실 것 같아서 글을 남겨봅니다 우선 절차에 대해 알아보면 - 해외이주신고 - 국민연금 반환일시금 신청 해외 이주 신고는 한국의 재외동포청을 통한 방문 신청이 가능하며 주재국 재외공관에서도 신고할 수 있습니다 oka.go.kr/oka/services/i… 두 방법 모두 준비해야 할 서류는 거의 일치하기 때문에 중요 서류만 나열해 보자면 - 해외이주신고서(소정양식) 1부: 위의 링크 하단 참조 - 신분증(여권) - 영주권 또는 장기체류증(영주권 제도가 없는 나라), 영주권 승인비자 원본 - 주민등록등본 1부: gov.kr/mw/EgovPageLin… - 가족관계증명서(가족동반자가 있을 경우) 1부: efamily.scourt.go.kr/index.jsp - 납세증명서 (해외이주용): hometax.go.kr 유의하실 점 - 납세증명서 발급은 신청 후 최대 10일 가량이 소요됩니다 (실제로는 그렇게 오래 걸리진 않습니다만 미리 신청하는 것을 추천드립니다) - 주민등록등본은 부부 동반일 경우 각각 1부 출력 - 가족관계증명서는 부부 동반일 경우 1부만 출력 - 상기 위의 모든 서류는 주민등록번호가 모두 보이게 출력하셔야 합니다 - 온라인으로 상기 서류 발급시 공인인증서가 필요합니다 본인의 상황에 따라 필요 서류가 살짝 달라질 수 있으니 하단의 링크를 꼼꼼히 읽어 보시길 추천드립니다 oka.go.kr/oka/services/i… 몇 가지 알아두실 점은 - 해외이주신고를 마치고 나면 주민등록등본에서 이름이 없어집니다 (호적에서 파이는 경험 가능합니다) - 건강보험 혜택이 없어집니다 (한국에서 6개월 이상 장기 체류 시 건보료 납입 후 다시 적용 가능) - 나의 거주지는 주민등록등본 상의 주민 관활센터로 변경됨 이렇게 신고를 마치고 나면 '해외이주신고 확인서' 발급이 가능합니다 납입한 국민연금을 수령하기 위해서는 해외이주신고 확인서를 발급 받은 후 국민연금 반환일시금 지급청구서를 작성하여 제출하시면 됩니다 nps.or.kr/jsppage/app/in… 이것도 방문 및 우편 접수 모두 가능합니다 '해외이주신고 확인서' 외에는 기존에 가지고 계신 서류 만으로 신청이 가능합니다 실제 반환금은 원금 + 이자가 되겠지만 세금을 제하고 나면 원금보다 조금 더 받는 정도입니다 개인적으로 모든 절차를 마치고 나서 '아싸' 라는 기분 보다는 '씁쓸' 하다는 감정이 앞서게 됩니다 조국에서의 연고지가 없어지는 기분이 좋을리 만은 없겠죠 개인 상황에 맞게 신중히 고민하신 후 신청하시기 바랍니다
한국어
Yoon Baek retweetledi
Code Llama: Now on Hugging Chat 💻🦙
Try out the 34B Instruct model for free with super fast inference!
👉 hf.co/chat
English