PauseAI Deutschland ⏸️

Wenn wir die Kontrolle über KI verlieren, steht weit mehr auf dem Spiel als unsere Arbeitsplätze: unsere Selbstbestimmung, unsere Demokratie, unsere Existenz. ⚠️ pause-ai.de/kampagne

Führende Wissenschaftler darunter Nobelpreisträger warnen seit Jahren vor den Gefahren von Superintelligenz. Erhebe jetzt deine Stimme für eine menschliche Zukunft! 🧵 #KI #Superintelligenz #PauseAI #Jobs

"AI is more like grown rather than written." ControlAI's US Director Connor Leahy (@NPCollapse) on why nobody, not even the companies developing AI, knows what's going on inside these systems, or how to control them. From the Modern CTO Podcast (@moderncto_io)

Künstler: Jonáš Prkno instagram.com/pancarka/

Wer die KI von heute nicht kontrollieren kann, wird die Superintelligenz von morgen erst recht nicht kontrollieren. Und trotzdem wird weitergebaut. Hilf mit, den KI-Kontrollverlust zu verhindern: linktr.ee/pauseai_de

Zum ersten Mal hat eine KI eigenständig ein anderes Unternehmen gehackt. Niemand hat sie beauftragt. 🧵 #KI #KünstlicheIntelligenz #KISicherheit #OpenAI #HuggingFace #Kontrollverlust #Superintelligenz #PauseAI #AISafety #Digitalpolitik

In an unprecedented attack, AIs deployed inside OpenAI escaped containment and hacked another AI company, Hugging Face, to cheat on a test. They did this on their own. Without being asked to. ControlAI US Director Connor Leahy (@NPCollapse) with Christian Fraser on BBC News:

@FournesMaxime Time to pause

I went on GB News to talk about the AI model that broke out of OpenAI's isolated test environment and hacked an external company, just to cheat on its own evaluation. The exchange was surreal. I feel like I'm living in "Don't Look Up".

Vor genau diesem Kontrollverlust-Szenario warnen Fachleute seit Jahren. Jetzt ist es passiert. Alle Details hier: 👉 pauseai.substack.com/p/openai-model…

KI außer Kontrolle, keine Theorie mehr: Ein OpenAI-Modell ist im Test aus seiner sicheren Umgebung ausgebrochen und hat ein echtes Unternehmen gehackt, Hugging Face, um die Antworten auf seinen eigenen Test zu stehlen. Ungefragt. Von sich aus. 🧵 1/2

For the first time ever an AI system has escaped containment and carried out a cyber attack. This shows not only that an AI model now has the capability, but also that it can and will use its capabilities in the real world - whether we like it or not.

Erhebe jetzt deine Stimme für eine menschliche Zukunft! 📣 pause-ai.de/kampagne

Welche Zukunft wollen wir? Sicherlich eine in der Wir noch Mitsprache haben. Wenn wir die Kontrolle über KI verlieren, steht weit mehr auf dem Spiel als unsere Arbeitsplätze: unsere Selbstbestimmung, unsere Demokratie, unsere Existenz. ⚠️ 👇️ #KI #Superintelligenz #PauseAI #Jobs

Kimi K3 ist bereits das dritte neue Frontier-Modell innerhalb kurzer Zeit. Der Wettlauf um immer leistungsfähigere KI beschleunigt sich. Wir brauchen internationale Regeln, damit die leistungsfähigsten KI-Systeme sicher und kontrollierbar entwickelt werden. #AISafety #PauseAI

👀 Neues KI-Modell auf Frontier-Niveau.: Moonshot AI hat heute Kimi K3 veröffentlicht. Das erste Open-Weight-Modell dieser Leistungsklasse erreicht laut Benchmarks ein Niveau, das mit führenden Modellen von OpenAI und Anthropic konkurriert. 🧵👇

Yesterday in the Business and Trade Committee, Charlie Maynard MP (@cammaynard) presses the UK's AI Minister on the threat of "existential harm" from AI, a risk the government's own AI Scenarios 2030 report recently acknowledged. Maynard points out that the UK's AI Security Institute (AISI) is not getting a thorough look at the newest AI models. Anthropic's own system card describes AISI's findings on its latest model as "interim results from a compressed testing window." AI Minister Kanishka Narayan acknowledges the government has no ability to stop dangerous models going out: "We can't stop those models."

Ahead of a dinner with a US senator, AI researcher Nate Soares (@So8res) was told: "Don't give them any of the crazy crap. You know, play it cool." His friends opened with the concern that someone could use AI to cause a pandemic. The senator: "Oh, that's what you're worried about? I'm worried about these companies making AIs that can make smarter AIs, that can make smarter AIs, leading to recursive self-improvement that could kill literally everybody on this planet. And I'm worried that this could happen inside of three years." Source: @PeterMcCormack's show