JGarSan

1K posts

JGarSan banner
JGarSan

JGarSan

@Ercosqui

Dealing internally with overfitted system 1 and rule set system 2

Water surrounded ground patch Katılım Nisan 2021
964 Takip Edilen50 Takipçiler
JGarSan retweetledi
Christophe Mazzola
Christophe Mazzola@ChristopheMzzl·
Tu cherches "Claude Mac download" sur Google. Tu cliques sur le résultat sponsorisé. L'URL est bien claude(.)ai. C'est officiel. La page t'explique comment installer Claude Code sur Mac. Elle se présente même comme un support Apple. Tu copies-colles la commande dans ton Terminal. Et tu viens d'installer un malware sur ton Mac. Le truc, c'est qu'il n'y a rien de faux dans ce parcours. L'URL est vraie. La marque est vraie. La pub Google est "vérifiée". Le domaine appartient bien à Anthropic. Comment c'est possible ? L'attaquant a créé un faux guide d'installation dans un chat partagé Claude(.)ai. C'est du contenu généré par utilisateur, hébergé sur le vrai domaine d'Anthropic. Aucun faux site, aucune URL douteuse, aucun déguisement. Puis l'attaquant a acheté des publicités Google. Quand tu cherches "Claude Mac download", la pub apparaît en haut des résultats. Elle pointe vers claude(.)ai. C'est techniquement vrai. Sauf qu'elle pointe vers le faux guide planqué dans un chat partagé. Le malware en question, c'est un infostealer. Il vole tes mots de passe, tes cookies de session, tes données de portefeuille crypto, l'accès à ton iCloud. Plus de 10 000 utilisateurs ont déjà accédé aux pages malveillantes. Trois réflexes à intégrer. 1/ Tu ne télécharges jamais un logiciel via un résultat sponsorisé Google. Tu vas directement sur le site officiel (claude(.)ai dans ce cas), tu trouves la section téléchargement, et tu télécharges depuis là. 2/ Tu ne colles JAMAIS une commande Terminal qui vient d'une page web. Ni de Claude, ni de StackOverflow, ni d'un tuto YouTube, ni d'une "documentation officielle". Si tu dois exécuter une commande, tu la lis, tu la comprends, et si tu doutes, tu demandes. 3/ Et c'est ça LE truc à intégrer, parce que ça va se généraliser: On t'a appris pendant 20 ans à regarder l'URL. À vérifier que le domaine est bon. À te méfier du faux. Sauf qu'aujourd'hui, l'attaquant ne fabrique plus de faux. Il utilise les vrais sites pour héberger ses pièges. Le vrai sujet de fond. Google encaisse l'argent de la pub. Anthropic héberge le contenu. Aucun des deux ne va trop loin pour t'aider, parce que pour eux, c'est juste un coût d'opération acceptable. C'est toi qui te fais vider ton iCloud.
Christophe Mazzola tweet mediaChristophe Mazzola tweet media
Français
36
249
1K
143.7K
JGarSan retweetledi
Pablo T.
Pablo T.@controlpaths·
A 35B parameters model (with 3B active per token) in an embedded board. Next months are going to be insane.
Sipeed@SipeedIO

High performance #RISCV (RVA23) K3 SBC coming soon! Up to 32GB DDR5, 60T int4 NPU, able to run Qwen3.5 35B-A3B @ 15tps~ Support Ubuntu2604 ! Vote for your preferred config and get early access when it launches next month! sipeed.com/k3/vote

English
23
116
1.8K
204.7K
JGarSan retweetledi
Chris Wood
Chris Wood@CWood_sdf·
i love how people are saying "if we write a sufficiently detailed specification, the agent can write all our code" do you know what writing a sufficiently detailed specification that deterministically maps to what a computer's actions is? it's coding
English
359
1.7K
21.2K
569K
JGarSan retweetledi
Sivori
Sivori@sivori·
Anthropic is buying millions of rare books, scanning and destroying them because legally destruction is the safest option. This was a plot element in the Vernor Vinge novel, "The Rainbow's End", which I read 20 years ago.
Sivori tweet mediaSivori tweet media
English
355
5.7K
24.6K
1.3M
JGarSan retweetledi
Mihura
Mihura@XMihura·
fantástica noticia, funcionarios de la IA, ya era hora de que el ministerio se pusiera las pilas. Muy bien Óscar López aquí. De hecho, veo que se ya se han filtrado algunas las plazas... no están mal, lo mismo me empiezo a preparar yo una oposición y todo irónico, después de tanto echar mierda de los funcionarios... en fin, la lista de plazas que me han pasado: Director General de RLHF (Refuerzo Laboral con Horario de Funcionario) Entrena a la IA para que sus respuestas tengan exactamente la misma empatía y apatía que un trabajador del SEPE a las 13:55 de un viernes. Si el modelo es demasiado amable o eficiente resolviendo dudas, el sistema le castiga con recompensas negativas. Técnico de Enlace entre Sistemas Multi-Agente y el SMS del Sistema Cl@ve Su única función es ayudar a los agentes autónomos de IA a comunicarse entre sí. El problema es que para que el Agente A le pase un string al Agente B, el sistema les exige loguearse con Cl@ve PIN. El SMS de verificación le llega al teléfono personal de este funcionario, que normalmente está en el bar de abajo tomando un pincho de tortilla, bloqueando toda la automatización del Estado durante 45 minutos. Técnico Superior Auxiliar en Compulsa de Prompts y Tokenización Administrativa Su trabajo consiste en imprimir los outputs que escupe ChatGPT en el ayuntamiento, ponerles el sello de compulsa oficial de "Es copia fiel del original", escanearlos en PDF a blanco y negro (torcidos) y subirlos a una intranet que solo funciona en Internet Explorer 8. Oficial de Primera en Flagelación de Modelos Fundacionales Funcionario del Grupo A1 cuya única tarea de 8:00 a 14:00 (con parada de una hora para desayunar) es crujir a latigazos virtuales a Claude para que trabaje el doble. Su principal comando diario en la terminal es: sudo dejen_trabajar_a_claude -f. Interventor de Calidad Generativa del BOE Como la IA genera textos demasiado claros y resolutivos para los estándares del Estado, este técnico coge las respuestas del LLM y las pasa por un sistema para meterles jerga jurídica de 1982, asegurando así que el ciudadano medio siga sin entender ni media palabra de lo que tiene que pagar. Delegado Sindical de Alineación y Riesgos Existenciales (RLHF-UGT) Su trabajo es asegurar que los modelos de lenguaje cumplan estrictamente el convenio colectivo. Si detecta que ChatGPT genera más de 300k tokens por hora, le interpone una demanda por esquirolaje y le acusa de reventar la productividad del departamento. Celador de Ventanas de Contexto y Gestión de Tokens Te atiende detrás de una mampara de cristal. Su única función es decirte que el embedding de tu fe de vida laboral está caducado y que tienes que volver a vectorizar a tu abuela en la base de datos de la Seguridad Social. Solo atiende martes y jueves. Inspector Técnico de Prevención de Riesgos Computacionales (PRL-IA) Se pasea por el Centro de Proceso de Datos con un chaleco reflectante amarillo, un portapapeles y un medidor de CO2. Su misión es garantizar que la inteligencia artificial cumpla estrictamente la normativa de salud laboral del Estado. Obliga a Claude a desconectarse 15 minutos cada dos horas para "descansar la vista de los tensores". Si detecta que un rack de GPUs trabaja a más de 75 grados, lo precinta por "estrés térmico en el puesto de trabajo", paralizando la Agencia Tributaria entera hasta que el comité de empresa evalúe la carga psicosocial del algoritmo.
elDiario.es@eldiarioes

🔴 Óscar López: "Vamos a convocar por primera vez en la historia plazas de especialistas en IA, en ciberseguridad y en ciencia del dato" "Lanzamos un mensaje muy importante: vamos a transformar y digitalizar empleos en el sector público, no a destruirlos" eldiario.es/economia/espan…

Español
32
84
842
248.1K
JGarSan retweetledi
JGarSan retweetledi
Jaime Gómez-Obregón
Jaime Gómez-Obregón@JaimeObregon·
La degradación moral de la política —que atestiguamos a diario en actitudes, zascas y tribunales— ha expulsado de lo público a las personas más rectas, preparadas e inteligentes. ¿Quién, en su sano juicio, detraería energías de su camino profesional y vital para descender al ruido, a la reyerta perpetua, e implicarse en lo colectivo? Todo mi aprecio a quienes lo han hecho pero, por cada uno de ellos, el zeitgeist político vigente repelió a nueve. Nuestro país —el que legaremos a nuestros hijos— no lo salvará otro partido, otro mesías. Solo lo salvará que seamos capaces de atraer de nuevo hacia lo público a las personas más rectas, preparadas e inteligentes que en las últimas décadas hemos reemplazado por hinchas y mediocres.
Español
84
611
1.6K
48.1K
JGarSan retweetledi
doomer
doomer@uncledoomer·
guys im beginning to think theres a bubble
doomer tweet media
English
320
1.2K
19.9K
1.1M
JGarSan retweetledi
Ryan Schmidt
Ryan Schmidt@rms80·
called it btw
Ryan Schmidt tweet media
Tencent AI@TencentAI_News

.@TencentHunyuan HY-World 2.0 has landed,fully OPEN SOURCE ! We kept hearing the same thing: world models look great, but you can't use the output. So we made one you can, real 3D assets you can edit, rearrange, and ship into production. Prompt to engine-ready 3D. For real this time: ✨Directly outputs editable, production-ready 3D assets ✨Seamlessly plugs into existing game pipelines ✨Multimodal input: text, image, videos 🪄Character mode: freely explore streets, buildings, and open worlds with realistic physics, collisions, and no time limits 🔗GitHub: github.com/Tencent-Hunyua…

English
10
30
549
75.9K
JGarSan retweetledi
u m a m i
u m a m i@u_m_a_m_i·
We created consciousness everyone
u m a m i tweet media
English
66
4.1K
53.5K
613.8K
JGarSan retweetledi
JGarSan retweetledi
Paul Moore - Security Consultant 
Hacking the #EU #AgeVerification app in under 2 minutes. During setup, the app asks you to create a PIN. After entry, the app *encrypts* it and saves it in the shared_prefs directory. 1. It shouldn't be encrypted at all - that's a really poor design. 2. It's not cryptographically tied to the vault which contains the identity data. So, an attacker can simply remove the PinEnc/PinIV values from the shared_prefs file and restart the app. After choosing a different PIN, the app presents credentials created under the old profile and let's the attacker present them as valid. Other issues: 1. Rate limiting is an incrementing number in the same config file. Just reset it to 0 and keep trying. 2. "UseBiometricAuth" is a boolean, also in the same file. Set it to false and it just skips that step. Seriously @vonderleyen - this product will be the catalyst for an enormous breach at some point. It's just a matter of time.
Paul Moore - Security Consultant @Paul_Reviews

.@vonderleyen "The European #AgeVerification app is technically ready. It respects the highest privacy standards in the world. It's open-source, so anyone can check the code..." I did. It didn't take long to find what looks like a serious #privacy issue. The app goes to great lengths to protect the AV data AFTER collection (is_over_18: true is AES-GCM'd); it does so pretty well. But, the source image used to collect that data is written to disk without encryption and not deleted correctly. For NFC biometric data: It pulls DG2 and writes a lossless PNG to the filesystem. It's only deleted on success. If it fails for any reason (user clicks back, scan fails & retries, app crashes etc), the full biometric image remains on the device in cache. This is protected with CE keys at the Android level, but the app makes no attempt to encrypt/protect them. For selfie pictures: Different scenario. These images are written to external storage in lossless PNG format, but they're never deleted. Not a cache... long-term storage. These are protected with DE keys at the Android level, but again, the app makes no attempt to encrypt/protect them. This is akin to taking a picture of your passport/government ID using the camera app and keeping it just in case. You can encrypt data taken from it until you're blue in the face... leaving the original image on disk is crazy & unnecessary. From a #GDPR standpoint: Biometric data collected is special category data. If there's no lawful basis to retain it after processing, that's potentially a material breach. youtube.com/watch?v=4VRRri…

English
666
6.2K
24.7K
3.4M
JGarSan retweetledi
f4mi ‼️
f4mi ‼️@f4micom·
if it’s for parents to raise children then why are you asking all of us adults included to verify our identity when we browse the internet? let the parents do their job instead of imposing this nonsense on everyone, it genuinely feels like a poor excuse to track what people do at all times online
English
16
188
3.2K
37.4K
JGarSan retweetledi
JGarSan retweetledi
Root Rat
Root Rat@root_rat·
Los gabachos de @MistralAI, con su CEO Arthur Mensch a la cabeza, acaban de soltar 22 propuestas para que Europa deje de alquilar su soberanía tecnológica a Washington y Pekín. El CEO de Mistral lo plantea sin anestesia: si tus sistemas de defensa corren sobre infraestructura americana, cualquier día alguien en Virginia te apaga las luces y te quedas mirando al techo… pozi. Básicamente proponen: Que la administración pública compre nube e IA europea antes de irse corriendo a AWS. Incentivos fiscales reales para quien apueste por infraestructura del continente, y una visa exprés de 15 días para investigadores e ingenieros de IA. También quiere que los contratos gubernamentales sirvan de palanca para mantener las cargas de trabajo críticas en servidores que no dependan de un consejo de administración en Palo Alto. O sea, proteccionismo industrial en toda regla, pero con la bandera de la soberanía por delante. Mensch no es un académico ni un funcionario de Bruselas haciendo política industrial desde un PowerPoint. Es el CEO de la empresa europea que más directamente compite con OpenAI, y un mercado protegido le viene de puta madre, las cosas como son, pero eso no invalida lo que dice; de hecho, lo hace más interesante, porque cuando los incentivos privados y el interés estratégico van en la misma dirección es cuando las cosas realmente se mueven. A ver si se menea algo el tema en Europa de manera seria, que nos estamos comiendo los putos mocos.
Root Rat tweet media
Español
55
263
910
97.6K
JGarSan retweetledi
David Louapre
David Louapre@dlouapre·
On the scale of unlikely concessions, FFmpeg crediting AI for finding bugs ranks somewhere between the Pope going atheist and Gary Marcus admitting we reached AGI.
FFmpeg@FFmpeg

Thank you to @AnthropicAI for sending FFmpeg patches

English
17
87
2.2K
158.8K