MarceloFuture | VR Developer | STEM Instructor retweetledi
🚨 UN DEV JUNTO A CLAUDIO ESTÁN DESQUICIANDO A TODOS EN APPLE
Contexto:
Tu Mac tiene un chip especial llamado ANE (Apple Neural Engine). Es un monstruo diseñado específicamente para inteligencia artificial.
Apple siempre nos dijo lo mismo:
“Este chip solo sirve para ejecutar modelos de IA (inferencia). Entrenarlos (hacer que aprendan) es imposible aquí. Usa la GPU o paga en la nube.”
Spoiler: Era mentira.
Un solo desarrollador llamado @maderix hizo lo que Apple no quería que nadie hiciera: reverse-engineereó las APIs privadas ocultas del sistema y logró que el Neural Engine haga entrenamiento completo.
Forward pass + backpropagation + actualización de pesos… todo corriendo directo en el ANE. Sin CoreML. Sin Metal. Sin GPU. Puro silicio de Apple.
Los resultados en un M4 son brutales:
• Modelo de 109 millones de parámetros → 91 milisegundos por paso de entrenamiento •
Modelo de 596 millones de parámetros (Qwen3-0.6B) → 412 milisegundos por paso
Y cuando usa cuantización INT8 (8 bits), se pone 1.88 veces más rápido.
¿Por qué esto es algo lokísimo?
Porque hasta ahora, si querías entrenar un modelo decente de IA tenías que:
- Gastar miles de dólares en GPUs en la nube.
- O usar la GPU de tu Mac y quedarte sin batería en poco tiempo.
Este man está permitiéndonos entrenar modelos de IA localmente en tu laptop Mac, de forma privada, sin mandar tus datos a nadie, gastando muy poca energía y a una velocidad impresionante.
Esto significa que cualquier persona con una Mac buena podrá:
- Crear sus propios modelos personalizados.
- Fine-tunear LLMs con sus propios datos.
- Experimentar con IA sin depender de empresas externas.
Es como descubrir que tu auto familiar en realidad tenía modo carrera escondido desde fábrica.
El proyecto todavía está en etapa de investigación (no es un producto pulido), pero ya funciona y está creciendo rapidísimo (más de 6.300 estrellas en GitHub).
Serie completa: “Inside the M4 Apple Neural Engine”
Parte 1: Reverse Engineering(Cómo crackeó las APIs privadas y habló directo con el hardware) → maderix.substack.com/p/inside-the-m…
Parte 2: ANE Benchmarks(Mediciones reales de rendimiento, sin CoreML, y por qué Apple subestima los 38 TOPS) → maderix.substack.com/p/inside-the-m…
Parte 3: Training(Lo más fuerte: cómo logró el entrenamiento completo con forward + backprop) → maderix.substack.com/p/inside-the-m…
REPOOO👇
Español
