Ricardo Antonio

"Seguir respirando,porque mañana volverá a amanecer y quién sabe que traerá la marea" 😌

They made everyone upgrade to TPM 2.0 compatible hardware for this

Eso es el almanaque de regreso al futuro?

@JDesutoroiya @erubeysan @PolicarBizar Pero en bf16? Son 140 gb como dice el compañero. Con q4 o algo así si, y aun así no iría tan rápido como dice el OP.

@erubeysan @PolicarBizar algunas LLM de 70B entran en 64GB siempre y cuando se reduzca la longitud del contexto y tokens al 70%, quedando solamente con 3GB libres y los 5 a 7GB que usa el sistema operativo.

Este desarrollador chino ejecutó Llama 70B localmente en un MacBook en un avión y, durante 11 horas completas sin internet, gestionó proyectos de clientes. Estaba sentado junto a la ventana en un vuelo transatlántico con un MacBook Pro M4 con 64 GB de memoria. El WiFi a bordo costaba $25 por el vuelo. Lo rechazó. Sin API en la nube, sin conexión a los servidores de Anthropic o OpenAI, sin internet en absoluto. Solo un Llama 3.3 70B local en bf16 y su propio script de orquestador. El modelo se ejecuta a través de llama.cpp. Velocidad de generación, 71 tokens por segundo. Contexto alrededor de 60.000 tokens. Uso de memoria, 48,6 GiB de 64. Batería al despegue, 3 horas 21 minutos. Y le dio al orquestador esta instrucción de sistema antes del despegue: "Eres un orquestador offline que se ejecuta en un solo MacBook. No hay red. Los únicos recursos que tienes son archivos locales en /Users/dev/work, el servidor de inferencia Llama 70B en localhost:8080 y un presupuesto de batería de 3 horas 21 minutos. Procesa la cola en /Users/dev/work/queue.jsonl (una tarea de cliente por línea). Para cada tarea: borrador → ejecutar evaluaciones locales → guardar artefacto en /Users/dev/work/done/. Guarda puntos de control de contexto cada 12 tareas para que puedas reanudar después de un cambio de batería. Detente solo con la cola vacía o cuando la batería baje del 5 %." Así que el sistema sabe exactamente en qué recursos se está ejecutando. Sabe que no tiene conexión con el mundo exterior durante las próximas 11 horas. Sabe que tiene memoria finita y una batería finita. Sabe que el humano no intervendrá hasta que el avión aterrice. El sistema se ejecuta en 1 bucle. Toma una tarea de la cola, la ejecuta a través de inferencia, guarda el artefacto, escribe un punto de control. Tarea tras tarea, así de simple. Y solo cuando la batería baja del 5 %, el orquestador hace una pausa automáticamente, espera a que el portátil cambie al banco de energía de respaldo y continúa desde el último punto de control. Aquí está lo que el sistema realmente escribe en su registro durante el vuelo: "guardado punto de control de contexto 8 de 12 (pos_min = 488, pos_max = 50118, size = 62.813 MiB)" "restaurado punto de control de contexto (pos_min = 488, pos_max = 50118)" "progreso de procesamiento de prompt: n_tokens = 50 / 60 818" "tarea 37016 completada | tps = 71 s tokens text → /Users/dev/work/done/proposal_westside.md" Fuera de la ventana, nubes, cielo azul y sin WiFi. En la bandeja, 1 MacBook, una terminal abierta en 2 pantallas y un servidor de inferencia en localhost. Por lo que he observado, este es el flujo de trabajo de IA offline más limpio que he visto en el último año: 11 horas de vuelo, $0 por WiFi y toda la cola de clientes cerrada antes del aterrizaje.

Un profesor nos contó lo que estaba pasando en Sevilla: El alto precio de los alquileres y las residencias hacía que muchos alumnos que viven en otras ciudades solo fuesen a clase solo una o dos veces por semana. Van, echan el día y se vuelven. No pueden permitirse más.

6 horas de clase? Yo necesito 4 meses de excedencia para solo aprender a salir a la pista de baile.

Me da risa cuando me dicen: “y qué hiciste este finde?” Como si hubiera hecho paracaidismo o algún deporte extremo. Tengo 30, fui al super, lavé ropa, ordené mi cuarto, me tome un café y avancé unos capítulos de mi serie.

Te faltó bloquearme de LinkedIn, ahí te van 5 lecciones de marketing que me dejó nuestra ruptura.

ahora es solo aceite de ol

@MateoDuartedel2 Yo sigo teniendo un proyector 3D y con las gafas activas sí :). De vez en cuando las cargo , y hace no mucho puse algún juego de la PS3 así. Y tengo aún todas las pelis de marvel en 3D que salieron

¿Que será de la vida de los que compraron televisores en 3D ?

Bro la gente de Instagram viven una vida como que de otro planeta, puros viajes, restaurantes caros, no tienen que trabajar. Acá en Twitter si es el guetto, puro endeudado, viejas vendiendo contenido y gente con salario mínimo.

@trade4returns Estos son los que te piden más de 2000€ para entrar a uno de sus pisos en concepto de “seguro”?

Me encanta este video porque la pintada de cara que la hacen a este caradura es epica. Ni de coña se enfrenta a los requerimientos de capital como cualquier aseguradora y su pasivo (no contingente) está por las nubes. Pero las comisiones bien las cobra.

@victormejiaperu @otolz_ Casablanca

@otolz_ ¿Cómo se llama esta película?

Jarvis hizo lo que Tony no pudo terminar.

En las discotecas dejan de pedirte el DNI en cuanto notan que ya se te ha apagado el brillo en los ojos.

@Fini_golosinas 765

no es broma, aún no ha acertado nadie así que lo duplico, el que acierte se lleva 2 como este

Mi hijo me dijo que hay una pequeña reunión mañana en su escuela, le pregunté ¿Que tan pequeña? Dijo: "solo tú, yo y el director".

Por desgracia, con el adiós a Gemma Cuervo ya ha llegado la última emisión de Radio Patio.

You are hiring frontend engineer and you see this. What do you do?

HTTP 401 being named "Unauthorized" when it actually means "Unauthenticated" is the reason I have trust issues.

made a hook that adds a bouncing dvd logo to claude code whenever it's thinking