J

@precisox Justo tengo 4 laptops sin usar, quería un uso real.

Quieres correr un modelo de IA de 70B de parámetros o más pero no tienes una GPU con 80 GB de VRAM? Mesh LLM resuelve exactamente ese problema: te permite distribuir la inferencia de modelos grandes de lenguaje (LLMs) utilizando todos los dispositivos que ya tienes. Para qué sirve realmente? Mesh LLM convierte un grupo de computadoras (con GPUs normales) en un clúster de inferencia distribuida. Agrupa sus gpus y memorias y las expone como si fuera una sola API compatible con openAI (en `http://localhost:9337/v1`). Esto significa que puedes usar modelos mucho más grandes de lo que permite cualquier máquina individual, sin tener que comprar hardware caro ni depender de la nube. Cómo funciona su arquitectura inteligente? El sistema decide automáticamente la mejor forma de ejecutar cada solicitud: - Ejecución local: Si el modelo cabe completo en una sola máquina, lo ejecuta ahí mismo (más rápido y sin latencia de red). - Enrutamiento a peers: Si ninguna máquina individual puede con el modelo completo, lo redirige automáticamente a otro dispositivo de la red (un “peer”) que sí tenga capacidad. - Skippy Stage Splits (la parte más potente): Cuando el modelo es demasiado grande incluso para el nodo más potente, lo divide por capas (layers) y las distribuye en un pipeline entre varias máquinas. Cada dispositivo procesa solo una parte del modelo y pasa la información a la siguiente. Es como un ensamblaje en cadena. De esta forma, puedes correr modelos de 100B, 200B+ parámetros usando el hardware que ya tienes en casa, oficina o laboratorio. Ventajas principales: - Usa tu hardware existente (no necesitas una sola GPU monstruosa). - Totalmente open source y escrito en Rust. - API compatible con openAI → funciona con cualquier herramienta, agente o aplicación que ya uses. - Puedes crear meshes privados (con invitación) o unirte a meshes públicos. - Fácil de escalar: empiezas con un nodo y vas agregando más dispositivos cuando quieras. - Ideal para correr IA de forma local y privada. Si estás cansado de que los modelos grandes solo funcionen en la nube o necesites hardware extremadamente caro, Mesh LLM es una de las soluciones más interesantes y prácticas que han aparecido últimamente. Lo estoy probando actualmente, si te interesa hacerle research te recomiendo que lo guardes y entres al repositorio.

@VillanueAle Lo mañé son las marcas francesas malísimas de las que está llena Europa comparada con Toyota.

Casi un año en Europa y si he visto dos Toyotas es mucho ¿quién trajo esa moda tan mañe a Colombia?

@DebateGallinero 100%

El problema nunca será la bailadera, eso es lo de menos. El problema es que este es el pensamiento del que maneja el camerino. Un tipo que por perezoso llegó sin físico a un mundial.

@freddier Trying Zhipu

What are you doing with your last 24 hours of Fable 5 included in the Claude subscription before you have to pay mafia-type API prices?

@jietang Vision in frames, pixels, and graphs

Any new features we must have in the next version of glm?

@DotCSV Justo leyéndome el libro "Modos de existir" de James Bridle, me interesa el tema

@JCancino__ Por aquí te dejo el enlace del curso :) bio-mas.org/expedicion/exp…

Ahora sí, estaré fuera hasta el 13 de Julio incomunicado la mayoría del tiempo y donde la única relación que tenga con la IA sea el de las últimas letras de la palabra Kenia. Os invito a contar cuántos modelos salen en estas próximas dos semanas. De nada 🫡

@DotCSV Qué cool!

@nicoool25 Pero debe aplicarse a CUALQUIER funcionario del estado, no solo docentes, sino todo contratista.

yo vote por cepeda pero estoy 100% de acuerdo que los maestros pensionados ya no deberían seguir trabajando con el estado, hay muchos jóvenes que aún no han tenido la oportunidad de laborar porque los vacantes la tienen estos profesores.

@DotCSV Nos puedes compartir más info del curso, se ve interesantísimo!

Y como voy a Kenia a un curso sobre Comportamiento Animal en el que veremos y estudiaremos unos cuantos animales, me he vibecodeado mi propia app de identificación de especies 😄👇

@lucho_salcedo @sicsuper Un datáfono con un 0.9% sería un negociazo en Colombia

Esto es legal? @sicsuper

@Ma_WuKong Como el español es árabe, claro.

Aclaración: Los argentinos, los uruguayos y demás no son latinos; son hispanos, al ser hijos del Imperio Español; los latinos somos los españoles, al ser hijos del Imperio Romano y del latín. Por lo tanto: —Latinos: 🇪🇸🇵🇹🇫🇷🇮🇹🇷🇴 —Hispanos: 🇦🇷🇺🇾🇨🇱🇪🇨🇧🇴🇵🇾🇨🇴🇻🇪🇵🇪🇲🇽🇬🇹🇭🇳🇸🇻🇵🇦🇨🇷🇳🇮

A ver si en Hispanoamerica algunos se entera de una puñetera vez: LATINOS somos España, Francia,Italia y Portugal que venimos de Roma donde se hablaba latín. En América del Sur no hay latinos, hay hispanos, descendientes de españoles.

@VirtudMental 2024 dice

¡Impresionante lo que está pasando hoy en el Sol! ☀️ Una enorme 'pared' de plasma se eleva a una altura comparable con el diámetro completo de nuestro planeta. 😱

@andygohe_ En Santander de están tapando carreteras de árboles cayendo

A alguien más le parece raro los vientos que están haciendo hoy en Bogotá ? 🤯

@ElHiloRojoTV Lo que más hay en la imagen es: 1. agua, mucha agua. 2. Tiene forma de virus

Viendo lo que ocurrió ayer en Venezuela con el seísmo que sacudió el país no puedo dejar de recordar la portada de The Economist, The World Ahead 2026, en la cual se hace referencia al planeta fútbol en general. Y si nos vamos a la parte inferior de la imagen, en el lado izquierdo, vemos una copa de vino medio derramándose con el suelo agitándose, como si hubiera un terremoto. En la portada hay dos copas de vino (ayer hubo dos seismos en Venezuela) Sería una simple apreciación si no fuera porque a la selección de fútbol de Venezuela se la conoce como “La Vinotinto”. Y, además, porque estamos en tiempos de Mundial y el balón ya ha empezado a rodar. ¿Casualidad, oráculo o simple simbolismo? Una vez más, The Economist deja una imagen que da mucho que pensar. @TheEconomist

🔥BOMBAZO Increíble #Fraudeelectoral #elecciones2026 #presidenciales

@bytenokeo La CIA lo dopó

Estoy volviendo a ver fríamente la pelea de Ilia va Justin Desde la más absoluta neutralidad y sin corazón El diagnóstico es devastador, en el round 1 Justin absorbe TODOS los golpes de poder de Ilia sin apenas daño Sin embargo Ilia ya acaba destrozado

@LauraDanielaCM ¿Qué app es?

Así amanece hoy el mercado colombiano, el efecto Milei llegó ayer a Colombia.

@gastonreyno Topuria no tenía un plan B

Gaethje me tapó la boca 🤐, lo que hizo fue LEGENDARIO… de todas formas, tengo confianza que Topuria va a volver más fuerte que antes y va a ser Campeón otra vez