Cristian Córdova 🐧

27.9K posts

Cristian Córdova 🐧 banner
Cristian Córdova 🐧

Cristian Córdova 🐧

@barckcode

🌐 Inferencia de modelos abiertos de IA para empresas https://t.co/wvHCPIoXf5 | 🛠️ Conduciendo la mejor comunidad de Builders: https://t.co/CRR2MOn1Sd

Tenerife, España Inscrit le Ekim 2013
810 Abonnements19K Abonnés
Cristian Córdova 🐧
Cristian Córdova 🐧@barckcode·
👀 Me encanta esto. Vamos a poner un ejemplo REAL de esto a ver si sale o no rentable esa inversión de $20K en hardware. Vamos a tomar un user que gasta mil millones de tokens al mes. No es nada alejado de la realidad si creéis que es un número alto. Esos mil millones, digamos que los quemamos haciendo tareas de desarrollo con agentes. Entonces más o menos se distribuyen en una proporción 90% input / 10% output. El reparto en tokens quedaría así: - 40% input regular: ~360M de tokens - 60% caché. Asumiendo que usamos siempre el mismo agente, skills, etc. Si cambiamos nuestro setup quizá esta caché sea incluso menor y el coste será más alto: ~540M de tokens - Output: ~100M Esto traducido en gasto mensual sería: - Input: ~$432 - Caché: ~$108 - Output: ~$410 Eso nos da: - Coste mensual: ~$950 - Coste anual: ~$11.400 Eso significa que si nos hemos dejado $20K en Hardware, este en menos de dos años a esos costes y uso se ha rentabilizado. Todo el gasto posterior es literalmente “gratis” Por lo que bueno, quizá esos locos que estén haciendo eso, si que tengan un poco de razón. Y bueno, en este caso he dicho un user pensando en alguien en su casa. En una empresa multiplicad esto por cada trabajar que tengáis contratado que use IA. Quizá ahora ya no parece tan loco no? 😜
Joel Grus 🤠@joelgrus

guy who buys $20k of hardware to avoid paying these astronomical prices

Español
11
2
45
16K
mannyacboy
mannyacboy@mannyacboy·
@barckcode El perfil builder, el curioso, el que no se despeina si tiene que remangarse con "lo que no le toca"... Ese perfil es, en cierto modo, un perfil ultra especializado en una cosa: aprender. ​Pro: es capaz de virtualmente todo. Contra: ser el "expert of everything, master of none".
Español
1
0
4
258
Cristian Córdova 🐧
Los mejores candidatos -según yo- suelen ser los que buildean cosas, aprenden y son curiosos por amor al arte. Son gente que suele tener una base de conocimiento amplia de varias cosas porque ha tocado diferentes palos y eso termina siendo bastante útil. Ojo, no digo que especializarse en algo no sea bueno. Cada uno hace lo que quiere. Creo que lo importante es la actitud Hay gente experta en un área y son cracks pero luego hay gente hyper especializada que porque son X no quieren tocar Y. Ejemplo real: “No, yo es que no sé y no toco un Dockerfile porque son Frontend. Eso es cosa de DevOps” Esa actitud en alguien que buildea cosas por amor al arte nunca la he visto. Porque ya se han enfrentado a la incómoda situación de aprender cosas que “no les toca” o que “no son de su área” Y bueno, la cosa obvia también es que aprendes mucho más haciendo y construyendo cosas que con cualquier otra cosa. Hasta que no bajas al barro y ves cómo va algo no sabes realmente de ese algo.
candee@candemenaa

siempre pienso que existe un tradeoff entre ser el candidato perfecto para el mercado laboral o buildear cosas que realmente te apasionan. Hoy ya no estoy tan segura, pero estoy segura que intentar ser buena en todo me estaba convirtiendo en un número más, así que decidí apostar por lo que realmente me interesa. Actualmente estoy construyendo un sistema operativo y quiero empezar a compartir tweets más técnicos así impulsar a más gente a construir proyectos que los entusiasmen, aunque no sean el camino más obvio o rentable. si te sentis un poco identificado,ya sabes q hacer

Español
15
5
121
18.2K
Cristian Córdova 🐧
Cristian Córdova 🐧@barckcode·
@marcrubia Está claro que debe haber un balance. Extremos te vas a encontrar en gente “builder” y en los que no lo son para mí eso es otro debate. Y bueno, de todas formas, que se implique “demasiado” no me parece malo en absoluto.
Español
0
0
0
40
Marc Rubia
Marc Rubia@marcrubia·
@barckcode Habiendo participado en mucho recruitment no estoy tan seguro. A menudo se implican demasiado, muy cabezones, siempre con necesidad de poner la tecnologia y las últimas modas por delante del producto...hay que encontrar el equilibrio
Español
1
0
0
90
Cristian Córdova 🐧
Mañana tengo 3h de avión y ~5h de coche. Solo de pensarlo me da pereza. Me va a tocar prepararme una buena dosis de café en un termo (no caliente que ahora en la península parece Mordor), playlists de música para ir a tope y a juga' Deseadme suerte 😬
Español
1
0
26
2.7K
JRank
JRank@JRank293407·
Ufff estoy logrando que el export del vídeo sea tan rápido como CapCut. 🚀
Español
1
0
0
189
Toni Perez
Toni Perez@toni_pn·
Los modelos chinos son, almenos, del nivel de los yankees. Además, xa la mayoría de cosas no se necesitan los 'grandes' modelos. Y son OSS. Empresas que gastan muchos de miles de euros en tokens tiran el dinero. Idea: consultoria xa ayudar a reducir costes en tokens. A lo AWS.
Español
12
2
38
10K
Cristian Córdova 🐧
😍 oye que pintaza tiene esto! Tremendo proyecto! Cada vez me dan más ganas de crear una web específica en NaN donde la comunidad pueda compartir sus propios proyectos para que todo el mundo vea que no quemamos tokens por quemar. C O N S T R U I M O S 🔥
JRank@JRank293407

@DNtizar Un pequeño adelanto de la interfaz, eso sí todo automático con ayuda de NaN (@barckcode) Me estoy peleando un poco con las pantallas y la UX, aunque hay skills no se cómo hacer para que me entiendan que tienen que revisar el flujo completo del usuario y su onboarding >.<

Español
3
1
18
3.5K
Míriam González
Míriam González@miriamgonp·
@barckcode @diariodeljunior Hola! Pues voy aprendiendo sobre la marcha no tengo claro 100% lo que necesito. Estoy migrando todo lo que he montado a un MAC mini para hacer un plan claro de necesidades. Soy autodidacta y llevo semanas en este mundillo. Dadme chance
Español
1
0
0
85
Míriam González
Míriam González@miriamgonp·
Bueno ya vamos enserio, voy a montar un macmini 24/7 con el sistema de IAs. Consejos?
Español
21
3
78
17K
Cristian Córdova 🐧
@JRank293407 Eso no es problema del candidato, sino de la empresa. Hablo desde el sesgo de mi entorno pero poca gente que sea así es valorada a la baja Es más suelen ser los profesionales por los que se pelea todo el mundo
Español
0
0
3
146
JRank
JRank@JRank293407·
@barckcode es una pena que ese tipo de candidatos se valoren a la baja
Español
1
0
2
253
yeah boy
yeah boy@georgeOrwe48479·
@barckcode es un crimen usar "buildean" en lugar de construir
Español
1
0
0
277
Cristian Córdova 🐧
He leído un poco por encima el caso de Miriam y no estoy seguro si lo que necesita son modelos o simplemente cómputo para correr agentes. Si es lo segundo el Mac mini es una mejor opción si los agentes o conjunto de ellos son bastante pesados y más si los va a correr 24/7 Si aparte de eso requiere modelos entonces quizá si merece la pena ver algo más tipo NaN pero dedicado para ella ya que viendo un poco todo el proyecto creo que necesitará bastante amplitud. Pero bueno igual sea de una cosa u otra si puedo echar una mano pues por aquí ando 💪🏾
Español
2
0
3
139
Diario Del Junior
Diario Del Junior@diariodeljunior·
@miriamgonp Quizás te interesa algo como lo que tiene montado @barckcode. Acceso a múltiples modelos opensource por 70 euros al mes (uso de tokens ilimitados)
Español
1
0
3
397
Cristian Córdova 🐧 retweeté
Míriam González
Míriam González@miriamgonp·
Os voy a contar algo que me hace mucha ilusión. 💜 Hoy @elespanolcom ha contado mi historia. Pero más allá de la historia, hay algo que he construido yo misma y que de verdad quiero enseñaros. Soy ingeniera y tengo un cáncer de mama muy raro. En vez de quedarme quieta, hice lo único que sé hacer: ponerme a construir. Con IA he creado una herramienta que dibuja en 3D mis metástasis y ayuda a decidir dónde biopsiar, qué lesión da el mejor material para acertar con el tratamiento que me puede dar más vida. Y lo más fuerte: no es una idea guardada en un cajón. El equipo de oncólogos de Zúrich que lleva mi caso ya la está usando para tomar esa decisión. Para mí esto es lo que debería ser la IA en medicina: no quitarle el sitio al médico, sino darle mejores ojos para decidir. Y si me sirve a mí, ojalá sirva a más personas con tumores raros a las que nadie da respuesta. 🔬 La herramienta: helpmiriam.com/3d-x 🗞️ Mi historia en El Español: elespanol.com/alicante/vivir… Si os toca algo, compartidlo. Cada persona que lo ve ayuda de verdad. Gracias por estar siempre ahí. 💜
Español
57
917
1.9K
106.8K
Cristian Córdova 🐧
@miriamgonp Me han arrobado dos personas por aquí y antes de nada creo que me falta un poco de contexto para opinar pero si puedo echarte una mano con algo que te permita correr agentes, modelos, etc a bajo coste 24/7 avísame y encantado de echarte una mano!
Español
1
0
13
2K