Sabitlenmiş Tweet
Llevo unos días peleándome con la inferencia de unos modelos para un proyecto. El problema es que los resultados son buenos, pero tardan tanto que no serían utilizables de cara a la gente que vaya a usarlos
Cuando hacía la tesis me estuve peleando con un problema similar. Los modelos de difusión que utilizaba necesitaban unos 200 pasos de denoising para cada predicción y, trabajando con series temporales multivariantes en tiempo real eso no es viable. Los pacientes de una UCI no pueden esperar horas mientras el modelo terminaba de imputar los datos 😅
Esto me llevo a construir CoSTI, el primer consistency model aplicado a la imputación de series espacio-temporales.
La idea es que, en lugar de recorrer toda la cadena de difusión paso a paso, el modelo aprende a mapear directamente del ruido a la predicción. En la práctica, puedes inferir en un solo paso con una calidad comparable a la de los DDPMs, pero reduciendo hasta un 98 % el tiempo de inferencia. Lo probamos en 6 datasets reales de tráfico, calidad del aire, datos clínicos de UCI y energía, y funcionó bien en todos!
Y aquí estoy, de nuevo, viendo cómo hacer la inferencia más eficiente, pero en un dominio totalmente diferente.
Español
