Modelos, agentes, LLMs, visión por computadora y todo lo que piensa (o parece pensar). Desde papers hasta proyectos en producción.
Después de 4 meses lo tengo funcionando: reconocimiento de voz + un modelo chico cuantizado + síntesis de voz, todo local, sin mandar nada a la nube. Latencia de ~2 segundos. El repo está abierto y la ficha del proyecto tiene el hardware que usé. Críticas bienvenidas.
Llevo 6 meses con agentes LLM en producción para un cliente y aprendí más de los errores que de los aciertos. Hilo largo: qué funcionó (herramientas chicas y determinísticas, logs de cada decisión), qué explotó (dejar que el agente reintente sin límite, contexto gigante) y qué haría distinto.
Muy buen paper para los que corremos modelos en hardware limitado. Dejo resumen en los comentarios con lo más importante para aplicarlo ya.
