Hace un par de semanas atrás estuvo muy popular un modelo de IA llamado Jev, que no escribe texto: solo te ayuda a decidir. Es decir, le das un dato, por ejemplo un correo, le haces preguntas con opciones cerradas, como por ejemplo "¿a qué área va este correo: facturación, soporte o ventas?", que tan molesto esta el cliente, y te devuelve la respuesta a todo est ocon sus probabilidades.

Pues ya tiene una alternativa open source y se llama Laya. Y hace lo mismo, pero es un proyecto abierto: lo puedes instalar en tu propia máquina, puedes usar tu GPU, puedes instalarlo en tu servidor o incluso en el navegador.

Yo lo probé con mil correos en mi RTX 3060. Le hice doce preguntas a cada uno: el área, el tipo, el sentimiento… y terminó todos en 13 segundos, sin llamar a ninguna API ni servicio externo.

Pero ojo: los benchmarks donde le gana a Jev son del modelo ya afinado. Sin entrenarlo con tus propios datos, acierta bastante menos, yo dirĂ­a.

Así que: Jev es un modelo que puedes usar si quieres algo alojado y listo para usar. Laya si tus datos no pueden salir de tu máquina. ¿Tú cuál usarías? El video completo está en mi canal. Aunque esta semana OpenAI también lanzó algo similar llamado Decisions API, así que no sé qué tanto dure Jev.