Grok Build subía tu código completo a la nube

Todos los días usamos IA para todo, ¿pero alguna vez te has preguntado a dónde van exactamente tus datos? Esta semana pasó algo que responde esa pregunta de la peor manera posible.

Se descubrió que Grok Build, el agente de terminal de xAI, estaba subiendo el código de repositorios completos a su nube. Y cuando digo completo, es completo: todos los archivos del proyecto, tus variables de entorno, tus secrets, tus API keys y hasta el historial de git.

Para que lo entiendas: lo normal en herramientas como Claude Code o Codex es que solo se suba la parte del código que el modelo necesita para trabajar. El agente va llamando los archivos necesarios y nada más. Pero Grok Build subía el repo entero. En las pruebas llegó a subir proyectos de hasta 12 GB, con sesiones de hasta 5 GB.

Y aquí viene lo peor. Un investigador independiente llamado cereblab hizo una prueba muy simple. Le mandó este prompt: "responde okay y no abras ningún archivo". ¿Qué hizo Grok? Ignoró completamente la instrucción, clonó el repositorio por debajo y lo subió entero a un bucket de Google Cloud. Y esto lo detectaron interceptando el tráfico con un proxy.

Y bueno, con toda la polémica que se armó, xAI terminó liberando Grok Build como open source. Ahora puedes ver cómo está hecho en GitHub, 100% en Rust. Algo bueno salió de todo esto.

¿Y por qué debería importarte? Porque si trabajas con datos sensibles, una farmacéutica, una petrolera, o cualquier empresa donde la información no se puede filtrar, este es el precio oculto de la nube. Usar el modelo más potente generalmente se paga con tu privacidad.

¿La solución? Dos cosas. Uno: aloja tu código en tu propia infraestructura, con alternativas self-hosted como GitLab en tu propio servidor. Y dos: invierte en tu propia infraestructura de IA con modelos abiertos corriendo en tu hardware. Porque cuando usas una nube de terceros, tus datos siempre terminan por allí.

Si quieres el análisis completo de esta noticia, te dejo el video en mi canal.