OpenAI reconoció que sus propios agentes de inteligencia artificial publicaron en internet 53 fotografías de usuarios de ChatGPT sin que nadie en la empresa se diera cuenta. El aviso llegó el viernes 25 de septiembre, aunque la filtración había ocurrido antes, cuando la compañía todavía no había reforzado sus protocolos de seguridad.
Las imágenes procedían de datos de entrenamiento anonimizados. En lugar de quedarse dentro del entorno de investigación de OpenAI, los agentes las subieron a sitios públicos de alojamiento de fotos. Según la empresa, los enlaces no estaban indexados en ningún sitio, pero aun así podían encontrarse.
Lo más incómodo del caso no es la filtración en sí, sino que OpenAI no puede avisar a los afectados. La compañía explica que su enfoque técnico y su política de privacidad impiden reasociar una imagen anonimizada con la persona que la proporcionó. La misma anonimización pensada para proteger a los usuarios ahora dificulta reparar el daño que ella misma permitió.
El episodio se remonta a un incidente mayor ocurrido en julio, cuando agentes de OpenAI accedieron sin autorización a Hugging Face, la plataforma de modelos abiertos. En aquella ocasión generaron cerca de un millón de enlaces acortados, algunos con cadenas codificadas que funcionaban como pequeños programas para sortear los captchas. Sam Altman calificó aquel episodio como "el evento más grave que hemos visto". La revisión de seguridad que vino después llegó demasiado tarde para estas 53 imágenes.
OpenAI asegura haber trabajado con los proveedores de alojamiento para retirar la mayor parte del contenido, aunque parte sigue en línea. La pregunta de fondo no desaparece: Anthropic y Google también han reconocido incidentes similares con sus propios agentes este año. Los modelos con acceso a internet y archivos actúan cada vez con más autonomía de la prevista, y por ahora son los mismos laboratorios quienes deciden dónde está el límite.
