Una vulnerabilidad en los sistemas de inteligencia artificial de OpenAI ha reavivado las alarmas en el sector tecnológico. Un estudio reveló que los filtros de moderación de la compañía son incapaces de detener el 13 % de los intentos de generación de contenido sexual explícito no autorizado, exponiendo serias deficiencias en la protección contra abusos digitales. El hallazgo, difundido por la firma de ciberseguridad White Circle —dirigida por el especialista Denis Shilov—, pone de manifiesto cómo ciberdelincuentes o usuarios malintencionados podrían aprovechar brechas estructurales en las llamadas a la API pública de la plataforma y herramientas abiertas para burlar los límites éticos del sistema.

PUBLICIDAD Una amenaza automatizada y al alcance de cualquiera La investigación expone un peligro mayor: la facilidad técnica con la que se pueden vulnerar estas barreras. A través de un método de prueba automatizado denominado RISE, los investigadores demostraron que no se requieren recursos avanzados ni infraestructura de última generación para comprometer la seguridad de sistemas de vanguardia. Al utilizar modelos de código abierto para automatizar y ajustar los ataques, los vacíos de moderación quedan expuestos de forma recurrente, dejando vulnerables herramientas de uso masivo como DALL-E 3 y GPT-Image-2.

Urgencia de regulación y controles más estrictos Los expertos advierten que el verdadero riesgo radica en la falta de blindaje efectivo frente al uso malintencionado de la IA. La capacidad de evadir los filtros de OpenAI no solo evidencia la fragilidad de sus protocolos actuales, sino que plantea serias interrogantes sobre la responsabilidad de las grandes corporaciones para evitar que sus desarrollos sean utilizados para vulnerar la intimidad y la integridad de las personas en internet. PUBLICIDAD White Circle prevé presentar el estudio en NeurIPS 2026 La empresa afirmó que compartió sus resultados con algunos laboratorios de inteligencia artificial por medio de contactos compartidos.

OpenAI no respondió a la solicitud de comentarios de Ars Technica acerca de las vulnerabilidades identificadas en sus modelos. White Circle prevé divulgar el estudio completo durante NeurIPS 2026, una conferencia académica sobre inteligencia artificial programada para noviembre. También comunicó que publicará el código del sistema de ataque, con el objetivo de que los fabricantes puedan reproducir las pruebas y reforzar sus mecanismos de seguridad. “Los laboratorios que construyen estos sistemas son los mismos que evalúan su propia seguridad, publican sus propios resultados y fijan sus propios estándares”, sostuvo Shilov.

Para el ingeniero, los gobiernos deberían exigir evaluaciones independientes de terceros. PUBLICIDAD Guía de prevención y respuesta ante la sextorsión La sextorsión ocurre cuando alguien amenaza con divulgar imágenes o videos íntimos, reales o generados con inteligencia artificial, para exigir dinero, más material sexual u otras acciones. Meta recomienda que madres, padres y cuidadores hablen del tema con adolescentes antes de que ocurra un episodio, con el fin de que sepan que pueden pedir ayuda sin temor a castigos o reproches.

Entre las señales de alerta figuran pedidos de imágenes sexuales, perfiles que buscan establecer un vínculo afectivo con rapidez y ofertas que parecen demasiado favorables para ser ciertas. Ante una amenaza, la plataforma aconseja denunciar los mensajes y el contenido compartido para solicitar su retiro. También sugiere acudir a Take It Down, un servicio gratuito del Centro Nacional para Menores Desaparecidos y Explotados (NCMEC) que busca impedir la difusión de imágenes íntimas de menores sin que deban enviarlas a terceros.

La compañía informó además que sus controles de desnudez en los mensajes directos están activados de forma predeterminada para las cuentas de adolescentes. PUBLICIDAD PUBLICIDAD PUBLICIDAD