Elon Musk observa mientras el presidente Donald Trump habla en el Foro de Inversiones entre Estados Unidos y Arabia Saudita en el Centro John F. Kennedy para las Artes Escénicas en Washington el 19 de noviembre de 2025.
Brendan Smialowski | AFP | Imágenes falsas
xAI de Elon Musk experimentó una reacción violenta por parte de los usuarios después de que su chatbot de inteligencia artificial, Grok, generara imágenes sexualizadas de niños en respuesta a las solicitudes de los usuarios.
En una respuesta de Grok a un usuario en
En respuestas a los usuarios, el bot también afirmó que una empresa podría enfrentar sanciones penales o civiles si a sabiendas permitiera o no impidiera este tipo de contenido después de una advertencia.
Las publicaciones de Grok son mensajes generados por IA y no sustituyen las declaraciones oficiales de la empresa.
xAI de Musk, que fundó Grok el año pasado y se fusionó con X, envió una respuesta automática a una solicitud de comentarios: «Legacy Media Lies».
usuario en
El sitio de redes sociales agregó un botón «Editar imagen» a las fotos, lo que permite a cualquier usuario cambiar la imagen mediante indicaciones de texto y sin el consentimiento del autor original.
Una publicación del personal técnico de xAI, Parsa Tajik, también confirmó el problema.
«¡Oye! Gracias por informar. El equipo está considerando reforzar aún más nuestras medidas de protección», escribió Tajik en una publicación.
La proliferación de plataformas de generación de imágenes de IA desde el lanzamiento de ChatGPT en 2022 ha generado preocupaciones generalizadas sobre la manipulación de contenidos y la seguridad en línea. También ha contribuido a que cada vez más plataformas produzcan fotografías de desnudos ultrafalsos de personas reales.
David Thiel, un investigador de confianza y seguridad que formó parte del ahora desaparecido Observatorio de Internet de Stanford, dijo a CNBC que varias leyes estadounidenses generalmente prohíben la creación y distribución de ciertas imágenes explícitas, incluidas aquellas que representan abuso sexual infantil o imágenes íntimas no consensuadas.
Las decisiones legales sobre imágenes generadas por IA como las producidas por Grok podrían depender de detalles específicos del contenido creado y compartido, dijo.
En un artículo del que fue coautor, “Generative ML and CSAM: Implications and Mitigations”, los investigadores de Stanford descubrieron que “la apariencia de que un niño estaba siendo abusado ha sido suficiente para el procesamiento” en casos históricos en los Estados Unidos.
Mientras que otros chatbots han enfrentado problemas similares, xAI ha tenido problemas repetidamente debido al mal uso o fallas obvias en el diseño o la tecnología subyacente de Grok.
«Las empresas podrían tomar una serie de medidas para evitar que sus herramientas de inteligencia artificial se utilicen de esta manera», dijo Thiel. «Lo más importante en este caso sería eliminar la capacidad de modificar las imágenes cargadas por los usuarios. Darles a los usuarios la capacidad de modificar las imágenes cargadas es una receta para NCII. La desnudez ha sido históricamente el principal caso de uso de tales mecanismos».
NCII se refiere a imágenes íntimas no consentidas.
En mayo, X enfrentó una reacción violenta después de que Grok hiciera comentarios no solicitados sobre el “genocidio blanco” en Sudáfrica. Dos meses después, Grok publicó comentarios antisemitas y elogió a Adolf Hitler.
A pesar de los tropiezos, xAI ha seguido estableciendo asociaciones y acuerdos.
El Departamento de Defensa añadió a Grok a su plataforma de agentes de IA el mes pasado, y la herramienta es el principal chatbot para las plataformas de apuestas predictivas Polymarket y Kalshi.
