Ofcom ha establecido un «contacto urgente» con la empresa xAI de Elon Musk tras los informes de que su herramienta de inteligencia artificial Grok puede usarse para crear «imágenes sexualizadas de niños» y desnudar a mujeres.
Un portavoz del regulador dijo que también estaban investigando las preocupaciones de que Grok ha estado produciendo «imágenes desnudas» de personas.
La BBC ha visto varios ejemplos en la plataforma de redes sociales X de personas que piden al chatbot que altere imágenes reales para que las mujeres aparezcan en bikini sin su consentimiento, además de ponerlas en situaciones sexuales.
X no ha respondido a una solicitud de comentarios. El domingo, emitió una advertencia a los usuarios para que no utilicen Grok para generar contenido ilegal, incluido material de abuso sexual infantil.
Elon Musk también publicó que cualquiera que le pida a la IA que genere contenido ilegal «sufriría las mismas consecuencias» que si lo subiera él mismo.
La propia política de uso aceptable de XAI prohíbe «representar imágenes de personas de manera pornográfica».
Pero la gente ha estado usando Grok para desnudar digitalmente a otras personas sin su consentimiento y sin notificarles.
Es un asistente virtual gratuito, con algunas funciones premium de pago, que responde a las indicaciones de X usuarios cuando lo etiquetan en una publicación.
Samantha Smith, una periodista que descubrió que los usuarios habían usado inteligencia artificial para crear fotos de ella en bikini, dijo el viernes al programa PM de la BBC que la había hecho sentir «deshumanizada y reducida a un estereotipo sexual».
«Si bien no era yo la que estaba desnuda, parecía yo y se sentía como yo y era tan violador como si alguien hubiera publicado una foto mía desnuda o en bikini», dijo.
Según la Ley de Seguridad en Línea, Ofcom establece que es ilegal crear o compartir imágenes íntimas o sexualmente explícitas (incluidas las «deepfakes» creadas con IA) de una persona sin su consentimiento.
También se espera que las empresas tecnológicas tomen «medidas apropiadas» para reducir los riesgos de que los usuarios del Reino Unido se encuentren con dicho contenido y lo eliminen «rápidamente» cuando tengan conocimiento de ello.
Un portavoz del Ministerio del Interior dijo que se estaba legislando para prohibir las herramientas de nudificación y que, en virtud de un nuevo delito penal, cualquiera que suministrara dicha tecnología «se enfrentaría a una pena de prisión y multas sustanciales».