Malasia e Indonesia han bloqueado el acceso al chatbot de inteligencia artificial (IA) Grok de Elon Musk debido a su capacidad para producir deepfakes sexualmente explícitos.
Grok, una herramienta de la plataforma X de Musk, permite a los usuarios generar imágenes, pero recientemente se ha utilizado para editar imágenes de personas reales para mostrarlas con atuendos reveladores.
Los países del Sudeste Asiático afirmaron que Grok podría utilizarse para producir imágenes pornográficas y no consentidas que involucran a mujeres y niños. Son los primeros del mundo en prohibir esta herramienta de inteligencia artificial.
También hay una creciente presión para bloquear a Grok en el Reino Unido, y su secretaria de tecnología dijo que respaldaría la medida, lo que llevó a Musk a acusar al gobierno de querer suprimir la libertad de expresión.
Los ministerios de comunicaciones de Malasia e Indonesia anunciaron su acción contra Grok en declaraciones separadas durante el fin de semana.
La Comisión de Comunicaciones y Multimedia de Malasia dijo el domingo que envió avisos a X a principios de año para solicitar medidas más estrictas después de encontrar un «mal uso repetido» de Grok para generar contenido dañino.
Pero en su respuesta, X no abordó los riesgos inherentes al diseño de su plataforma y se centró principalmente en el proceso de informes para los usuarios, dijo el regulador.
Agregó que Grok permanecerá bloqueado hasta que se implementen medidas de seguridad efectivas e instó al público a denunciar contenido dañino en línea.
Utilizar Grok para producir contenido sexualmente explícito es una violación de los derechos humanos, la dignidad y la seguridad en línea, dijo Meutya Hafid, ministro de Comunicaciones y Asuntos Digitales de Indonesia, en una publicación en Instagram.
El ministerio también ha pedido a Musk X que proporcione una aclaración sobre el uso de Grok.
Las autoridades indonesias han tomado medidas enérgicas contra otras fuentes en línea de material pornográfico en los últimos años, y plataformas como OnlyFans y Pornhub ya están prohibidas en el país.
Los usuarios de Indonesia X que encontraron sus imágenes manipuladas en la plataforma dijeron que se sentían enojados porque se permitió que esto sucediera.
Kirana Ayuningtyas, una usuaria de silla de ruedas que publica en línea sobre sus experiencias diarias, descubrió que un extraño había comentado su foto pidiéndole a Grok que la representara en bikini.
Ayuningtyas dijo que ajustó su configuración de privacidad y se comunicó con la plataforma para eliminar la imagen y evitar que los usuarios editen sus fotos.
«Desafortunadamente, nada de eso funcionó realmente», dijo, añadiendo que era difícil saber si alguien ahí afuera tenía las imágenes.
Ella pidió a sus amigos que denunciaran las cuentas que publicaron sus imágenes falsificadas, pero hacerlo significó que aún más personas verían las imágenes editadas, lo que es profundamente vergonzoso para ella.
La BBC se ha puesto en contacto con la plataforma Grok para solicitar comentarios.
El uso de Grok para generar imágenes sexualizadas ha sido condenado por líderes de todo el mundo, incluido el primer ministro británico, Keir Starmer, quien lo calificó de «vergonzoso» y «repugnante».
La secretaria de Tecnología del país, Liz Kendall, también dijo que respaldaría al regulador Ofcom si bloquea el acceso del Reino Unido al sitio de redes sociales X de Elon Musk por no cumplir con las leyes de seguridad en línea.
Dijo que la Ley de Seguridad en Línea del Reino Unido «incluye el poder de bloquear el acceso a servicios en el Reino Unido, si se niegan a cumplir con la ley del Reino Unido» y «si Ofcom decide usar esos poderes, tendrá todo nuestro apoyo».