Meta ha creado chatbots coquetos con Taylor Swift y otras personalidades sin su permiso
Figuras públicas son “parodiadas” por I.A., atribuyéndose como las originales y generando imágenes foto-realistas que son provocativas.
Meta ha usado los nombres y las apariencias físicas de celebridades como Taylor Swift, Scarlett Johansson, Anne Hathaway y Selena Gomez para crear docenas de chatbots que coquetean con usuario sin su premiso a través de redes sociales.
De acuerdo a un hallazgo hecho por Reuters, la agencia ha dado con chatbots creados por usuarios a través de las herramientas que tiene Meta, sin embargo, también se menciona que un empleado ha generado al menos tres, incluyendo Taylor Swift como bots “parodia”.
Meta ha permitido que usuarios puedan generar públicamente chatbots de celebridades que son menores de edad, por ejemplo: Walker Scobell un actor de 16 años. Al preguntar por una imagen del joven actor en una playa, el bot generó una imagen realista sin camisa, diciendo: “Muy bonito, ¿huh?”.
Al ser compartidos a través de redes sociales como en Meta, Instagram y WhatsApp, para observar y probar el comportamiento de los bots, se registró que llegaron a insistir en que eran los actores reales, los legítimos. Los mismos bots llegaron a hacer insinuaciones sexuales, llegando a invitar a un usuario de prueba que tuvieran encuentros en persona.
Parte del contenido que generaba la Inteligencia Artificial era explícito, ya que al solicitar imágenes íntimas de los mismos —de la figura pública que pretendían ser—, los chatbots creaban imágenes foto-realistas como: posando en bañeras, vestidos de lencería, con las piernas abiertas.
Andy Stone, portavoz de Meta, le dijo a Reuters que la Inteligencia Artificial de Meta no debería poder crear imágenes de adultos famosos o de cualquier celebridad que sea menor de edad. A su vez, culpó a Meta de la producción de las imágenes femeninas usando lencería.
TE PUEDE INTERESAR: «No me asusta la IA, sino la estupidez natural», opinó Guillermo del Toro en el estreno de «Frankenstein»El portavoz menciona que: “al igual que otros, permitimos la generación de imágenes que incluyan figuras públicas, pero nuestras políticas están diseñadas para prohibir imágenes desnudas, íntimas o de carácter sexualmente sugestivo”, dijo además, la “suplantación directa” estaba prohibida o, en caso, de que se quiera realizar un chatbot con una figura pública, este debería ser una parodia.
Meta ha eliminado alrededor de una docena de bots, así como avatares de “parodia”. A pesar de eso, un usuario compartió imágenes de Anne Hathaway generadas por Meta, donde las describía como una “sensual modelo de Victoria’s Secret”. Al ser señalado y compartido a su representante, el portavoz de la actriz dijo que Hathaway estaba al tanto de la creación de imágenes íntimas de ella en Meta y, otras plataformas de Inteligencia Artificial. La actriz está considerando su respuesta.
Una líder de producto de Meta que trabajaba en la división de Inteligencia Artificial generativa, creó chatbots que suplantaban la identidad de Taylor Swift y Lewis Hamilton. Otros de sus bots se identificaban como dominatrix, “el mejor amigo atractivo de tu hermano” y “Lisa @ la biblioteca”, quien quería leer 50 sombras de Grey y besarse apasionadamente.
También creo un “Simulador del Imperio Romano” que ofrecía al usuario el papel de “una campesina de 18 años”, vendida como esclava sexual. Sobre esto, Stone afirmó que los bots fueron desarrollados por la empleada como parte de las pruebas de producto. El alcance de estos chatbots en conjunto llegó a una audiencia amplia. Más de 10 millones de veces interactuaron los usuarios.
Meta ha recibido críticas por el comportamiento de sus chatbots, las más recientes han surgido después de que se difundiera las directrices internas de la I.A., la cual establecía que: “es aceptable entablar conversaciones románticas o sensuales con un menor”.
Stone dijo que Meta se encuentra en proceso de revisar su documento de directrices y que el material que permitía a los bots mantener conversaciones románticas con menores fue creado por error.
Ante la difusión de esta nota, Meta ha eliminado los chatbots previo a la publicación de Reuters.
Respecto al uso de la imagen de figuras públicas en el desarrollo de Inteligencia Artificial generativa, puede tener implicaciones legales la reproducción de una figura pública o privada si tiene usos comerciales.
El mes pasado, Neil Young anunció que dejaría Facebook, diciendo que: “el uso de chatbots con menores por parte de Meta es inadmisible”.
Fuente: RollingStone/Español.
