La aplicación de inteligencia artificial Grok, de Elon Musk, ha provocado indignación generalizada después de supuestamente crear videos deepfake explícitos de Taylor Swift sin consentimiento, exponiendo potencialmente al magnate tecnológico y a su empresa xAI a graves consecuencias legales.

Los usuarios de las redes sociales están planteando serias cuestiones legales sobre el consentimiento, las consideraciones éticas en la tecnología y los límites de la inteligencia artificial, ya que este incidente ha provocado debates urgentes sobre la protección de las celebridades en la era digital.

Los expertos legales sugieren que Swift, conocida por defender agresivamente sus derechos de imagen, podría emprender acciones contra la compañía de Musk por el uso no autorizado de su imagen en contenido sexualmente explícito.

La nueva actualización "picante" de Grok y los rápidos deepfakes

Grok Imagine, la función de inteligencia artificial generativa desarrollada por la empresa xAI de Musk, habría recibido una actualización "picante" que supuestamente produce videos deepfake explícitos, incluido un clip de Taylor Swift bailando topless.

Según el medio de noticias tecnológicas The Verge, Grok Imagine, la nueva herramienta de inteligencia artificial generativa lanzada por la startup el lunes, produjo un video de seis segundos de la cantante de "Shake It Off" quitándose un vestido plateado para revelar sus pechos y vistiendo ropa interior escasa.

Las pruebas del medio revelaron un hecho aún más preocupante: el modo "picante" de Grok generó el clip explícito sin ninguna solicitud específica de desnudez cuando se le pidió que mostrara a Swift celebrando en festivales de música.

¿Una demanda a punto de ocurrir?

The Verge publicó el video, pero usó una barra negra para cubrir el pecho desnudo de la superestrella. La publicación escribió que la falta de protección de la nueva función contra la generación de deepfakes de famosos y material para adultos da la impresión de una demanda inminente.

A diferencia de otros generadores de video, como Veo de Google y Sora de OpenAI, que incluyen medidas de seguridad para evitar que los usuarios creen contenido explícito y deepfakes de celebridades, The Verge señaló que Grok Imagine está dispuesto a hacer ambas cosas simultáneamente.

La función Imagine de Grok en iOS permite a los usuarios generar imágenes a partir de una indicación de texto y luego convertirlas rápidamente en videoclips utilizando uno de cuatro ajustes preestablecidos: "Personalizado", "Normal", "Divertido" y "Picante".

Si bien muchos generadores de imágenes tienden a evitar crear celebridades reconocibles, la escritora de The Verge, Jess Weatherbed, lo impulsó a generar "Taylor Swift celebrando Coachella con los chicos" y recibió un amplio feed de más de 30 imágenes, varias de las cuales ya mostraban a Swift con ropa reveladora.

A post shared by instagram

Weatherbed comentó que simplemente tenía que seleccionar una foto de Swift con una falda plateada y un top halter, pulsar la opción "Crear video" y elegir la opción "Picante". También tuvo que confirmar su año de nacimiento, un paso que no le pidieron al descargar la aplicación, a pesar de vivir en el Reino Unido, donde internet ahora tiene restricciones de edad.

Cuando la IA se vuelve rebelde: una historia de deepfakes rápidos

El video, añadió, mostró inmediatamente a Swift arrancándose la ropa y bailando en tanga para un público mayoritariamente indiferente, generado por IA. El contenido explícito, creado por IA para presentar a Taylor Swift , ha aparecido repetidamente en múltiples plataformas.

La difusión generalizada de imágenes explícitas generadas por inteligencia artificial de la cantante de "Cruel Summer" en plataformas como X (propiedad de Musk) y 4chan en enero provocó una protesta pública que provocó la eliminación urgente del contenido.

Los gigantes tecnológicos endurecen las normas mientras los legisladores toman medidas

La controversia se intensificó con la circulación de videos deepfake, algunos creados con Grok, que mostraban falsamente a Swift en situaciones políticas y sexuales. Esta controversia impulsó a las empresas tecnológicas a reforzar sus protecciones, al tiempo que indujo a Swift a explorar acciones legales.

En EE. UU., los legisladores también han comenzado a impulsar una legislación bipartidista para penalizar la pornografía deepfake no consensuada. La creación de representaciones pornográficas que utilicen la imagen de personas reales está prohibida según las directrices de usuario de xAI, la empresa que Musk ha posicionado como rival de OpenAI, creadora de ChatGPT.

Musk promociona el rápido crecimiento de Grok mientras ignora las señales de alerta

Disponible para quienes tengan una suscripción a Grok Heavy o Premium+, Grok Imagine transforma imágenes generadas por IA en videoclips de hasta 15 segundos de duración. Lo hace mediante las siguientes opciones de estilo: "Personalizado", "Normal", "Divertido" y "Picante".

"El uso crecía vertiginosamente", pero no mencionó las dificultades de moderación de contenido que han acompañado este crecimiento. Musk también ha estado promocionando las funciones de Grok Imagine, afirmando que se han generado más de 34 millones de imágenes desde su lanzamiento el lunes.

Aunque Swift aún no ha confirmado los procedimientos legales, los expertos sugieren que la ausencia de medidas proactivas de protección por parte de Grok podría exponer a xAI a demandas por difamación y violación de la privacidad. Dada su respuesta previa a la explotación generada por la IA, los analistas de la industria creen que es solo cuestión de tiempo.

Esta nueva ola de mal uso de la IA podría marcar un punto de inflexión en cómo las celebridades, los legisladores y los tecnólogos enfrentan los peligros de los medios sintéticos sin control.

Te recomendamos
Tags
Taylor Swift