Tres perfiles falsos de mujeres influencers creadas con inteligencia artificial acumulan más de 68.000 seguidores en total en TikTok y venden productos sin revelar su naturaleza sintética.
Estas cuentas promocionan artículos de belleza, ropa y suplementos alimenticios en TikTok Shop. La estrategia se basa en la confianza que genera la apariencia humana, aunque detrás no exista ninguna persona real gestionando la interacción diaria.
La herramienta Hive Moderation detecta la manipulación digital
El análisis técnico revela la artificiosidad del contenido. La herramienta Hive Moderation confirma con más de un 98 por ciento de fiabilidad que los contenidos de dos de estos perfiles están creados con inteligencia artificial. Ambas cuentas cuentan con alrededor de 30.000 seguidores cada una.
El tercer perfil presenta matices distintos en su operativa. Acumula casi 4.000 seguidores y responde a comentarios como si fuera una persona real. Utiliza la etiqueta hashtag aigc en publicaciones recientes, pero omite esta información en las antiguas, lo que diluye la transparencia histórica de la cuenta.
Gerard Espuga advierte sobre el engaño al consumidor
La legalidad de estos avatares depende de su presentación. Gerard Espuga, abogado especializado en derecho digital, explica que crear un avatar de IA hiperrealista no es ilícito por sí mismo. La ilicitud no deriva de que el personaje sea artificial, sino de cómo se presenta, qué afirma, qué vende y si induce a error al público.
El experto señala que el responsable del contenido de imagen o vídeo generado o manipulado por IA que se asemeje a personas y pueda inducir a pensar erróneamente que es auténtico o verídico tiene que hacer público que el contenido ha sido generado o manipulado artificialmente.
"Si el contenido generado por IA combina avatar hiperrealista, falta de aviso claro sobre el uso de IA y recomendación comercial remunerada, puede existir un doble problema de publicidad no suficientemente identificada y posible engaño sobre la naturaleza del prescriptor." - Gerard Espuga, abogado especializado en derecho digital
La organización de consumidores FACUA afirma que se le podrán exigir responsabilidades a quien precisamente haga uso de esa imagen virtual, ya haga uso una persona física o una persona jurídica. Esta postura refuerza la necesidad de identificar al ente detrás de la máscara digital.
Cristina Saiz alerta del impacto en la salud mental
Más allá de la vertiente legal, el daño psicológico constituye otra arista del problema. Cristina Saiz, psicóloga especializada en baja autoestima y depresión en la adolescencia, declara que el principal problema de los avatares hiperrealistas de IA es que eliminan la imperfección. Intentar emular a una IA es un billete directo a la frustración crónica y a mayores problemas de salud mental.
Con los avatares de IA que simulan cotidianidad el cerebro procesa el estímulo como un igual, no como un anuncio publicitario. Al mirarse al espejo su propio cuerpo, que es sano y real, empieza a ser percibido como defectuoso, aumentando los índices de ansiedad, depresión y conductas de riesgo asociadas a Trastornos de la Conducta Alimentaria.
La política sobre Contenido Generado por Inteligencia Artificial de TikTok obliga a los creadores a comunicar con claridad cualquier uso que hagan de la IA en su contenido para fomentar la transparencia y la confianza entre los usuarios. Además, la normativa de TikTok Shop establece que el contenido del antes y el después modificado mediante IA que exagera los resultados va en contra de la plataforma.
Tras la investigación, TikTok ha anulado los enlaces de venta en TikTok Shop publicados por estas tres cuentas. La empresa afirma que los vídeos no etiquetados como generados por IA han sido etiquetados de acuerdo con sus directrices, aunque se siguen observando publicaciones sin dicha etiqueta. La compañía advierte de que es mejor evitar crear contenido utilizando avatares digitales que se parezcan a seres humanos reales.