Dentro del floreciente sector de la prostitución asistida por inteligencia artificial.

En Instagram, ha surgido una ola de influencers generados por inteligencia artificial que están apropiándose de videos de modelos reales y creadores de contenido para adultos, modificando sus rostros con tecnología AI y monetizando su imagen a través de enlaces a sitios de citas, Patreon, competidores de OnlyFans y diversas aplicaciones de inteligencia artificial. Esta práctica, que comenzó a ganarse atención en abril, ha crecido de manera exponencial, evidenciando la incapacidad de Instagram para controlar la proliferación de contenido generado por IA en su plataforma y proteger a los creadores humanos, quienes afirman verse afectados en su capacidad para obtener ingresos.

Una revisión de más de 1,000 cuentas en Instagram generadas por inteligencia artificial y análisis de canales de Discord, donde se intercambian consejos y estrategias, revela que es extremadamente sencillo crear estas cuentas y monetizarlas utilizando herramientas y aplicaciones de IA disponibles en el mercado. Algunas de estas aplicaciones se pueden encontrar en las tiendas de aplicaciones de Apple y Google Play. Este estudio ha hecho evidente que lo que era un problema menor en la plataforma se ha transformado en una situación de gran escala, vislumbrando un futuro para las redes sociales donde el contenido generado por IA podría sobrepasar al creado por humanos.

Elaina St James, creadora de contenido para adultos, expresó su preocupación por la competencia directa que enfrenta de estas cuentas de AI, muchas de las cuales utilizan fotografías y videos robados de modelos de contenido para adultos. St James observó que, tras la proliferación de cuentas de influencers generados por IA, su alcance ha disminuido considerablemente, pasando de alcanzar entre 1 a 5 millones de visualizaciones mensuales a tener menos de un millón en los últimos diez meses. En ocasiones, sus visualizaciones han bajado de 500,000. Manifestó que esta podría ser una de las razones de su descenso en visualizaciones, ya que compite con contenido “no natural”.

Por su parte, Alexios Mantzarlis, director de la iniciativa de seguridad y confianza en Cornell Tech, documentó alrededor de 900 cuentas que fueron analizadas. Inició su investigación después de toparse con una de estas cuentas de manera casual y considera que este fenómeno puede reflejar la dirección que está tomando el contenido generado por IA en las redes sociales y en internet en general, donde vislumbra una “realidad mezclada creciente”. Mantzarlis sugirió que podría haber encontrado muchas más cuentas si no hubiera sido por las restricciones impuestas por Instagram en su cuenta de recolección de datos.

En el análisis de las cuentas, se reveló que de más de 1,000 cuentas de influencers generadas por IA, 100 contenían al menos algo de contenido deepfake, en el que se sustituía el rostro de videos existentes de modelos y performers de entretenimiento para adultos por rostros generados por IA, creando la apariencia de contenido original. Las otras 900 cuentas compartían imágenes generadas completamente por IA, que en algunos casos eran reminiscentes de fotografías reales o imitaban a celebridades. De estas 100 cuentas que compartían videos con deepfake, 60 se identificaban como generadas por IA, mencionando en sus biografías que eran “modelos e influencers virtuales”. Las 40 restantes no hacían ninguna declaración al respecto. Entre las cuentas eliminadas recientemente por Meta, se encuentra “Chloe Johnson”, que contaba con una verificación en Instagram y 171,000 seguidores.