La inteligencia artificial ha facilitado la creación de perfiles en redes sociales que parecen pertenecer a personas reales, pero que en realidad son personajes generados por algoritmos. Esta situación ha generado confusión y malestar entre los usuarios, que a menudo descubren tarde que la cuenta con la que interactúan no tiene un humano detrás. Para poner orden, Instagram ha anunciado un cambio en su sistema de identificación de estas cuentas.
La plataforma propiedad de Meta ha decidido sustituir la etiqueta actual ‘AI creator’ por una nueva denominación más explícita: ‘perfil generado por IA’. El objetivo es que los usuarios comprendan de inmediato que la persona mostrada en el perfil no existe en la vida real, sino que ha sido creada mediante inteligencia artificial. Esta actualización responde a las quejas de muchos usuarios que se sentían engañados al seguir perfiles aparentemente auténticos.
Un cambio de etiqueta para mayor transparencia
La nueva etiqueta ‘perfil generado por IA’ reemplaza a la anterior, que algunos consideraban ambigua. El término ‘AI creator’ podía interpretarse como una referencia a un creador humano que utiliza herramientas de inteligencia artificial, cuando en muchos casos el perfil completo representa una identidad sintética. Con el cambio, Instagram busca dejar claro que se trata de un personaje generado o construido sustancialmente mediante IA.
Según ha explicado la compañía, la medida forma parte de un esfuerzo más amplio para que los usuarios puedan distinguir fácilmente cuándo están interactuando con una persona real y cuándo lo hacen con una identidad artificial. Meta comenzó a probar este sistema a principios de año tras recibir comentarios de usuarios que manifestaban su incomodidad al seguir perfiles que parecían humanos y luego descubrir que eran completamente generados por IA.
La etiqueta se activará de forma voluntaria desde la configuración del perfil. Los responsables de cuentas que ya utilizaban la etiqueta anterior recibirán un aviso para confirmar si la nueva descripción sigue siendo adecuada. Cuando se active, el distintivo aparecerá en el perfil y también junto a las publicaciones que no tengan ya una indicación específica sobre el uso de IA.
Pérdida de alcance para los perfiles no etiquetados
La principal novedad es que la medida ya no será únicamente informativa. Instagram ha anunciado que limitará el alcance de las cuentas que presenten personas generadas por IA sin incluir la etiqueta correspondiente. Esto significa que el perfil dejará de ser apto para aparecer en las recomendaciones de la plataforma, como la sección Explorar o los Reels, dirigidas a usuarios que todavía no siguen la cuenta.
Cuando Instagram detecte una cuenta sospechosa de utilizar personajes artificiales sin identificarlos correctamente, enviará una notificación a sus responsables. A partir de ese momento, tendrán dos opciones: añadir la etiqueta ‘perfil generado por IA’ o presentar una apelación si consideran que la plataforma se ha equivocado. Si la apelación prospera, la cuenta recuperará su elegibilidad para aparecer en recomendaciones.
La compañía ha aclarado que los creadores que utilicen herramientas de IA solo como ayuda en su proceso creativo, como retocar fotografías, corregir textos o diseñar gráficos, no tendrán que activar esta etiqueta. La obligación se aplica únicamente cuando la identidad principal de la cuenta corresponde a una persona creada artificialmente, como influencers virtuales, personajes ficticios o cuentas que utilizan un rostro sintético como imagen principal.
Motivos de la restricción: casos de abuso frecuente
Esta actualización busca mitigar diversas prácticas engañosas que aprovechan el avance del contenido sintético. Entre los principales problemas que Meta intenta frenar destacan las estafas financieras y el ‘catfishing’, donde se crean avatares hiperrealistas para generar vínculos románticos ficticios con el fin de solicitar dinero o promover fraudes con criptomonedas. También se menciona la publicidad engañosa, con supuestos influencers de estilo de vida que obtienen productos gratuitos o patrocinios de marcas que desconocen estar interactuando con personajes inexistentes.
Otro caso frecuente es el robo de identidad biométrico, que consiste en la clonación no autorizada de rostros reales para operar perfiles falsos paralelos que monetizan contenido o dañan la reputación de la persona original. Además, se ha detectado el uso de granjas de cuentas sintéticas para simular apoyo ciudadano a causas políticas, manipular los algoritmos de recomendación o propagar noticias falsas, una práctica conocida como astroturfing.
La decisión de Instagram llega en un momento en que los llamados influencers virtuales ganan popularidad en distintas plataformas digitales. Estos perfiles pueden acumular cientos de miles o incluso millones de seguidores pese a que las personas que aparecen en las fotografías, vídeos y publicaciones no existen realmente. El crecimiento de estas cuentas ha generado debates sobre transparencia, publicidad, confianza de los usuarios y el impacto de la inteligencia artificial en las redes sociales.
Cómo funcionará el nuevo sistema
Los responsables de perfiles generados por inteligencia artificial podrán activar voluntariamente la etiqueta desde la configuración de su cuenta. Si Instagram detecta que una cuenta presenta una persona creada por IA y no incluye la identificación correspondiente, enviará una notificación a sus administradores. A partir de ese momento, tendrán dos opciones: añadir la etiqueta ‘perfil generado por IA’ o presentar una apelación si consideran que la plataforma se ha equivocado.
La compañía también ha aclarado que los creadores que utilicen herramientas de IA solo como ayuda en su proceso creativo, como retocar una fotografía, corregir la redacción de los textos o diseñar gráficos, no tendrán que usar la etiqueta. Esta medida no está dirigida contra quienes emplean IA para mejorar su contenido, sino contra aquellos que simulan ser personas reales cuando en realidad son personajes generados por algoritmos.
Meta reconoce que sus sistemas no siempre son perfectos y permite consultar las restricciones desde el estado de la cuenta. Los afectados podrán recuperar la posibilidad de aparecer en recomendaciones añadiendo la etiqueta o apelando la decisión si creen que Instagram se ha equivocado. Esta identificación a nivel de perfil complementa las etiquetas aplicadas a publicaciones individuales, que ya se utilizan en imágenes, vídeos y audios cuando se detectan indicadores técnicos compatibles o cuando el usuario declara el uso de estas herramientas.
La nueva norma forma parte de una estrategia más amplia de Meta para mejorar la identificación de contenidos creados o modificados mediante inteligencia artificial en Instagram, Facebook y Threads. Con esta medida, la compañía busca equilibrar el crecimiento de las herramientas generativas con la necesidad de que los usuarios sepan quién, o qué, está detrás de los perfiles que siguen. La decisión podría convertirse en un precedente para otras plataformas digitales que enfrentan desafíos similares relacionados con identidades sintéticas e influencers creados por inteligencia artificial.
En definitiva, Instagram ha dado un paso importante para que los usuarios puedan distinguir con claridad entre perfiles reales y aquellos generados por IA. La nueva etiqueta ‘perfil generado por IA’ sustituye a la anterior y conlleva consecuencias directas para quienes no la utilicen: la pérdida de visibilidad en las recomendaciones. La medida no afecta a los creadores que usan IA como herramienta de edición, pero sí a aquellos que presentan personajes sintéticos como si fueran personas reales. Con esta actualización, la plataforma refuerza su compromiso con la transparencia y la confianza de su comunidad, en un momento en que la inteligencia artificial generativa está transformando la forma en que se crea y consume contenido en las redes sociales.