O Instagram está agindo contra influenciadores de IA que não admitem que são falsos

O Instagram está renomeando seu rótulo “criador de IA” para “perfil gerado por IA” e passará a limitar o alcance que perfis de IA não rotulados podem ter, caso as contas por trás deles não divulguem que a pessoa apresentada não é real.

O rótulo original, introduzido em maio, era opcional e um tanto vago, aplicando-se a qualquer conta que utilizasse regularmente ferramentas de IA, independentemente de haver uma pessoa real por trás dela. O novo rótulo tem como objetivo específico sinalizar perfis em que a pessoa apresentada é inteiramente gerada por IA, em vez de simplesmente assistida por IA, preenchendo uma lacuna que permitia que contas de influenciadores totalmente sintéticas se misturassem com criadores reais que apenas utilizavam IA como parte de seu fluxo de trabalho.

Alcance limitado para quem não seguir as regras

Sob o novo sistema, as contas que o Instagram identificar como perfis gerados por IA sem o rótulo terão seu alcance limitado, o que significa que quem não as segue não verá suas publicações exibidas em “Explorar”, “Reels” ou outras seções de recomendação. Os criadores podem restaurar esse alcance de duas maneiras: aplicando proativamente o rótulo de perfil gerado por IA por conta própria ou recorrendo contra a restrição caso acreditem que a detecção do Instagram tenha sido incorreta — algo que a própria empresa admite que seus sistemas nem sempre acertam.

A nova etiqueta funciona separadamente do sistema existente de “informações de IA” da Meta, que sinaliza publicações individuais no Instagram, Facebook e Threads quando marcadores técnicos, como metadados C2PA ou a marca d’água SynthID do Google, indicam o envolvimento de IA, ou quando o próprio criador divulga essa informação. A etiqueta no nível do perfil refere-se especificamente ao fato de a pessoa exibida nas postagens, comentários e mensagens de uma conta ser real ou gerada por IA.

Atendendo aos usuários frustrados

O Instagram justificou a mudança com base em uma frustração simples, afirmando que os usuários não gostam de descobrir, após o fato, que um perfil que parecia humano foi gerado por IA o tempo todo. Até o momento, a política visa apenas contas que se passam por uma pessoa falsa específica, e não o volume muito maior de contas que publicam conteúdo gerado por IA sem fingir ser um influenciador humano.

Personagens totalmente geradas por IA tornaram-se comuns como influenciadores não oficiais de marcas, com as empresas utilizando cada vez mais personagens sintéticas para promover produtos em vez de pagar a pessoas reais, e atualmente não há regras específicas que exijam que os anunciantes divulguem quando esse for o caso (via The Guardian). Se o novo rótulo alterará significativamente essa prática dependerá da consistência com que os sistemas de detecção do Instagram identifiquem contas que têm todos os motivos para evitar o rótulo por completo.