YouTube cria ferramenta com IA para políticos identificarem deepfakes

Parte de políticos e jornalistas do Brasil passará a ter acesso a uma ferramenta do YouTube que rastreia, com base na aparência da pessoa, conteúdos publicados na plataforma em que seu rosto apareça e possam ter sido alterados ou criados com inteligência artificial.

O recurso busca identificar possíveis casos de deepfake, tecnologia que permite criar vídeos falsos com aparência realista. Segundo a própria empresa, por ainda estar em fase de testes, o sistema também pode identificar vídeos que mostram o rosto real dessas pessoas.

Após a varredura feita pela plataforma, a figura pública poderá revisar os conteúdos listados e solicitar a remoção daqueles que tenham sido gerados ou modificados com inteligência artificial. A exclusão, porém, não será automática e dependerá de análise baseada nas diretrizes de privacidade da empresa.

Grupo piloto

De acordo com comunicado do YouTube, o acesso inicial será oferecido a um grupo piloto formado por autoridades governamentais, jornalistas e candidatos políticos. A empresa informou que não divulgará a lista das pessoas que poderão se cadastrar para utilizar o recurso, alegando questões de privacidade.

No Brasil, a ferramenta deverá ser apresentada ao Tribunal Superior Eleitoral como parte das ações da plataforma relacionadas às eleições. O acesso passa a ser disponibilizado a partir desta terça-feira (10) para políticos que forem contatados diretamente pela empresa no país.

Segundo o YouTube, o grupo de usuários deve ser ampliado gradualmente, embora não tenham sido divulgados detalhes sobre a expansão.

Cadastro e verificação

Para utilizar a ferramenta, os interessados precisarão enviar um documento oficial de identidade e gravar um vídeo curto do próprio rosto, semelhante a uma selfie.

Também é necessário possuir um canal registrado na plataforma, mesmo que ele não seja utilizado.

Funcionamento do sistema

O recurso funcionará de forma semelhante ao sistema Content ID, tecnologia já utilizada pela plataforma para identificar conteúdo protegido por direitos autorais. No novo caso, o sistema busca imagens que se assemelham ao rosto da pessoa cadastrada.

Segundo Alana Rizzo, líder de políticas públicas do YouTube no Brasil, a proposta é ampliar o controle das pessoas sobre o uso de sua imagem na plataforma.

A ferramenta realiza buscas em grande escala e notifica o titular da imagem quando encontra conteúdos semelhantes.

Por enquanto, o sistema analisa apenas imagens e não inclui áudio.

Critérios para remoção

A ferramenta permite denunciar apenas conteúdos que se enquadrem como violação das diretrizes de privacidade da plataforma. Outras práticas, como desinformação, não são analisadas por esse mecanismo.

Entre os fatores considerados pelo YouTube ao avaliar pedidos de remoção estão:

• se o conteúdo é sintético ou foi alterado
• se o material é realista
• se mostra uma figura pública em atividades sensíveis, como crimes, atos de violência ou endossos políticos ou comerciais

Também são avaliados elementos como paródia, sátira ou interesse público.

Segundo Leslie Miller, vice-presidente de assuntos governamentais e políticas públicas da empresa, vídeos que sejam claramente paródias tendem a permanecer na plataforma.

Relação com regras eleitorais

A iniciativa ocorre após novas regras aprovadas pelo Tribunal Superior Eleitoral sobre propaganda eleitoral e conteúdo político nas redes sociais.

Entre as medidas, o tribunal manteve a proibição do uso de deepfakes para prejudicar ou favorecer candidaturas e proibiu a publicação de conteúdos produzidos com inteligência artificial nas 72 horas que antecedem a eleição.

A resolução também prevê responsabilização das plataformas caso não removam conteúdos considerados de risco, incluindo materiais gerados ou alterados por inteligência artificial em desacordo com as normas eleitorais.

Uso de dados e questionamentos

O uso de dados biométricos para o funcionamento da ferramenta gerou questionamentos na imprensa dos Estados Unidos quando o sistema foi anunciado no ano passado.

O YouTube afirmou que as informações fornecidas no cadastro são utilizadas apenas para verificação de identidade e para o funcionamento do sistema de detecção de imagem.

A empresa declarou ainda que esses dados não são utilizados para treinar modelos de inteligência artificial generativa do Google.