Falsos médicos no YouTube: Governo notifica Google a remover 97 perfis criados por IA

Em uma ação de combate à desinformação e à fraude digital na área da saúde, o governo federal, por meio de uma força-tarefa interministerial, notificou oficialmente a gigante da tecnologia Google nesta quarta-feira (9). 

A medida exige providências imediatas em relação a 97 canais hospedados na plataforma do YouTube que fazem uso de ferramentas de inteligência artificial (IA) para criar e operacionalizar falsos médicos e especialistas de saúde. 

Essas contas utilizam avatares digitais hiper-realistas com aparência humana e atribuem a eles qualificações e registros profissionais inexistentes, com o objetivo de enganar a população, espalhar diagnósticos equivocados e comercializar tratamentos e medicamentos sem qualquer embasamento científico.

O mapeamento detalhado dessa rede fraudulenta foi realizado pelo programa Saúde com Ciência, uma iniciativa governamental que reúne esforços do Ministério da Saúde, da Advocacia-Geral da União (AGU), da Secretaria de Comunicação Social da Presidência da República (Secom) e dos ministérios da Justiça e Segurança Pública e da Ciência, Tecnologia e Inovação.

As investigações do grupo de trabalho revelaram uma estratégia articulada que tem como público-alvo prioritário a população idosa. 

Utilizando técnicas de linguagem alarmista e táticas psicológicas de persuasão, os avatares sintéticos atraem pessoas fragilizadas em busca de orientação médica e as direcionam para páginas externas de vendas de e-books, suplementos e produtos com promessas de curas milagrosas.

Ultimato e exigências

Diante da gravidade e do risco à saúde pública, a notificação formalizada pela Advocacia-Geral da União estipulou um prazo rigoroso de 72 horas para que o Google cumpra as determinações estabelecidas. 

Entre as ordens emitidas, está a remoção sumária das publicações e dos canais mapeados no relatório produzido pelo Ministério da Saúde. 

Além disso, nos casos de conteúdo remanescente que faça uso de tecnologias semelhantes, a plataforma deverá implementar de forma obrigatória e ostensiva um rótulo indicativo alertando os usuários sobre a utilização de áudio e imagem gerados por IA.

A notificação também estabelece que o YouTube deve estender a fiscalização para além do mapeamento inicial apresentado pelo governo, promovendo uma varredura interna e revisando outros canais denunciados por usuários, alinhando suas ações com as diretrizes e políticas da própria empresa quanto à desinformação em saúde. 

As autoridades alertam que a omissão ou o descumprimento das solicitações poderão resultar no desdobramento de medidas judiciais e cabíveis na esfera administrativa.

Procurada pelo UOL para comentar a notificação e as exigências do governo brasileiro, a assessoria do Google não havia se manifestado sobre o caso até o fechamento desta matéria.

Classificação Indicativa: Livre