ANPD monitora plataformas digitais e ferramentas de IA para avaliar medidas de proteção

ANPD monitora plataformas digitais e ferramentas de IA para avaliar medidas de proteção 

A Agência Nacional de Proteção de Dados (ANPD) iniciou, em agosto, uma ação de monitoramento sobre plataformas digitais, lojas de aplicativos e ferramentas de inteligência artificial generativa. A iniciativa busca avaliar como esses serviços atuam para prevenir a circulação de conteúdos criminosos ou ilícitos e quais mecanismos são adotados para proteger crianças, adolescentes e mulheres no ambiente digital. 

Ao todo, 22 agentes foram incluídos no monitoramento. Entre eles estão plataformas como Instagram, Facebook, WhatsApp, Telegram, TikTok, YouTube, LinkedIn, X, Discord e Reddit. A ação também contempla lojas de aplicativos, como App Store e Google Play Store, e ferramentas de inteligência artificial generativa, incluindo ChatGPT, Gemini, Copilot, Claude, DeepSeek, Meta AI e Perplexity. No caso dos aplicativos de mensagem, a análise está restrita às funcionalidades de caráter público, sem acesso a conversas privadas. 

Governança e gestão de riscos estão entre os pontos avaliados 

Nesta primeira etapa, as empresas foram questionadas sobre suas estruturas de governança, mecanismos de transparência, sistemas de gestão e mitigação de riscos, procedimentos de moderação de conteúdo, canais de denúncia e medidas destinadas à proteção dos usuários. 

A análise também considera as medidas utilizadas para impedir ou reduzir a circulação e o impulsionamento de conteúdos criminosos, além dos mecanismos empregados para receber e tratar denúncias relacionadas a violações dos direitos de crianças e adolescentes. A ANPD informou ainda que serão avaliadas medidas relacionadas à prevenção da violência contra mulheres no ambiente digital. 

No caso das lojas de aplicativos e das ferramentas de IA generativa, o monitoramento inclui mecanismos destinados a evitar a geração, edição, manipulação ou modificação de conteúdo íntimo envolvendo terceiros. As empresas deverão apresentar informações sobre filtros, bloqueios e sistemas de detecção utilizados, além de elementos que permitam avaliar a efetividade dessas medidas. 

Monitoramento amplia discussão sobre governança digital 

A iniciativa coloca em evidência a necessidade de estruturas capazes de identificar, avaliar e tratar riscos associados ao funcionamento de plataformas digitais e sistemas de inteligência artificial. A análise não se limita aos conteúdos disponibilizados, mas considera também processos, mecanismos técnicos e estruturas de governança adotados pelas empresas. 

Para organizações que desenvolvem ou utilizam soluções digitais e de inteligência artificial, o movimento reforça a importância de integrar proteção de dados, segurança da informação, gestão de riscos e mecanismos de prevenção à governança dos serviços. 

A efetividade dos controles também passa a ser um aspecto relevante nesse contexto, especialmente quando envolve mecanismos de prevenção, detecção, resposta e monitoramento contínuo. 

Para reflexão: como as organizações estão documentando e acompanhando a efetividade dos controles utilizados para identificar e tratar riscos relacionados ao uso de plataformas digitais e inteligência artificial? 

Fonte: Gov.br - 06 de outubro de 2026