#_IA_Tentando_Acompanhar | Edição 168

Olá Pessoal!

Interagindo com as empresas, tenho visto muitos avaliando agentes de IA principalmente pelo tipo e volume de dados que eles acessam.

Faz sentido. Mas existe uma pergunta que está sendo esquecida, e ela pode ser mais importante.

Quais decisões esse agente toma, recomenda ou influencia?

#_Ponto_De_Atenção

Um agente pode tratar poucos dados e ainda assim influenciar uma decisão muito relevante. Isso muda bastante a análise de risco.

E aqui vale uma atenção que parece simples, mas não é.

Mesmo um agente usado apenas para resumir uma ata de reunião pode influenciar decisões críticas.

Se o resumo omitir uma ressalva importante, interpretar mal uma deliberação ou simplificar demais um risco, a empresa pode seguir um caminho errado acreditando que aquela síntese representa fielmente o que foi discutido.

Ou seja, o risco não está apenas no que a IA acessa/trata. Está também no quanto a saída gerada por ela passa a orientar decisões posteriores.

#_Conexão_Regulatória

Um ponto que as áreas de governança, segurança, jurídico e os DPOs precisam ter no radar: quando um agente toma decisões que afetam pessoas físicas, como colaboradores, clientes ou candidatos, a LGPD entra em cena.

A LGPD trata tamém de decisões tomadas exclusivamente com base em tratamento automatizado. Isso pode impor alguns controles a mais.

#_Na_Prática

A governança de IA precisa olhar para algumas perguntas:

Qual o nível de autonomia do agente?

Ele apenas sugere? Executa ações diretamente? Registra decisões? Altera dados? O risco cresce proporcionalmente à autonomia.

A saída gerada é revisada por alguém qualificado?

Existe rastreabilidade?

A empresa consegue saber quem usou, quando usou, qual informação foi considerada, qual resposta foi gerada e quem validou?

Sem isso, auditoria e responsabilização ficam comprometidas.

Sei que atualmente isso é desafio para a maioria das empresas. Mas é importante pôr na mesa essas reflexões.

#_Reflexão

Na sua empresa, os agentes de IA estão sendo avaliados apenas pelos dados que tratam, ou também pelas decisões que influenciam?

Abraços

Sobre o autor:

Rogério Coutinho da Silva

rogerio.coutinho.silva@gmail.com 

https://www.linkedin.com/in/rogerio-coutinho-silva/

Engenheiro de Computação formado pela Universidade Federal de São Carlos (UFSCar). Sócio-fundador da Podium Tecnologia (Consultoria especializada em Governança de Segurança da Informação, Privacidade e Continuidade de Negócios) e da SimpleWay (Plataforma de Governança de Segurança Cibernética, Privacidade e IA).

Imagem Magnific