#_IA_Tentando_Acompanhar | Edição 177

Olá Pessoal!

Essa semana estive participando do Mind The Sec, um dos principais eventos de Segurança Cibernética da América Latina.

Entre uma quantidade sem fim de palestras, painéis, conversas nos corredores e encontros com amigos da área, um tema apareceu com muita força: Governança de IA.

E uma percepção ficou ainda mais clara para mim.

O potencial de benefício da IA para as empresas está cada vez mais evidente.

O que está pegando é:

Como criar uma jornada de adoção que dê conforto para a Alta Administração, TI, Segurança da Informação, Jurídico, DPO, Compliance, Riscos e, ao mesmo tempo, permita que a empresa avance rápido?

#_Governança_Para_Acelerar

Conversei sobre isso com muitos amigos durante o evento e a percepção parece convergir para um ponto:

quanto maior a confiança na jornada, maior tende a ser a capacidade da empresa de acelerar e escalar a adoção da IA.

Quando ninguém sabe exatamente, quem está usando, onde está usando, o que pode ou não pode fazer, quais riscos estão sendo assumidos ou quem responde pelo quê, a tendência é surgir insegurança.

TI fica receosa. Muito gestor de TI com sentimento que está perdendo o controle do que está sendo feito na ponta.

Segurança fica receosa.

Jurídico fica receoso.

DPO fica receoso.

A alta administração fica receosa.

E naturalmente a adoção perde velocidade.

Governança surge como o caminho que permite produzir justamente o efeito contrário: dar visibilidade, estabelecer limites e permitir avançar com mais segurança.

Isso pode ter impacto direto na capacidade de inovação da empresa.

#_Mas_Por_Onde_Começar

Um dos primeiros passos passa certamente por conhecer os casos de uso de IA existentes na organização.

Não apenas quais ferramentas estão sendo usadas.

Mas:

Em qual processo a IA está sendo utilizada?

Para qual objetivo?

Quais dados utiliza?

Que tipo de uso?

Quem é responsável pelo caso de uso?

Qual o risco?

Mas existe uma pergunta que considero especialmente importante:

Qual é o papel da IA nas decisões ou ações relevantes daquele processo?

#_Entendendo

Nem todo uso de IA representa o mesmo nível de exposição.

Compare estes cenários:

1. IA não participa de decisões ou ações relevantes

Exemplo: um colaborador usa IA para melhorar a redação de um comunicado interno.

A IA ajuda na produtividade, mas não está tomando ou influenciando diretamente uma decisão relevante do negócio.

2. IA recomenda ou sugere

Imagine uma IA que analisa indicadores comerciais e recomenda quais clientes merecem maior atenção.

A decisão continua sendo humana, mas a IA já começa a influenciar o processo decisório.

3. IA executa uma ação ou apoia uma decisão, mas existe validação humana antes da execução

Por exemplo, uma IA analisa uma concessão de desconto, mas um profissional precisa validar antes da decisão final.

Ou um agente prepara uma alteração em um ambiente tecnológico, mas alguém precisa autorizar antes de executar.

4. IA executa uma ação ou toma uma decisão sem validação humana prévia

Aqui muda bastante o cenário.

Imagine um agente que:

altera configurações de infraestrutura;

aprova determinada transação;

concede desconto comercial dentro de uma faixa;

bloqueia uma operação considerada suspeita;

envia automaticamente determinada comunicação;

executa uma ação dentro de um ERP ou CRM.

Não existe uma pessoa validando cada decisão antes da execução.

5. A empresa nem sabe ainda qual papel a IA exerce

E essa opção também é importante.

Se você ainda não conseguiu identificar se aquela aplicação apenas recomenda ou efetivamente decide e executa, isso por si só já indica necessidade de entender melhor o caso de uso.

#_Relevância

Essa classificação simples pode ajudar muito na priorização da Governança de IA.

Imagine uma empresa com 80 casos de uso identificados.

Não parece razoável aplicar exatamente o mesmo nível de avaliação e controle nos 80. Não teria braços para isso.

Um assistente usado para resumir os feriados do ano seguinte não deveria necessariamente receber a mesma prioridade de análise de um agente capaz de alterar configurações de infraestrutura sem autorização humana.

A classificação do papel da IA ajuda a direcionar atenção.

Naturalmente, ela não substitui uma avaliação de riscos.

Existem outras dimensões importantíssimas: dados pessoais, impacto financeiro, segurança cibernética, criticidade do processo, aspectos regulatórios, pessoas afetadas, fornecedores envolvidos, entre várias outras.

Mas ela adiciona uma informação muito importante:

quanto poder nós entregamos para aquela IA dentro daquele processo?

#_Na_Prática

Podemos imaginar duas dimensões trabalhando juntas:

Impacto da decisão ou ação

Baixo → Médio → Alto

Autonomia da IA

Sugere → Atua com validação humana → Atua sem validação humana

Agora pense em um caso que esteja no canto mais crítico dessa combinação:

alto impacto + alta autonomia.

Provavelmente merece atenção prioritária.

Talvez exija controles adicionais, registros de auditoria, limites de autorização, monitoramento, testes, mecanismos de interrupção, revisão periódica e definição muito clara de responsabilidades.

Enquanto um caso de baixo impacto + baixa autonomia pode seguir por uma jornada de governança proporcionalmente mais simples.

Isso é importante porque governança não deveria significar colocar o mesmo peso de controle em tudo.

Governança também é saber onde concentrar energia.

#_Impacto_Na_Inovação

E aqui volto para uma das principais percepções que trouxe do Mind The Sec.

Governança de IA pode parecer, à primeira vista, algo criado para controlar, frear a adoção.

Mas, com a estratégia certa pode fazer justamente o contrário.

Se a empresa conhece seus casos de uso, entende os riscos, sabe quais IAs apenas recomendam e quais efetivamente decidem ou agem, ela consegue estabelecer controles proporcionais.

A Alta Administração ganha visibilidade.

A TI ganha critérios.

Segurança consegue priorizar.

O DPO consegue identificar onde existem impactos sobre dados pessoais.

Jurídico e Compliance conseguem atuar onde realmente existe exposição relevante.

E as áreas de negócio ganham um caminho mais claro para inovar.

Talvez uma das maiores contribuições da Governança de IA seja exatamente essa: transformar incerteza em confiança para avançar.

#_Reflexão

A IA está entrando rapidamente nos processos corporativos.

Saber onde está usando é um passo, mas importante também ir além para conhecer, quanto poder estamos entregando para a IA em cada um desses processos?

E talvez mais importante:

Nos casos em que a IA já pode decidir ou agir sem validação humana, a sua empresa sabe disso e decidiu conscientemente aceitar esse nível de autonomia?

E na sua empresa, isso já está no radar?

Sobre o autor:

Rogério Coutinho da Silva

rogerio.coutinho.silva@gmail.com 

https://www.linkedin.com/in/rogerio-coutinho-silva/

Engenheiro de Computação formado pela Universidade Federal de São Carlos (UFSCar). Sócio-fundador da Podium Tecnologia (Consultoria especializada em Governança de Segurança da Informação, Privacidade e Continuidade de Negócios) e da SimpleWay (Plataforma de Governança de Segurança Cibernética, Privacidade e IA).

Imagem DC Studio Fonte: Magnific