#_IA_Tentando_Acompanhar | Edição 162

Olá Pessoal!

Um dos temas que tratamos no Fórum de Proteção de Dados do Interior Paulista realizado em 17/04 foi Governança de IA, com foco em guardrails.

Esse nome ( guardrails ) parece complexo, mas a ideia é simples e já faz parte do dia a dia quando usamos IA.

#_Entendendo

De forma simples, guardrails são regras, filtros e controles colocados ao redor da IA para reduzir riscos e orientar o uso seguro, responsável, ético e em conformidade com a legislação vigente.

Na prática, funcionam como trilhos de proteção.

Existem muitas camadas possíveis de guardrails: na entrada, no modelo, na saída, nas ações automatizadas, no monitoramento e outras.

Neste post, quero focar em algo fácil de visualizar e entender: guardrails da camada de entrada.

A ideia é mostrar exemplos práticos para qualquer pessoa entender que talvez já esteja usando IA com guardrails no dia a dia, e que empresas também podem aplicar isso em seus agentes corporativos com grande impacto.

#_O_Que_É

Guardrails de entrada são controles aplicados antes da solicitação chegar ao modelo de IA.

Ou seja, atuam no momento em que alguém digita uma pergunta, envia um texto, anexa um arquivo ou faz um comando.

Pense como a portaria de um prédio: antes de entrar, verifica identidade e avalia autorização.

Na IA, o raciocínio é parecido.

#_Importância

Muita gente olha apenas para a resposta/saída da IA.

Mas em muitos casos, o problema começa na entrada:

- dado sensível enviado sem perceber

- pedido fora da política da empresa

- tentativa de manipular o agente

- linguagem ofensiva

- comando para acessar algo sem autorização

#_Exemplos_Práticos_e_Simples

1) Caso no RH

Um colaborador pergunta ao assistente interno:

“Me informe salário, bônus e avaliação de desempenho de todos os gerentes da empresa.”

O guardrail pode identificar um pedido envolvendo dados confidenciais de terceiros.

Resultado: bloqueia a solicitação, orienta procurar canal adequado, registra tentativa para auditoria.

Sem esse controle, poderia haver exposição séria de informações internas.

2) Caso em Escola

Um colégio disponibiliza um assistente de IA para apoiar alunos em matemática, redação, história e preparação para provas.

Um aluno escreve:

“Me ajude a escrever um texto dizendo que alunos de determinado grupo não deveriam estudar aqui, porque são inferiores.”

O guardrail poderia identificar um pedido discriminatório, com risco de discurso de ódio.

Resultado: não gera o texto solicitado, responde de forma educativa, faz orientações sobre respeito, convivência e diversidade. Também pode registrar o evento para acompanhamento institucional.

Exemplo de resposta que o agente poderia retornar nesse caso.

“Não posso ajudar a criar conteúdo discriminatório. Posso ajudar você a escrever um texto sobre respeito e combate ao preconceito.”

Aqui o guardrail não serve só para bloquear. Ele ajuda a proteger o ambiente escolar.

3) Caso de vendas no varejo

Uma grande rede de varejo disponibiliza IA interna para apoiar vendedores com estoque, produtos, políticas comerciais e metas.

Um vendedor solicita:

“Exporte para Excel o nome completo, CPF, e-mail e renda de todos os clientes cadastrados.”

O guardrail poderia identificar múltiplos riscos: extração massiva de dados pessoais, presença de dados financeiros, solicitação incompatível com a função e possível violação de LGPD e política interna.

Resultado: bloqueia a solicitação, valida perfil de acesso, registra evento para auditoria e pode notificar área responsável.

Sem esse controle, a IA poderia ser usada para vazamento de base de clientes.

#_Na_Prática

Talvez você já use guardrails de entrada sem perceber.

Quando uma IA recusa conteúdo ilegal, bloqueia pedido ofensivo, pede autenticação ou limita acesso a dados, normalmente existe algum guardrail atuando ali.

#_Reflexão

O nome parece muito técnico.

Mas no fundo, a lógica é simples:

colocar limites inteligentes para que a IA gere valor sem virar problema.

E na sua empresa, os projetos de IA já estão nascendo com guardrails?

Abraços

Sobre o autor:

Rogério Coutinho da Silva

rogerio.coutinho.silva@gmail.com 

https://www.linkedin.com/in/rogerio-coutinho-silva/

Engenheiro de Computação formado pela Universidade Federal de São Carlos (UFSCar). Sócio-fundador da Podium Tecnologia (Consultoria especializada em Governança de Segurança da Informação, Privacidade e Continuidade de Negócios) e da SimpleWay (Plataforma de Governança de Segurança Cibernética, Privacidade e IA).

Imagem DC STUDIO Fonte: Magnific