Tentando acompanhar a IA | Edição 145

Olá Pessoal!!

Hoje quero abordar o uso inadequado da Inteligência Artificial e os impactos financeiros e reputacionais!!.

#_Acompanhem_o_Caso

Uma advogada apresentou à Justiça do Trabalho de Santa Catarina uma petição contendo decisões e citações inexistentes, que segundo reportagens teriam sido geradas por IA generativa.

O caso envolvia uma ex-funcionária de um hotel. O resultado: *a parte autora recebeu multa de R$ 3,7 mil*, por litigância de má-fé.

A defesa detectou que as jurisprudências citadas não existiam nas fontes oficiais, então o juiz exigiu explicações. A advogada alegou “erro material”, mas o tribunal entendeu que faltou diligência e validação humana, responsabilizando a parte autora.

Resultado: multa!

#_Reflexão

Casos como esse reforçam a urgência de tratarmos a IA com responsabilidade, transparência e governança.

A IA generativa é poderosa aliada, podendo acelerar pesquisas, apoiar redações e reduzir esforço manual, mas não pode substituir a responsabilidade humana e requer na maioria das vezes revisão e validação.

Para organizações que já estão incorporando IA aos seus fluxos, recomendo investir estrategicamente em pelo menos três pilares:

Capacitação: Treinar equipes para entender as limitações e riscos da IA, sabendo reconhecer quando uma saída gerada exige verificação humana. Temos apoiado clientes com esse tipo de capacitação e é nítido que os colaboradores estão usando, mas sem conhecimentos básicos de IA.

Políticas de Uso: Definir diretrizes claras internas sobre o que pode (ou não) ser produzido com IA, quem responde pelo conteúdo e como documentar seu uso.

Governança e Auditoria: Estabelecer mecanismos de controle, rastreabilidade e revisão dos conteúdos gerados. Aqui destaco que um agente de IA na prática é um sistema e atende algum processo de negócio, portanto precisa estar no inventário, ser incluindo no data mapping para boa governança de segurança cibernética e de privacidade ( conformidade com a LGPD ).

#_Lição

A IA pode ser uma aliada estratégica, mas sem supervisão e validações adequadas, ela pode se tornar um risco jurídico, financeiro e reputacional.

Esse caso serve como um alerta: Não basta “usar” IA, é preciso saber usar com responsabilidade.

Abraços

Sobre o autor:

Rogério Coutinho da Silva

rogerio.coutinho.silva@gmail.com 

https://www.linkedin.com/in/rogerio-coutinho-silva/

Engenheiro de Computação formado pela Universidade Federal de São Carlos (UFSCar). Sócio-fundador da Podium Tecnologia (Consultoria especializada em Governança de Segurança da Informação, Privacidade e Continuidade de Negócios) e da SimpleWay (Plataforma de Governança de Segurança Cibernética, Privacidade e IA).

Foto gerada por IA na Freepik