#_IA_Tentando_Acompanhar | Edição 160

Olá Pessoal!!!

Creio que boa parte de vocês deve ter visto na mídia uma reportagem com um título bastante sensacionalista: “Revolta dos robôs? Caso na AWS acende alerta sobre agentes de IA”.

Esquecendo o título (não gosto de chamadas sensacionalistas), quero fazer uma reflexão sobre o que a reportagem trouxe do ocorrido na Amazon e o que tem ocorrido nas empresas no contexto de IA !!

#_Resumo_Do_Caso_Antes_De_Algumas_Reflexões

==> Em 2025, a Amazon teve uma interrupção de aproximadamente 13 horas em um serviço usado para gerenciamento de custos, associado a *ações executadas por um agente de IA interno* chamado Kiro.

==> Segundo uma reportagem no Financial Times, o agente Kiro, projetado para automatizar fluxos de trabalho, teria concluído que a melhor forma de “resolver” um problema era eliminar e recriar o ambiente inteiro, e executou essa ação de forma autônoma, sem intervenção humana direta no momento da execução.

==> Pelas informações, esse não teria sido o único episódio recente envolvendo ferramentas de IA da AWS em interrupções, e que parte do problema estaria ligada ao fato de que engenheiros permitiram que a IA agisse sem validação humana adequada.

==> A Amazon emitiu nota afirmando que o evento foi “limitado a um único serviço da AWS e o resultado de erro humano de configuração de acesso”, e que a ferramenta por padrão, deve solicitar autorização antes de realizar ações.

#_Contexto_Um_Pouco_Mais_Amplo

No geral, o que temos visto é a discussão atual sobre IA já não é se ela será adotada, mas como ela está sendo integrada aos modelos de negócio e especialmente como criar projetos que efetivamente tragam retorno.

Eu achei interessante ao ler uns resumos do que foi abordado no Fórum Econômico Mundial de Davos agora de 2026

a) IA deixou de ser apenas tendência tecnológica para se tornar uma infraestrutura estratégica, comparável historicamente à eletricidade ou à internet, e que os desafios não são técnicos, mas institucionais e humanos.

b) Essa discussão está mais na forma como organizamos o trabalho, os processos, como dividimos tarefas entre humano e máquina e como gerenciamos riscos associados à autonomia da IA.

c) Também foi enfatizado que a IA não elimina o humano, mas o reposiciona. Atividades repetitivas e previsíveis tendem a ser automatizadas, enquanto pensamento crítico, julgamento, ética, empatia e liderança ficam ainda mais valorizados, especialmente quando o processo envolve decisões de alto impacto para empresa.

#_Principais_Reflexões

Vamos lá...

- Na prática, a IA já está influenciando decisões nas empresas e na nossa vida. Basta ver o que as pessoas consultam IA antes de tomar decisões no dia a dia. No mais, com a facilidade de criar agentes, as empresas estão avançando rápido no uso.

O caso da Amazon é um exemplo claro de agentes de IA sendo usados para ações que vão além de criar conteúdo.

Ali estava tomando decisão em um ambiente. Quando isso acontece sem governança robusta, o risco de consequências imprevistas aumenta.

Na AWS tudo aponta pela nota que a falha foi humana que atribuiu ao agente essa permissão de decidir e agir, sem intervenção humana.

- No fundo, a questão de culpa ou não da IA, não é o ponto central, pelo menos na minha maneira de analisar.

- O Alerta aqui é para casos similares em nossas empresas. Uma aplicação com permissões de decisão autônoma sem supervisão humana.

- A Governança de IA não é sobre escolher modelos e outras coisas técnicas, mas passa por ter responsabilidades claras para definir quais decisões automatizar e com que controles. Os gestores precisam mapear claramente quais decisões podem ser automatizadas.

- Se a decisão automatizada pode gerar um impacto muito baixo, a aplicação de IA pode ter maior autonomia.

- Mas se a decisão que a aplicação toma via IA tiver um impacto muito alto na empresa, é preciso assegurar uma supervisão humana atuando em conjunto com a IA.

De modo simples: quanto maior o impacto da decisão de negócio, menor deve ser a autonomia dada à IA.

Não sei a opinião de voces, mas entendo que isso é tema de governança e possivelmente é papel da alta administração, pois estamos falando de impacto no negócio a partir de uma decisão automatizada.

Esse caso da Amazon não é um episódio isolado nem um simples "erro curioso de IA".

Ele é uma evidência clara de que, quando agentes de IA atuam em ambientes críticos sem governança adequada, podem surgir efeitos não previstos. E isso ocorre mesmo em empresas com grande maturidade técnica e recursos, como é o caso da Amazon.

#_Provocação

E na sua empresa, quais decisões poderiam ser tomadas de modo autônomo por IA ? E quais a diretoria não aceitaria o risco de não ter uma supervisão humana ? Quem tem formalmente a responsabilidade de dicidir sobre isso ?

Abraços

Sobre o autor:

Rogério Coutinho da Silva

rogerio.coutinho.silva@gmail.com 

https://www.linkedin.com/in/rogerio-coutinho-silva/

Engenheiro de Computação formado pela Universidade Federal de São Carlos (UFSCar). Sócio-fundador da Podium Tecnologia (Consultoria especializada em Governança de Segurança da Informação, Privacidade e Continuidade de Negócios) e da SimpleWay (Plataforma de Governança de Segurança Cibernética, Privacidade e IA).

Foto gerada por IA na Freepik