Tentando acompanhar a IA | Edição 138

Olá Pessoal!!

Compartilho aqui hoje uma notícia bem intrigante vindo da Albânia!!

Um agente de IA nomeado como ministra!!

#_Entendendo

O primeiro‑ministro da Albânia, nomeou uma IA chamada Diella para ser “ministra virtual” responsável pelas licitações públicas do governo, com o objetivo de combater corrupção.

Pelo que li em uma reportagem na Forbes, a Diella já existia como assistente virtual no portal e‑Albania, ajudando cidadãos e empresas a obter documentos e serviços públicos digitais.

#_Objetivo

A proposta é simples (em teoria): tornar o processo de concessão de contratos públicos mais transparente, livre de subornos, pressões, favores etc.

#_Desafios

Alguns pontos que fiquei pensando...

Supervisão humana: não está claro será terá um papel humano no controle da Diella, como auditoria de decisões automáticas, revisões ou correções.

Manipulação ou viés: IA pode ser treinada com dados enviesados, ou seus modelos podem ser manipulados ou “contaminados” se não houver transparência dos seus algoritmos / dados de entrada. Problemas clássicos de IA.

Conformidade legal: como fica a legalidade de um cargo público ser assumido por uma IA?!

#_Reflexão

É um dos primeiros casos (se não for o primeiro) de uso de IA num nível de alto escalão governamental. Pode abrir precedentes (bons e maus) para outros países estudarem algo parecido.

Uma coisa é fato, agentes de IA pode ajudar muito na esfera municipal, estadual e federal, a população acompanhar com mais transparência as compras e contas públicas!!

Abraços!

Sobre o autor:

Rogério Coutinho da Silva

rogerio.coutinho.silva@gmail.com 

https://www.linkedin.com/in/rogerio-coutinho-silva/

Engenheiro de Computação formado pela Universidade Federal de São Carlos (UFSCar). Sócio-fundador da Podium Tecnologia (Consultoria especializada em Governança de Segurança da Informação, Privacidade e Continuidade de Negócios) e da SimpleWay (Plataforma de Governança de Segurança Cibernética, Privacidade e IA).

Foto de rawpixel.com na Freepik