#_IA_Tentando_Acompanhar | Edição 91

Olá Pessoal!!

O papo de hoje é sobre a (im)precisão das informações geradas pelas IAs Generativas!!

Veja o impacto desse caso!

#_Veja_O_Caso

Tem sido noticiado na mídia o caso de um Norueguês, chamado Arve Hjalmar Holmen, que ao consultar o ChatGPT sobre ele mesmo, surpreendentemente, teve a resposta falsa que ele havia assassinado dois de seus filhos e foi condenado a 21 anos de prisão.

Pensa um caso desses conosco?!

#_Desafios

1. O tema é complexo e envolve muitas frentes, mas podemos citar a questão das alucinações da IA (já postamos várias vezes aqui no grupo sobre isso), base de dados treinamento das IAs, regulamentações de IA, regulamentações de Privacidade ( no caso da Noruega é GDPR ), etc, etc.

2. No caso, o tema ganhou repercussão na Mídia e pelo que pude levantar a OpenAI já ajustou o modelo para não mais dar essa resposta sobre Holmen. Mas se fosse um cidadão comum e o caso não ganhasse repercussão na mídia, a pessoa iria ter muita dificuldade de interagir com a OpenAI. Se uma hora você precisar, eu torço para que tenha sucesso, mas tem grande chance de ter grandes problemas!!

A Noruega está no âmbito do GDPR (de modo simples é a LGPD da Europa ) e certamente esse caso vai longe!!

#_Resumo

O Caso serve para reflexão de possível impacto de uma resposta imprecisa de uma IA !!

Pensa: informar, falsamente, que você assassinou seus dois filhos e foi condenado a prisão!!

Vamos acompanhando....

Sobre o autor:

Rogério Coutinho da Silva

rogerio.coutinho.silva@gmail.com 

https://www.linkedin.com/in/rogerio-coutinho-silva/

Engenheiro de Computação formado pela Universidade Federal de São Carlos (UFSCar). Sócio-fundador da Podium Tecnologia (Consultoria especializada em Governança de Segurança da Informação, Privacidade e Continuidade de Negócios) e da SimpleWay (Plataforma de Governança de Segurança Cibernética, Privacidade e IA).

Foto de Jacob Mindak na Unsplash