#_IA_Tentando_Acompanhar | Edição 66

Olá pessoal! Bom tarde!!

Quanto mais estudo e pesquiso sobre IA, mais me preocupo com o tema de responsabilidade e ética no uso a IA!!

A IA enquanto tecnologia, acaba sendo diferente de todas as tecnologias anteriores, especialmente pela sua capacidade de aprendizado autônomo, adaptação e decisão.

O poder de impacto dela na sociedade é imensamente maior que outras tecnologias, pelo fato da adoção dela estar sendo em um espaço tempo muito pequeno, sem tempo para adaptação da legislação, políticas públicas e sistemas educacionais.

#_Lado_Positivo

Vemos um movimento intenso de debate da ética no uso da IA e no tratamento de dados pessoais. Não tenho conhecimento de outra época que o debate sobre a ética estivesse tão intenso e espalhado em congressos, fórum, academias e entidades em geral.

Isso é ótimo, pois o debate vai impactar todas as áreas da sociedade.

#_Desafios

Os desafios e riscos do uso inadequado da IA são muitos.

Eu particularmente tenho fortes receios das iniciativas ( que já existem ) de uso da IA para armamentos autônomos.

Gostaria de trazer o tema para um contexto mais próximo ao cotidiano das famílias.

- O crescimento da geração de deepfakes com geração de vídeos falsos extremamente realistas envolvendo nudes, beijos, inclusive vídeos falsos de abuso infantil.

- A IWF (Internet Watch Foundation) tem alertado para o crescimento da utilização da IA para produzir material de abuso infantil.

- Outro ponto de atenção é a proliferação de sites que geram imagens e vídeos falsos, inclusive nudes, mas no fundo o objetivo é roubar dados e infectar computadores..

#_Impactos

- Imagine alguém da sua família, por exemplo uma filha ou neta sua envolvida em um vídeo fake dessa natureza exposta na DarkWeb?

- Como remover isso da darkWeb? Como rastrear a origem?

- Esses sites ficam espalhados por diversos países onde a legislação pode não ser madura para proteger o cidadão desse tipo de situação.

- Ou seja, dependendo do caso o dano vai ser praticamente irreversível!!

#_Caminho

- Na minha opinião, a sociedade precisa participar ativamente do debate sobre o uso ético e responsabilidade da IA.

- Entendo que é fundamental algum nível de regulamentação global e acelerar padrões para rastreabilidade de conteúdo gerado para assegurar responsabilização.

- Também seria importante o incentivo para avanços mais rápidos para ferramentas de detecção de Deepfakes.

O futuro é construído hoje!! Temos benefícios gigantes pela frente com a IA, mas é preciso direção!!

Abraços

Sobre o autor:

Rogério Coutinho da Silva

rogerio.coutinho.silva@gmail.com 

https://www.linkedin.com/in/rogerio-coutinho-silva/

Engenheiro de Computação formado pela Universidade Federal de São Carlos (UFSCar). Sócio-fundador da Podium Tecnologia (Consultoria especializada em Governança de Segurança da Informação, Privacidade e Continuidade de Negócios) e da SimpleWay (Plataforma de Governança de Segurança Cibernética, Privacidade e IA).

Foto gerada por IA na Freepik