#_IA_Tentando_Acompanhar | Edição 176

Olá Pessoal!

Eu tive a oportunidade de mediar um painel no I Congresso de Direito Digital, Proteção de Dados e Inteligência Artificial, promovido recentemente pela OAB Ribeirão Preto.

O tema foi “Provas Digitais, Contratos e Responsabilidade na Era Tecnológica”.

Algumas perguntas que levei para discussão com os painelistas envolviam Inteligência Artificial e continuaram martelando na minha cabeça depois do evento.

Resolvi compartilhar duas delas aqui.

Não para tentar responder, mas para provocar reflexão.

#_Pensa_Comigo

Uma das situações discutidas foi esta:

Um diretor financeiro recebe um áudio do presidente da empresa pedindo uma transferência urgente.

Ele reconhece a voz, o jeito de falar, o contexto.

Faz a transferência.

Depois descobre que o presidente nunca gravou aquele áudio. A voz foi gerada por IA.

A pergunta é:

Em um mundo onde voz, imagem e vídeo podem ser reproduzidos artificialmente com enorme realismo, até que ponto “parecer autêntico” ainda é suficiente para confiarmos? Quais sinais deveríamos estar atentos para confiar mais ou menos?

#_Outra_Questão

Outra discussão do painel partiu de algo muito comum: um print de uma conversa no WhatsApp apresentado como prova de que determinada comunicação aconteceu.

Naturalmente, questionamentos sobre prints não nasceram com a IA. Recortes, alterações e falta de contexto já eram problemas antes dela.

Mas agora surge uma camada adicional:

Em um mundo onde conteúdos digitais podem ser criados ou alterados com cada vez mais facilidade, será que também veremos crescer o argumento: “isso pode ter sido feito por IA”?

Aqui aparece um dilema interessante: precisamos aumentar o cuidado com aquilo que parece verdadeiro sem chegar ao extremo de colocar qualquer evidência digital sob suspeita.

#_O_Que_Ficou_Martelando

O ponto não é apenas deepfake.

É algo maior.

Durante anos construímos formas digitais de confiança:

assinaturas eletrônicas, biometria, videoconferência, mensagens, áudios e documentos digitais.

Agora a própria tecnologia começa a conseguir reproduzir ou manipular alguns desses sinais.

Se os sinais que usamos para construir confiança podem ser artificialmente reproduzidos, isso começa a afetar também a forma como construímos confiança para tomar decisões.

#_Trazendo_Para_As_Empresas

Pense em quantos processos dependem disso hoje:

Solicitação de pagamento.

Mudança de conta bancária de fornecedor.

Autorização de acesso.

Aprovação da diretoria.

Confirmação de identidade.

Orientação enviada por áudio ou vídeo.

Quantos desses processos foram desenhados antes de imaginarmos que voz, rosto, imagem e comportamento poderiam ser reproduzidos por IA?

#_Reflexão

Talvez esse seja um dos efeitos menos óbvios da IA generativa.

Ela não está apenas aumentando nossa capacidade de criar conteúdos convincentes.

Pode estar também mudando a forma como construímos, questionamos e demonstramos confiança no ambiente digital. Lembrando que a sociedade atual é digital...

E aí fica a pergunta que mais ficou comigo depois do painel:

Se uma decisão/operação importante fosse questionada amanhã, sua empresa conseguiria demonstrar por que confiou naquela informação, naquela identidade ou naquela autorização?

Sobre o autor:

Rogério Coutinho da Silva

rogerio.coutinho.silva@gmail.com 

https://www.linkedin.com/in/rogerio-coutinho-silva/

Engenheiro de Computação formado pela Universidade Federal de São Carlos (UFSCar). Sócio-fundador da Podium Tecnologia (Consultoria especializada em Governança de Segurança da Informação, Privacidade e Continuidade de Negócios) e da SimpleWay (Plataforma de Governança de Segurança Cibernética, Privacidade e IA).

Imagem DC Studio Fonte: Magnific