#_IA_Tentando_Acompanhar | Edição 114

Olá Pessoal!!!

Estes dias eu postei aqui no grupo sobre a importância de acompanharmos o AI Act europeu (A Lei la da Europa que tem sido considerada a primeira legislação abrangente sobre inteligência artificial no mundo). Esse movimento lá direciona para importância das empresas estruturarem Governança de IA.

Hoje quero abordar aqui uma reflexão exatamente sobre a Governança de IA dentro da empresa.

Se a sua empresa já está usando/adotando ou pretende usar IA na sustentação dos negócios, entendo que compensa você refletir sobre isso.

#_Acompanhando_Mercado

Na prática, entre os principais riscos que o mercado enxerga na adoção da IA, aqui em especial a IA generativa, é:

a) Segurança e Privacidade ( especialmente no que toca a dados pessoais ), aqui cabe destacar que a LGPD impõe que as empresas definam base legal, transparência, minimização de dados, etc, em todos os projetos.

b) Confiabilidade: no contexto da IA generativa entra a questão da alucinação. Envolve, por exemplo, preocupações nos testes recorrentes necessários para assegurar se a saída gerada se mantem confiável.

#_Barreira

Outro ponto de atenção que envolve a adoção de IA é falta de capacitação das pessoas de negócio em relação a IA. Isso impacta inclusive a Governança do tema, porque é muito difícil se estabelecer governança de algo em que os envolvidos tem pouquíssimo conhecimento do tema.

Isso reforça a importância de ser fazer treinamentos e capacitações executivas com todos da organização.

#_Governança_Interna_Versus_Inovação

Pessoal, todos vocês tem acompanhado que adoção da inteligência artificial tem trazidos ganhos imensos para muitas empresas, mas a velocidade de adoção pode ultrapassar a capacidade de controle mínimo. Sem diretrizes corporativas estabelecidas, diferentes áreas tendem a adotar ou contratar soluções de forma isolada, sem critérios, gerando riscos operacionais e legais. Regras de governança mínimas são essenciais para garantir segurança, conformidade e uso responsável da IA.

#_Além_Da_Conformidade_Legal

Um ponto importante é que acompanhar esses movimentos não é so uma questão de Conformidade legal, mas também identificar os caminhos para o uso responsável e ético da IA. Responsabilidade corporativa e ética deveria ser pilar de qualquer empresa, independente de ter uma Lei que aborde o tema!

#_Como_Anda_Governança_De_IA_Na_Sua_Empresa?

• Já fez treinamentos corporativos ?

• Já tem alguma política com direcionamentos mínimos ?

• Já tem visibilidade dos sistemas que usam IA dentro da organização ?

• Qual infra que sustenta os sistemas de IA da sua empresa ?

• Quais processos de negócio usam IA atualmente na sua empresa ?

• Quais fornecedores envolvidos com os sistemas de IA ?

• Já está fazendo avaliação de riscos de segurança e privacidade dos sistemas e fornecedores de IA ?

• Já adequou o data mapping ( LGPD ) com o uso de IA nos processos de negócio ?

  
  

  Outra hora falamos de mais pontos.. Sobre o autor:

  

  
  

  Rogério Coutinho da Silva

  rogerio.coutinho.silva@gmail.com 

  https://www.linkedin.com/in/rogerio-coutinho-silva/

  
  

  Engenheiro de Computação formado pela Universidade Federal de São Carlos (UFSCar). Sócio-fundador da Podium Tecnologia (Consultoria especializada em Governança de Segurança da Informação, Privacidade e Continuidade de Negócios) e da SimpleWay (Plataforma de Governança de Segurança Cibernética, Privacidade e IA).

  
  

Foto de Jakub Żerdzicki na Unsplash