#_IA_Tentando_Acompanhar | Edição 116

Olá Pessoal!!

Quando converso com alguns gestores sobre IA ou quando estou dando alguns treinamentos sobre o assunto tenho percebido algumas dúvidas que tem sido comum.

Uma delas é a visão da estrutura de um agente na prática.

Hoje queria trazer de modo simples uma visão macro de um agente básico de IA generativa!

Vamos lá!!

#Alguns_Componentes_De_AgenteAI_Generativa

É comum um agente de IA generativa ter em sua estrutura esses componentes:

- Modelo ( LLM ) - O cérebro que raciocina e orquestra tudo.

- Prompt base - As instruções e a pergunta do usuário que guiam o modelo.

- Memória - O contexto da conversa atual e passada.

- Tools - As ações que o agente pode executar no mundo externo a ele.

- RAG - Bases de conhecimentos específicas.

#_Detalhando_Um_Pouco

#_Modelo

Aqui no nosso caso que estamos falando de agentes de IA generativa são os LLMs.

Ele é o "cérebro" do agente, que permite entender a linguagem humana, gerar texto e ter "algum nível" de raciocínio.

Aqui temos muitos provedores e cada um deles tem diversos LLMs, cada um com sua características.

Exemplo prático: Um agente de IA disponível para a diretoria como apoia para Brainstorming nos momentos de planejamento estratégico do ano seguinte. Todo o entendimento do contexto e a geração de ideias desse agente será feito na prática por um LLM.

#_Prompt

Pessoal, o prompt do agente são as instruções que direcionam como o agente deve atuar como qual seu objetivo, papel, suas regras de comportamento, forma que deve responder, etc.

Também faz parte do prompt solicitações e informações fornecidas pelo usuário.

Exemplo prático: Para um agente de vendas B2B, o prompt base conteria instruções como: "Você é um especialista em nossos produtos de software de contabilidade para PMEs. Seja proativo em identificar dores do cliente e sugerir soluções. Sempre termine a interação oferecendo um link para demonstração"

Pessoal, obviamente aqui é um exemplo bem simples, mas so para dar a ideia para quem não teve oportunidade de construir um agente na prática.

#_Memória

Aqui temos memória de curto e de longo prazo.

A memória de curto prazo ajuda o agente lembrar da conversa ao longo das interações ( o histórico do chat ).

Essa memória de curto prazo é importante para manter o contexto da interação.

Já a memória de longo prazo pode armazenar dados das interações do chat em um banco de dados padrão de mercado permitindo que essa informação seja usada por outros sistemas ou mesmo pelo agente de IA em momento posterior.

Exemplo prático: Um agente de suporte interno usa a memória de curto prazo para lembrar o nome do usuário que ele pediu no inicio da conversa e poder tratá-lo pelo nome ao longo das interações. Já o agente pode consultar algum banco de dados interno de longo prazo para saber que esse usuário é supervisor da área de suprimentos. Também pode armazenar na memória de longo prazo ( banco de dados ) algum feedback dado no final do atendimento.

#_Tools

Essas tools nas prática são como ferramentas e/ou funções. É como se o agente tivesse uma caixinha de ferramentas para usar quando precisar. Pode executar ações como:

• Pesquisar uma informação na internet ou em um banco de dados interno

• Enviar uma mensagem no whatsapp / telegram / teams / discord / slack / etc

• Pode alterar um dado no CRM da empresaPode consultar um CEP de um cliente em uma base externa

• etc, etc, etc

As possibilidades são praticamente infinitas. No geral elas são plugadas no agente e ele decide quanto acionar cada uma delas.

Exemplo prático: Um agente de RH usa uma tool para "Consultar o Banco de Dados de Funcionários" para verificar o saldo de férias de um colaborador que fez a solicitação e disparar um fluxo que solicita aprovação do gestor.

#_RAG

Já falamos várias vezes aqui no grupo de #_IA_Tentando_Acompanhar o que é RAG. Relembrando de modo bem simplificado ele significa Retrieval Augmented Generation (Geração Aumentada por Recuperação). Podemos dizer que é uma base de conhecimento estendida com informações específicas que o LLM da IA não tem por padrão.

Permite que o agente acesse e utilize informações de uma base de dados específica da organização, como documentos internos, PDFs, FAQs, etc., que não estavam no treinamento original do Modelo base.

Exemplo prático: Um agente de compliance interno acessa uma base de conhecimento interna (RAG) contendo os manuais de política da empresa (PDFs) para responder a uma pergunta sobre as regras de reembolsos, garantindo que a resposta esteja alinhada com o procedimento interno atual.

#_Reflexão_Final

Pessoal, acho que deu pra perceber que um agente de IA não é só o Modelo (o tal LLM) sozinho respondendo, né? É um sistema orquestrado!

Pensem assim: o Prompt dá a missão e as regras do jogo. O Modelo age como o cérebro que entende, mas ele é equipado com umas ferramentas! Ele usa a Memória pra ter contexto, as Tools pra agir no mundo real (mexer em sistemas, buscar info, enviar mensagens,etc) e o RAG pra ter acesso ao conhecimento (dados) específico da sua empresa.

É essa combinação que leva a IA de um "chatbot" que só conversa pra um executor inteligente que consegue entender, decidir e realizar tarefas mais complexas dentro do seu fluxo de trabalho.

Não é só gerar texto, é resolver problemas e se integrar aos processos da sua empresa!!!

Pessoal, espero ter ajudado, pelo menos alguns a ter uma visão macro e prática, da estrutura básica de um agente de IA generativa!!!

Sobre o autor:

Rogério Coutinho da Silva

rogerio.coutinho.silva@gmail.com 

https://www.linkedin.com/in/rogerio-coutinho-silva/

Engenheiro de Computação formado pela Universidade Federal de São Carlos (UFSCar). Sócio-fundador da Podium Tecnologia (Consultoria especializada em Governança de Segurança da Informação, Privacidade e Continuidade de Negócios) e da SimpleWay (Plataforma de Governança de Segurança Cibernética, Privacidade e IA).

Foto de BoliviaInteligente na Unsplash