#_IA_Tentando_Acompanhar | Edição 26

Você sabe o que é janela de contexto e como isso afeta você quando usa o ChatGPT ?

Como temos falado em diversos posts anteriores, todas essas plataformas de IA como ChatGPT, Claude, Gemini, Perplexity, Copilot, etc, usam IA Generativa ( #GenAI).

De modo Simples, a IA Generativa pode criar conteúdos baseado em um aprendizado prévio. Podendo ser conteúdos como Texto, Áudio, Imagem, Vídeos, etc.

Para quem está começando a se aproximar de IA, é bacana procurar entender alguns poucos conceitos pois pode ajudar a extrair mais valor da IA na vida pessoal ou na empresa.

Um ponto que vale a pena entender é sobre Janela de Contexto!!

Entender sobre Janela de Contexto pode te ajudar trabalhar melhor com a IA no dia a dia!

Vou explicar de modo bem simples!!

A Janela de contexto é como se fosse a *memória de curto prazo* do ChatGPT, Claude, Copilot, Gemini, etc.

#Exemplo_Prático.1

Imagine que você está usando o ChatGPT para mapear tendências de tecnologia para sua empresa e, após várias trocas de mensagens, passa para tendências de sustentabilidade e mudanças no comportamento do seu mercado. Porém, quando você volta a falar sobre tecnologia no final da conversa, o ChatGPT pode não lembrar exatamente dos detalhes iniciais, como você mencionou um foco específico, por exemplo, em IA e automação industrial, porque a janela de contexto foi "esgotada".

Resultado: ele poderá dar respostas desconexas ou ele pode "Alucinar" como já falamos em outros posts.

#Exemplo_Prático.2

Imagine que você está conversando com um Copilot (da Microsoft) sobre suas preferências em filmes. No início da conversa, você menciona que adora filmes de ficção científica. Após várias interações, você pergunta: “Qual é o meu gênero favorito?”. Se a janela de contexto do modelo já tiver esgotada e ele pode não constar mais na memória de curto prazo a sua menção anterior sobre ficção científica, e com isso ele pode não conseguir responder corretamente, resultando em uma resposta desconexa.

Com isso você já pode imaginar que quando anexa um PDF grande no prompt das suas interações você está consumindo essa janela de contexto e pode ficar esgotada em suas próximas interações, resultando em respostas "desconexas"!

Vamos lá...

#Dicas

1. De vez em quando resuma a conversa novamente, fazendo um breve resumo dos pontos principais. Isso ajuda a IA a manter as informações principais "vivas" no contexto.

Exemplo: "Até agora, falamos sobre IA no setor de tecnologia e sustentabilidade. Agora, vamos abordar comportamento do consumidor."

2. Avalie se é momento de reiniciar sua conversa: Se você sentir que a conversa está se tornando confusa ou o modelo está perdendo o fio da meada, reinicie a conversa com um novo prompt.

3. Quebra temas longos em partes menores e mais especificas. Isso vai ajudar a melhorar a qualidade dos seus resultados.

Galera, resumindo, entender o sobre janela de contexto ajuda você a aprender a "conversar" melhor com os modelos de linguagem. Sabendo como funciona essa memória curto prazo, você pode tirar mais valor no uso no dia a dia na empresa e na vida pessoal.

Por hoje é isso!!!

Abraços

Sobre o autor:

Rogério Coutinho da Silva

rogerio.coutinho.silva@gmail.com 

https://www.linkedin.com/in/rogerio-coutinho-silva/

Engenheiro de Computação formado pela Universidade Federal de São Carlos (UFSCar). Sócio-fundador da Podium Tecnologia (Consultoria especializada em Governança de Segurança da Informação, Privacidade e Continuidade de Negócios) e da SimpleWay (Plataforma de Governança de Segurança Cibernética, Privacidade e IA).

Foto de Freepik da Freepik