O que são agentes de IA?

Chatbots IA utilizam técnicas de IA conversacional, como processamento de linguagem natural (NLP), para entender as perguntas do usuário e automatizar as respostas. Esses chatbots são uma modalidade, enquanto agência é uma estrutura tecnológica. 

Chatbots de IA não agênticos

Os chatbots IA não agênticos são aqueles que não têm ferramentas, memória e raciocínio disponíveis. 

Eles só conseguem atingir objetivos de curto prazo e não conseguem planejar com antecedência. Da forma como os conhecemos, os chatbots não agênticos exigem o input contínuo do usuário para responderem. Eles podem produzir respostas a comandos comuns que provavelmente se alinham às expectativas do usuário, mas têm um desempenho ruim em perguntas exclusivas do usuário e de seus dados.

Como esses chatbots não têm memória, eles não aprendem com os erros se suas respostas forem insatisfatórias.

Chatbots de IA agênticos

Em contrapartida, os chatbots IA agênticos aprendem a se adaptar às expectativas do usuário ao longo do tempo, proporcionando uma experiência mais personalizada e respostas mais abrangentes.

Eles podem concluir tarefas complexas criando subtarefas sem intervenção humana e considerando planos diferentes. Esses planos também podem ser corrigidos e atualizados automaticamente conforme necessário. 

Os chatbots IA agênticos, diferentemente dos não agênticos, avaliam suas ferramentas e usam os recursos disponíveis para preencher as lacunas de informações. 

Não há uma arquitetura padrão para a criação de agentes de IA. Há vários paradigmas para resolver problemas de várias etapas.

Com esse paradigma, podemos instruir os agentes a “pensar” e planejar após cada ação executada e com cada resposta da ferramenta para decidir qual ferramenta usar em seguida. Esses ciclos do tipo pensar-agir-observar são usados para resolver problemas passo a passo e melhorar iterativamente as respostas.

Por meio da estrutura de comandos, os agentes podem ser instruídos a raciocinar lentamente e exibir cada “pensamento”. O raciocínio verbal do agente apresenta informações sobre como as respostas são formuladas. Nessa estrutura, os agentes atualizam continuamente seu contexto com novos raciocínios. Isso pode ser interpretado como uma forma de instruções por linha de pensamento.

O método ReWOO, diferentemente do ReAct, elimina a dependência dos resultados das ferramentas para o planejamento de ações.

Em vez disso, os agentes planejam com antecedência. O uso redundante de ferramentas é evitado ao antecipar quais ferramentas devem usar quando recebem o comando inicial do usuário. Isso é desejável de uma perspectiva voltada para o ser humano, pois o usuário pode confirmar o plano antes que ele seja executado.

O fluxo de trabalho do ReWOO é composto por três módulos.No módulo de planejamento, o agente antecipa suas próximas etapas com base em um comando do usuário.

A próxima etapa envolve a coleta dos resultados produzidos ao solicitar essas ferramentas. Por último, o agente combina o plano inicial com os resultados das ferramentas para formular uma resposta.Esse planejamento antecipado pode reduzir consideravelmente o uso de tokens e a complexidade computacional, bem como as repercussões da falha de ferramentas intermediárias.⁵

Os agentes de IA podem ser desenvolvidos para terem níveis variáveis de capacidades. Um agente simples pode ser preferível para objetivos diretos para limitar a complexidade computacional desnecessária. Da ordem do mais simples para o mais avançado, há cinco tipos principais de agentes:

1. Agentes de reflexo simples
2. Agentes de reflexo baseados em modelos
3. Agentes baseados em objetivos
4. Agentes baseados em utilidade
5. Agentes de aprendizagem

Agentes de reflexo simples são a forma de agente mais simples, que baseia as ações em sua percepção atual.

Esse agente não contém memória nem interage com outros agentes se estiver faltando informação. Esses agentes funcionam com base em um conjunto dos chamados reflexos ou regras.Isso significa que o agente é pré-programado para executar ações que correspondem ao cumprimento de determinadas condições.

Se o agente se deparar com uma situação para a qual não está preparado, ele não conseguirá responder da maneira adequada. Os agentes só são eficazes em ambientes que são totalmente observáveis e que concedem acesso a todas as informações necessárias.⁶

Exemplo: um termostato que liga o sistema de aquecimento em um horário definido todas as noites. A regra de condição-ação aqui é, por exemplo, que se for 20h, o aquecimento estará ativado.

Agentes de reflexos baseados em modelos utilizam tanto a percepção quanto a memória atuais para manter um modelo interno do mundo.

O modelo é atualizado à medida que o agente continua recebendo novas informações. As ações do agente dependem do modelo, reflexos, preceitos anteriores e estado atual.

Esses agentes, ao contrário dos agentes de reflexo simples, podem armazenar informações na memória e operar em ambientes parcialmente observáveis e mutáveis. Entretanto, ainda são limitadas pelo seu conjunto de regras.⁶

Exemplo: um robô aspirador de pó. Ao limpar um quarto sujo, detecta obstáculos, como móveis, e se orienta em torno deles. O robô também armazena um modelo das áreas que já limpou para não ficar preso em um ciclo repetido de limpeza.

Os agentes baseados em objetivos contam com um modelo interno do mundo e também um objetivo ou conjunto de objetivos.

Esses agentes procuram sequências de ação que atinjam seu objetivo e planejam essas ações antes de agir. Essa busca e planejamento melhoram sua eficácia quando comparados com agentes de reflexo simples e baseados em modelos.⁷

Exemplo: um sistema de navegação que recomenda a rota mais rápida até seu destino. O modelo considera várias rotas que chegam ao destino, ou seja, seu objetivo. Nesse exemplo, a regra de condição-ação do agente afirma que, se uma rota mais rápida for encontrada, o agente a recomendará.

Agentes baseados em utilidade selecionam a sequência de ações que atingem o objetivo e também maximizam a utilidade ou a recompensa.

A utilidade é calculada por meio de uma função de utilidade. Essa função atribui um valor de utilidade, uma métrica que considera a utilidade de uma ação ou o quão “satisfeito” ela deixará o agente, a cada cenário com base em um conjunto de critérios fixos.

Os critérios podem incluir fatores como progressão em direção ao objetivo, requisitos de tempo ou complexidade computacional. Em seguida, o agente seleciona as ações que maximizam a utilidade esperada. Portanto esses agentes são úteis nos casos em que vários cenários atingem um objetivo desejado e um cenário ideal deve ser selecionado.⁷

Exemplo: um sistema de navegação que recomenda a rota até o destino que otimiza a eficiência do combustível e minimiza o tempo gasto no trânsito e o custo dos pedágios. Esse agente mede a utilidade por meio desse conjunto de critérios para selecionar a rota mais favorável.

Os agentes de aprendizado têm os mesmos recursos que os outros tipos de agentes, mas são únicos em sua capacidade de aprender.

Novas experiências são adicionadas à base de conhecimento inicial, o que ocorre de forma autônoma. Esse aprendizado aprimora a capacidade do agente de operar em ambientes desconhecidos. Os agentes de aprendizado podem ser baseados na utilidade ou em objetivos em seu raciocínio e são compostos por quatro elementos principais:⁷

• Aprendizado: aprimora o conhecimento do agente aprendendo com o ambiente por meio de suas regras e seus sensores.
  
  
• Crítica: isso apresenta uma informação ao agente sobre se a qualidade de suas respostas atende ao padrão de desempenho.
  
  
• Desempenho: esse elemento é responsável pela seleção das ações após o aprendizado.
  
  
• Gerador de problemas: cria várias propostas de ações a serem tomadas.

Exemplo: recomendações personalizadas em sites de comércio eletrônico. Esses agentes monitoram as atividades e as preferências do usuário na memória. Essas informações são usadas para recomendar determinados produtos e serviços ao usuário. O ciclo se repete sempre que novas recomendações são feitas. A atividade do usuário é armazenada continuamente para fins de aprendizado. Ao fazer isso, o agente melhora sua precisão ao longo do tempo.

Com os avanços constantes da IA generativa, há um interesse cada vez maior na otimização do fluxo de trabalho com IA ou automação inteligente.

Os agentes de IA são ferramentas de IA capazes de automatizar tarefas complexas que, de outra forma, exigiriam recursos humanos. Isso se traduz em metas alcançadas com baixo custo, rapidez e escala. Por sua vez, esses avanços significam que os agentes humanos não precisam orientar o assistente de IA para criar e navegar em suas tarefas.

Os frameworks de vários agentes tendem a superar os agentes únicos.¹¹ Isso ocorre porque quanto mais planos de ação houver disponíveis para um agente, mais aprendizado e reflexão haverá. Um agente de IA que incorpora conhecimento e feedback de outros agentes de IA especializados em áreas relacionadas pode ser útil para a síntese de informações.

Essa colaboração de back-end de agentes de IA e a possibilidade de preencher lacunas de informações são exclusivas dos frameworks agênticos, tornando-os uma ferramenta eficiente e um avanço considerável na inteligência artificial.

Os agentes de IA apresentam respostas mais abrangentes, precisas e personalizadas ao usuário do que os modelos de IA tradicionais.

Isso é importantíssimo para nós como usuários, pois respostas de maior qualidade normalmente proporcionam melhor experiência ao cliente. Conforme descrito anteriormente, isso é possível por meio da troca de informações com outros agentes, do uso de ferramentas externas e da atualização do fluxo de memória. Esses comportamentos surgem por conta própria e não são programados previamente.¹²

Certas tarefas complexas exigem o conhecimento de vários agentes de IA. Na implementação desses frameworks de vários agentes, há risco de mau funcionamento.

Sistemas multiagentes construídos sobre os mesmos modelos de base podem apresentar armadilhas compartilhadas. Essas debilidades podem causar uma falha em todo o sistema de todos os agentes envolvidos ou expor a vulnerabilidade a ataques adversos.¹³ Isso destaca a importância da governança de dados na criação de modelos de base e em processos completos de treinamento e teste.

A conveniência do raciocínio sem intervenção para usuários humanos que utilizam agentes de IA também tem seus riscos.

Os agentes que não conseguem criar um plano abrangente nem refletir sobre suas descobertas podem dar conta de que precisam recorrer repetidas vezes às mesmas ferramentas, invocando ciclos de feedback infinitos. Para evitar essas redundâncias, pode ser utilizado algum grau de monitoramento humano em tempo real.¹³

A criação de agentes de IA a partir do zero é um processo demorado e também pode ser muito caro do ponto de vista computacional. Os recursos necessários para treinar um agente de alto desempenho podem ser elevados. Além disso, dependendo da complexidade da tarefa, os agentes podem levar vários dias para concluí-la.¹²

Para lidar com as preocupações das dependências de vários agentes, os desenvolvedores podem conceder aos usuários o acesso a um log de ações dos agentes. ¹⁴

As ações podem incluir o uso de ferramentas externas e descrever os agentes externos utilizados para atingir o objetivo. Essa transparência traz insights aos usuários sobre o processo de tomada de decisão iterativo, oferece a oportunidade de descobrir erros e gera confiança.

É recomendável evitar que agentes de IA funcionem por períodos excessivamente longos. Isso é válido particularmente em casos de ciclos de feedback infinitos não intencionais, alterações no acesso a determinadas ferramentas ou mau funcionamento devido a falhas de projeto. Uma maneira de fazer isso é implementar a capacidade de interrupção.

Para manter o controle desse processo é necessário permitir que usuários humanos tenham a opção de interromper uma sequência de ações ou toda a operação. A decisão sobre se e quando interromper um agente de IA exige certo cuidado, pois algumas interrupções podem trazer mais danos do que benefícios. Por exemplo, pode ser mais seguro permitir que um agente defeituoso continue ajudando em uma emergência com risco à vida do que desligá-lo completamente.⁵

Para reduzir o risco de sistemas agênticos serem utilizados de forma mal-intencionada, é possível usar identificadores exclusivos.¹⁴

Quando esses identificadores são exigidos para os agentes acessarem sistemas externos, fica mais fácil rastrear a origem dos desenvolvedores, implementadores e usuário do agente. Isso é particularmente útil no caso de usos mal-intencionados ou danos não intencionais causados pelo agente. Esse nível de imputabilidade proporciona um ambiente mais seguro para a operação desses agentes de IA.

Para ajudar no processo de aprendizado dos agentes de IA, sobretudo nas primeiras etapas em um novo ambiente, pode ser útil enviar informações humanas ocasionalmente. Isso permite que o agente de IA compare seu desempenho com o padrão esperado e se ajuste corretamente. Essa forma de feedback é útil para melhorar a adaptabilidade do agente às preferências do usuário.⁵

Além disso, é recomendável exigir a aprovação humana antes que um agente de IA tome ações altamente impactantes. Por exemplo, ações que vão desde o envio de e-mails em massa até a negociação financeira devem exigir confirmação humana.⁷ Nesses domínios de alto risco recomenda-se certo nível de monitoramento humano.