Em parceria com as equipes de engenharia de clientes e vendas técnicas da IBM na República Tcheca, a AddAI desenvolveu um assistente de IA para um cliente do setor bancário, com o qual eles posteriormente realizaram um teste piloto. O assistente utilizou a metodologia de geração aumentada de recuperação (RAG), juntamente com o watsonx.ai, para fornecer respostas relevantes e precisas em tcheco para perguntas frequentes (FAQs) sobre tópicos que vão desde o acesso à conta até pagamentos, preços e serviços da conta. Com esforços intensivos de otimização, a equipe de implementação assegurou que as respostas geradas pelos grandes modelos de linguagem (LLMs) atingissem um alto padrão de precisão e fluência linguística. Com o objetivo de otimizar a experiência do usuário final, a equipe integrou o watsonx.ai ao watsonx Assistant e conseguiu fornecer respostas instantâneas por meio de uma interface fácil de usar.

"Usamos o watsonx.ai para acessar grandes modelos de linguagem de código aberto selecionados, como o Llama 2, para aprimorar e contextualizar as informações dos nossos bancos de dados e apresentá-las ao cliente final por meio do chatbot watsonx Assistant de maneira precisa e conversacional. No nosso caso, o watsonx.ai gera suas respostas às perguntas dos usuários por meio do RAG", explica Klaudia Miezgova, desenvolvedora do watsonx na AddAI.Life.

Além disso, a Add.IA incluiu o IBM Watson Discovery neste piloto para seu cliente bancário. A equipe usou documentos bancários disponíveis ao público, como contratos, termos e condições e listas de preços, e ajustou o Watson Discovery para entender perguntas e expressões específicas do setor. "Conseguimos obter respostas bastante precisas, inclusive com trechos do documento que foram usados como referência ou base para a resposta. Isso aconteceu automaticamente, sem a necessidade de criar e configurar o diálogo manualmente", destaca Chromy.

"Nós sempre rastreamos, medimos e testamos novas ideias para ver como elas funcionam em situações da vida real. Dessa forma, podemos melhorá-las com rapidez", explica Chromy. "Neste caso, fizemos algumas consultas de teste para as quais já tínhamos as respostas corretas predefinidas no nosso assistente de IA feito sob medida que usava a tecnologia do watsonx Assistant. Em seguida, enviamos essas consultas para o novo assistente, que usava a tecnologia tanto do watsonx Assistant quanto do watsonx.ai. Esse novo assistente não tinha diálogos criados previamente e precisava criar as respostas por conta própria, usando a documentação fornecida e suas habilidades como um grande modelo de linguagem. Ele respondeu com uma precisão de 85% em comparação com as respostas pré-definidas da versão anterior. E com muito menos inputs. Então agora sabemos que ele está no caminho certo."

Através deste novo assistente, a AddAI também ajudou seu cliente a alcançar uma redução de 50% nas consultas não respondidas dos clientes. Além disso, ao responder às perguntas dos clientes, um assistente de IA que usa a tecnologia do watsonx.ai foi projetado para oferecer respostas mais detalhadas e práticas do que era possível anteriormente.

"Conseguimos ajustar o modelo para consultar conjuntos de dados complexos e depois resumir os dados coletados de maneira muito mais eficaz. Por exemplo, o cliente bancário mencionado anteriormente usa o assistente para dar informações sobre taxas aos seus clientes. Em vez de apresentar dados brutos que demandem do usuário analisar o resultado e inferir o próximo passo, o assistente pode fornecer uma resposta resumida de forma clara, juntamente com orientações úteis para que o usuário possa seguir adiante. Isso não era possível antes do watsonx.ai", explica Miezgova.

Isso é apenas o começo. No futuro, a AddAI está confiante de que poderá reduzir em até 30% o tempo necessário para implementar um novo assistente de IA, já que agora pode usar a IA generativa para auxiliar na preparação do assistente para responder às perguntas dos usuários finais. A equipe espera que isso reduza significativamente o tempo necessário para testar e otimizar um assistente antes que ele esteja pronto para ser compartilhado com os usuários finais. A AddAI também acredita que pode oferecer assistentes de nível superior e mais bem informados, sem a necessidade de desenvolver manualmente cada diálogo (resposta), graças a esta nova abordagem com o watsonx.ai e o watsonx Assistant.

A AddAI.Life (AddAI) (link externo ao site ibm.com) é uma startup sediada na República Tcheca e parceira de negócios da IBM. Fundada em 2019, a empresa tem sua sede nas áreas naturais de Řevnice, uma cidade próxima à capital, Praga. A empresa está concentrada no desenvolvimento de assistentes virtuais de IA que têm diálogos naturais e que compreendam o contexto da conversa. Eles podem ser integrados a diversos canais (web, aplicativo móvel com voz, atendimento ao cliente, Messenger, WhatsApp, Google Assistant, entre outros).