En colaboración con los equipos de Ingeniería de Clientes y Ventas Técnicas de IBM de la República Checa, AddAI creó un asistente de IA para un cliente del sector bancario que posteriormente pusieron a prueba. El asistente utilizó la metodología de generación aumentada de recuperación (RAG), junto con watsonx.IA, para brindar respuestas relevantes y precisas en el idioma checo a preguntas frecuentes (FAQ) sobre temas que van desde el acceso a cuentas hasta pagos, precios y servicios de cuentas. A través de intensos esfuerzos de optimización, el equipo de implementación se aseguró de que las respuestas generadas por los modelos de lenguaje de gran tamaño (LLM) cumplieran con un alto estándar de precisión y fluidez del lenguaje. Para optimizar la experiencia del usuario final, el equipo integró watsonx.IA con watsonx Assistant y pudo brindar respuestas instantáneas en una interfaz fácil de usar.

“Utilizamos watsonx.IA para acceder a modelos de lenguaje de gran tamaño seleccionados de código abierto, como Llama 2 , para mejorar y contextualizar la información de nuestras bases de datos y presentarla al cliente final a través del chatbot watsonx Assistant de una manera precisa y conversacional. En nuestro caso, watsonx.IA genera sus respuestas a las preguntas de los usuarios a través de RAG”, explica Klaudia Miezgova, desarrolladora de watsonx en AddAI.Life.

Además, Add.IA incluyó IBM Watson Discovery en este piloto para su cliente bancario. El equipo utilizó documentos bancarios disponibles públicamente, como contratos, términos y condiciones y listas de precios, además, ajustó Watson Discovery para comprender preguntas y expresiones específicas de un dominio. “Pudimos obtener respuestas muy precisas, incluyendo fragmentos del documento utilizado como referencia o base de la respuesta. Esto sucedió automáticamente, sin necesidad de compilar ni configurar el cuadro de diálogo manualmente”, señala Chromy.

“Siempre rastreamos, medimos y probamos nuevas ideas para ver cómo funcionan en situaciones de la vida real. De esa manera, podemos mejorarlas rápidamente”, explica Chromy. “En este caso, tomamos un conjunto de consultas de prueba, para las cuales teníamos las respuestas correctas predefinidas en nuestro asistente de IA creado a mano y con tecnología de watsonx Assistant. Luego enviamos esas consultas al nuevo asistente que funcionaba con watsonx Assistant y watsonx.IA. Éste no tenía diálogos predefinidos y tenía que encontrar las respuestas por sí mismo a través de la documentación proporcionada y la habilidad que tenía como modelo grande de lenguaje. Respondió con 85% de precisión respecto a las respuestas predefinidas de la versión anterior. Con mucha menos entrada de trabajo. Entonces ahora sabemos que va por buen camino”.

A través de este nuevo asistente, AdDAI también ayudó a su cliente a lograr una reducción del 50% en las consultas sin respuesta. Además, al responder las preguntas de los clientes, un asistente de IA desarrollado por watsonx.IA está diseñado para brindar una respuesta más detallada y práctica de lo que era posible anteriormente.

“Hemos sido capaces de ajustar el modelo para consultar conjuntos de datos complejos y luego resumir los datos que recopiló de una manera mucho más efectiva. Por ejemplo, el cliente bancario mencionado anteriormente utiliza el asistente para entregar información de tarifas a sus clientes. En lugar de proporcionar datos sin procesar que requieren que el usuario analice el resultado e infiera el siguiente paso, el asistente puede ofrecer una respuesta claramente resumida con próximos pasos útiles para que el usuario los considere. Esto no era posible antes de watsonx.IA”, explica Miezgova.

Esto es solo el comienzo. En el futuro, AddAI confía en poder reducir el tiempo de implementación de cualquier asistente de IA nuevo hasta en un 30%, ya que que ahora pueden usar IA generativa para ayudar a preparar al asistente para que los usuarios finales lo cuestionen. El equipo espera que esto reduzca significativamente la cantidad de tiempo que lleva probar y optimizar un asistente antes de que esté listo para ser compartido con los usuarios finales. AddAI también espera poder proporcionar asistentes con más conocimientos y del siguiente nivel, incluso sin la necesidad de desarrollar cada diálogo (respuesta) manualmente, utilizando este nuevo enfoque con watsonx.IA y watsonx Assistant.

AddAI.Life (AddAI) (enlace externo a ibm.com) es una startup checa y asociada de negocios de IBM, establecida en 2019 y con sede en el entorno natural de Řevnice, una ciudad cercana a la capital, Praga. La empresa se centra en el desarrollo de asistentes virtuales de IA que tienen diálogos que suenan naturales y funcionan con el contexto de la conversación. Pueden integrarse en varios canales (web, aplicación móvil con voz, línea de atención al cliente, Messenger, WhatsApp, Google Assistant y otros).