En collaboration avec les équipes Ingénierie client et Ventes techniques d’IBM République tchèque, AddAI a conçu un assistant optimisé par l’IA pour un client du secteur bancaire, qu’il a ensuite testé. L’assistant utilisait la méthodologie RAG (retrieval-augmented generation) couplée à watsonx.ai pour fournir des réponses pertinentes et précises en langue tchèque aux questions fréquemment posées sur de nombreux sujets (accès aux comptes, paiements, tarification, services associés au compte, etc.). Grâce à d’importants efforts d’optimisation, l’équipe chargée de l’implantation a fait en sorte que les réponses générées par les grands modèles de langage soient à la fois précises et exprimées de façon fluide. Pour optimiser l’expérience de l’utilisateur final, l’équipe a intégré watsonx.ai à watsonx Assistant, et a été en mesure de fournir des réponses instantanées sur une interface conviviale.

« Nous utilisons watsonx.ai pour accéder à de grands modèles de langage open source soigneusement sélectionnés, comme Llama 2, ce qui nous permet d’améliorer et de contextualiser les informations provenant de nos bases de données et de les présenter au client final de manière précise et conversationnelle à l’aide du chatbot watsonx Assistant. Dans notre cas, watsonx.ai génère ses réponses aux questions des utilisateurs avec la méthodologie RAG », explique Klaudia Miezgova, développeuse watsonx chez AddAI.Life.

En outre, pour répondre aux besoins de ce client du secteur bancaire, Add.AI a inclus IBM Watson Discovery dans ce projet pilote. L’équipe a utilisé des documents bancaires accessibles au public (contrats, conditions générales, listes de prix, etc.) et a configuré Watson Discovery pour qu’il soit capable de comprendre des questions et des expressions liées à ce domaine. « Nous avons pu obtenir des réponses très précises, qui comprenaient notamment des extraits des documents utilisés comme référence ou comme base pour la réponse. Tout s’est fait automatiquement, et nous n’avons pas eu besoin de structurer ou de paramétrer manuellement le dialogue », note M. Chromy.

« Les nouvelles idées font toujours l’objet d’un suivi, de mesures et de tests, le but étant de savoir si elles fonctionnent correctement dans des situations réelles. Nous pouvons ainsi les adapter rapidement », explique M. Chromy. « Au sein de notre assistant optimisé par l’IA, qui est conçu sur mesure et repose sur la technologie watsonx Assistant, nous avons dans le cas présent testé un ensemble de questions pour lesquelles nous avions prédéfini les réponses correctes. Les demandes ont ensuite été ingérées dans le nouvel assistant, qui reposait à la fois sur watsonx Assistant et watsonx.ai. Ce dernier n’ayant pas de dialogues pré-créés, il devait générer lui-même les réponses en utilisant la documentation fournie et ses capacités en tant que grand modèle de langage. Les réponses obtenues avaient une précision de 85 % par rapport aux réponses prédéfinies de l’ancienne version. Et ce avec beaucoup moins de travail. Nous savons maintenant que nous sommes sur la bonne voie ».

Grâce à ce nouvel assistant, AddAI a également aidé son client à réduire de 50 % le nombre de questions qui restent sans réponse. Signalons également que lorsqu’il répond aux questions des clients, un assistant IA qui repose sur la technologie watsonx.ai est conçu pour fournir une réponse plus détaillée et plus exploitable que ce qui était auparavant possible.

« Nous avons été en mesure d’adapter le modèle pour qu’il puisse interroger des ensembles de données complexes et compiler les données recueillies de manière beaucoup plus efficace. Par exemple, le client du secteur bancaire précédemment mentionné utilise l’assistant pour fournir des informations tarifaires à ses clients. Plutôt que de fournir des données brutes peu claires pour l’utilisateur, qui l’oblige à deviner l’étape suivante, l’assistant fournit une réponse clairement organisée, accompagnée d’étapes que l’utilisateur peut suivre, chose qui était impossible avant watsonx.ai », explique Mme Miezgova.

Et ce n’est que le début. Etant donné qu’il peut désormais utiliser l’IA générative pour faciliter l’entraînement de l’assistant avant d’être interrogé par les utilisateurs finaux, AddAI pense à l’avenir pouvoir réduire de 30 % le temps d’implantation de tout nouvel assistant optimisé par l’IA. L’équipe s’attend à pouvoir réduire considérablement le temps nécessaire pour tester et optimiser un assistant avant qu’il ne soit mis en service. En utilisant cette nouvelle approche combinée de watsonx.ai et de watsonx Assistant, AddAI espère également pouvoir fournir des assistants de niveau avancé, plus compétents, ceci sans avoir à développer chaque dialogue de façon manuelle.

AddAI.Life (AddAI) (lien externe à ibm.com) – startup basée en République tchèque et partenaire commercial d’IBM – a été créée en 2019. Son siège se trouve dans les environs de Řevnice, une ville proche de la capitale, Prague. L’entreprise se concentre sur le développement d’assistants virtuels optimisés par l’IA, qui sont capables de générer des dialogues “naturels” et prennent en compte le contexte de la conversation. Ils peuvent être intégrés à différents canaux (web, application mobile avec voix, ligne de support client, Messenger, WhatsApp, Google Assistant, et autres).