AddAI.Life(AddAI)(ibm.com 외부 링크)는 체코에 본사를 둔 스타트업이자 IBM 비즈니스 파트너로, 언제든지 다양한 질문에 즉시, 정확하게 답변할 수 있는 AI 어시스턴트를 구현하여 기업들이 고객 경험과 효율성을 개선하는 데 도움이 되겠다는 비전을 가지고 2019년에 설립되었습니다. “고객을 위한 가상 어시스턴트를 개발할 때는 각각의 어시스턴트가 매우 자연스럽게 들리면서 고객과 최종 사용자에게 놀라운 경험을 제공하게 만드는 것을 목표로 합니다”라고 AddAI.Life의 공동 창업자이자 CEO인 Jindrich Chromy는 말합니다.
생성형 AI와 관련하여 AddAI와 그 고객에게는 정확도뿐 아니라 신뢰와 투명성도 중요한 문제입니다. 어시스턴트는 통신 관련 고객의 청구 질문에 답변하거나 은행 고객의 디지털 계좌 비밀번호를 재설정하는 등 저마다 각각의 고객과 그들의 고유한 사용 사례에 맞춰 특화되어야 합니다. “당사의 고객 중에는 통신사나 은행뿐 아니라 체코의 주요 기업도 있습니다. 즉, 어시스턴트가 정확하고 일관된 답변을 제공하는 능력을 갖추는 것이 중요합니다. 또한 답변은 검증된 데이터를 바탕으로 선별되어 자동으로 생성되어야 합니다. 고객에게 부여되는 데이터 독점권을 비롯해 은행 수준의 보안도 준수해야 합니다. 사용자의 대화를 AI 모델이 학습하지 못하게 거부할 수도 있어야 합니다”라고 Chromy는 덧붙입니다.
새로운 AI 어시스턴트를 구현하는 데 걸리는 시간을 단축하면서 탁월한 고객 경험을 꾸준히 제공하기 위해 AddAI는 IBM® watsonx.ai™, IBM watsonx™ Assistant 및 IBM Watson® Discovery 솔루션을 사용하기 시작했습니다.
체코의 IBM 클라이언트 엔지니어링 및 기술 영업 팀과 함께 AddAI는 당시 파일럿을 진행하던 은행 부문에서 고객을 위한 AI 어시스턴트를 구축했습니다. 이 어시스턴트는 검색 증강 생성(RAG) 방법론을 watsonx.ai와 함께 사용하여 계좌 액세스, 결제, 가격 책정, 계좌 서비스 등과 관련해 자주 묻는 질문(FAQ)에 대해 관련성 높고 정확한 응답을 체코어로 제공했습니다. 구현 팀은 최적화 노력을 통해 대규모 언어 모델(LLM)에서 생성한 답변이 정확성과 언어의 유창성에 대한 높은 기준을 충족하도록 만들었습니다. 이 팀은 최종 사용자 경험을 최적화하기 위해 watsonx.ai와 watsonx Assistant를 통합했으며, 사용자 친화적인 프론트엔드에서 즉각적인 답변을 제공할 수 있었습니다.
“우리는 Llama 2와 같이 엄선된 오픈 소스 대규모 언어 모델(LLM)에 액세스하여 데이터베이스의 정보를 향상하고 컨텍스트화하여 최종 고객에게 정확한 내용을 전달하기 위해 watsonx Assistant 챗봇에 watsonx.ai를 활용하고 있습니다. 당사의 경우 watsonx.ai가 RAG를 통해 사용자의 질문에 대한 답변을 생성합니다”라고 AddAI.Life의 watsonx 개발자인 Klaudia Miezgova는 설명합니다.
또한 Add.AI는 은행 고객을 위한 이번 파일럿에 IBM Watson Discovery를 포함시켰습니다. 이 팀에서는 계약서, 약관, 가격 목록 등 공개적으로 사용 가능한 은행 문서를 사용했으며, Watson Discovery가 도메인별 질문과 표현을 이해할 수 있도록 조정했습니다. “참조 또는 답변의 근거로 사용한 문서의 일부를 포함하여 매우 정확한 답변을 얻을 수 있었습니다. 이러한 과정은 대화를 직접 구축하고 설정할 필요 없이 자동으로 이루어집니다”라고 Chromy는 말합니다.
“새로운 아이디어가 실제 상황에서는 어떻게 구현되는지 확인하기 위해 항상 추적하고 측정하고 테스트합니다. 이런 방식을 사용하면 빠르게 개선할 수 있습니다”라고 Chromy는 설명합니다. “이 경우에는 일련의 테스트 쿼리를 사용했으며, watsonx Assistant를 기반으로 직접 만든 AI 어시스턴트에 미리 정답을 정의해 두었습니다. 그런 다음 watsonx Assistant와 watsonx.ai 모두에 기반을 둔 새로운 어시스턴트에 쿼리를 제공했습니다. 이 어시스턴트에는 사전 구축된 대화가 없었기 때문에 제공된 문서와 대규모 언어 모델로서의 기술을 가지고 스스로 답변을 도출해야 했습니다. 이 어시스턴트는 이전 버전의 사전 정의된 답변 대비 85%의 정확도로 응답했습니다. 작업 입력은 훨씬 적어졌죠. 괜찮은 방향으로 진행 중이라는 사실을 알 수 있습니다.”
이 새로운 어시스턴트를 통해 AddAI는 고객 문의에 답변이 이루어지지 않는 경우를 50% 줄일 수 있도록 지원하기도 했습니다. 또한 watsonx.ai 기반 AI 어시스턴트는 고객의 질문에 답할 때 이전에 가능했던 것보다 더 자세하고 실행 가능한 답변을 제공하도록 만들어졌습니다.
“복잡한 데이터 집합을 쿼리한 다음 수집한 데이터를 훨씬 더 효과적인 방식으로 요약하도록 모델을 조정할 수 있었습니다. 일례로, 이전에 언급한 은행 고객은 고객에게 수수료 정보를 제공하는 데 어시스턴트를 사용합니다. 어시스턴트는 고객이 결과를 분석하고 다음 단계를 추론하는 데 필요한 원시 데이터를 제공하는 것이 아니라 사용자가 고려해 보면 좋을 다음 단계와 분명하게 요약된 답변을 제공할 수 있습니다. watsonx.ai 이전에는 불가능했던 일입니다” 라고 Miezgova는 설명합니다.
이것은 시작에 불과합니다. 생성형 AI를 사용해 어시스턴트가 최종 사용자의 질문에 대비할 수 있다는 점을 감안하면 앞으로 AddAI는 새로운 AI 어시스턴트를 구축하는 데 소요되는 시간을 최대 30% 단축할 수 있을 것이라 자신합니다. 이 팀은 최종 사용자와 공유할 준비를 마치기 전에 어시스턴트를 테스트하고 최적화하는 데 걸리는 시간을 크게 단축할 수 있으리라 기대하고 있습니다. 또한 AddAI는 watsonx.ai 및 watsonx Assistant의 새로운 접근 방식을 사용하면 각각의 대화(응답)를 직접 개발하지 않고도 더 많은 지식을 갖춘 새로운 차원의 어시스턴트를 제공할 수 있을 것이라 예상합니다.
AddAI.Life(AddAI)(ibm.com 외부 링크)는 체코의 스타트업이자 IBM 비즈니스 파트너로, 2019년에 설립되었으며 수도 프라하 인근의 자연으로 둘러싸인 도시인 르제브니체에 본사를 두고 있습니다. 이 회사는 자연스러운 대화가 가능하고 대화의 맥락을 활용하는 AI 가상 어시스턴트 개발에 초점을 맞추고 있습니다. 이러한 어시스턴트는 웹, 음성 지원 모바일 앱, 고객 지원 라인, Messenger, WhatsApp, Google 어시스턴트 등 다양한 채널에 통합할 수 있습니다.
법률
© Copyright IBM Corporation 2023. IBM Corporation, 75 Binney St, Cambridge, MA 02142.
2023년 11월 미국에서 제작.
IBM, IBM 로고, ibm.com IBM Watson, watsonx 및 watsonx.ai는 미국 및/또는 기타 국가에서 사용되는 International Business Machines Corporation의 상표이거나 등록 상표입니다. 기타 제품 및 서비스 이름은 IBM 또는 다른 회사의 상표일 수 있습니다. 최신 IBM 상표 목록은 ibm.com/legal/copyright-trademark에서 확인할 수 있습니다.
이 문서는 최초 발행일 기준 최신 문서로, IBM은 언제든지 해당 내용을 변경할 수 있습니다. IBM이 현재 영업 중인 모든 국가에서 모든 제품이 제공되는 것은 아닙니다.
본 문서에서 인용되거나 설명된 모든 고객 사례는 일부 고객이 IBM 제품을 이용한 방식과 그로 인해 달성할 수 있는 결과에 대한 예시로 제공됩니다. 실제 환경 비용과 성능 특성은 개별 고객 구성 및 조건에 따라 다를 수 있습니다. 각 고객별 실제 결과는 전적으로 고객이 주문한 시스템과 서비스에 따라 크게 달라질 수 있으므로 일반적인 기대 결과는 제시될 수 없습니다. 본 문서의 정보는 상품성, 특정 목적에의 적합성, 비침해성 보증 또는 조건을 포함하여 명시적 또는 묵시적 보증 없이 '있는 그대로' 제공됩니다. 제품 제공 시의 계약 조건에 따라 해당 IBM 제품을 보증합니다.