الصفحة الرئيسية
Architectures
هجين
محادثة مع مساعد الوكيل
يتميز نظام الدعم متعدد المستويات في المؤسسة بقدرته على استخدام مساعد محادثة مدعوم بنموذج لغوي كبير أو روبوت محادثة بجانب الوكلاء البشريين، مما يوفر مساعدة فعالة وشاملة للمستخدمين النهائيين.
تظهر بنية المحادثة باستخدام مساعدة الوكيل في الرسم البياني أعلاه. وفيما يلي الخطوات الرئيسية في تدفق البنية:
يتم استيعاب مستندات Enterprise، مثل أدلة المنتجات ومستندات الأسئلة الشائعة ومواد العروض والنشرات وتذاكر الدعم المحلولة وغيرها، في مثيل من IBM watsonx Discovery وإعدادها للبحث الدلالي.
حيث يرسل المستخدمون الطلبات أو المشكلات أو الأسئلة من خلال واجهة على موقع الويب الخاص بالمنظمة أو تطبيق مخصص أو منصات أخرى. ويتم تسهيل هذا التفاعل من خلال IBM watsonx Assistant، الذي يعمل كواجهة أساسية للتفاعلات القائمة على الدردشة.
أما الطلبات التي تتطلب استرجاع البيانات من مستندات مجموعة أو قاعدة معارف، فيتم استدعاء IBM watsonx Discovery للبحث عن مقاطع المعلومات الأكثر صلة بطلب المستخدم واسترجاعها.
ثم يقوم watsonx Assistant بعد ذلك بإرسال طلب المستخدم والمعلومات ذات الصلة المستردة من watsonx Discovery إلى نموذج لغوي كبير (LLM) مستضاف على watsonx.ai.
يقوم النموذج اللغوي الكبير (LLM) بتلخيص طلب المستخدم والمعلومات المقدمة مع المعرفة المضمنة في النموذج اللغوي الكبير (LLM) ويولد استجابة شبيهة بالاستجابة البشرية والتي يتم تمريرها مرة أخرى إلى watsonx.ai والتي، بعد التنسيق والمعالجة الأخرى، يتم تقديمها للمستخدم.
إذا لم يكن المستخدم راضيًا عن الاستجابة الناتجة (على سبيل المثال، كان طلبه دقيقًا أو معقدًا أو يتطلب معرفة محددة)، فقد يختار أن يقوم watsonx Assistant بتصعيد المكالمة إلى وكيل بشري. وبالمثل، قد يتم تصعيد التفاعلات تلقائيًا إذا تم اكتشاف أن استجابة النموذج اللغوي الكبير (LLM) منخفضة الثقة أو ربما تكون مسيئة. ويمكن للمستخدمين اختيار التفاعل مع ممثل بشري في أي لحظة. ويحوِّل watsonx Assistant التفاعل بسلاسة إلى وكيل بشري عبر نظام إدارة مركز الاتصالات الخاص بالمؤسسة.
يتوفر وكيل بشري يمتلك إمكانية الوصول الكامل إلى سجل دردشة مساعد watsonx Assistant ويساعد المستخدمَ في حل طلباته أو مشاكله أو سؤاله.
بعد الحل، يمكن للنظام، من خلال watsonx Assistant، طلب التعليقات. حيث تساعد هذه التعليقات في تحسين التفاعلات المستقبلية من خلال تحليل الاستعلامات التي إما سيتم تجاهلها أو تصعيدها بشكل متكرر وتمكين المؤسسة من ضبط النموذج اللغوي الكبير المستضاف على watsonx.ai و/أو تعديل معلمات البحث في watsonx Discovery لتحسين الأداء.
يظهر في الرسم البياني أدناه تخطيط مجموعة منتجات الذكاء الاصطناعي من IBM watsonx وفق البنية المفاهيمية. حيث يوفر watsonx Assistant قدرات التفاعل التي يقدمها مكون المساعد الافتراضي، بينما يوفر مساعد watsonx Discovery، وهو عبارة عن إضافة إلى watsonx Assistant، قدرات استيعاب المستندات والبحث الدلالي. وتُستخدم بيئة تطوير واستضافة نموذج watsonx.ai لتحديد النموذج اللغوي الكبير وضبطه واختباره ونشره.
بعض العملاء لا يتوفر لديهم watsonx.ai في منطقتهم المحلية، أو قد تكون لديهم مخاوف أمنية أو متطلبات تنظيمية تمنعهم من استخدام ستوديو الذكاء الاصطناعي من watsonx.ai من فئة المؤسسات. ولهؤلاء العملاء، نقدم watsonx.ai كمجموعة من الخدمات المعبأة في حاويات والتي يسهل نشرها على Red Hat Openshift التي تعمل داخل مراكز بيانات العملاء، أو داخل سحابة خاصة (VPC) على الخدمة السحابية لأي مزود خدمات سحابية، أو في أي موقع آخر.
هناك العديد من العوامل التي تؤخذ في الاعتبار عند اختيار النماذج التي ستعمل بشكل جيد لمشروعك.
قد يقيد ترخيص النموذج كيفية استخدامه. فعلى سبيل المثال، قد يمنع ترخيص النموذج من استخدامه كجزء من تطبيق تجاري.
تؤثر مجموعة البيانات المُستخدمة لتدريب النموذج تأثيرًا مباشرًا على مدى جودة عمل النموذج في تطبيق معين، كما تؤثر بشكل كبير على مخاطر توليد النموذج لاستجابات غير منطقية أو مسيئة أو ببساطة غير مرغوب فيها. وبالمثل، فإن النماذج المدرَّبة على بيانات خاصة أو محمية بحقوق النشر قد تعرض مستخدميها للمساءلة القانونية. لذا حرصت IBM على توفير الشفافية الكاملة لبيانات التدريب والتعويض عن المطالبات القانونية الناشئة عن نماذجها.
يؤثر حجم النموذج، وعدد المعلمات التي يتم تدريبه عليها، والفترة التي يستغرقها السياق (كم من الوقت يمكن للنموذج أن يقبله من النص) على أداء النموذج ومتطلبات الموارد والإنتاجية. ورغم أنه من المغري اتباع فلسفة "الأكبر حجمًا هو الأفضل" واختيار نموذج مكون من 20 مليار معلمة، فإن متطلبات الموارد والتحسين في الدقة (إن وجدت) قد لا تبرر ذلك. وبالفعل أظهرت بعض الدراسات الحديثة أن النماذج الأصغر حجمًا تتفوق بشكل كبير على النماذج الأكبر حجمًا بالنسبة لبعض الحلول.
يمكن لأي ضبط دقيق يتم تطبيقه على نموذج ما أن يؤثر على ملاءمته لمهمة ما. على سبيل المثال، تقدم شركة IBM نسختين من نموذج Granite: إحداهما نسخة مضبوطة لتطبيقات الدردشة العامة، والنسخة الأخرى مضبوطة لاتباع التعليمات.
تشمل الاعتبارات الأخرى عند اختيار النموذج ما يلي:
اختيار معلمات النموذج، مثل نبض النموذج، لتحقيق التوازن بين إنشاء نص يشبه الإنسان والاستجابات الواقعية. حيث يؤدي ضبط نبض النموذج على قيمة عالية إلى إنشاء استجابات متسقة، وإن كان من المحتمل أن تكون غير مثيرة للاهتمام أو مقتضبة بشكل مفرط، في حين أن ضبط النبض على قيمة منخفضة سيؤدي إلى مزيد من التنوع في الاستجابات لكنه سيضيف عدم القدرة على التنبؤ فيما يتعلق بطول الاستجابة والمحتوى.
اختيار وتنفيذ حواجز الحماية النموذجية للحماية من النتائج غير الفعالة أو الهجومية.
يجب أيضًا مراعاة لغة بيانات العميل وموجِّه المستخدم. ويتم تدريب غالبية النماذج اللغوية الكبيرة (LLM) على نص اللغة الإنجليزية ويمكنهم في كثير من الأحيان الترجمة بين اللغة الإنجليزية ولغات أخرى بمستويات جودة متفاوتة من حيث الخبرة. وقد تتطلب التطبيقات التي تتطلب دعمًا لغويًا متعدد اللغات أو مترجمًا استخدام نماذج متعددة مدرَّبة في كل لغة من اللغات المدعومة، أو تنفيذ خطوة ترجمة لترجمة الإدخالات متعددة اللغات إلى اللغة الإنجليزية أو إلى أي لغة أخرى "أساسية".