لماذا تهلوس روبوتات الدردشة بالذكاء الاصطناعي؟
ماذا تعني «الهلوسة» فعليًا؟
عندما يقول أحدهم إن شات بوت الذكاء الاصطناعي «هلوس»، فهو يقصد أن الروبوت أجاب بثقة تامة بمعلومة خاطئة: سياسة غير موجودة أصلًا، سعر غير صحيح، أو مهلة إلغاء لم تُعتمد أبدًا. تُشعرك الكلمة وكأن الأمر خلل نادر. لكنه ليس كذلك. إنه السلوك الافتراضي لطريقة عمل هذه النماذج.
النموذج اللغوي الكبير لا «يبحث» عن ساعات عمل نشاطك التجاري أو سياسة الإلغاء في عيادتك. هو يتنبأ بالكلمة التالية الأكثر احتمالًا إحصائيًا، استنادًا إلى أنماط تعلّمها من كميات هائلة من النصوص أثناء التدريب. في أغلب الأحيان، ينتج هذا إجابات سلسة ومقنعة الشكل. لكن حين لا تتوفر لدى النموذج معلومات حقيقية عن نشاطك التجاري تحديدًا -لأن ساعات عملك وأسعارك وسياساتك لم تكن يومًا جزءًا من بيانات تدريبه- فهو لا يتوقف ليقول ذلك. يستمر في التنبؤ بكلمات «تبدو معقولة» رغم ذلك. والنتيجة تُقرأ بنفس ثقة الإجابة الصحيحة تمامًا، لأن النموذج لا يملك أي إحساس داخلي بأنه «لا يعرف هذا فعلًا».
لماذا تفعل روبوتات الدردشة العامة هذا بحكم تصميمها
روبوتات الدردشة الجاهزة -تلك المتصلة مباشرة بنموذج عام عبر تعليمة من نوع «كن مساعدًا مفيدًا لنشاطنا التجاري»- لا تملك أي آلية مدمجة للتمييز بين «ما تدرّب عليه النموذج بشكل عام» و«الحقائق الخاصة بهذا النشاط التجاري تحديدًا». إخبار النموذج بأن «يجيب فقط بناءً على ما يعرفه عنّا» لا يغيّر طريقة توليد النص لديه؛ فهذه تعليمة، وليست مصدر بيانات.
هذه هي المشكلة الجوهرية بالنسبة للأعمال الخدمية الصغيرة والمتوسطة. رسوم الإلغاء المتأخر في صالة رياضية، قائمة شركات التأمين المعتمدة في عيادة، أو السعر الدقيق لخدمة معينة في صالون تجميل -لا شيء من هذا بيانات عامة اطّلع عليها النموذج أثناء تدريبه. لذلك يفعل النموذج ما صُمم لفعله: يتنبأ بشيء «يبدو صحيحًا». وبالنسبة لنشاط تجاري يتلقى الأسئلة نفسها مرارًا -ساعات العمل، الأسعار، الحجز، السياسات- فإن شات بوت يخمّن في أي من هذه الإجابات أسوأ من عدم وجود شات بوت أصلًا؛ لأن العميل يتصرف بناءً على الإجابة الخاطئة قبل أن ينتبه أحد لذلك.
الحل ليس نموذجًا أكبر، بل استرجاع المعلومات
النماذج الأحدث والأكبر لا تحل هذه المشكلة، لأن المشكلة ليست في جودة النموذج، بل في أن النموذج لم يطّلع أصلًا على المحتوى الحقيقي لنشاطك التجاري. الحل الذي ينجح فعليًا يُسمى التوليد المعزز بالاسترجاع، أو RAG: قبل أن يكتب النموذج كلمة واحدة من إجابته، يبحث النظام في مستندات النشاط التجاري نفسه عن المقاطع ذات الصلة الفعلية بالسؤال، ويمنح النموذج تلك المقاطع فقط ليعمل عليها.
هذا يغيّر طبيعة المهمة الموكلة إلى النموذج. فبدلًا من «خمّن كيف تبدو إجابة معقولة»، تصبح المهمة «لخّص ما ورد في هذه المقاطع المسترجعة من الأسئلة الشائعة وصفحات السياسات الخاصة بهذا النشاط التجاري». إنها مهمة مختلفة جوهريًا، مرتكزة على نص صحيح فعلًا بالنسبة لهذا النشاط التجاري بالذات.
كيف يعمل الأمر خطوة بخطوة
- يطرح الزائر سؤالًا في نافذة الدردشة.
- يبحث النظام في المحتوى المفهرَس للنشاط التجاري -ملفات PDF، صفحات المساعدة، صفحات الموقع المزحوفة، الأسئلة الشائعة الملصقة يدويًا- عن المقاطع ذات الصلة بهذا السؤال تحديدًا.
- تُمنح للنموذج المقاطع المسترجعة فقط، وليس قاعدة المعرفة كاملة، كسياق للإجابة.
- يولّد النموذج إجابة مرتكزة على ذلك النص المسترجع.
- إذا لم يُسترجع أي شيء ذي صلة، يُوجَّه النموذج لقول ذلك صراحة، بدلًا من سد الفجوة بتخمين.
هذه الخطوة الأخيرة هي بالضبط ما تتجاهله روبوتات الدردشة العامة. هكذا بُني Yaragent تحديدًا: كل إجابة تبدأ بخطوة استرجاع حقيقية من محتوى النشاط التجاري نفسه، وهذا ما يجعل إجابة «لا أعرف» الصادقة ممكنة، بدلًا من تخمين واثق.
قول «لا أعرف» ميزة، لا عيب
قد يبدو الأمر غير منطقي، لكن شات بوت يقول أحيانًا «لا أملك هذه المعلومة، وإليك طريقة للتواصل معنا مباشرة» يقوم بعمله بشكل صحيح. البديل -شات بوت لديه إجابة دائمًا، حتى عندما يختلقها- هو النسخة التي تضر بالثقة فعليًا؛ لأن العميل لا يكتشف الخطأ إلا بعد أن يكون قد تصرف بناءً عليه: حضر في الوقت الخطأ، توقع خصمًا غير موجود أصلًا، أو فوّت موعد إلغاء نهائيًا.
بالنسبة لنشاط تجاري خدمي صغير، هذا النوع من الفشل مكلف بطريقة محددة: فهو يحوّل تكلفة دعم بسيطة إلى تكلفة في العلاقة مع العميل. إجابة عامة تنتهي بمكالمة هاتفية إزعاج بسيط. أما إجابة خاطئة قيلت بثقة، فهي وعد مكسور يضطر موظف الاستقبال للاعتذار عنه.
من أين لا تزال الهلوسة تتسلل
الاسترجاع وحده ليس حلًا مضمونًا تلقائيًا. هناك عدة أمور تفصل بين نظام مرتكز فعليًا على المصادر ونظام يدّعي ذلك فقط:
- استرجاع ضعيف مع نموذج قوي. إذا كانت خطوة البحث غير دقيقة وجلبت مقاطع غير ذات صلة، فسيظل النموذج القوي يكتب إجابة سلسة من مادة خاطئة؛ الفرق فقط أنه يهلوس من سياق خاطئ بدلًا من عدم وجود سياق.
- غياب تعليمة الامتناع عن الإجابة. يجب أن يُصمَّم النظام صراحة ليقول «لا أعرف» عندما لا يعثر الاسترجاع على شيء، بدلًا من العودة افتراضيًا إلى معرفته العامة من التدريب لسد الفجوة.
- محتوى مصدر قديم أو خاطئ. الإجابات المرتكزة على المصادر دقيقة بقدر دقة المستندات التي تستند إليها. إذا تغيّرت سياسة الإلغاء لدى نشاط تجاري الشهر الماضي ولم يُعَد رفع ملف PDF المحدَّث، فسيكرر الشات بوت السياسة القديمة بكل ثقة -عاكسًا بأمانة مصدرًا خاطئًا.
- غياب الشفافية حول ما حدث فعليًا. بدون طريقة لمراجعة ما تم استرجاعه فعلًا لمحادثة معينة، لا يستطيع النشاط التجاري التمييز بين «الروبوت لم يكن يعرف» و«الروبوت كان يعرف شيئًا خاطئًا».
هذه النقطة الأخيرة هي سبب أهمية وجود سجل كامل قابل للمراجعة لكل محادثة -ما تم استرجاعه، وما كانت تكلفته، وما قيل فعليًا- بقدر أهمية خطوة الاسترجاع نفسها. إنها الفرق بين الوثوق بشات بوت على سبيل الإيمان، والقدرة على التحقق من عمله فعليًا.
ما يجب التحقق منه قبل الوثوق بشات بوت أمام عملائك الحقيقيين
قبل وضع أي أداة دردشة بالذكاء الاصطناعي أمام عملائك، تستحق بعض الأسئلة المباشرة أن تُطرح:
- هل يبحث فعليًا في محتواك الخاص قبل الإجابة، أم يعتمد على المعرفة العامة للنموذج الأساسي؟
- ماذا يفعل عندما لا يجد شيئًا ذا صلة: يخمّن، يتهرب، أم يقول ذلك بصدق؟
- هل يمكنك معرفة ما تم استرجاعه وما قيل بالضبط في أي محادثة سابقة؟
- هل تُحفظ بياناتك بمعزل عن الأنشطة التجارية الأخرى التي تستخدم المنصة نفسها، أم تُجمَّع معًا؟
إذا كانت الإجابة عن أي من هذه الأسئلة «لسنا متأكدين»، فمن الأفضل توضيح ذلك قبل أن يتولى الروبوت الإجابة عن سؤال حجز حقيقي أو سياسة تتعلق بالمال.
شات بوت يقول أحيانًا «لا أعرف» ويوجّه الشخص إلى إنسان حقيقي ليس منتجًا أضعف، بل منتج يمكنك فعلًا الوثوق به في الأسئلة المهمة. إذا أردت أن ترى كيف يعمل هذا مع محتواك الخاص، فإن الخطة المجانية من Yaragent تستغرق نحو عشر دقائق للإعداد ولا تتطلب بطاقة ائتمان.