چرا چتباتهای هوش مصنوعی دچار توهم میشوند؟
توهم هوش مصنوعی دقیقاً یعنی چه؟
وقتی میگویند یک چتبات هوش مصنوعی «توهم زده»، منظور این است که با اعتمادبهنفس کامل جوابی داده که از پایه غلط بوده؛ سیاستی که اصلاً وجود ندارد، قیمتی اشتباه، یا مهلت کنسلی که هیچوقت تأیید نشده. این کلمه طوری به گوش میرسد که انگار یک خطای نادر است. اما نیست. این رفتار پیشفرض مدلهای زبانی است.
یک مدل زبانی بزرگ ساعات کاری کسبوکار شما یا سیاست کنسلی کلینیکتان را «جستجو» نمیکند. این مدل بر اساس الگوهایی که در حجم عظیمی از متن در زمان آموزش دیده، محتملترین کلمهی بعدی را پیشبینی میکند. بیشتر وقتها همین کار جوابهایی روان و بهظاهر مفید تولید میکند. اما وقتی مدل هیچ اطلاعات واقعی دربارهی کسبوکار خاص شما ندارد -چون ساعات کاری، قیمتها و سیاستهای شما هرگز جزو دادههای آموزشیاش نبوده- متوقف نمیشود تا این را بگوید. همچنان به پیشبینی کلماتی که «قابلقبول بهنظر میرسند» ادامه میدهد. نتیجه دقیقاً به همان اعتمادبهنفسِ یک جواب درست خوانده میشود، چون مدل هیچ حس درونیای از «واقعاً این را نمیدانم» ندارد.
چرا طراحی چتباتهای عمومی همین است
چتباتهای آمادهای که مستقیم به یک مدل عمومی وصل شدهاند -با یک دستور ساده مثل «دستیار مفیدی برای کسبوکار ما باش»- هیچ مکانیزم داخلیای برای تفکیک «چیزی که در آموزشم دربارهی این موضوع بوده» از «واقعیتهای خاص این کسبوکار» ندارند. گفتن به مدل که «فقط بر اساس چیزی که دربارهی ما میدانی جواب بده» نحوهی تولید متن مدل را تغییر نمیدهد؛ این یک دستورالعمل است، نه یک منبع داده.
این دقیقاً مشکل اصلی کسبوکارهای خدماتی کوچک و متوسط است. جریمهی کنسلی دیرهنگام یک باشگاه، فهرست بیمههای یک کلینیک، یا قیمت دقیق یک خدمت خاص در یک سالن -هیچکدام از اینها دادهی عمومیای نیست که مدل در آموزشش دیده باشد. پس مدل همان کاری را میکند که برایش ساخته شده: چیزی که «درست بهنظر میرسد» را پیشبینی میکند. برای کسبوکاری که مدام همان چند سؤال تکراری -ساعات کاری، قیمت، رزرو، سیاستها- را جواب میدهد، چتباتی که در هر کدام از اینها حدس میزند، بدتر از نداشتن چتبات است؛ چون مشتری پیش از اینکه کسی متوجه اشتباه شود، بر اساس جواب غلط عمل میکند.
راهحل، مدل بزرگتر نیست؛ بازیابی اطلاعات است
مدلهای بزرگتر و جدیدتر این مشکل را حل نمیکنند، چون مسئله کیفیت مدل نیست؛ مسئله این است که مدل از اول هیچوقت محتوای واقعی کسبوکار شما را ندیده. راهحلی که واقعاً جواب میدهد «پاسخگویی مبتنی بر بازیابی اطلاعات» یا RAG نام دارد: پیش از اینکه مدل حتی یک کلمه از جوابش را بنویسد، سیستم در اسناد خود کسبوکار جستجو میکند تا بخشهایی را پیدا کند که واقعاً به سؤال مربوطاند، و فقط همان بخشها را در اختیار مدل میگذارد.
این کار وظیفهی مدل را عوض میکند. بهجای «حدس بزن یک جواب قابلقبول چه شکلی است»، کار مدل میشود «خلاصه کن چیزی که در این بخشهای بازیابیشده از سؤالات متداول و صفحات سیاستهای همین کسبوکار آمده». این یک کار اساساً متفاوت است، مبتنی بر متنی که واقعاً برای همان کسبوکار خاص درست است.
قدمبهقدم: بازیابی اطلاعات چطور کار میکند
- بازدیدکننده در ویجت گفتوگو سؤالی میپرسد.
- سیستم در محتوای ایندکسشدهی کسبوکار -فایلهای PDF، مستندات راهنما، صفحات خزششدهی سایت، سؤالات متداول جایگذاریشده- بهدنبال بخشهای مرتبط با همان سؤال خاص میگردد.
- فقط بخشهای بازیابیشده، نه کل پایگاه دانش، بهعنوان زمینه در اختیار مدل قرار میگیرد.
- مدل جوابی تولید میکند که بر همان متن بازیابیشده استوار است.
- اگر هیچ چیز مرتبطی از جستجو برنگردد، به مدل دستور داده شده که همین را بگوید، نه اینکه خلأ را با حدس پر کند.
همین قدم آخر چیزی است که چتباتهای عمومی از قلم میاندازند. Yaragent دقیقاً بر همین اساس ساخته شده: هر پاسخ با یک قدم واقعی بازیابی اطلاعات از محتوای خود کسبوکار شروع میشود، و همین است که یک «نمیدانم» صادقانه را ممکن میکند، نه یک حدسِ پر از اعتمادبهنفس.
گفتن «نمیدانم» یک ویژگی است، نه یک ضعف
شاید عجیب بهنظر برسد، اما چتباتی که گاهی میگوید «این اطلاعات را ندارم؛ این هم راه تماس مستقیم با ما» دارد کارش را درست انجام میدهد. جایگزینش -چتباتی که همیشه جوابی دارد، حتی وقتی دارد آن را از خودش میسازد- همان نسخهای است که واقعاً به اعتماد مشتری آسیب میزند؛ چون مشتری فقط وقتی میفهمد جواب غلط بوده که قبلاً بر اساسش عمل کرده: سر وقت اشتباه سر قرار حاضر شده، منتظر تخفیفی بوده که اصلاً وجود نداشته، یا مهلت کنسلی را از دست داده.
برای یک کسبوکار خدماتی کوچک، این نوع خطا هزینهی خاصی دارد: یک هزینهی پشتیبانی را تبدیل به یک هزینهی رابطه با مشتری میکند. جواب ندادن و ارجاع به یک تماس تلفنی، یک مزاحمت کوچک است. اما جواب غلطِ پر از اعتمادبهنفس، یک وعدهی شکستهشده است که میز پذیرش باید بابتش عذرخواهی کند.
توهم هنوز از کجا میتواند نفوذ کند
بازیابی اطلاعات بهتنهایی خودکار ضدگلوله نیست. چند چیز است که یک سیستم واقعاً مبتنی بر واقعیت را از سیستمی که فقط ادعای این را دارد، جدا میکند:
- بازیابی ضعیف، مدل قوی. اگر مرحلهی جستجو شل و بیدقت باشد و بخشهای نامرتبط را بیرون بکشد، مدل قوی همچنان جوابی روان از همان متن غلط مینویسد؛ فقط اینبار بهجای هیچ، از زمینهی اشتباه توهم میزند.
- نبود دستور به خودداری. سیستم باید صراحتاً طوری طراحی شده باشد که وقتی بازیابی چیزی پیدا نمیکند، بگوید «نمیدانم»، نه اینکه بهطور پیشفرض به دانش عمومی آموزشیاش برای پر کردن خلأ برگردد.
- محتوای منبع قدیمی یا اشتباه. جوابهای مبتنی بر واقعیت فقط بهاندازهی اسنادِ پشتشان دقیقاند. اگر سیاست کنسلی یک کسبوکار ماه پیش تغییر کرده و فایل PDF دوباره آپلود نشده، چتبات با اعتمادبهنفس همان سیاست قدیمی را تکرار میکند -و در واقع دارد منبع نادرست را درست بازتاب میدهد.
- نبود شفافیت دربارهی آنچه اتفاق افتاده. بدون راهی برای مرور اینکه واقعاً برای یک گفتوگوی خاص چه چیزی بازیابی شده، یک کسبوکار نمیتواند فرق «ربات چیزی نمیدانست» را با «ربات چیز اشتباهی میدانست» تشخیص دهد.
همین نکتهی آخر است که نشان میدهد چرا داشتن ردی کامل از هر گفتوگو -چه چیزی بازیابی شده، چه هزینهای داشته، دقیقاً چه گفته شده- به همان اندازهی خود قدم بازیابی اهمیت دارد. فرق بین اعتماد کورکورانه به یک چتبات و توانایی بررسی واقعی کارش، همین است.
قبل از اعتماد کردن به یک چتبات با مشتریان واقعی، چه چیزهایی را بررسی کنید
پیش از اینکه هر ابزار چت هوش مصنوعیای را جلوی مشتریانتان قرار دهید، چند سؤال رکوپوستکنده ارزش پرسیدن دارد:
- پیش از جواب دادن، واقعاً در محتوای خود شما جستجو میکند، یا فقط به دانش عمومی مدل زیربنایی تکیه دارد؟
- وقتی چیز مرتبطی پیدا نمیشود، چه میکند -حدس میزند، طفره میرود، یا صادقانه میگوید؟
- آیا میتوانید دقیقاً ببینید برای هر گفتوگوی گذشته چه چیزی بازیابی شده و چه گفته شده؟
- آیا دادههای شما از کسبوکارهای دیگری که از همان پلتفرم استفاده میکنند جدا نگه داشته میشود، یا همه در یک استخر مشترکاند؟
اگر جواب هرکدام از اینها «مطمئن نیستیم» بود، ارزش دارد پیش از اینکه ربات یک سؤال واقعی دربارهی رزرو یا سیاستی که پول را درگیر میکند جواب بدهد، این را روشن کنید.
چتباتی که گاهی میگوید «نمیدانم» و کاربر را به یک انسان واقعی ارجاع میدهد، محصول ضعیفتری نیست؛ محصولی است که واقعاً میتوانید برای سؤالهای مهم به آن اعتماد کنید. اگر میخواهید ببینید این رفتار روی محتوای خودتان چطور کار میکند، پلن رایگان Yaragent حدود ده دقیقه راهاندازی میشود و نیازی به کارت اعتباری ندارد.