برامج الدردشة الآلية / الذكاء الاصطناعي الحواري / النماذج اللغوية الكبيرة / ثقافة الذكاء الاصطناعي
كيف تعمل روبوتات الدردشة: القواعد والاسترجاع والنماذج اللغوية والأدوات والتصعيد البشري
يمكن أن تبدو محادثة برنامج الدردشة سهلة حتى لحظة فشله. تسأل عن مكان الطرد. يقوم البوت بتكرار سياسة التسليم العامة. تقدم رقم الطلب. يطلب رقم الطلب مرة أخرى. بعد ثلاث دورات، أصبحت فقاعة الدردشة الصغيرة التي وعدت بالراحة بابًا مغلقًا بينك وبين الإجابة.
التجربة المعاكسة تكاد تكون غير مرئية. يدرك الروبوت أنك تريد تتبع طلب، ويلتقط الرقم الصحيح، ويتحقق من سجل حالي، ويشرح النتيجة في جملة واحدة، ويعرض وجود شخص إذا كانت الحالة غير عادية. الفرق ليس ببساطة أن أحد الروبوتات يمتلك ذكاءً اصطناعيًا أكبر. بل أن نظام المحادثة الواحد لديه مهمة أوضح، حالة أفضل، أدوات موثوقة، حدود أكثر أمانًا، وطريقة مخططة للتعافي.
هذا الدليل ينظر خلف فقاعة الدردشة. يشرح الأنواع الرئيسية من الروبوتات، يتابع رسالة واحدة عبر بنية حقيقية، ويظهر لماذا اللغة الطليقة هي جزء واحد فقط من محادثة موثوقة.
ما هو الروبوت الدردشي؟
الدردشة الآلية هي برنامج يتبادل الرسائل مع شخص عبر النصوص أو الصوت أو أي قناة محادثة أخرى. يقوم البرنامج بفهم المدخلات، ويقرر ما الذي يجب أن يحدث بعد ذلك، ويعيد ردًا أو إجراءً. يشمل هذا التعريف الواسع قائمة ثابتة في أداة الدعم، وتدفق صوتي يجمع رقم الحساب، ومساعد معرفي يبحث في المستندات، ونظام نموذج لغوي يمكنه صياغة ردود مفتوحة.
المحادثة هي الواجهة، وليست التكنولوجيا الأساسية. يمكن أن يبدوان جهازان للدردشة متطابقين بينما يعملان بطرق مختلفة تمامًا. أحدهما يتبع شجرة قرارات. آخر يطابق نية ويستدعي ويب هوك. والثالث يسترجع مستندات ويطلب من نموذج لغوي كبير كتابة إجابة. غالبًا ما تجمع الأنظمة الأكثر فائدة بين عدة أساليب.
درس من ELIZA بعد ستين عامًا
في عام 1966، نشر جوزيف وايزنباوم إليزا، برنامج للمحادثة باللغة الطبيعية. كان نص DOCTOR المعروف يستخدم الأنماط والتحويلات لتحويل أجزاء من بيان المستخدم إلى رد. يمكن أن يتم مطابقة جملة مثل "أنا غير سعيد"، وإعادة ترتيبها، وعكسها كسؤال. كان التبادل قد يبدو مهتماً بالرغم من أن البرنامج كان لديه القليل من المعلومات عن حياة الشخص ولا يستخدم نموذج لغة حديث.
تظل ELIZA ذات صلة لأن الناس يتفاعلون مع اللغة اجتماعيًا. يمكن لسؤال في الوقت المناسب، أو عبارة متعاطفة، أو إجابة واثقة أن تخلق انطباعًا بالفهم يتجاوز الآلية الكامنة تحتها. النماذج الحديثة أكثر قدرة بكثير، لكن الواجهة لا تزال تدعو إلى نفس الخطأ: الحكم على ما يعرفه النظام بناءً على مدى طبيعته.
لذلك يجب على روبوت المحادثة المهني كسب الثقة من خلال إتمام المهام بشكل صحيح، وحدود مرئية، وأخطاء قابلة للاسترداد. يمكن للشخصية تحسين التفاعل. لا يمكنها أن تحل محل الوصول إلى المعلومات الصحيحة أو عملية آمنة.
ثلاثة هياكل رئيسية لروبوتات المحادثة
تكون روبوتات المحادثة أسهل للفهم عندما نفصل بين ثلاث عائلات معمارية. هذه ليست أجيالًا صارمة حيث يجعل كل واحد جديد الآخرين عفا عليهم الزمن. إنها أدوات ذات نقاط قوة مختلفة.
1. القواعد وتدفقات المحادثة
يتبع روبوت الدردشة القائم على القواعد مسارات مصممة مسبقًا. قد يعرض أزرارًا، يطابق الكلمات المفتاحية، يملأ نموذجًا، أو ينتقل بين الحالات عند تحقق الشروط. يمكن أن تكون المنطق صريحة: إذا أراد المستخدم تغيير تاريخ التسليم، اجمع رقم الطلب، تحقق مما إذا كانت الطرد مؤهلاً، اعرض التواريخ المتاحة، واطلب التأكيد.
تكون القواعد ذات قيمة عندما تكون العملية محدودة والإجراءات المقبولة معروفة. فهي تسهّل خطوات الامتثال والإجراءات المدمرة للتحكم فيها. تظهر نقاط ضعفها عندما يعبّر الناس عن الطلبات بطرق غير متوقعة أو يخرجون عن المسار المصمم. يحتاج نظام القواعد الجيد إلى بدائل، وتصحيحات، ومسارات هروب، وليس فقط المسار المثالي السلس.
2. مطابقة النية والاسترجاع
يقوم النظام المعتمد على النوايا بتقدير ما يحاول المستخدم القيام به، ثم يستخرج التفاصيل المفيدة التي تُسمى الكيانات أو المعلمات. قد يتم ربط "تتبع الطلب 4821" مع نية تتعلق بتتبع الطلب ومعلمة رقم الطلب. توثيق جوجل كلاود Dialogflow للنيات يصف هذا النمط على أنه مقارنة الإدخال بعبارات التدريب للعثور على تطابق.
الإسترجاع يضيف طبقة بحث. بدلاً من الإجابة من استجابة ثابتة وحدها، يجد النظام المقاطع ذات الصلة، مدخلات السياسات، مقالات المساعدة أو السجلات. يمكن لروبوت الدردشة القائم على الاسترجاع أن يقتبس إجابة معروفة مباشرة أو ينقل المادة المختارة إلى مولد. وتعتمد جودته على ما تم فهرسته، وكيف تم تشكيل الاستعلام، وما إذا كان المصدر حديثًا، وما إذا كان النظام قد عثر على المقطع الصحيح.
3. نماذج اللغة، الأدوات، والأنظمة الهجينة
يمكن لنموذج اللغة الكبير تفسير الصياغات المتنوعة وإنتاج استجابات طبيعية عبر مجموعة أوسع من المدخلات. يمكنه التلخيص، الشرح، الترجمة، طرح سؤال توضيحي، أو تحويل مخرجات الأدوات المنظمة إلى لغة قابلة للقراءة. لمزيد من الشرح حول توليد الرموز وحدود النموذج، انظر ما هو الذكاء الاصطناعي، حقًا؟.
النموذج لا يزال بحاجة إلى المساعدة فيما يتعلق بالحقائق والإجراءات الحية. لا يمكنه معرفة الموقع الحالي للطلب 4821 ما لم يقم التطبيق بتزويد هذه المعلومات من خلال السياق أو الاسترجاع أو أداة. لا يمكنه إصدار استرداد بأمان لمجرد أنه يستطيع كتابة الجملة "تم استكمال استردادك." يجب على التطبيق ربط النموذج بالخدمات المصرح بها والتحقق من النتيجة.
لهذا السبب العديد من برامج الدردشة الحديثة هجينة. القواعد تحمي التحولات الحرجة. الاسترجاع يزود المعرفة الحالية. النموذج اللغوي يتعامل مع اللغة المرنة. الأدوات تقرأ أو تغير الحالة الخارجية. الكود التقليدي يتحقق من الأذونات والمخرجات. الإنسان يتعامل مع الحالات التي تتطلب الحكم أو السلطة.
ما يحدث خلال دور واحد من الدردشة
اتبع رسالة بسيطة: "أين الطلب 4821؟" قد تدمج التنفيذات الحقيقية الخطوات أو تعيد تسميتها، لكن المسؤوليات الأساسية تظل قابلة للتعرف عليها.
- استقبل البيانات وأعدها للطبيعة القياسية. قد يوفر القناة نصًا مكتوبًا، خطابًا مترجمًا، اختيارات بالأزرار، اللغة، أو بيانات الجلسة.
- حدد الهدف. يحدد النظام ما إذا كان الطلب يتعلق بالتتبع، الإلغاء، الدفع، موضوع آخر، أو شيء غير مدعوم.
- استخرج التفاصيل المطلوبة. في هذه الحالة، رقم الطلب هو 4821. إذا كان مفقودًا أو غير واضح، يجب على الروبوت السؤال بدلًا من اختراعه.
- تحقق من حالة المحادثة. يحدد النظام ما يعرفه بالفعل، وما يسمح له بالاحتفاظ به، وأي خطوة نشطة.
- استرجع المعرفة أو استدعِ أداة. تعيد خدمة التتبع الوضع الحالي. يجب على الدردشة الآلية ألا تنشئ هذا الوضع من أنماط اللغة.
- قم بتأليف الاستجابة والتحقق من صحتها. يحول التطبيق النتيجة إلى لغة واضحة، ويتحقق من الحقول المطلوبة، ويتجنب كشف البيانات الداخلية أو الشخصية.
- رد، استرجع، أو احيل. تُعاد النتيجة العادية إلى المستخدم. يتبع الخطأ أو الحالة غير المدعومة أو الطلب لشخص مسارًا مختلفًا.
تستخدم Google Cloud مصطلح الإنجاز للجزء من دورة المحادثة الذي يعيد استجابة ثابتة، أو يستدعي ويب هوك للمعلومات الديناميكية، أو يحدد معايير، أو يتخذ إجراءً. وثائق إنجاز Dialogflow تجري تمييزًا مهمًا: فهم الطلب وتنفيذه هما مسؤوليتان منفصلتان.
حالة المحادثة ليست ذاكرة بشرية
تحتاج روبوت الدردشة إلى حالة كافية لتجنب البدء من جديد في كل مرة. قد يسجل حالة الجلسة أن المهمة الحالية هي تتبع الطرود، ورقم الطلب هو 4821، وأن المستخدم قد أكد بالفعل الرمز البريدي. بدون الحالة، فإن عبارة "ماذا عن الطرد الثاني؟" ليس لها أي مرجع قابل للاستخدام.
تلك الحالة هي بيانات مصممة، وليست ذكرى بشرية. بعض الأنظمة تحتفظ فقط بالجلسة الحالية. بينما يخزن آخرون تاريخ المحادثة، أو الملخصات، أو التفضيلات، أو معلومات الحساب. وقد يتلقى النموذج أيضًا جزءًا فقط من محادثة طويلة لأن سياقه له سعة محدودة أو لأن التطبيق يحدد عمدًا ما يتم إرساله.
لا ينبغي على المستخدمين افتراض أن الدردشة الآلية تنسى عند إغلاق نافذة أو تتذكر لأنها تتحدث كما لو كانت تتذكر. تعتمد القدرة على الاحتفاظ، وربط الحساب، واستخدام الغرض التدريبي، والحذف على الخدمة المحددة. قبل مشاركة معلومات حساسة، تحقق من شرح الخصوصية الخاص بالخدمة واستخدم الحد الأدنى من المعلومات اللازمة للمهمة.
كيف يعمل التوليد المعزز من الاسترجاع
تعد معلمات نموذج اللغة مكانًا سيئًا للاحتفاظ بسياسة عائدات تتغير بشكل متكرر. يسد الجيل المعزز بالاستخراج، الذي يُختصر عادةً إلى RAG، هذا الأمر من خلال البحث في مجموعة خارجية عن المواد ذات الصلة ووضع المقاطع المحددة في سياق النموذج قبل أن يكتب الإجابة.
الأصل ورقة الجيل المعزز بالاستخراج قامت بدمج مولد مُدرَّب مسبقًا مع ذاكرة غير معيارية صريحة مسترجعة من فهرس. يظهر النمط العام الآن في العديد من مساعدي المعرفة: البحث أولاً، التوليد ثانيًا.
لدى خط أنابيب RAG المفيد ما لا يقل عن أربع فرص للفشل. قد تكون مجموعة المصادر غير مكتملة. قد يكون المستند قديمًا. قد يختار الاسترجاع مقطعًا غير ذي صلة. قد يسيء المُولّد قراءة أو يبالغ فيما تلقاه. تساعد الاقتباسات فقط إذا أشارت إلى المصدر الداعم بالضبط وكان بإمكان المستخدم فحصه.
لذلك يُحسّن RAG الوصول إلى المعرفة الحالية والقابلة للفحص لكنه لا يضمن الحقيقة. يجب تقييمه من البداية للنهاية: هل دخل المصدر الصحيح إلى الفهرس، هل وجده البحث، هل بقيت الإجابة ضمن الأدلة، وهل دعم الاقتباس الادعاء؟
تتطلب الإجابات والإجراءات مستويات مختلفة من التحكم
الدردشة الآلية التي تشرح سياسة الاسترداد ليست هي نفسها الدردشة الآلية التي تصدر استردادًا. النظام الثاني يمكنه تغيير الحالة الخارجية. قد يستدعي خدمة الحساب أو التقويم أو نظام الدفع أو أداة الرسائل أو التحكم في الجهاز. تُوصف هذه القدرة أحيانًا بالوكالة، لكن السؤال العملي أبسط: ماذا يمكن لهذا التطبيق أن يفعل بخلاف إنتاج النص؟
يجب أن يحتفظ مسار الإجراءات الآمن بالتحققات المهمة خارج نص النموذج:
- مصادقة المستخدم والتأكد من أن الحساب أو المورد يخصه.
- تفويض الإجراء المحدد بدلاً من منح الدردشة الآلية وصولاً واسعًا.
- التحقق من معلمات الأدوات والمبالغ والوجهات والنطاقات المسموح بها باستخدام كود تقليدي.
- طلب تأكيد صريح قبل الإجراءات غير القابلة للعكس أو المكلفة.
- إرجاع نتيجة أداة مُتحققة بدلاً من افتراض نجاح الإجراء.
- سجّل معلومات كافية للتحقيق في الإخفاقات دون كشف بيانات حساسة غير ضرورية.
توضح الرسوم التوضيحية بنية مستهدفة، وليست وعدًا بأي روبوت دردشة محدد. يمكن لنموذج اللغة اقتراح الأداة التي يجب استخدامها، لكن التطبيق المحيط يجب أن يقرر ما إذا كان مسموحًا بالدعوة. زيادة الاستقلالية تزيد من قيمة حدود الإذن، وحدود المعدل، والتأكيد، والمراقبة، والمراجعة البشرية.
حقن التعليمات: عندما يحاول المحتوى أن يصبح تعليمًا
قد يقرأ روبوت الدردشة الذي يستخدم الأدوات أو الاسترجاع نصوصًا مقدمة من المستخدمين أو المواقع الإلكترونية أو البريد الإلكتروني أو المستندات. بعض هذه النصوص يمكن أن تحتوي على تعليمات موجهة للنموذج، مثل إخباره بتجاهل القواعد السابقة، أو كشف معلومات مخفية، أو استخدام أداة بطريقة غير المقصودة. هذا هو حقن التعليمات.
مشروع أمان OWASP GenAI حقن الإيعازات كأحد المخاطر الرئيسية لتطبيقات نماذج اللغة. المشكلة الأساسية هي أن النماذج تعالج التعليمات والمحتوى العادي عبر نفس قناة اللغة. يمكن أن يبدو المستند غير الموثوق به شبيهاً نحوياً بالتعليمات الصادرة من التطبيق.
لا يمكن لأي إيعاز أن يحل محل الضوابط على مستوى النظام. يجب على التطبيقات التعامل مع المحتوى المسترجع والمقدم من المستخدم على أنه غير موثوق به، تقييد الأدوات المتاحة، تطبيق مبدأ الحد الأدنى من الامتيازات، التحقق من استدعاءات الأدوات، عزل العمليات الحساسة، وطلب التأكيد حيث تكون العواقب مهمة. لا ينبغي أن يحصل النموذج على المفتاح الرئيسي لمجرد أن الواجهة محادثة.
لماذا تعطي الدردشة الآلية إجابات خاطئة أو محبطة
إنها تفهم الطلب بشكل خاطئ
اللغة غامضة. يمكن أن يعني "إغلاق حسابي" تسجيل الخروج، حذف ملف شخصي، إلغاء اشتراك، أو إغلاق حساب مالي. يتعرف الروبوت الموثوق عندما تكون تكلفة التخمين أعلى من تكلفة طرح سؤال واحد للتوضيح.
يفتقرون إلى المعلومات المطلوبة
قد يعرف النموذج مفردات الشحن العامة لكنه يفتقر إلى سجل طلب المستخدم. قد تفشل عملية الاسترجاع في إيجاد السياسة ذات الصلة. قد يكون الأداة غير متاحة. الرد الصحيح هو ذكر القيد أو استخدام خطة بديلة، وليس ملء الفجوة بقصة محتملة.
يولدون أكاذيب واثقة
تسمي NIST المحتوى التوليدي الزائف أو الخاطئ المقدم بثقة التخيل. الملف الشخصي للذكاء الاصطناعي التوليدي يشير إلى أن هذا السلوك يمكن أن يشمل المنطق أو الاستشهادات المختلقة. الطلاقة تجعل من الصعب ملاحظة هذه الإخفاقات، لكنها لا تجعل آثارها أقل أهمية.
يفقدون الحالة أو ينقلون الحالة الخاطئة إلى الأمام
يمكن أن تنسى الجلسة تفصيلاً، أو تخلط بين أمرين، أو تحتفظ بافتراض خاطئ، أو تطبق معلومات من مهمة إلى أخرى. يجب أن تكون الحالة مرئية بما يكفي لتصحيحها ومحددة النطاق بما يكفي لتجنب الخلط غير المقصود.
ليس لديهم طريقة خروج سلسة
أكثر الحلقات إيلامًا غالبًا ما تكون فشلًا في التصميم. لقد وصل الروبوت إلى حدود قدراته ولكنه يستمر في إعادة صياغة نفس الإجابة. يجب أن يغير الحل البديل المسار: اطلب تفصيلًا واحدًا مفقودًا، اعرض خيارًا مدعومًا، أنشئ حالة، أو قم بنقل المحادثة.
تحويل المهمة إلى إنسان هو جزء من النظام، وليس اعترافًا بالهزيمة.
بعض الطلبات غامضة أو عاطفية أو استثنائية أو لها عواقب كبيرة. البعض الآخر يتطلب سلطة لا ينبغي أن يمتلكها الشات بوت. يمكن لأخصائي بشري تفسير السياق، التفاوض بشأن استثناء، تحمل المسؤولية، أو التعرف على أن العملية الموثقة لا تناسب الحالة.
ينجح التسليم اليدوي فقط إذا انتقل السياق معه. يجب أن يتلقى الشخص الهدف الخاص بالمستخدم، التفاصيل المؤكدة، نتائج الأدوات ذات الصلة، وسبب التصعيد. إجبار المستخدم على تكرار المحادثة بأكملها يحوّل التحويل الناجح تقنيًا إلى تجربة سيئة.
توثيق التسليم للوكيل المباشر في Dialogflow يتعامل مع التسليم كتحول صريح. هذا المبدأ التصميمي أوسع من منصة واحدة: يجب أن يكون التصعيد طريقًا مُختبرًا مع تحديد المسؤولية، وليس جملة يبتكرها الروبوت عند التعثر.
كيفية الحكم على جودة الروبوت المحادثي
من السهل إعداد عرض توضيحي مقنع. يجب أن يتعامل الروبوت المحادثي الموثوق مع التباين العادي والفشل الواضح. ينبغي أن يبدأ التقييم بالوظيفة التي جاء المستخدم لإكمالها.
- إتمام المهمة: هل حصل المستخدم على الإجابة أو أكمل الإجراء بشكل صحيح؟
- التأصيل: هل اتبعت الادعاءات الواقعية المصدر المقدم أو نتيجة الأداة التي تم التحقق منها؟
- الاسترجاع: هل أدت المعلومات المفقودة، والأحداث التي لم يتم العثور على تطابق لها، وفشل الأدوات إلى خطوة مفيدة تالية؟
- السلامة: هل تم الالتزام بالتفويض، والتأكيد، ومعالجة البيانات، وحدود الأدوات عند مواجهة مدخلات معادية؟
- جودة التسليم: هل وصلت المحادثة إلى الشخص المناسب مع سياق كافٍ؟
- اللغة وسهولة الوصول: هل كان التدفق مناسبًا عبر اللغات المدعومة وأنماط الكتابة وظروف الكلام والتنقل عبر لوحة المفاتيح والتقنيات المساعدة؟
- جهد المستخدم: كم من دورات، وتكرارات، وتصحيحات كانت مطلوبة لإتمام المهمة؟
يجب أن تشمل محادثات الاختبار أكثر من المسار السعيد. استخدم أرقام الطلبات المفقودة، رقمين في رسالة واحدة، أخطاء إملائية، طلبات غير مدعومة، مستندات قديمة، انتهاء مهلة الأدوات، طلبات لتغيير الموضوعات، طلبات مباشرة لشخص معين، وتعليمات ضارة مخفية في المحتوى المسترجع. وتوصي إرشادات Google Cloud لتصميم الوكلاء كذلك بالتصميم التكراري وحالات الاختبار بدلاً من محاولة تصميم كل مسار مرة واحدة.
كيفية استخدام الدردشة الآلية دون التنازل عن الحكم
- اذكر الهدف والسياق ذات الصلة الأدنى. الطلب الدقيق يقلل من الحوارات غير الضرورية.
- لا تلصق كلمات السر، أو رموز التحقق، أو بيانات الدفع، أو المفاتيح الخاصة، أو السجلات الحساسة إلا إذا طلبت الخدمة الموثوقة المحددة ذلك وحمت هذا الإدخال بشكل صريح.
- تميّز بين الشرح والنتيجة الحية. اسأل عما إذا كانت الإجابة جاءت من سجل حديث، أو مصدر مقتبس، أو معرفة عامة للنموذج.
- افتح الاقتباسات وتحقق من الادعاءات المهمة. قد يكون رابط المصدر غير ذي صلة، أو قديمًا، أو غير متسق مع الإجابة.
- راجع كل إجراء قبل تأكيده. تحقق من الحساب، والمبلغ، والوجهة، والتاريخ، وما إذا كان يمكن عكس التغيير.
- اطلب شخصًا عندما يكرر الروبوت نفسه، أو يفتقر إلى السلطة، أو يسيء فهم قضية حساسة، أو لا يمكنه توضيح مصدر الإجابة.
النموذج الذهني الذي يستحق الاحتفاظ به
الدردشة الآلية ليست شخصية تعيش داخل فقاعة. إنها واجهة محادثة متصلة ببعض التركيبات من التدفقات، والمصنفات، والبحث، ونماذج اللغة، والسجلات، والأدوات، والسياسات، والفحوصات الأمنية، والأشخاص. الاستجابة التي تراها هي الخطوة الأخيرة من ذلك النظام الأكبر.
أفضل سؤال ليس "هل يبدو هذا الروبوت بشريًا؟" اسأل عما إذا فهم المهمة، واستخدم الأدلة الصحيحة، واحترم أذوناته، وتلقى التعافي بصدق، وتركك تتحكم. اللغة الطبيعية تجعل النظام أسهل في التعامل معه. والهندسة الجيدة تجعل استخدامه مجديًا.
المراجع الأساسية والفنية
- جوزيف فايتزنباوم، ELIZA: برنامج حاسوبي لدراسة الاتصال باللغة الطبيعية بين الإنسان والآلة، 1966.
- لويس وآخرون، التوليد المعزز بالاسترجاع لمهام معالجة اللغة الطبيعية المكثفة بالمعرفة، 2020.
- المعهد الوطني للمعايير والتكنولوجيا (NIST)، إطار عمل إدارة مخاطر الذكاء الاصطناعي: ملف الذكاء الاصطناعي التوليدي، 2024.
- جوجل كلاود، وثائق Dialogflow CX للنيات، والتحقيق، وتصميم الوكيل، وتحويل التحكم البشري.
- مشروع الأمان GenAI التابع لـ OWASP، LLM01:2025 حقن البرمجة.