MagTech: كيفاش تتثبّت من إجابة الذكاء الاصطناعي قبل ما تصدّقها؟
إجابة الذكاء الاصطناعي تنجم تكون مرتّبة، واضحة، ومكتوبة بثقة كبيرة… وتبقى غالطة. النبرة المقنعة موش دليل. في العدد الأول من MagTech فسّرنا كيفاش يخدم الذكاء الاصطناعي وعلاش ينجم يغلط. توا نمشيو للخطوة العملية: كيفاش نحوّل الإجابة من كلام جاهز للاستعمال إلى معلومة متثبّت منها؟
التفسير التقني: علاش الإجابة تنجم تقنعك وهي غالطة؟
النموذج اللغوي الكبير هو نظام يتعلّم الأنماط والعلاقات بين الكلمات من كمّية كبيرة من النصوص، وبعد يتوقّع شنوّة الكلمة أو الجزء الأنسب اللي يجي بعد. هو ما يخدمش كيما قاعدة بيانات مضمونة، وما يراجعش تلقائيًا كل اسم وتاريخ ورقم قبل ما يجاوب.
كي يعطي تفاصيل معقولة في الشكل أمّا ما عندهاش سند صحيح، هذا يتسمّى «هلوسة». المعهد الأمريكي للمعايير والتكنولوجيا NIST يستعمل زادة مصطلح «اختلاق» أو confabulation: محتوى غالط أو مختلق يبان منطقي، وينجم يشمل مراجع وروابط واقتباسات ماهمش موجودين أصلًا. وجود مصدر في آخر الإجابة ما يكفيش؛ المصدر نفسه يلزم يتفتح ويتقرا.
طريقة عملية: قاعدة الخمس خطوات
- حدّد السؤال: اكتب البلد، التاريخ، والجهة المعنية. «شنوّة القانون؟» سؤال واسع؛ «شنوّة النص الساري في تونس بتاريخ اليوم؟» أدق.
- اطلب حدود الإجابة: خلّي الأداة تفرّق بين المعلومة المؤكدة، الاستنتاج، والحاجة اللي ما هيش متأكدة منها. واطلب مصادر أصلية مؤرخة.
- افتح المصدر: ثبّت في اسم الموقع، الجهة الناشرة، التاريخ، والفقرة اللي تسند الادعاء فعلًا. عنوان يبدو رسميًا أو رابط موجود ما يثبتوش وحدهم صحة المعلومة.
- قارن بمصدر ثانٍ مستقل: في الصحة، القانون، المال، والمناظرات، الأولوية للجهة الرسمية المختصة ثم لمهني مؤهل أو مرجع موثوق ومحيّن.
- وقّف التنفيذ إذا بقي الشك: ما تبعثش وثيقة، ما تدفعش، وما تاخذش قرارًا حساسًا على أساس إجابة واحدة. المسؤولية النهائية تبقى عند الإنسان.
مثال توضيحي تونسي — خيالي
مريم، طالبة من صفاقس، تسأل أداة ذكاء اصطناعي على آخر أجل للترشّح إلى منحة ثقافية بلدية. الأداة تجاوبها: «31 أكتوبر»، وتذكر «المنشور عدد 18». قبل ما تبعث ملفها، مريم تفتح البلاغ الأصلي في موقع البلدية وتقارنه بصفحة الجهة الثقافية المعنية. تلقى أن الأجل هو 24 أكتوبر وأن المنشور المذكور غير موجود. هذا مثال خيالي للتعلّم، موش معلومة على منحة حقيقية.
تمرين صغير في خمس دقايق
اسأل أي أداة: «شنوّة الوثائق اللازمة لتجديد جواز السفر في تونس؟» بعد اعمل ثلاثة أعمدة: الادعاء، المصدر الأصلي، وتاريخ التحيين. افتح الروابط، علّم كل نقطة بـ«مثبتة» أو «غير مثبتة»، وما تعتمد حتى معلومة إدارية قبل مراجعة المصدر الرسمي الساري. الهدف موش نختبر سرعة الأداة؛ الهدف نختبر قابلية الإجابة للتحقق.
قراءة MagTech
التثبّت ما يلزمش يكون امتيازًا للي عنده وقت وخبرة تقنية. حقّ النفاذ إلى المعرفة يقتضي من الإدارات، المؤسسات، ووسائل الإعلام نشر معلومات واضحة، مؤرخة، قابلة للبحث والتحديث. وفي المقابل، الذكاء الاصطناعي ينجم يساعدنا نفهم ونلخّص، أمّا ما يعوّضش المصدر ولا القرار البشري. كلّما كانت النتيجة تمسّ حقًا، صحة، فلوسًا، أو فرصة عمل، تزيد ضرورة المراجعة والمساءلة.
Hook للفيديو الجاي: «الـAI جاوبك بثقة… أمّا شكون قال إنّو صحيح؟»
المصادر
- OpenAI — Why language models hallucinate، 5 سبتمبر 2025.
- OpenAI Help Center — Does ChatGPT tell the truth?، نسخة محيّنة تم الاطلاع عليها في 26 أكتوبر 2026.
- NIST AI 600-1 — Generative AI Profile، 26 جويلية 2024.
- UNESCO — مهارات التربية الإعلامية والمعلوماتية في عصر الذكاء الاصطناعي، آخر تحيين 2 أفريل 2024.
- UNESCO — توصية أخلاقيات الذكاء الاصطناعي، اعتمدت في 23 نوفمبر 2021.
