حين يخطئ الذكاء الاصطناعي بثقة: كيف تتحقّق؟

تسأل مساعدًا ذكيًا عن كتاب قرأته قديمًا، فيجيبك بثقة كاملة: اسم المؤلف، وسنة النشر، وملخّص الفصول. ثم تكتشف لاحقًا أن نصف هذه المعلومات غير صحيح، وأن الكتاب نفسه ربما لم يُكتب أصلًا بهذا العنوان. لم يكذب عليك أحد عن قصد، لكنك وقعت فيما يسمّيه الناس «هلوسة الذكاء الاصطناعي».

هذه الظاهرة ليست عطلًا نادرًا ولا خللًا في جهاز بعينه، بل هي نتيجة مفهومة لطريقة عمل هذه النماذج. وحين نفهم السبب، نصبح أقدر على الاستفادة من هذه الأدوات دون أن نسلّمها عقولنا.

ماذا نعني بالهلوسة؟

يصف المعهد الوطني الأمريكي للمعايير والتقنية (NIST) في دليله الخاص بمخاطر الذكاء الاصطناعي التوليدي، الصادر في يوليو 2024، هذه الظاهرة باسم «التلفيق» (Confabulation)، ويعرّفها بأنها إنتاج محتوى خاطئ يُقدَّم بثقة، ويدخل فيها أيضًا الردّ الذي يناقض ما قاله النموذج نفسه قبل قليل، أو يبتعد عن السؤال المطروح.