اقترح علماء روس طريقة جديدة تهدف إلى تقليل مخاطر ما يُعرف بـ«هلوسة» الشبكات العصبية، وهي الحالات التي يقدم فيها الذكاء الاصطناعي معلومات خاطئة أو مختلقة على أنها صحيحة.

وأفادت وكالة تاس، نقلا عن المكتب الإعلامي لجامعة نوفوسيبيرسك الحكومية (NGU)، بأن باحثي الجامعة طوروا مكتبة برمجية ترفع دقة وموثوقية إجابات نماذج الذكاء الاصطناعي.

ما هي هلوسة الذكاء الاصطناعي ولماذا تمثل مشكلة؟

تشير هلوسة الذكاء الاصطناعي إلى ظاهرة قيام الأنظمة الذكية بتوليد إجابات غير صحيحة أو غير موجودة في الواقع، لكنها تُعرض للمستخدم بصيغة واثقة.

وتُعد هذه المشكلة من أبرز التحديات التي تواجه النماذج اللغوية الكبيرة، خصوصا في المجالات العلمية والطبية والإعلامية، حيث قد يؤدي الخطأ إلى تضليل المستخدمين.

رسوم المعرفة: طريقة مختلفة لتنظيم المعلومات

أوضح الباحثون أن أحد أكثر الأساليب فاعلية لتنظيم المعلومات هو ما يُعرف بـرسوم المعرفة.

وعلى عكس الجداول التقليدية التي تعتمد على الصفوف والأعمدة، تُظهر رسوم المعرفة العلاقات بين العناصر المختلفة، مما يساعد الحواسيب على فهم السياق، واكتشاف الروابط غير المباشرة، وتقديم إجابات أدق.

في هذا الإطار، اقترح علماء نوفوسيبيرسك دمج رسوم المعرفة مع النماذج اللغوية الكبيرة لتحقيق نتائج أكثر موثوقية.

مكتبة RAGU البرمجية: دمج رسوم المعرفة مع النماذج اللغوية

طور الفريق البحثي مكتبة برمجية مفتوحة المصدر تحمل اسم:

RAGU (Retrieval-Augmented Graph Utility)،

وهي أداة مصممة لدمج رسوم المعرفة مع النماذج اللغوية الكبيرة (LLM).

ووفقا للمكتب الإعلامي للجامعة، تهدف المكتبة إلى:

رفع دقة الإجابات التي يقدمها الذكاء الاصطناعي

تحسين موثوقية النتائج

تقليل مخاطر الهلوسة بشكل ملحوظ

وتعتمد بنية RAGU على نهج قريب من GraphRAG، لكنها تتميز ببناء رسوم المعرفة بشكل مرحلي ومتعدد الخطوات.

نهج تدريجي يقلل استهلاك الموارد ويرفع الكفاءة

قال الباحث إيفان بوندارينكو، أحد المشاركين في المشروع، إن الجمع بين رسوم المعرفة والنماذج اللغوية الحديثة هو العامل الأساسي في تقليل الهلوسة وزيادة دقة الإجابات.

وأوضح أن الفريق قام بإعادة تدريب شبكة عصبية توليدية لتكون أداة فعالة في بناء رسوم المعرفة، ليس في خطوة واحدة، بل عبر عدة مراحل متتابعة.

ويتيح هذا الأسلوب:

تقليل متطلبات العتاد الحاسوبي

تسريع عملية بناء رسوم المعرفة

الحفاظ على جودة النتائج أو تحسينها

وأضاف أن الأساليب التقليدية كانت تتطلب نماذج لغوية ضخمة تصل إلى نحو 32 مليار معامل، في حين نجح النهج الجديد في تقليص حجم النموذج إلى حوالي 600 مليون معامل فقط، دون التأثير سلبا على جودة الأداء.

تعاون أكاديمي واسع بين جامعات روسية

لم يقتصر العمل على جامعة نوفوسيبيرسك الحكومية فقط، بل شارك في المشروع:

باحثون وطلاب من جامعة موسكو الحكومية

جامعة البلطيق الفيدرالية باسم إيمانويل كانط

جامعة ميسيس (MISIS)

جامعة الشرق الأقصى الفيدرالية

جامعة إيتMO

ويعكس هذا التعاون اتساع الاهتمام بتطوير حلول عملية لمشكلات الذكاء الاصطناعي الحديثة.