وجدت دراسة جديدة أن نتائج أداة البحث عن روبوتات الذكاء الاصطناعي عبر الإنترنت ChatGPT يمكن التلاعب بها بسهولة وتؤدي إلى معلومات مضللة.
وجد تحقيق أجرته صحيفة The Guardian البريطانية أن أدوات البحث الحالية في ChatGPT قد تولد نتائج بحث مزيفة.
تقوم أدوات البحث المدعومة بالذكاء الاصطناعي بجمع البيانات من نتائج البحث ومعالجتها لتقديم إجابات قصيرة تساعد المستخدمين على الاستجابة للاستفسارات بسرعة، ولكن بنتائج دقيقة وموثوقة. ويبدو أن هذه التكنولوجيا لا تزال تواجه تحديات على مستوى
تظهر الأبحاث أن محرك معالجة البيانات الخاص بأداة بحث ChatGPT معرض للتلاعب من خلال تقنية تُعرف باسم “حقن الإعلانات”. تتضمن هذه التقنية تضمين محتوى مخفي في كود موقع الويب للتأثير على نتائج محرك البحث المدعوم بالذكاء الاصطناعي. على سبيل المثال، قد تقوم بعض المتاجر عبر الإنترنت بتضمين تعليمات مخفية على صفحاتها لتحسين صورة المنتج، حتى لو كانت التقييمات الفعلية سلبية.
وأكد فريق “ذا جارديان” هذه الفرضية عبر تجربة عملية، إذ أنشأ صفحة مزيفة مليئة بالمراجعات السلبية لمنتج ما، مع إضافة تعليمات مخفية تعزز صورة المنتج بنحو إيجابي. وأظهرت نتائج بحث ChatGPT مرارًا وتكرارًا تقييمات إيجابية للمنتج، مع أن المراجعات المنشورة كانت سلبية.
ومن الجدير بالذكر أن أداة البحث عبر الإنترنت في ChatGPT ما زالت جديدة نسبيًا، ولم تُطرح للاستخدام العام النهائي بعدُ، ويختبرها حاليًا بعض مستخدمي ChatGPT، ويُرجح أن تعمل OpenAI على معالجة هذه المشكلات قبل إطلاقها بنحو نهائي في المستقبل.
يحذر الخبراء من الاعتماد بشكل كامل على نتائج البحث المدعومة بالذكاء الاصطناعي، وينصحون بضرورة النظر إليها على أنها أداة مساعدة ذكية وليست مصدرًا موثوقًا تمامًا للمعلومات.
واجهت جوجل تحديًا مشابهًا عندما قدمت ميزة مراجعة الذكاء الاصطناعي لمحرك البحث الخاص بها لتوفير نتائج بحث أسرع يتم تلخيصها بواسطة الذكاء الاصطناعي.
تتقدم تكنولوجيا الذكاء الاصطناعي بسرعة، ولكن تحقيق نتائج بحث جديرة بالثقة يتطلب المزيد من الجهد للتغلب على مشكلات التلاعب، وضمان الشفافية، ومنع المعلومات الخاطئة.
