في وقت سابق من هذا العام، أصدرت OpenAI أداة خاصة للتعرف على ما إذا كان النص مكتوبًا بواسطة البشر أو تم إنشاؤه بواسطة AI.
استدعت الشركة الأداة بعد أن تبين أنها تتمتع بكفاءة في اكتشاف النص بالذكاء الاصطناعي بنسبة 26٪ فقط.
هناك العديد من الأدوات التي تدعي أنها قادرة على اكتشاف نصوص الذكاء الاصطناعي، لكن أداؤها ضعيف جدًا.
بعد شهرين تقريبًا من إطلاق ChatGPT chatbot الشهير، أطلقت OpenAI أداة تجريبية للتعرف على النص مدعومة بالذكاء الاصطناعي تسمى AI Classifier ردًا على شكاوى من المعلمين حول الطلاب الذين يستخدمون ChatGPT لكتابة واجباتهم المدرسية. ومع ذلك، نظرًا لأن OpenAI قام مؤخرًا بإزالة AI Classifier من الإنترنت، لا يبدو أن الأداة تعمل بشكل صحيح.
منذ البداية، اعترفت شركة OpenAI بأن مُصنِّف الذكاء الاصطناعي الخاص بها لم يكن “موثوقًا به تمامًا” وأن 26٪ فقط من النصوص التي تم إنشاؤها بواسطة الذكاء الاصطناعي تم تصنيفها على أنها “قد يتم إنشاؤها بواسطة الذكاء الاصطناعي”، لكنها كانت خاطئة.
وقالت حوالي 9٪ من النصوص إنها كانت متشابهة. نص من النصوص التي تولدها ويكتبها الناس. الآن، يبدو أن الشركة تخلت عن الأداة تمامًا، مشيرة إلى “الدقة المنخفضة”.
أداة AI Classifier ليست الوحيدة التي تعاني من قلة الدقة، إذ يقول مستخدمون إن أدوات مثل Turnitin وGPTZero ليست دقيقة ولا تعطي نتائج موثوقة أيضاً.
فنهج عمل هذه الأدوات ليس مثبتاً، كما أن أدوات توليد النصوص بالذكاء الاصطناعي ماهرة جداً في الكتابة مثل البشر، فيكفي أن تطلب منها الكتابة بأسلوب مؤلف معروف لتستطيع خداع أدوات تمييز النصوص مثل AI Classifier.
إذ قال المؤلف دانييل جيفريز على تويتر: “إذا لم تتمكن شركة OpenAI من تطوير أداة قادرة على تمييز النصوص التي يولدها الذكاء الاصطناعي التابع لها، فلن يتمكن أي شخص آخر من ذلك. لقد قلت في السابق إن أدوات تمييز المحتوى المولد بالذكاء الاصطناعي هي كذبة تُباع للناس، وهذا مجرد دليل آخر على كلامي.”
تدعم الأبحاث الحديثة ادعاءات جيفريز بأن العديد من المعلمين والأساتذة وجدوا أن كتاباتهم تم الإبلاغ عنها بشكل خاطئ على أنها من إنتاج الذكاء الاصطناعي بواسطة هذه الأدوات.
تظهر الأبحاث أيضًا أن هذه الأدوات تميل إلى تمثيل كتابات المتحدثين غير النصيين والأشخاص الذين يعانون من اختلافات عصبية في شكل كتابات الذكاء الاصطناعي.
هذا بالإضافة إلى العديد من الحالات التي تم فيها اتهام الطلاب زوراً باستخدام الذكاء الاصطناعي بسبب الإيجابيات الكاذبة من النقاط البارزة التي تم إنشاؤها بواسطة الذكاء الاصطناعي.
لمعالجة هذه المشكلة، تعهدت كبرى شركات الذكاء الاصطناعي، بما في ذلك OpenAI، بوضع علامة مائية على المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي.
ومع ذلك، لا تزال الدراسات لتأكيد فعالية هذه الخطوة جارية. على سبيل المثال، يمكن بسهولة تجنب تحديد تكرار الكلمات في نص AI وعلامة مائية على نص AI بواسطة أدوات AI عن طريق إعادة صياغة الإخراج.
