محركات كشف الذكاء الاصطناعي: الـ23 كلها مقيسة ومقيَّمة

المحركات الـ23 جميعها، مع بنيتها وقيمة AUC المقيسة على نصوص الذكاء الاصطناعي ومجموعة ضبط من نثر بشري نُشر قبل 1920.

المحرك AUC التحيّز ضد النثر القديم الوزن في الدرجة
1 SuperAnnotate مصنِّف عصبي · 355M
0.939
‎-0.18
2 Desklib DeBERTa مصنِّف عصبي · 435M
0.936
‎-0.17
3 Fakespot مصنِّف عصبي · 125M
0.917
‎+0.04
4 ReMoDetect مصنِّف عصبي · 184M
0.866
‎-0.28 0
5 Structural Analysis كاشف لغوي قائم على القواعد
0.756
‎+0.01
6 TMR Detector مصنِّف عصبي · 125M
0.749
‎+0.17 0
7 E5-Small مصنِّف تضمينات · 33M
0.720
‎-0.20 0
8 ChatGPT Detector مصنِّف عصبي · 125M
0.688
‎-0.15 0
9 Binoculars اختبار إحصائي · 355M + 82M
0.680
‎-0.08
10 BERT-tiny RAID مصنِّف عصبي · 4.4M
0.654
‎-0.17 0
11 Log-Rank اختبار إحصائي · 355M
0.644
‎-0.14 0
12 Perplexity اختبار إحصائي · 355M
0.644
‎-0.13 0
13 Fast-DetectGPT اختبار إحصائي · 355M
0.632
‎-0.04 0
14 GLTR اختبار إحصائي · 355M
0.622
‎-0.20 0
15 Cross-Perplexity اختبار إحصائي · 355M + 82M
0.618
‎-0.14 0
16 Burstiness كاشف لغوي قائم على القواعد · 355M
0.589
‎+0.08
17 Linguistic Markers كاشف لغوي قائم على القواعد
0.574
‎-0.02 0
18 Formulaic Patterns كاشف لغوي قائم على القواعد
0.557
0.00
19 DivEye اختبار إحصائي · 355M
0.548
‎-0.12 0
20 Readability Uniformity كاشف لغوي قائم على القواعد
0.539
‎+0.03
21 OpenAI Detector مصنِّف عصبي · 125M
0.521
‎-0.05 0
22 Sentiment & Hedging كاشف لغوي قائم على القواعد
0.491
‎-0.02 0
23 Vocabulary Richness كاشف لغوي قائم على القواعد
0.362
‎-0.02 0

يبيّن AUC كم مرة يضع المحرك نص الذكاء الاصطناعي فوق نص بشري: 1 مثالي، و0.5 يعادل رمي عملة. الانحياز هو مقدار ما يرفعه من درجة الأدب المكتوب قبل 1920 مقارنة بالكتابة البشرية الحديثة. الوزن هو ما تمنحه المعايرة الإنجليزية لكل محرك؛ معظمها لا يحصل على شيء، لأن محركًا آخر يحمل الإشارة نفسها.

كيف تصل المحركات الـ23 إلى نتيجة

لا يسأل SlopTotal نموذجًا واحدًا عن رأيه. بل يشغّل 23 كاشفًا مستقلًا ويعرض النتائج الـ23 كلها، لأن المعلومة المفيدة تكمن غالبًا في الخلاف. تسعة منها مصنِّفات عصبية دُرِّبت على التمييز بين النص البشري والنص الآلي، ومنها DeBERTa-v3-large وRoBERTa-large ونموذج BERT-tiny بـ4.4 مليون معامل. وسبعة اختبارات إحصائية لا تحتاج إلى تدريب: تقيس مدى قابلية النص للتوقع بالنسبة إلى نماذج GPT-2، عبر الحيرة ورتب الرموز وlog-rank والإنتروبيا المتقاطعة بين نموذجين. أما السبعة الباقية فتقرأ النص نفسه: تفاوت أطوال الجمل والمفردات والبنية وعبارات التحوّط والعبارات الجاهزة التي تكررها نماذج الذكاء الاصطناعي.

النتيجة الإجمالية ليست متوسطًا. فنموذج لوجستي مضبوط على SlopBench يزن كل محرك بحسب ما يضيفه عندما تكون نتائج المحركات الأخرى معروفة، فلا تُحسب المحركات التي تخطئ بالطريقة نفسها مرتين. وتُسحب النصوص القصيرة جدًا نحو الوسط، لأن كلمات قليلة لا تحمل أدلة كثيرة.

حُدِّدت نطاقات الحكم على أساس النصوص البشرية: عند 45 تبدأ أعلى 5% من النصوص البشرية نتيجةً، وعند 55 أعلى 2%، وعند 80 أعلى 0.5%. لذا تعني النتيجة 55 أو أكثر أن أقل من 2 من كل 100 نص بشري يبلغ هذا الارتفاع. وللغات الأخرى نموذجها الخاص، وتُوسَم كل لغة بأنها مدعومة أو تجريبية أو غير موثوقة بعد.

قيس على 3,252 نصًا

رقم الدقة لا يعني الكثير ما لم يُذكر على ماذا قيس. يُقاس SlopTotal على SlopBench، وهي مجموعة اختبار مفتوحة تضم 1,626 نصًا بشريًا كُتبت كلها قبل ظهور ChatGPT، و1,626 نصًا للذكاء الاصطناعي في الموضوعات نفسها وبالأطوال نفسها من 14 نموذجًا حاليًا (منها GPT-6 وDeepSeek وQwen وLlama وMistral وGemma وGLM). وتشمل الأخبار والموسوعات والملخصات العلمية وأجوبة منتديات الأسئلة ومنشورات Reddit والمراجعات ومقالات الطلاب والإنجليزية لغير الناطقين بها والأدب، لأن الكاشف الذي يُختبر على نوع واحد من الكتابة ينتهي بأرقام تنهار في الواقع.

ثمة جزءان لكشف الظلم: 87 مقطعًا أدبيًا نُشرت بين 1532 و1915، حيث تكون أي نتيجة مرتفعة خطأً بالضرورة، ومقالات أشخاص يكتبون الإنجليزية لغةً ثانية، وهم أكثر من تتهمهم الكواشف خطأً. كل رقم رئيسي مقيس على أنواع كتابة لم يُضبط النموذج عليها، والنتائج منشورة في المستودع بما فيها الإخفاقات.

أين يتوقف الكشف عن العمل

النصوص القصيرة غير موثوقة في أي كاشف. تحت 80 كلمة تقريبًا تتقلب النتيجة بسبب اختيار الكلمات وحده، وتستقر من نحو 200 كلمة. إذا حصلت تغريدة على جواب واثق جدًا، فلا تثق بالجواب.

نص الذكاء الاصطناعي المعدّل قليلًا هو الحالة الصعبة. فكل جولة إعادة كتابة بشرية تمحو آثار الآلة، ولا توجد عتبة يتوقف بعدها التعديل عن التأثير. والشيفرة البرمجية خارج النطاق: فالمحركات مدرَّبة على اللغة الطبيعية ولا تكشف بموثوقية الشيفرة التي يكتبها الذكاء الاصطناعي، لذا لا يدّعي SlopTotal ذلك.

النتيجة دليل وليست حكمًا. استخدم النتائج الـ23 لتقرر أين تنظر وماذا تسأل، ثم اسأل. لا ينبغي لأي نتيجة كاشف أن تقرر وحدها درجة أو توظيفًا أو نشرًا.