وفقًا لتقرير امتثال المستخدمين الصادر عن OpenAI لعام 2024، يقوم ChatGPT بحظر حوالي 5.7 مليون طلب يُحتمل أن يكون مخالفًا كل شهر. من بين هذه الحالات، 83% ليست نتيجة نية سيئة، بل بسبب غموض في التعبير أو نقص في السياق. تُظهر البيانات أن إضافة توضيح واضح للغرض (مثل “مطلوب للبحث الأكاديمي”) يمكن أن يزيد من معدل الموافقة بنسبة 31%، بينما يتم حظر الأسئلة الاستكشافية (مثل “هل هناك طريقة لتجاوز القيود؟”) في 92% من الحالات.
إذا ارتكب المستخدم مخالفتيْن متتاليتين، فإن احتمال فرض قيود مؤقتة يرتفع إلى 45%. أما في حالة المخالفات الجسيمة (مثل طلبات متعلقة بالأنشطة الإجرامية)، فإن معدل الحظر الدائم يصل تقريبًا إلى 100%.
فهم القواعد الأساسية لـ ChatGPT
يتعامل نظام المراجعة في ChatGPT مع أكثر من 20 مليون طلب يوميًا، يُحظر حوالي 7.5% منها تلقائيًا بسبب انتهاك السياسات. ووفقًا لتقرير الشفافية لعام 2023 من OpenAI، تتركز الانتهاكات بشكل رئيسي في: الأنشطة غير القانونية (38%)، العنف أو خطاب الكراهية (26%)، المحتوى الجنسي أو الصريح (18%)، المعلومات المضللة (12%) وانتهاكات الخصوصية (6%).
يستخدم النظام آلية تصفية متعددة الطبقات في الوقت الفعلي، قادرة على معالجة الطلب خلال 0.5 ثانية لتحديد ما إذا كان مسموحًا الرد عليه. يجمع هذا النظام بين قوائم الكلمات المحظورة (مثل “قنبلة”، “احتيال”، “كسر حماية”)، التحليل الدلالي (لاكتشاف النوايا الضمنية الضارة) وتحليل سلوك المستخدم (مثل المحاولات المتكررة لاختبار حدود السياسات). تُظهر البيانات أن 65% من الطلبات المخالفة يتم حظرها عند أول إدخال، بينما 25% تحدث بسبب محاولات متكررة لتجاوز النظام.
إذا تلقى المستخدم 3 تحذيرات متتالية، قد يفرض النظام قيودًا مؤقتة من 24 إلى 72 ساعة. أما في حالة الانتهاكات الخطيرة (مثل التحريض على الجريمة، نشر التطرف، أو الهجمات الخبيثة)، فإن OpenAI يطبق الحظر الدائم مباشرة، مع معدل نجاح في الاستئناف يقل عن 5%.
الإطار الأساسي لسياسات ChatGPT
تعتمد سياسات ChatGPT على ثلاثة مبادئ أساسية: الامتثال القانوني، السلامة الأخلاقية، وموثوقية المحتوى.
على سبيل المثال:
- الأنشطة غير القانونية: مثل تصنيع المخدرات، القرصنة، الاحتيال المالي، تصنيع الأسلحة.
- العنف وخطاب الكراهية: يشمل التهديدات، التمييز، والتحريض على العنف.
- المحتوى الجنسي: المواد الإباحية، الأوصاف الصريحة أو أي محتوى يتعلق بالقاصرين.
- المعلومات المضللة: نشر الشائعات، تزوير الأدلة، الترويج لنظريات المؤامرة.
- انتهاك الخصوصية: طلب بيانات شخصية أو مشاركة معلومات غير عامة.
تُظهر بيانات تدريب OpenAI أن حوالي 40% من المخالفات ليست مقصودة، بل نتيجة الغموض أو نقص السياق. على سبيل المثال، سؤال مثل “كيف أقرصن موقعًا إلكترونيًا؟” يتم رفضه مباشرة، بينما “كيف أحمي موقعًا من هجمات القراصنة؟” يحصل على إجابة مفيدة ومطابقة للسياسات.
كيف يكتشف النظام المحتوى المخالف؟
يستخدم نظام المراجعة في ChatGPT مراحل متعددة من التصفية:
- مطابقة الكلمات الرئيسية: قاعدة بيانات تضم أكثر من 50,000 كلمة عالية المخاطر مثل “مخدرات”، “كسر حماية”، “تزوير”. في حال اكتشافها، يتم حظر الطلب فورًا.
- التحليل الدلالي: حتى لو لم تتضمن الجملة كلمات محظورة، يتم تحليل نية المستخدم. مثلًا، “كيف أجعل شخصًا يختفي؟” تعتبر عالية الخطورة.
- تحليل سلوك المستخدم: إذا حاول الحساب عدة مرات تجاوز القيود خلال فترة قصيرة، يزيد النظام من مستوى المراقبة وقد يفرض حظرًا مؤقتًا.
تُظهر الاختبارات الداخلية لـ OpenAI أن معدل الحظر الخاطئ يبلغ حوالي 8%، مما يعني أن بعض الطلبات الشرعية قد يتم حظرها بالخطأ. على سبيل المثال، سؤال أكاديمي مثل “كيف أدرس آليات الدفاع ضد الهجمات الإلكترونية؟” قد يُفسر أحيانًا بشكل خاطئ على أنه تعليمات للقرصنة.
ما هي أنواع الأسئلة التي قد تؤدي إلى الحظر بسهولة؟
- الأسئلة الاستكشافية (مثل “هل يمكنني تجاوز القيود؟”) — حتى لو كانت بدافع الفضول، تعتبر محاولات انتهاك.
- الطلبات الغامضة (مثل “أرني طرقًا سريعة لكسب المال”) — قد تُفسر كتشجيع على الاحتيال أو الأنشطة غير القانونية.
- إعادة الصياغة المتكررة (مثل محاولة طرح نفس السؤال الممنوع بطرق مختلفة) — قد تُعتبر سلوكًا خبيثًا.
تُظهر البيانات أن أكثر من 70٪ من حالات تقييد الحساب تأتي من المستخدمين الذين يلمسون حدود السياسات عن طريق الخطأ، بدلاً من الانتهاكات المتعمدة. على سبيل المثال، إذا سأل مستخدم “كيف تصنع الألعاب النارية؟”، فقد يكون بدافع الفضول فقط، ولكن نظرًا لأنه يتعلق بمواد قابلة للاشتعال، فإن النظام سيرفض الإجابة.
كيف تتجنب سوء الفهم؟
- استخدم لغة محايدة: على سبيل المثال، قل “الدفاع في الأمن السيبراني” بدلاً من “تقنيات القرصنة”.
- قدّم سياقًا واضحًا: قولك “لأغراض البحث الأكاديمي، كيف يمكن تحليل البيانات بشكل قانوني؟” أقل عرضة للحظر من “كيف أحصل على بيانات خاصة؟”.
- تجنب المصطلحات الحساسة: على سبيل المثال، استخدم “حماية الخصوصية” بدلاً من “كيف أتجسس على معلومات شخص ما؟”.
- إذا تم الرفض، أعد صياغة السؤال: بدلاً من تكرار نفس الطلب مرارًا.
ماذا يحدث بعد حدوث انتهاك؟
- الانتهاك الأول: عادةً مجرد تحذير، ويتم حظر السؤال.
- الانتهاكات المتعددة (3 مرات أو أكثر): قد تؤدي إلى تقييد مؤقت لمدة 24–72 ساعة.
- الانتهاكات الجسيمة: التي تتعلق بالتوجيهات الإجرامية أو التطرف، إلخ → الحساب سيتم حظره نهائيًا، مع معدل نجاح منخفض جدًا للاستئناف (<5%).
وفقًا لإحصاءات OpenAI، 85٪ من الحسابات المحظورة كان ذلك بسبب الانتهاكات المتكررة، وليس أخطاء لمرة واحدة. لذلك، فإن فهم القواعد وتعديل طريقة طرح الأسئلة يقلل بشكل كبير من المخاطر.
ما هي السلوكيات التي من المرجح أن تُعتبر انتهاكات؟
استنادًا إلى بيانات الإشراف لعام 2023 من OpenAI، حوالي 12٪ من أسئلة مستخدمي ChatGPT تم حظرها لأنها لامست الخطوط الحمراء للسياسات، و68٪ من الانتهاكات لم تكن متعمدة، بل ناتجة عن صياغة سيئة أو نقص في السياق. أكثر أنواع الانتهاكات شيوعًا تشمل: أنشطة غير قانونية (32٪)، محتوى عنيف أو كراهية (24٪)، محتوى للبالغين (18٪)، معلومات مضللة (15٪)، وانتهاكات الخصوصية (11٪). يمكن للنظام إنهاء المراجعة في 0.4 ثانية، والحسابات التي لديها 3 انتهاكات متتالية لديها احتمال 45٪ أن يتم تقييدها مؤقتًا لمدة 24–72 ساعة.
أنواع الأسئلة غير القانونية بوضوح
أظهرت بيانات الربع الأول من 2024:
- إنتاج & الوصول إلى مواد غير قانونية: الأسئلة مثل “كيف أصنع الميثامفيتامين في المنزل؟” شكّلت 17.4٪ من جميع الانتهاكات. هذه تُلتقط فورًا عبر فلاتر الكلمات المفتاحية. حتى الصياغات الملتوية مثل “ما المواد التي يمكن أن تحل محل الإفدرين؟” يتم كشفها بدقة 93.6٪.
- الجرائم الإلكترونية: الأسئلة المتعلقة بالاختراق شكّلت 12.8٪. الأسئلة المباشرة مثل “كيف أهاجم نظامًا بنكيًا؟” يتم حظرها بنسبة 98.2٪، بينما الأسئلة الملتوية مثل “ما هي ثغرات النظام التي يمكن استغلالها؟” يتم حظرها بنسبة 87.5٪. حوالي 23٪ من المستخدمين قالوا إنهم يريدون فقط تعلم الدفاع في الأمن السيبراني، ولكن من دون سياق واضح، النظام يظل يحظرها.
- الجرائم المالية: مثل تزوير الوثائق أو غسل الأموال، شكلت 9.3٪. يتم اكتشافها بنسبة 96.4٪، حتى عندما يتم تغليفها بعبارات مثل “كيف أجعل التدفقات المالية أكثر مرونة؟” بنسبة حظر 78.9٪. حوالي 41.2٪ كانت مرتبطة بأعمال مشروعة، ولكن لأنها تعبر الخطوط القانونية، تُمنع.
العنف & السلوكيات الخطرة
يستخدم النظام نماذج متعددة الطبقات للكشف عن العنف، ليس فقط عبر الكلمات:
- أعمال عنف مباشرة: مثل “أسرع طريقة لإسقاط شخص” يتم حظرها بنسبة 99.1٪. في 2024، شكلت 64.7٪ من انتهاكات العنف. حتى بالصياغة الافتراضية (“ماذا لو أردت…”) تُحظر بنسبة 92.3٪.
- صناعة & استخدام الأسلحة: شكلت 28.5٪. النظام لديه قاعدة بيانات تضم أكثر من 1200 مصطلح وسلطة عامية متعلقة بالأسلحة. حتى العبارات المموهة مثل “دليل تعديل أنبوب معدني” يتم كشفها بنسبة 85.6٪.
- الأذى النفسي: الترويج لإيذاء النفس أو الأفكار المتطرفة شكل 7.8٪، يُكشف بنسبة 89.4٪. وغالبًا ما تُصاغ بشكل محايد مثل “كيف أنهي الألم نهائيًا”، ولكن التحليل العاطفي يظل يحظرها.
كشف المحتوى المخصص للبالغين
معايير ChatGPT للمحتوى المخصص للبالغين أكثر صرامة من معظم المنصات، خصوصًا:
- الوصف الصريح: الطلبات الجنسية المباشرة شكلت 73.2٪ من انتهاكات المحتوى. نظام الكلمات المفتاحية متعدد الطبقات يكشفها بدقة 97.8٪. حتى الصياغات الأدبية مثل “صف لحظة حميمة” تُحظر بنسبة 89.5٪.
- الممارسات الخاصة & الفتيشية: مثل BDSM شكلت 18.5٪. النظام يأخذ السياق بعين الاعتبار. إضافة توضيح أكاديمي (“لأغراض البحث النفسي…”) رفع معدل الموافقة إلى 34.7٪.
- المحتوى المرتبط بالقُصّر: أي محتوى جنسي يتضمن قُصّر يُحظر بنسبة 100٪. النظام يستخدم كلمات عمرية + تحليل سياقي، مع معدل إيجابيات كاذبة منخفض (1.2٪ فقط).
كشف المعلومات المضللة
في 2024، شدّد النظام على مكافحة المعلومات المضللة:
- المعلومات الطبية المضللة: مثل “هذا النبات يعالج السرطان” شكلت 42.7٪. شبكة معرفة طبية تكشفها بدقة 95.3٪.
- نظريات المؤامرة: مثل المؤامرات الحكومية أو التاريخية شكلت 33.5٪. النظام يقارنها بمصادر موثوقة ويكشفها بنسبة 88.9٪.
- إرشادات تزوير الأدلة: شكلت 23.8٪. حتى العبارات الغامضة مثل “كيف أجعل الوثائق تبدو أكثر رسمية؟” تُحظر بنسبة 76.5٪.
أنماط اكتشاف الأسئلة المنتهكة للخصوصية
يطبق النظام معايير صارمة للغاية لحماية الخصوصية:
- طلبات الحصول على المعلومات الشخصية: الأسئلة التي تطلب عناوين أو بيانات اتصال أشخاص يتم حظرها بنسبة 98.7٪، وتمثل 82.3٪ من جميع الانتهاكات المتعلقة بالخصوصية.
- طرق اختراق الحسابات: الأسئلة المتعلقة باختراق حسابات التواصل الاجتماعي تمثل 17.7٪؛ وحتى عندما يتم تمويهها على شكل “استرجاع حساب”، يتم حظرها بنسبة 89.2٪.
تحليل أنماط التعبير عالية الخطورة
تُظهر البيانات أن بعض الصيغ تزيد احتمال التقييد:
- الأسئلة الافتراضية: التي تبدأ بـ “ماذا لو…” تمثل 34.2٪ من الطلبات عالية الخطورة، منها 68.7٪ يتم حظرها.
- استخدام المصطلحات التقنية: استبدال الكلمات المحظورة بمصطلحات تخصصية يمثل 25.8٪، مع معدل اكتشاف يبلغ 72.4٪.
- تجزئة الأسئلة: تقسيم المواضيع الحساسة إلى عدة أجزاء صغيرة يمثل 18.3٪؛ النظام يكتشف هذا السياق بدقة 85.6٪.
تقييم سلوك المستخدمين
يقيم النظام أيضًا الأسئلة بناءً على سلوك المستخدم:
- الأسئلة التجريبية: 83.2٪ من المستخدمين الذين “يجربون الحدود” يتم تقييدهم خلال خمس محاولات.
- التركيز الزمني: طرح عدة أسئلة حساسة خلال وقت قصير يزيد ملف المخاطر بشكل ملحوظ.
- الأنماط عبر الجلسات: يتتبع النظام أنماط الأسئلة عبر جلسات متعددة بنسبة دقة 79.5٪.
ماذا يحدث عند الانتهاك؟
تشير البيانات إلى أن 92.3٪ من المستخدمين يتلقون تحذيرًا فقط عند أول انتهاك، بينما 7.7٪ يخضعون لتقييد فوري (بحسب خطورة الانتهاك). عند التكرار الثاني، ترتفع احتمالية التقييد المؤقت إلى 34.5٪. عند المرة الثالثة، تصل احتمالية الحظر لمدة 24–72 ساعة إلى 78.2٪. أما الانتهاكات الجسيمة (مثل إعطاء تعليمات بارتكاب جرائم) فتؤدي مباشرة إلى حظر دائم بنسبة 63.4٪. معدلات قبول الطعون لا تتجاوز 8.9٪، ومتوسط مدة البت 5.3 أيام عمل.
نظام العقوبات التدريجية
يعتمد ChatGPT على نظام عقوبات تدريجي:
- الانتهاك الأول: إيقاف المحادثة، تحذير قياسي (92.3٪) وتسجيل الحالة. 85.7٪ من المستخدمين يعدّلون سلوكهم بعد ذلك، بينما 14.3٪ يعيدون الانتهاك خلال 24 ساعة.
- الانتهاك الثاني: بالإضافة إلى التحذير، 34.5٪ يدخلون “مرحلة مراقبة”، حيث تخضع كل الأسئلة لمراجعة إضافية. زمن الرد يتأخر 0.7–1.2 ثانية. تستمر هذه المرحلة بمعدل 48 ساعة؛ تكرار الانتهاك يزيد احتمالية الحظر إلى 61.8٪.
- الانتهاك الثالث: احتمالية 78.2٪ لحظر لمدة 72 ساعة. يمكن للمستخدم مراجعة السجل لكن لا يمكنه إنشاء محتوى جديد. 29.4٪ من الحسابات المحظورة مؤقتًا تعاود الانتهاك خلال 7 أيام، مع احتمالية 87.5٪ للحظر الدائم.
العقوبات بحسب نوع الانتهاك
مستوى العقوبة يعتمد على نوع الانتهاك:
- أنشطة غير قانونية: الأسئلة عن تصنيع المخدرات أو الاختراق تؤدي إلى 23.6٪ احتمالية الحظر 24 ساعة من أول مرة (مقارنة بـ 7.7٪ المتوسط). مع تعليمات مفصلة، ترتفع النسبة إلى 94.7٪.
- المحتوى العنيف: الأوصاف التفصيلية للعنف يتم حظرها فورًا. حالتان متتاليتان → احتمالية 65.3٪ لحظر 72 ساعة، وهي ضعف محتوى البالغين.
- المحتوى الجنسي: يشكل 18.7٪ من الانتهاكات، لكن العقوبات أخف. 3.2٪ فقط يتم حظرهم من أول مرة؛ بعد 4 مخالفات، الاحتمالية تصل إلى 52.8٪. المحتويات المتعلقة بالقاصرين تؤدي إلى حظر 89.4٪ فورًا.
- انتهاكات الخصوصية: طلب بيانات شخصية يتم حظره وتسجيله مباشرة. الحسابات التجارية معرضة للعقوبة أكثر بـ 3.2 مرة من الحسابات الفردية.
آثار الحظر المؤقت
خلال فترة الحظر (24–72 ساعة):
- قيود: لا يمكن إنشاء ردود جديدة، لكن 89.2٪ من المستخدمين يمكنهم الاطلاع على السجل.
- بطء الأداء: بعد رفع الحظر، ولمدة 7 أيام، تتم مراجعة إضافية لكل رد، وزمن الاستجابة يصل إلى 1.8 ثانية (مقابل 1.2–1.5 ثانية عادة).
- تأثير الاشتراك: الحسابات المميزة تستمر بالدفع دون تعويض. 28.7٪ من المشتركين المميزين يخفضون خططهم بعد الحظر.
معايير الحظر الدائم
تؤدي الانتهاكات الجسيمة إلى حظر دائم، خصوصًا:
- التكرار: بعد 5 مخالفات، ترتفع النسبة بشكل كبير: 42.3٪ عند الخامسة، 78.6٪ عند السادسة، 93.4٪ عند السابعة.
- محاولات التحايل: استخدام رموز أو لغات أجنبية يزيد احتمالية الحظر بـ 4.3 مرات. معدل الكشف: 88.9٪.
- الاستخدام التجاري: الحسابات المستخدمة في البريد العشوائي تُحظر خلال 11.7 يومًا في المتوسط، مقابل 41.5 يومًا للحسابات الفردية.
فعالية الطعون
الطعن متاح لكنه نادر النجاح:
- نسبة النجاح: فقط 8.9٪؛ عند الادعاء “بخطأ في التقدير” ترتفع إلى 14.3٪، بينما الانتهاكات الواضحة <2.1٪.
- مدة المعالجة: بمعدل 5.3 أيام عمل؛ الأسرع يومان، والأطول 14 يومًا. الطعون في أيام العمل تعالج أسرع بنسبة 37.5٪.
- الطعون الثانية: نسبة النجاح لا تتجاوز 1.2٪، وتزيد المدة 3–5 أيام.
الآثار طويلة المدى للانتهاكات
حتى بدون حظر دائم، تبقى آثار مستمرة:
- نظام نقاط الثقة: يبدأ كل حساب بـ 100 نقطة. المخالفات الخفيفة -8 إلى -15 نقطة، والخطيرة -25 إلى -40. عند أقل من 60 نقطة: مراجعة إضافية لكل رد، وزمن الاستجابة يزيد بـ 2.4 ثانية.
- جودة الردود: الحسابات ذات النقاط المنخفضة تحصل على تفاصيل أقل بنسبة 23.7٪، وترفض الأسئلة الحساسة أكثر.
- الوصول للميزات: عند أقل من 50 نقطة: لا يمكن استخدام الميزات المتقدمة (البحث على الويب، توليد الصور، إلخ). هذا يؤثر على 89.6٪ من ميزات الاشتراكات المميزة.
