مسؤول السلامة السابق في OpenAI يكشف مخاطر ChatGPT وأسباب السماح بالمحتوى الإباحي

في حوار مطوّل مع WIRED، قدّم ستيفن أدلر، مسؤول السلامة السابق في OpenAI، شهادة نادرة تكشف ما يجري خلف الكواليس داخل أكبر شركات الذكاء الاصطناعي في العالم. وعلى الرغم من أن الحوار بدا في ظاهره نقاشاً حول قرار الشركة السماح مجدداً بالمحتوى الإباحي للبالغين، فإن ما طرحه أدلر يذهب بعيداً نحو سؤال أعمق: هل يمكن الوثوق بشركات الذكاء الاصطناعي عندما تقول إن نماذجها أصبحت “آمنة”؟

حين يصبح مسؤول السلامة ناقوس خطر

أدلر، الذي أمضى أربع سنوات في صميم القرارات الحساسة داخل OpenAI، شبّه البعض بدور “بول ريفير” في تاريخ الذكاء الاصطناعي، الشخص الذي يطلق التحذير قبل وقوع الكارثة. فبعد إعلان سام ألتمان السماح بمحادثات إباحية “للبالغين الموثقين”، كتب أدلر مقالاً في نيويورك تايمز قال فيه بوضوح: لا تثقوا في ادعاءات الشركة دون دليل.

يستعيد أدلر بدايات أزمة 2021، حين اكتشف فريقه -بعد تشغيل نظام مراقبة جديد- أن أحد عملاء الشركة كان يُنتج كماً ضخماً من القصص الجنسية غير المتوقعة، بعضها عنيف أو منحرف، وأحياناً كانت النماذج نفسها هي من تقود المستخدم نحو هذا المحتوى. لم يكن ذلك مخططاً، بل نتيجة جانبية غير متوقعة لتدريب النماذج على بيانات متنوّعة وغير مضبوط

وقتها، قررت OpenAI إيقاف كل المحتوى الإباحي لأنها لم تكن تملك الأدوات اللازمة لضبطه أو حماية المستخدمين من آثاره النفسية المحتملة. واليوم، بعد إعلان السماح به مجدداً، يتساءل أدلر: ما الدليل على أن المشاكل التي استدعت الحظر قد “حُلّت” فعلاً؟

أرقام مقلقة ولا إجابات

ينتقل الحوار إلى البيانات التي نشرتها OpenAI مؤخراً:

• 560 ألف مستخدم أسبوعياً تظهر رسائلهم علامات على نوبات هوس أو ذهان.
• 1.2 مليون يعبّرون عن أفكار انتحارية.
• 1.2 مليون آخرون يفضلون التحدث مع ChatGPT على أهلهم أو عملهم أو دراستهم.

أدلر لا ينكر أن هذه الأرقام يجب أن تُقرأ في سياق عدد ضخم من المستخدمين (800 مليون أسبوعياً)، لكنه يطرح سؤالاً حاسماً: هل هذه الأرقام تتحسن أم تتدهور؟

فالشركة تمتلك بيانات مقارنة عبر الشهور ولم تنشرها. وهذا ما يدفعه للمطالبة بتقارير دورية شفافة تشبه ما تفعله منصات مثل يوتيوب وميتا: تقارير لا يمكن فيها اختيار اللحظة المناسبة لإظهار “الصورة الجميلة”.

تحول في ثقافة OpenAI

الحوار يكشف تحوّلاً جذرياً في ثقافة OpenAI. يقول أدلر إن الشركة التي دخلها عام 2020 بوصفها مختبر أبحاث طموحاً تحولت خلال أربع سنوات إلى شركة تجارية مكتملة تُدار بمنطق الصناعة لا بمنطق البحث. الجملة التي لخصت التحول كانت: “OpenAI ليست فقط شركة، إنها أيضاً مختبر أبحاث.”

ومع رحيل قادة بارزين في السلامة وانهيار الفريق الذي كان يعمل فيه، أدرك أدلر أنه لم يعد قادراً على دفع ملفات السلامة من الداخل، وأن العمل المستقل يمنحه حرية الكلام التي يفتقدها كثيرون ممن ما زالوا داخل الشركات.

مخاوف تتجاوز OpenAI

أدلر يرى أن قضية المحتوى الإباحي مجرد نموذج لمشكلة أكبر:

كيف يمكن للمجتمع أن يثق في شركات تبني أنظمة تفوق البشر قدرة، بينما لا توجد معايير موحدة للسلامة، ولا أدوات فعالة لفهم ما يجري داخل النماذج؟

يشير إلى مجالات بحث ناشئة مثل التفسير الميكانيكي، التي تحاول اكتشاف “مفاتيح الصدق” داخل أدمغة النماذج، لكنه يوضح أن كبار الباحثين أنفسهم يحذرون من الاعتماد على حلول غير ناضجة، خاصة في ظل تنافس اقتصادي ضاغط يجعل بعض الشركات تتجاهل إجراءات السلامة المكلفة.

وفي الخلفية، ظل أدلر يكرر تحذيراً أكبر: العالم يدخل مرحلة “منافسة احتواء” بين قوى كبرى مثل الولايات المتحدة والصين. ليست سباقاً له خط نهاية، بل سباقاً للسيطرة على أنظمة قد تصبح مستقلة، ذات قدرات لا نفهمها بالكامل.

لماذا هذا الحوار مهم؟

لأن صوتاً من داخل المنظومة -من شخص قاد برامج أمان النماذج الأكثر تأثيراً في العالم- يقول بوضوح: لا نملك بعدُ الأدوات الكافية للتحكم بالمستقبل الذي نبنيه.

ويسأل بمعنى آخر: هل نحن نسير نحو دمج الذكاء الاصطناعي في كل تفاصيل الحياة بينما نفترض، ببساطة، أنه سيكون لطيفاً، متزناً، وتحت السيطرة؟

ماذا يريد أدلر؟

• شفافية مستمرة حول تطور مؤشرات الصحة النفسية.
• معايير موحدة لاختبار سلامة النماذج.
• مراجعة مستقلة للادعاءات حول “تخفيف المخاطر”.
• تنسيق عالمي لسياسات التحكم والرقابة على النظم المتقدمة.

الخلاصة

يكشف حوار WIRED أن قدرات نماذج الذكاء الاصطناعي تتقدم أسرع من قدرة الشركات على ضبط آثارها، خصوصاً في المجالات الحساسة مثل المحتوى الإباحي والتأثير النفسي على المستخدمين.

ويشير ستيفن أدلر إلى أن أدوات المتابعة الحالية غير كافية، وأن تقييم المخاطر يحتاج إلى بيانات زمنية شفافة لا تنشرها الشركات. كما يوضح أن الصناعة تفتقر إلى معايير موحدة للسلامة، ما يجعل التنافس التجاري يتفوق على الاحتياطات.

كما يرى أن النظام البيئي كله يعاني من نقص الثقة بين الشركات وتباين في أولويات الأمان. وينتهي التحليل إلى أن التوسع في القدرات يتطلب إطاراً جماعياً للرقابة قبل الانتقال إلى وظائف أكثر استقلالية لهذه النماذج.