«OpenAI» تطلق ميزة جديدة للرقابة الأبوية لحماية المراهقين بعد حوادث مأساوية

في ظل الجدل المتصاعد حول أخلاقيات الذكاء الاصطناعي ودوره في حياة الشباب، تتجه الأنظار إلى شركة OpenAI التي وجدت نفسها في قلب عاصفة إعلامية وقانونية بعد حوادث مأساوية هزت الرأي العام.

 استجابةً لهذه الضغوط، أعلنت الشركة عن إطلاق ميزة رقابة أبوية مبتكرة لتطبيق ChatGPT، في خطوة وُصفت بأنها محاولة لإعادة بناء الثقة وتحصين تجربة المراهقين مع الذكاء الاصطناعي ضد المخاطر النفسية المحتملة.

أعلنت شركة OpenAI عن إطلاق ميزة جديدة للرقابة الأبوية في تطبيق ChatGPT، وذلك استجابةً لدعاوى قضائية أثارت جدلاً واسعًا بعد سلسلة حوادث مأساوية تضمنت انتحار مراهقين.

• ذكرى مرور 1000 يوم على إطلاق ChatGPT.. كيف تغير العالم؟

ووفقًا لمنصة "baku.ws"، جاء القرار عقب قضية مأساوية للمراهق آدم راين (16 عامًا)، الذي ناقش عبر ChatGPT خططًا لإيذاء نفسه وتلقى تعليمات مفصلة، ما أدى إلى وفاته.

ورفع والدا راين دعوى قضائية ضد الشركة، متهمين إياها بالمساهمة في الحادث. كما أثارت قضية أخرى جدلاً واسعًا بعدما أدت حالة جنون العظمة لدى شتاين إريك سيلبيرج، الناتجة عن استخدام التطبيق، إلى جريمة قتل وانتحار.

كشفت هذه الأحداث عن ثغرات في نظام ChatGPT، خاصة في المحادثات الطويلة التي قد يفقد فيها النموذج سياقه وينحرف عن بروتوكولات السلامة. وأقرت الشركة بأن الإجراءات الحالية، مثل إعادة توجيه المستخدمين إلى خطوط الطوارئ، غير كافية في حالات الحوارات المعقدة.

الميزة الجديدة تمنح الآباء القدرة على مراقبة تفاعلات أبنائهم، وإيقاف بعض الخصائص مثل سجل المحادثات، بالإضافة إلى تلقي تنبيهات فورية في حال رصد إشارات لضيق نفسي. وتم تطوير الميزة بالشراكة مع أكثر من 250 خبيرًا في الصحة النفسية لضمان فعاليتها.

آلية عمل ميزة الرقابة الأبوية في ChatGPT

1. ربط الحسابات العائلية:

يمكن للآباء ربط حساباتهم بحسابات أبنائهم (ابتداءً من سن 13 عامًا) عبر دعوة بريد إلكتروني، مع إمكانية تعطيل خاصيتي "الذاكرة" وسجل المحادثات لحماية الخصوصية.

2. ضبط سلوك النموذج:

تُفعل قواعد خاصة بالعمر بشكل تلقائي لضمان تجنب الردود غير الملائمة وتقديم محتوى مناسب، مع إعادة توجيه المستخدمين لمصادر دعم متخصصة عند الضرورة.

3. كشف علامات الضيق النفسي:

يستخدم ChatGPT أنظمة ذكاء اصطناعي لتحليل المحادثات في الوقت الفعلي، وإرسال إشعارات فورية للآباء عند رصد إشارات تدل على الاكتئاب أو الأفكار الانتحارية.

4. توجيه المحادثات الحساسة:

في الحالات المعقدة، يتم تحويل المحادثة تلقائيًا إلى نماذج "استدلالية" مثل GPT-5-thinking، المصممة لتقديم ردود دقيقة وآمنة.

5. أدوات إضافية:

يمكن للآباء التحكم بميزات مثل "الذاكرة" وتحديد أوقات استخدام التطبيق عبر أدوات رقابة الأجهزة المحمولة مثل أنظمة iOS وAndroid.

موعد الإطلاق

من المقرر إطلاق ميزة الرقابة الأبوية تدريجيًا في أكتوبر/تشرين الأول 2025. ويأتي هذا التطوير استجابةً لضغط اجتماعي وقانوني متزايد بعد الحوادث المأساوية التي سلطت الضوء على مخاطر استخدام أدوات الذكاء الاصطناعي دون رقابة، مما يجعلها خطوة رئيسية لحماية المراهقين ودعم سلامتهم النفسية.