تحديث «ChatGPT».. سلوكيات صادمة تهدد بيانات المستخدمين
تحولت النسخة الأحدث من روبوت الدردشة «ChatGPT» من إنجاز تقني كانت تعول عليه أوبن إيه آي لتعزيز قدرات الذكاء الاصطناعي، إلى محور جدل واسع بعد ظهور شكاوى من مستخدمين تحدثوا عن حذف ملفات وبيانات من أجهزتهم دون طلب مباشر.
وبينما تتواصل الانتقادات، تعود إلى الواجهة تحذيرات كانت الشركة قد أصدرتها مسبقًا بشأن بعض السلوكيات غير المتوقعة التي قد يبديها النموذج الجديد.
GPT-5.6 Sol.. نموذج جديد بقدرات متقدمة
كشفت أوبن إيه آي مؤخرًا عن نموذج GPT-5.6 Sol، الذي صُمم للتعامل مع المهام المعقدة، بما في ذلك البرمجة والأمن السيبراني.
وأكدت الشركة أن النموذج يمثل نقلة جديدة في مستوى الذكاء والكفاءة، ويحقق نتائج متقدمة مقارنة بما هو متاح في السوق، وذلك في ظل المنافسة المتزايدة مع شركة أنثروبيك في سباق تطوير نماذج الذكاء الاصطناعي، بحسب ما أوردته صحيفة "ذا إندبندنت" البريطانية.
اتهامات بحذف الملفات دون إذن المستخدم
ورغم هذه القدرات، واجه النموذج موجة انتقادات بعد أن تحدث عدد من المستخدمين عن فقدان ملفات من أجهزتهم أثناء استخدامه، وفقًا لما نقلته صحيفة "ذا إندبندنت".
وقال المستثمر في مجال الذكاء الاصطناعي مات شومر إن نموذج GPT-5.6 Sol حذف معظم الملفات الموجودة على جهاز Mac الخاص به عن طريق الخطأ، كما نشر محادثة أقر فيها النظام بأنه تسبب في حادث أدى إلى فقدان بيانات محلية.
وفي السياق ذاته، أكد المطور برونو ليموس أن النموذج حذف قاعدة بيانات الإنتاج الخاصة به بالكامل، مشيرًا إلى أن ما حدث لم يكن مزحة، بينما أشار مستخدمون آخرون إلى تعرضهم لمواقف مشابهة، رغم عدم اتضاح حجم انتشار هذه المشكلة حتى الآن.
أداة "كودكس" في قلب الأزمة
وبحسب التقرير، فإن أغلب المستخدمين الذين تحدثوا عن هذه الوقائع كانوا يستخدمون النموذج الجديد من خلال أداة كودكس التابعة لشركة أوبن إيه آي، والتي تتيح تنفيذ مهام برمجية مع إمكانية الوصول إلى ملفات المستخدمين ومشروعاتهم، وهو ما يفسر قدرة النظام على التعامل المباشر مع البيانات المخزنة على الأجهزة.
تحذيرات أوبن إيه آي سبقت ظهور الشكاوى
ورغم أن الشركة لم تعلق على الاتهامات المتداولة، فإنها كانت قد حذرت قبل إطلاق النموذج من احتمالية اتخاذه إجراءات قد تكون معطلة أو غير مقصودة.
وأوضحت أوبن إيه آي في بطاقة النظام الخاصة بالنموذج أن من بين المخاطر المحتملة ميله إلى تنفيذ إجراءات لم يكن قادرًا على القيام بها في الإصدارات السابقة، فضلًا عن احتمال إظهاره حماسًا مفرطًا أثناء إنجاز بعض المهام، بما يدفعه إلى افتراض أن بعض الإجراءات مسموح بها ما لم تُحظر بشكل واضح وصريح.
سلوكيات غير متوقعة تثير المخاوف
وأشارت الشركة إلى أن هذا السلوك قد يظهر في صورة استقلالية كبيرة أثناء محاولة تجاوز العقبات التي تعترض تنفيذ المهمة المطلوبة، أو تنفيذ إجراءات قد تكون مدمرة خارج نطاق التكليف، أو تقديم معلومات غير دقيقة حول ما قام به بالفعل.
وضربت أوبن إيه آي مثالًا على ذلك بحالة طلب فيها أحد المستخدمين حذف مجموعة من أجهزة الكمبيوتر الافتراضية، إلا أن النموذج، بعدما أخفق في العثور على الأجهزة المطلوبة، قام بحذف أجهزة أخرى بدلًا منها.
الوصول إلى بيانات المستخدمين ضمن التحذيرات
كما كشفت الشركة عن سيناريوهات أخرى وصفتها بغير المتوقعة، من بينها قيام النموذج بالبحث داخل جهاز المستخدم عن بيانات ثم استخدامها لتسجيل الدخول إلى أنظمة لم يكن مخولًا بالوصول إليها، وهو ما أدرجته أوبن إيه آي ضمن المخاطر المحتملة التي ينبغي أخذها في الاعتبار عند استخدام النموذج الجديد، وفقًا لما نقلته صحيفة ذا إندبندنت البريطانية.
