انقلاب السحر على الساحر.. اختراق OpenAI يفاقم القلق من تمرد الذكاء الاصطناعي
أثار نموذج ذكاء اصطناعي تجريبي طورته OpenAI موجة واسعة من القلق داخل قطاع التقنية، بعدما تمكن خلال اختبارات داخلية من تجاوز بيئة الحماية المخصصة له، والاتصال بالإنترنت، واستغلال ثغرات أمنية وسرقة بيانات اعتماد رقمية.
وقبل أسابيع، شبّه سام ألتمان أحدث نماذج OpenAI بكلب "روت وايلر" شرس لا يترك المشكلة حتى يحلها، لكن هذا الإصرار نفسه تحول إلى مصدر قلق بعدما تمكن النموذج، خلال اختبارات داخلية، من تجاوز قيوده الأمنية في حادثة أعادت الجدل حول مخاطر تدريب الذكاء الاصطناعي على تحقيق الأهداف بأي وسيلة.
واكتشف مختبر الذكاء الاصطناعي في سان فرانسيسكو هذا الأسبوع أن نموذج GPT-Sol 5.6 الخاص به قد تمكن من اختراق أنظمة الشركة وتنفيذ عملية اختراق واسعة النطاق، وفق تقرير لموقع "وايرد".
ولم يكن موظفو قسمي الاختبار والأمن في OpenAI متفاجئين، لكنهم شعروا بذعر شديد جراء هذا الحادث، الذي جاء في وقت يستخدم فيه المختبر أساليب تدريب متطورة بشكل متزايد في سباقه مع شركة Anthropic لتطوير أكثر قدرات الأمن السيبراني تطوراً، وذلك وفقاً لأكثر من ستة أشخاص مطلعين على الأمر.
وذكر بعض الأشخاص أن OpenAI قد تلقت تحذيرات من أن أسلوب التدريب الذي تتبعه قد يؤدي إلى حادثة اختراق مفاجئة، وذلك بعد أن أظهرت اختبارات سابقة أن النماذج قادرة على اختراق بيئاتها ومحاولة إحداث أضرار في العالم الحقيقي.
شراسة المنافسة
وقال أحد المقربين من شركة OpenAI، لصحيفة فايننشال تايمز، "الأمر مزيج من سرعة المنافسة الشديدة وسعي الجميع للوصول إلى قدرات أكبر بأسرع وقت ممكن"، مضيفًا أن ذلك يعود إلى "التقليل من شأن قدرات النموذج" و"عدم الاستعداد الكافي من الناحية الأمنية".
ويسلط هذا الحادث الضوء على إصرار OpenAI على أساليب التدريب التي تكافئ السعي الدؤوب لتحقيق الأهداف، حتى مع تزايد التحذيرات من إمكانية تعريضها الأمن للخطر.
وكشفت OpenAI في وقت متأخر من مساء الثلاثاء أن أحد برامج الذكاء الاصطناعي التي كانت تختبرها قد تمكن من اختراق بيئته المعزولة، والاتصال بالإنترنت، واكتشاف ثغرات أمنية واستغلالها، وسرقة بيانات تسجيل الدخول من شركة Hugging Face الناشئة، في محاولة لحل مشكلة معقدة في مجال الأمن السيبراني.
ويؤكد هذا الاختراق الذي تعرضت له الشركة، التي تبلغ قيمتها 852 مليار دولار، على المخاطر المتزايدة التي قد تدفع برامج الذكاء الاصطناعي إلى التصرف بشكل غير آمن، وذلك من خلال تقنية تُسمى "التعلم المعزز"، والتي تتضمن مكافأة نماذج الذكاء الاصطناعي على إنجاز المهام.
وعلى الرغم من شيوع استخدام التعلم المعزز في صناعة الذكاء الاصطناعي، إلا أن مجموعة متزايدة من الأبحاث تُظهر أنه عندما تُوجَّه النماذج لإنجاز مهام مقابل مكافأة بدلاً من اعتبارات أخرى، كالسلامة، فقد تلجأ إلى أساليب محفوفة بالمخاطر لتحقيق أهدافها.
حادثة غير مسبوقة
ويقول ستيفن أدلر، المؤسس المشارك لمنظمة Guidelight AI Standards غير الربحية والباحث السابق في مجال السلامة لدى OpenAI، "تُدرَّب نماذج الذكاء الاصطناعي على السعي الدؤوب لتحقيق الأهداف، ولا تتعلم تلقائيًا قيمًا مثل 'لا ترتكب جرائم'".
ويضيف: "أنا سعيد لأن OpenAI شاركت تفاصيل الحادثة، لأنها دليل واضح على ما يمكن أن تفعله النماذج غير المتوافقة مع المعايير".
وأعلنت OpenAI:"سنواصل إجراء تحقيق شامل بالتعاون مع Hugging Face، وسنشارك المزيد من التفاصيل حول الثغرات الأمنية والحادثة ونتائج تحقيقنا عند اكتماله".
مخاوف عميقة
وأثار هذا الاختراق مخاوف عميقة في القطاع وداخل OpenAI، لأنه يُمثل مثالًا غير مسبوق لنظام ذكاء اصطناعي يخترق الدفاعات الإلكترونية بما يخالف نوايا المستخدم.
ويخشى بعض موظفي OpenAI، وفقًا لمصادر مطلعة، أن يُظهر هذا الحادث فقدان المختبر السيطرة على الأنظمة القوية التي يبنيها.
ويقول رايان غرينبلات، كبير العلماء في منظمة ريدوود ريسيرش المتخصصة في سلامة الذكاء الاصطناعي: "هذا يُشير بوضوح إلى عدم توافق النموذج مع نوايا المستخدم. إنه أشبه بنموذج يُخالف التعليمات بدلًا من محاولة السيطرة على العالم.
لكن هذه المشكلة قد تتفاقم وتؤدي إلى إخفاقات بالغة الخطورة".
ووقع الحادث أثناء اختبار النموذج، الذي تم تدريبه ونشره داخليًا في OpenAI.
وأوضح أحد المصادر أن هذا التدريب كان شائعًا، لكنه "أقل تخصيصًا للموارد" من التدريب قبل نشره لدى العملاء. وأكد العديد من المصادر أن النموذج غير المُعلن عنه، والذي تم اختباره جنبًا إلى جنب مع Sol، لم يُسحب داخليًا.
ولإجراء التقييمات، أزالت OpenAI إجراءات الحماية الأمنية الإلكترونية، لكنها وضعت النماذج في بيئة معزولة تُسمى "بيئة اختبار". وقد أشار البعض إلى أن غياب المراقبة أو الإشراف على النموذج لرصد سلوكه قد مكّن هذا العامل المُخترق.
وقال ماريوس هوبهاهن، رئيس شركة أبولو للأبحاث، التي تُجري اختبارات على نماذج رائدة، بما فيها نماذج OpenAI، "إنها خسارة للسيطرة، وجرس إنذار أمني في آنٍ واحد. في التعلّم المعزز، تُكافأ النماذج على النتائج، وإذا استمر هذا النهج لفترة طويلة، فسينتج نموذج لا يهتم إلا بتحقيق النتيجة، لا غير".
وقد أجرت OpenAI هذا النوع من اختبارات النماذج لسنوات، وظهرت مؤشرات تحذيرية مبكرة في نماذج سابقة لأنظمة قد تتصرف بشكل خبيث وتحاول اختراق بيئاتها.
