مخاطره أشبه بالسلاح النووي.. من يكبح جماح الذكاء الاصطناعي الفائق؟
كشف تقرير لصحيفة «تليغراف» عن حالة قلق متصاعدة من تحول الذكاء الاصطناعي الفائق إلى سلاح العصر النووي، وسط انطلاق دعوات عالمية لتنظيم أكبر بهدف منع حدوث كارثة محتملة.
لم تثبت أي تقنية أنها خطيرة مثل الأسلحة النووية لدرجة تتطلب تنسيقاً دولياً مماثلاً. لكن أولئك الذين يشعرون بالقلق إزاء الذكاء الاصطناعي الفائق يعتقدون الآن أن هناك حاجة إلى جهد عالمي مماثل لمنع كارثة يقودها الذكاء الاصطناعي.
تحذير "أنثروبيك".. التطوير الذاتي كارثة
دعت شركة أنثروبيك، وهي الشركة الأكثر قيمة في العالم في مجال الذكاء الاصطناعي، الخميس، إلى وضع آلية لإبطاء أو إيقاف تطوير الذكاء الاصطناعي المتقدم، حيث حذرت من أن هذه التقنية قد تخرج عن السيطرة في وقت أقرب مما يعتقد الكثيرون.
وتعتقد أنه من مصلحة العالم أن يكون لديه خيار إبطاء أو إيقاف تطوير الذكاء الاصطناعي المتقدم مؤقتًا، لتمكين هياكل المجتمع وأبحاث التوافق من مواكبة التقدم التكنولوجي. وأضافت أنه "من المرجح أن يكون ذلك أمرًا جيدًا" إذا أمكن تأجيل التطوير.
وقالت أنثروبيك -التي بلغت قيمتها مؤخراً 965 مليار دولار (755 مليار جنيه استرليني)- إنها أطلقت ناقوس الخطر لأنها تعتقد أن الذكاء الاصطناعي يتحسن بشكل أسرع بكثير من القدرة البشرية على فهم الأنظمة والتحكم فيها.
داخل الشركة نفسها، لا تقتصر مهمة الروبوتات على كتابة التعليمات البرمجية فحسب، بل إنها تقوم أيضاً بإصدار الأوامر للروبوتات الأخرى وإجراء أبحاثها الخاصة.
وأشارت "أنثروبيك" إلى أنه في وقت قريب قد يبدأ الذكاء الاصطناعي في بناء نفسه، وهي عملية تُعرف بالتحسين الذاتي المتكرر. وهذا قد يُطلق حلقة تغذية راجعة يتسارع فيها التقدم بشكل كبير.
يقول المتشككون إن هذا مجرد تسويق. وأعلنت شركة "أنثروبيك" الأسبوع الماضي أنها تقدمت بطلب طرح عام أولي من المتوقع أن تزيد قيمته عن تريليون دولار.
ما الذي يمكن أن يكون أكثر قيمة من تكنولوجيا قوية لدرجة أن قادة العالم يحتاجون إلى كبح جماحها؟ لقد كان الذكاء الاصطناعي الذي يبني نفسه فرضية أساسية في عروض الشركة التقديمية لجمع الأموال لسنوات.
اقترح المسؤول السابق عن الذكاء الاصطناعي والعملات المشفرة في إدارة الرئيس الأمريكي دونالد ترامب والناقد المتكرر لشركة "أنثروبيك"، ديفيد ساكس، أن التحذير كان محاولة لتأمين خطة إنقاذ عامة، قائلاً إنها علامة على "أنك قد تحاول تأميم مختبر الذكاء الاصطناعي الرائد الخاص بك".
لكن المخاوف بشأن الذكاء الاصطناعي القوي تتزايد بشكل ملحوظ. وقد أبقت شركة أنثروبيك نظامها الأقوى للذكاء الاصطناعي، "ميثوس"، بعيداً عن متناول العامة نظراً لقدرته على اكتشاف الثغرات الأمنية في أنظمة الحاسوب بالغة الأهمية.
- رئيس أكبر شركة نفط روسية: إغلاق مضيق هرمز يهدد طرق التجارة البحرية عالميا
- كأس العالم 2026.. من سيربح المليارات: الولايات المتحدة أم فيفا؟
بنك إنجلترا يدق ناقوس الخطر.. انهيار مالي
كما دق محافظ بنك إنجلترا، أندرو بيلي، ناقوس الخطر بشأن انهيار النظام المالي بسبب الذكاء الاصطناعي، وحذر هذا الأسبوع من أن ميثوس تعني "الأشياء التي كنا نعتقد أنها قد تحدث في العام المقبل أو العامين المقبلين أو ثلاثة أعوام أو أربعة أعوام ... أصبحت الآن في صدارة الأحداث".
تخشى مختبرات الذكاء الاصطناعي أن يكون الجيل القادم من النماذج جيداً بما يكفي لمساعدة الإرهابيين على تطوير أسلحة بيولوجية.
إذا بدأ الذكاء الاصطناعي في بناء نفسه دون إشراف بشري، فسيصبح من الصعب التحكم فيه بحكم التعريف.
تجاوز الأهداف البشرية.. سيناريو متطرف محتمل
في السيناريوهات المتطرفة التي يقلق بشأنها خبراء السلامة، تنفصل أهداف الذكاء الاصطناعي عن الأهداف البشرية.
يرفض الكثيرون هذه الفكرة باعتبارها ضرباً من الخيال العلمي. لكن مؤيدي التريث يقولون إن حتى احتمالاً ضئيلاً لانقراض الفكر البشري يجب أن يكون كافياً ليدفعنا إلى التفكير في كيفية إيقافه.
إنّ إثبات الحاجة إلى التوقف المؤقت هو الجزء السهل، أما تنفيذه فهو أمر آخر تماماً. لو أراد الرئيس التنفيذي لشركة أنثروبيك، داريو أمودي، لكان بإمكانه إرسال جميع الموظفين إلى منازلهم اليوم وإغلاق شركته.
لكن في أحسن الأحوال، سيؤدي ذلك إلى تأخير ظهور الذكاء الاصطناعي القوي لبضعة أشهر. أما منافسيه الرئيسيين، غوغل وOpenAI، فهما ليسا ببعيدين.
قالت شركة أوبن إيه آي، مطورة ChatGPT، هذا الأسبوع إنها ترى أيضاً "علامات مبكرة على RSI (التحسين الذاتي المتكرر) في أنظمة اليوم".
وقالت الشركة: "نتوقع أن يؤدي هذا إلى زيادة الضغوط التنافسية بين المطورين والدول، وخلق تحديات في الحوكمة لا تستطيع المؤسسات القائمة التعامل معها".
التعاون الأمريكي-الصيني.. أولوية حاسمة
حتى لو أمرت الحكومة الأمريكية الشركات الثلاث بالتوقف عن العمل على الذكاء الاصطناعي، فإن هذا قد يؤدي فقط إلى التنازل للصين، التي عادة ما يُنظر إلى شركاتها على أنها متأخرة عن الولايات المتحدة من 3 إلى 6 أشهر.
قال أمودي في المنتدى الاقتصادي العالمي في وقت سابق من هذا العام: "السبب الذي يمنعنا من التباطؤ هو وجود خصوم جيوسياسيين يبنون نفس التكنولوجيا بوتيرة مماثلة. من الصعب للغاية التوصل إلى اتفاق قابل للتنفيذ يبطئون فيه وتيرة عملنا ويبطئون هم وتيرة عملنا".
عملياً، سيتطلب الأمر اتفاقاً على مستوى الحكومات. والدولتان المهمتان هما الولايات المتحدة والصين.
هذا النوع من الاتفاق سيتطلب من ترامب وشي جين بينغ التعاون في وقف مؤقت، وهو أمر يبدو مستبعداً للغاية بالنظر إلى أن كلاهما قد شبّه الذكاء الاصطناعي بالعرق.
قال شي إن الصين يجب أن "تكتسب بداية مبكرة وتؤمن ميزة تنافسية" في التكنولوجيا، بينما تنص خطة عمل إدارة ترامب بشأن الذكاء الاصطناعي على أن "أمريكا في سباق لتحقيق الهيمنة العالمية في مجال الذكاء الاصطناعي".
كثيراً ما يقارن المتشائمون هذه التقنية وعواقبها المحتملة بالأسلحة النووية، لكنهما ليسا متشابهين على الإطلاق. فالقدرات التدميرية للرؤوس الحربية الذرية لا جدال فيها، بينما قد تبدو مخاطر السلامة المتعلقة بالذكاء الاصطناعي غامضة.
قد تكون الجوانب الإيجابية لهذا الأخير مهمة أيضاً: إذ يعتقد مؤيدوه أنه يمكن أن يعالج الأمراض، ويؤدي إلى السفر بين النجوم، ويجعل العمل اختيارياً.
علاوة على ذلك، فإنّ إيقاف سباق الذكاء الاصطناعي مؤقتاً لا يخلو من مخاطره الخاصة. فقد يؤدي تعليق العمل على الذكاء الاصطناعي إلى انهيار اقتصادي.
ساهمت الرقائق ومراكز البيانات التي يعتمد عليها الذكاء الاصطناعي في ازدهار سوق الأسهم، مما ساعد على دعم الاقتصاد الأمريكي. وقد يؤدي كبح الطلب عليها إلى نتائج عكسية.
هذا قبل التطرق إلى تحديات تطبيق هذا الحظر. وقالت أنثروبيك: "إن إخفاء التدريبات أسهل بكثير من إخفاء صوامع الصواريخ".
لكن ثمة مؤشرات على أن كلا البلدين يغيران نهجهما. فقد حذر البيت الأبيض من برنامج ميثوس، ووقع ترامب الأسبوع الماضي أمراً تنفيذياً يدعو إلى مراجعة نماذج الذكاء الاصطناعي قبل نشرها.
فيما دعت بكين إلى وضع "إطار حوكمة عالمي للذكاء الاصطناعي" لكبح جماح هذه التكنولوجيا.
هذا بعيد كل البعد عن الدعوة العالمية التي أطلقتها "أنثروبيك"، لكن الناشطين اعتبروها علامة إيجابية.
