«أوبن إيه آي» تعترف بخطورة أحدث نماذجها: يساعد في صنع أسلحة بيولوجية

أقرت شركة "أوبن إيه آي" بأن أحدث نماذجها "زادت بشكل كبير" من خطر إساءة استخدام الذكاء الاصطناعي لصالح إنشاء أسلحة بيولوجية.

ووفقا لتقرير نشرته صحيفة "فاينانشيال تايمز"، أعلنت الشركة عن نماذجها الجديدة المعروفة باسم أو 1، مروجة لقدراتها الجديدة على التفكير وحل المشكلات الرياضية الصعبة والإجابة عن أسئلة البحث العلمي، وينظر إلى هذه التطورات على أنها اختراق حاسم في الجهود المبذولة لإنشاء ذكاء عام اصطناعي ذي إدراك على مستوى بشري.

وقالت الشركة إن النماذج الجديدة لديها "خطر متوسط" فيما يتعلق بالقضايا المتعلقة بالأسلحة الكيميائية والبيولوجية والإشعاعية والنووية، وهو أعلى مستوى مخاطر أقرت به شركة "أوبن إيه آي" على الإطلاق لنماذجها.

• «o1».. رهان «أوبن إيه آي» لريادة عالم الذكاء الاصطناعي
• «أوبن إيه أي» تسعى لزيادة تقييمها بنحو الضعف إلى 150 مليار دولار

وقالت الشركة إن هذا يعني أن التكنولوجيا "حسنت بشكل كبير" من قدرة الخبراء على إنشاء أسلحة بيولوجية.

أخطار متزايدة

ووفقا للخبراء تشكل برامج الذكاء الاصطناعي ذات القدرات الأكثر تقدما، مثل القدرة على إجراء التفكير خطوة بخطوة، خطرا متزايدا لاحتمال إساءة استخدامها من قبل بعض الجهات.

وقال يوشوا بينجيو، أستاذ علوم الكمبيوتر في جامعة مونتريال وأحد أبرز علماء الذكاء الاصطناعي في العالم، إن "الذكاء الاصطناعي يمثل الآن خطرا متوسطا" فيما يتعلق بالأسلحة الكيميائية والبيولوجية، وهذا "يعزز فقط أهمية وإلحاح" التشريعات مثل قانون في كاليفورنيا لتنظيم القطاع.

ويطالب القانون الجديد في ولاية كاليفورنيا -المعروف باسم اس بي 1047- من شركات الذكاء الاصطناعي التي تقوم بتطوير النماذج باتخاذ خطوات لتقليل مخاطر استخدام نماذجها لتطوير الأسلحة البيولوجية. 

وقال بينجيو إنه مع تقدم نماذج الذكاء الاصطناعي "الرائدة" نحو الذكاء الاصطناعي العام "ستستمر المخاطر في الزيادة إذا كانت الحواجز المناسبة مفقودة، وإن تحسين قدرة الذكاء الاصطناعي على التفكير واستخدام هذه المهارة للخداع أمر خطير بشكل خاص".

تسابق شركات التكنولوجيا

وجاءت هذه التحذيرات في الوقت الذي تتسابق فيه شركات التكنولوجيا -بما في ذلك غوغل وميتا- لبناء وتحسين أنظمة الذكاء الاصطناعي المتطورة، حيث تسعى إلى إنشاء برامج يمكن أن تعمل كـ"وكلاء" تساعد البشر في إكمال المهام وتوجيه حياتهم.

وقالت ميرا موراتي، كبير مسؤولي التكنولوجيا في شركة "أوبن إيه آي" لصحيفة فاينانشيال تايمز، إن الشركة كانت "حذرة" بشكل خاص بشأن كيفية تقديم نموذج او 1 للجمهور، بسبب قدراته المتقدمة، على الرغم من أن المنتج سيكون متاحا على نطاق واسع عبر المشتركين.

وأضافت أن النموذج تم اختباره من قبل ما يسمى بالفرق الحمراء، وهم خبراء في مجالات علمية مختلفة حاولوا كسر النموذج لمعرفة حدوده. وقالت موراتي إن النماذج الحالية حققت أداء أفضل بكثير في مقاييس السلامة العامة مقارنة بنماذجها السابقة.

وقالت شركة OpenAI إن نموذج المعاينة هو "آمن للنشر وصنف على أنه "متوسط ​​المخاطر "على مقياسها الحذر.