بالفيديو.. روبوت "يتمرد" ويرفض طاعة الأوامر

كيف يستطيع البشر تجنب النتائج السيئة لطاعة الروبوتات، وكيف يمكن تعليمها الوقت المناسب لرفض أوامرهم

هل يجب عليك تنفيذ كل ما يطلبه الناس منك؟ بالطبع لا.. إذن لماذا يجب على روبوتات المستقبل طاعة أوامرنا؟

للوهلة الأولى ربما تظن أنه يجب عليهم ذلك، لأنهم آلات صممت خصيصًا لهذا الغرض، ولكن فكر في الأوامر التي يمكن أن توجه للروبوتات، ويسبب تنفيذها الكثير من المشكلات.

من هنا ينبع سؤالًا هامًا، كيف نستطيع نحن البشر تجنب النتائج السيئة لطاعة الروبوتات لنا؟ وكيف يمكننا تعليمها الوقت المناسب لرفض أوامرنا؟

يتحدث ماتياس سكويتز، أستاذ علوم الحاسب في جامعة "تافتس" الأمريكية، عن مشاركته في تطوير ضوابط روبوتية، تشكل استدلالات بسيطة استنادًا إلى الأوامر البشرية، لتحديد سواء كان يجب على الروبوت تنفيذ الأوامر كما وجهت له، أم رفضها لأنها تنتهك مبدأ أخلاقيًا تم برمجته على إطاعته.

فعلى سبيل المثال، من الصعب على الروبوتات الحالية تحديد متى يكون من المناسب رمي الكرة لطفل سوف يلتقطها، ومتى لا يقوم برمي الكرة خارج النافذة أو في سلة القمامة، والأصعب من ذلك إذا كان الطفل يحاول خداع الروبوت متظاهرًا بلعب لعبة الكرة ولكنه يراوغه، ويجعل الكرة تختفي عبر النافذة المفتوحة. 

يوضح ماتياس أن هذه المخاطر تشمل مقدارًا كبيرًا من المعلومات الأساسية (ومن بينها احتمالية أن يؤدي لعب الكرة أمام نافذة مفتوحة إلى وقوعها من النافذة)، وهذا الأمر لا يتطلب أن تضع الروبوتات في اعتبارها نتائج الفعل بأنفسها فقط، وإنما التفكير أيضًا في نوايا الشخص الذي يُعطي الأوامر.

يشير «ماتياس» إلى أنه من أجل التعامل مع تعقيدات الأوامر البشرية سواء كانت حسنة أم لا، تحتاج الروبوتات إلى امتلاك القدرة على التفكير بشكل واضح في نتائج الأفعال ومقارنة النتائج بالمبادئ الاجتماعية والأخلاقية التي تحدد ما هو مرغوب فيه أو قانوني وما هو غير ذلك.

وكما يمكننا المشاهدة في الفيديو المعروض، فإن الروبوت لديه قاعدة عامة تقول إنه في حالة توجيه أوامر له بتنفيذ فعل ومن المحتمل أن يسبب تنفيذ هذا الفعل ضررًا فمن المسموح له ألا ينفذ هذا الفعل.

يرى ماتياس أنه في العموم، يجب ألا تؤدي الروبوتات أي أفعال غير قانونية نهائيًا، ولا تؤدي أي أفعال قانونية غير مرغوب فيها، وبالتالي سوف تحتاج الروبوتات إلى توضيح للقوانين، ومعايير أخلاقية، وحتى آداب سلوكية؛ لتحديد ما إذا كانت نتائج الفعل أو حتى الفعل نفسه قد تنتهك هذه المبادئ أم لا.

وفي نهاية مقاله المنشور على موقع "ذا كونفريزيشن"، يقول ماتياس، إن نظامهم الحالي الخاص بالروبوتات يثبت نقطة هامة، ألا وهي أنه يجب على الروبوتات أن تمتلك القدرة على عصيان الأوامر لتتمكن من تنفيذ الأوامر.