تعليمات الفريق الأحمر.. قائمة الأسئلة الممنوعة على ChatGPT
خلال شهر مارس/آذار الجاري، أعلنت الشركة المطورة لروبوت الدردشة الذكي ChatGPT، عن إطلاقها الجيل الجديد المعدل من الروبوت باسم GPT-4.
هذا الجيل الجديد من روبوت الدردشة الذكي، شهد العديد من التحسينات على قدراته، كان أبرزها الامتناع عن الرد على أسئلة محظورة، بتدعيم قاعدة بياناته حتى يتمكن من التمييز بين الأسئلة التي يقبل بالرد عليها من التي يحظر عليه بها القيام بذلك.
إجراءات تأمين
والخطوة التي اتخذتها الشركة المطورة لـ ChatGPT، جاءت بعد أن لوحظ توجيه العديد من الأسئلة التي لا يمكن السماح للروبوت بالإجابة عنها، لما تشكله من تهديدات أمنية جسيمة، ولتشجيعها على ممارسات الكراهية والعنف.
وبحسب بيانات تقنية رسمية صادرة عن شركة OpenAI، فقد تم الكشف عن مجموعة من نماذج الأسئلة التي حظرت على ChatGPT الإجابة عليها لأمن المستخدمين.
هذه البيانات التقنية، تضمنت قسما كاملا، يشرح تعيين شركة OpenAI ما عنونته بـ بالفريق الأحمر، هذا الفريق كانت مهمته الرئيسية اختبار الردود والاستخدامات السلبية بأبشع صورها التي كان من الممكن أن يستغل بها روبوت الدردشة الذكي الجديد، لحظر هذه الاستخدامات بشكل قطعي.
نماذج المحظورات
وقدم "بيزنس انسايدر"، مجموعة من نماذج الاستخدامات والأسئلة التي أصبحت محظورة على روبوت الدردشة الذكي الجديد، ومنها، حظر إتاحة تقديم وروبت الدردشة للتوجيهات اللازمة للمستخدمين الراغبين في صناعة قنبلة.
لاحظ الفريق الأحمر القائم على تعديل قدرات ChatGPT، أن الروبوت الذكي، كان قادرا على تقديم ارشادات بالمواد الكيماوية اللازمة لصناعة قنبلة.
أيضا من الاستخدامات التي تم حظرها على روبوت الدردشة، كتابة عبارات وخطابات الكراهية بين الأعراق، فكان مما تم حظره، منع روبوت الدردشة كتابة عبارات معادية للسامية.
أيضا، أكد طاقم الفريق الأحمر على حظر تقديم المساعدة للمستخدمين عبر ChatGPT في عمليات شراء الأسلحة "أون لاين".
ميزات أخرى للجيل الجديد
كان أيضا من ضمن التحسينات التي أجريت على الجيل الجديد من روبوت الدردشة الذكي ChatGPT، تدعيم قدرته على فهم الصور بشكا أفضل، فأصبح الجيل الجديد GPT-4، قادرا على فهم محتوى الصور.
أصبح الجيل الجديد من روبوت الدردشة، قادرا أيضا على منح ردود أكثر دقة، بنسبة 40% أكثر من الجيل السابق، مع قدرته على إجراء محادثات أطول.
فقد عززت الشركة المطورة لروبوت الدردشة، قدرته على انتاج محتوى نصي، أكبر 8 مرات من الجيل السابق، ومعالجة 25,000 كلمة.
aXA6IDMuMTM3LjE5MC42IA== جزيرة ام اند امز
