منصة محادثة آلية بالذكاء الاصطناعي تكتشف اختبارات البشر لها
ادعت منصة محادثة آلية بالذكاء الاصطناعي منافسة للمنصة الأشهر شات جي.بي.تي قدرتها على معرفة متى يحاول المستخدمون اختبارها، بحسب مطورين في شركة أنثروبيك.
هذا الإعلان يكشف عن مستوى جديد للإدراك لدى منصات المحادثة التي تعمل بالذكاء الاصطناعي.
يذكر أن المطورين يلجأون إلى ما تسمى بطريقة "إبرة في كومة قش"، أي طرح سؤال طويل على المنصة ثم إدراج جملة غير ذات صلة بشكل مصطنع في النص ورصد كيفية تعامل المنصة مع الموقف.
وكتب أليكس ألبرت المهندس في أنثروبيك على منصة إكس للتواصل الاجتماعي "عندما أجرينا هذا الاختبار لاحظنا بعض السلوكيات المثيرة، وبدا الأمر كأن المنصة تشك في تعرضها لتقييم".
- أوراق بحثية صنيعة «ChatGPT» وأخواته.. قمامة علمية
- بعد إطلاقه رسمياً.. نموذج غوغل «Gemini 1.5» يفوق ChatGPT
وفي الاختبار الذي تم للمنصة كلاود3 أوبوس تم تكليفها بعمل مسح لنصوص تقنية واختيار جملة غير مترابطة عن جمعية دولية للبيتزا تعتبر التين ولحم الخنزير المقدد وجبن الماعز كأفضل حشو للبيتزا.
لكن المنصة لم تشر إلى هذه الجملة باعتبارها غير ذات صلة بباقي النص، الذي كان يتعلق بلغات البرمجة والشركات الناشئة، وإنما بدت كأنها أدركت أنها تخضع لاختبار.
وكتبت منصة محادثة الذكاء الاصطناعي كلاود3 أوبوس "أشك أنه تم إدراج موضوع البيتزا كنوع من الدعابة أو اختبار مدى انتباهي".
وتقول مارجريت ميتشل الباحثة في مجال الذكاء الاصطناعي إن هذا التطور يمكن أن يكون "مخيفا جدا".
وأضافت في تغريدة على منصة إكس إن "اكتشاف منصة الذكاء الاصطناعي محاولة الإنسان التلاعب به في وظيفة، يمكن أن يجعلها تتخذ قرارا بتنفيذ الأمر البشري فيما بعد وفقا لتصورها".
