تطبيق Whisper مصاب بالهلوسة.. تحذيرات من أدوات النسخ المدعومة بالذكاء الاصطناعي

روجت شركة OpenAI العملاقة للتكنولوجيا لأداة النسخ المدعومة بالذكاء الاصطناعي Whisper باعتبارها تتمتع بقوة ودقة على المستوى البشري.

لكن التجربة أثبتت أن تطبيق Whisper به عيب كبير فهو يميل إلى تكوين أجزاء من النص أو حتى جمل كاملة غير واقعية أو من تأليفه، وفقًا لمقابلات أجريت مع أكثر من 10 من مهندسي البرمجيات والمطورين والباحثين الأكاديميين.

وقال هؤلاء الخبراء، وفقا لوكالة "أسوشيتدبرس" إن بعض النصوص المخترعة - والمعروفة في الصناعة باسم الهلوسة- يمكن أن تشمل تعليقات عنصرية وخطابًا عنيفًا وحتى علاجات طبية متخيلة.

وأضاف الخبراء أن مثل هذه التلفيقات تمثل مشكلة لأنه يتم استخدام Whisper في عدد كبير من الصناعات في جميع أنحاء العالم لترجمة المقابلات ونسخها وإنشاء نصوص في التقنيات الاستهلاكية الشائعة وإنشاء ترجمات لمقاطع الفيديو.

• الإمارات وأمريكا.. علاقات يعمّقها الذكاء الاصطناعي
• البيت الأبيض يأمر البنتاغون والاستخبارات بتكثيف تبني الذكاء الاصطناعي
  

وقالوا إن الأمر الأكثر إثارة للقلق هو اندفاع المراكز الطبية لاستخدام الأدوات المستندة إلى تطبيق Whisper لتسجيل استشارات المرضى مع الأطباء، على الرغم من تحذيرات OpenAI من عدم استخدام الأداة في "المجالات عالية المخاطر".

ومن الصعب تحديد المدى الكامل للمشكلة، لكن الباحثين والمهندسين قالوا إنهم كثيرًا ما صادفوا "هلاوس ويسبر" في عملهم.

على سبيل المثال، قال أحد الباحثين في جامعة ميشيغان، الذي أجرى دراسة عن الاجتماعات العامة، إنه وجد هلوسة في ثمانية من كل 10 نسخ صوتية قام بفحصها، قبل أن يبدأ في محاولة تحسين النموذج.

وقال أحد مهندسي التعلم الآلي إنه اكتشف في البداية الهلوسة في حوالي نصف ما يزيد على 100 ساعة من نسخ Whisper التي قام بتحليلها.

وقال مطور ثالث إنه وجد هلوسة في كل نسخة من النصوص الـ26000 التي أنشأها باستخدام Whisper تقريبًا.

وتستمر المشاكل حتى في العينات الصوتية القصيرة والمسجلة جيدًا.

وقد كشفت دراسة حديثة أجراها علماء الكمبيوتر عن 187 هلوسة في أكثر من 13000 مقطع صوتي واضح قاموا بفحصه.

وقال الباحثون إن هذا الاتجاه قد يؤدي إلى عشرات الآلاف من النسخ الخاطئة لملايين التسجيلات.

وذكر ألوندرا نيلسون، التي قادت مكتب البيت الأبيض لسياسة العلوم والتكنولوجيا في إدارة بايدن حتى العام الماضي، إن مثل هذه الأخطاء يمكن أن يكون لها "عواقب وخيمة حقًا"، خاصة في المستشفيات.

زيتم استخدام Whisper أيضًا لإنشاء تسميات توضيحية مغلقة للصم وضعاف السمع - وهم معرضون بشكل خاص لخطر النسخ الخاطئ.

وأشار كريستيان فوجلر، وهو أصم ويدير برنامج الوصول إلى التكنولوجيا بجامعة جالوديت، إلى أن ذلك لأن الصم وضعاف السمع ليس لديهم طريقة للتعرف على الهلاوس "المخبأة بين كل هذه النصوص الأخرى".

وقد دفع انتشار مثل هذه الهلوسة الخبراء والمدافعين والموظفين السابقين في OpenAI إلى دعوة الحكومة الفيدرالية إلى النظر في لوائح الذكاء الاصطناعي.

وقالوا إن OpenAI تحتاج على الأقل إلى معالجة الخلل.

وذكر ويليام سوندرز، وهو مهندس أبحاث مقيم في سان فرانسيسكو، والذي استقال من شركة OpenAI في فبراير/شباط بسبب مخاوف بشأن اتجاه الشركة: "يبدو أن هذا الأمر قابل للحل إذا كانت الشركة على استعداد لإعطائه الأولوية".