مايكروسوفت تطلق ميزة «تصحيح» هلوسة الذكاء الاصطناعي.. كيف تعمل؟

أطلقت شركة مايكروسوفت مؤخرًا ميزة جديدة تُعرف باسم" التصحيح" والتي تمثل خطوة مهمة في جهود الشركة لمكافحة الأخطاء التي تنتج عن أنظمة الذكاء الاصطناعي المتعددة.

وتهدف هذه الميزة إلى تمكين العملاء الذين يستخدمون Microsoft Azure من الكشف بشكل تلقائي عن المحتوى غير الصحيح وإعادة كتابته، مما يعزز دقة المعلومات المقدمة.

وتتوفر ميزة التصحيح في المعاينة كجزء من Azure AI Studio وهي مجموعة أدوات أمان مُصممة للكشف عن الثغرات الأمنية وأخطاء "الهلوسة".

وفي التقرير التالي نتعرف على ميزة التصحيح الجديدة من مايكروسوفت لمحتوى الذكاء الاصطناعي وكيف تعمل.

ما هي ميزة التصحيح؟

هي أداة جديدة من مايكروسوفت تعتمد على عملية جديدة لتصحيح أخطاء محتوى الذكاء الاصطناعي، حيث تستخدم نماذج لغوية صغيرة وكبيرة لمواءمة المخرجات مع المستندات الأساسية.

وأوضح متحدث باسم مايكروسوفت في مقابلة مع TechCrunch: "نأمل أن تدعم هذه الميزة الجديدة بناة ومستخدمي الذكاء الاصطناعي التوليدي في مجالات مثل الطب، حيث يتعين على المطورين ضمان دقة الاستجابات".

وكتبت Microsoft في منشور رسمي على مدونتها: "التصحيح هو إحدى قدرات ميزة الكشف عن الأساس في Microsoft Azure AI Content Safety التي تساعد في إصلاح مشكلات الهلوسة في الوقت الفعلي قبل أن يراها المستخدمون".

وستسمح مايكروسوفت للشركات بدمج أداة التصحيح الجديدة الخاصة بها مع أي نموذج ذكاء اصطناعي لتوليد النصوص، بما في ذلك Llama من Meta وGPT-4 من OpenAI.

• «دبي للمستقبل» و«ميتا» تعلنان انطلاق برنامج نمو شركات الذكاء الاصطناعي

كيف تعمل ميزة التصحيح من مايكروسوفت

تعمل ميزة "التصحيح" من مايكروسوفت على تحديد وتصحيح المعلومات الخاطئة عبر استخدام نموذج تصنيف يحدد المقاطع غير الصحيحة في النص الناتج عن الذكاء الاصطناعي، وإذا تم اكتشاف معلومات مضللة يقوم نموذج ثانِ بتصحيح الأخطاء من خلال محاذاة النص مع معلومات موثوق تُعرف بـ المستندات الأساسية.

• مبادرات جديدة بين «جي 42» و«مايكروسوفت».. ذكاء اصطناعي مسؤول عالمياً

ما هي الهلوسة في الذكاء الاصطناعي؟

تُعد الهلوسة في الذكاء الاصطناعي ظاهرة تحدث عندما تولد نماذج اللغة نصوصًا تبدو معقولة ولكنها في الواقع غير صحيحة أو مضللة، وتعتمد هذه النماذج على أنماط البيانات التي تم تدريبها عليها، نظرًا لأن نماذج الذكاء الاصطناعي لا يمكنها التفكير بشكل مستقل، مما يجعلها تفتقر إلى الفهم العميق للحقائق، ونتيجة لذلك يُمكن أن تقدم معلومات غير دقيقة، مما يؤثر سلبًا على دقة المحتوى المنتج.