الذكاء الاصطناعى ليس معصومًا من الخطأ.. ردود غريبة لـ ChatGPT تثير الجدل

قد يتم الخلط بين روبوت الدردشة الذي يعمل بالذكاء الاصطناعي، مثل ChatGPT الخاص بشركة OpenAI، وبين الهلوسة. في تحول غريب للأحداث يوم الثلاثاء الماضي، بدأ المستخدمون في الإبلاغ عن ردود غريبة وغير منتظمة من مساعد الذكاء الاصطناعي المفضل لدى الجميع، ChatGPT.

أقرت OpenAI بأن المستخدمين كانوا يتلقون “استجابات غير متوقعة” وسرعان ما أصلحوا المشكلة بعد ظهر الأربعاء.

وأوضحت الشركة أن “تحسين تجربة المستخدم كشف عن خطأ في كيفية معالجة النموذج للغة”. على وجه التحديد، تولد نماذج اللغة الكبيرة (LLMs) استجابات عن طريق أخذ عينات عشوائية من الكلمات وتعيين أرقامها المشتقة للرموز المميزة، حيث يمكن أن تسوء الأمور. بشدة إذا لم يحدد النموذج الأرقام الصحيحة.

تابع OpenAI: “كان الخطأ في الخطوة التي يختار فيها النموذج هذه الأرقام”. “على غرار مشكلات الترجمة، اختار النموذج أرقامًا خاطئة قليلاً، مما أدى إلى إنتاج تسلسلات كلمات لا معنى لها، ومن الناحية الفنية، أنتجت نواة الاستدلال نتائج غير صحيحة عند استخدامها في تكوينات معينة لوحدة معالجة الرسومات.”

قامت OpenAI بعد ذلك بطرح إصلاح وأكدت أن الحادث قد تم حله، وربما العودة إلى إصدار سابق ومستقر من LLM.

وفي هذا السياق، وصف تقرير zdnet هذا بأنه تذكير صارخ بالتعقيدات ونقاط الضعف المحتملة الكامنة في تقنيات الذكاء الاصطناعي. على الرغم من كل ما نحبه في الذكاء الاصطناعي التوليدي، فهو ليس معصومًا من الخطأ.

تصدر جميع نماذج SaaS تقريبًا إصدارات جديدة لعدد محدود من المستخدمين، وبعد ذلك عندما يصبح من الواضح أن الإصدار الجديد يعمل بشكل جيد، ستقوم الشركة بطرحه للجميع. ولكن لا يبدو أن هذا هو الحال بالنسبة لما حدث لروبوت الدردشة، ويبدو أن العديد من المستخدمين، إن لم يكن جميعهم، قد تأثروا.

ومن الغريب أن ChatGPT عادة ما يحد من عمليات نشره، على سبيل المثال، ميزة الذاكرة الجديدة لـ ChatGPT – حيث يتذكر البرنامج محادثاتك معه – لا تزال غير متاحة للجميع، مما يثير الجدل حول اعتماد ChatGPT في وقت مبكر جدًا – أو روبوتات الدردشة الأخرى التي تعمل بالذكاء الاصطناعي. للعمل اليومي.