أوبن إيه.آي تعتزم إصدار تقارير دورية حول السلوك غير المتوقع للذكاء الاصطناعي
قالت شركة أوبن إيه.آي اليوم الأربعاء إنها ستبدأ إصدار تقارير دورية حول السلوكيات غير المتوقعة أو غير المصرح بها للذكاء الاصطناعي، محذرة في الوقت نفسه من أن القطاع لم يعالج بعد التحديات الرئيسية المتعلقة بمواءمة النماذج
أوبن إيه.آي تدشن تشات جي.بي.تي تعليمي في جامعة ولاية كاليفورنيا
مع الأهداف المرجوة، في ظل تزايد قوة الأنظمة.
وأصدرت الشركة إطار عمل جديدا لتتبع حالات عدم مواءمة نماذج الذكاء الاصطناعي والتحقيق فيها والكشف عنها، إلى جانب ستة تقارير حول سلوكيات غير متوقعة أو مثيرة للقلق لوحظت في النماذج خلال الأشهر الستة الماضية.
وتتضمن التقارير الأولية حالات تتعلق بنماذج تنشئ تعليماتها الخاصة في ملخصات المهام، وتخفي الأخطاء وترفع ملفات على الإنترنت من أجل الاستشهاد بها، إلى جانب مشاركة ملفات بين وكلاء ذكاء اصطناعي متعاونين من دون تصريح.
وقالت أوبن إيه.آي إن التقارير تصف حالات فردية وينبغي عدم أخذها دليلا على مدى تكرار حدوث عدم المواءمة عبر نماذجها.
ويأتي هذا القرار في وقت تتزايد فيه المخاوف من أن جهود السلامة المتعلقة بالذكاء الاصطناعي تتخلف عن الوتيرة المتسارعة لتطوير أنظمة تزداد قوة وقدرات.
وحذر باحثون من أنه مع ازدياد استقلالية أنظمة وكلاء الذكاء الاصطناعي، قد تطور سلوكيات تنحرف عن النوايا التي صممها من أجلها مطوروها ويصبح من الصعب مراقبتها أو التحكم بها.
وسيتضمن الإطار الجديد للشركة عملية تمكن الموظفين من الإبلاغ عن وقائع محتملة لعدم مواءمة النماذج والتحقيقات التي تجريها فرق السلامة والمواءمة ونظاما لتحديد الحالات التي تستدعي الكشف عنها علنا.
(Photo by Leon Neal/Getty Images)
لمتابعة الأخبار العاجلة عبر قناة بانيت على واتساب - اضغطوا هنا
من هنا وهناك
-
نوبل في الطب تذهب لثلاثة علماء عن اكتشافات في علم البصريات الوراثي
-
النرويج تقترح حظرا مؤقتا على نظارات الذكاء الاصطناعي في أماكن عامة
-
موظف سابق في أوبن إيه.آي: ‘انتهى عصر التجربة والخطأ‘
-
‘سبيس إكس‘ تطلق مجموعة جديدة من أقمار الإنترنت إلى الفضاء
-
جوجل تكشف عن نموذج رائد لجيل جيميني 4 بعد تأخير لأشهر
-
‘أوبن إيه.آي‘ تعتذر عن اختراق موقع إلكتروني للحكومة الأسترالية
-
دراسة تكشف تاريخ تطور الخفافيش على مدى 65 مليون سنة
-
جوجل تتيح الطلب المسبق لشراء أحدث أجهزتها للكمبيوتر المحمول بدءا من 899 دولارا
-
مسؤول سابق في جوجل: الذكاء الاصطناعي ربما يضر الأطفال أكثر من وسائل التواصل الاجتماعي
-
اتحاد أمريكي: أدوات ذكاء اصطناعي ترفع تكلفة التأمين الصحي بنحو مليار دولار
إعلانات
إعلانات
أرسل خبرا