حاكم كاليفورنيا يعترض على مشروع قانون يهدف لمنع كوارث الذكاء الاصطناعى

استخدم حاكم كاليفورنيا جافين نيوسوم حق النقض ضد مشروع القانون SB 1047، الذي يهدف إلى منع الجهات الفاعلة السيئة من استخدام الذكاء الاصطناعي لإحداث “ضرر جسيم” للبشر.

أقر مجلس ولاية كاليفورنيا التشريع بأغلبية 41 صوتًا مقابل 9 في 28 أغسطس، لكن العديد من المنظمات بما في ذلك غرفة التجارة حثت نيوسوم على استخدام حق النقض ضد مشروع القانون.

وفي رسالة النقض، قال نيوسوم إن مشروع القانون “حسن النية” لكنه “لا يأخذ في الاعتبار ما إذا كان نظام الذكاء الاصطناعي منتشرًا في بيئات عالية الخطورة، أو يتضمن اتخاذ قرارات حاسمة أو استخدام بيانات حساسة”.

وبدلا من ذلك، يطبق مشروع القانون معايير صارمة حتى على الوظائف الأساسية، طالما أن هناك نظاما كبيرا لنشرها.

كان من شأن SB 1047 أن يجعل مطوري نماذج الذكاء الاصطناعي مسؤولين عن اعتماد بروتوكولات السلامة التي من شأنها أن توقف الاستخدامات الكارثية لتقنيتهم.

ويتضمن ذلك تدابير وقائية مثل الاختبار وتقييم المخاطر الخارجية، فضلا عن “التوقف في حالات الطوارئ” الذي من شأنه أن يغلق نموذج الذكاء الاصطناعي بأكمله.

سيكلف الانتهاك الأول ما لا يقل عن 10 ملايين دولار و30 مليون دولار للانتهاكات اللاحقة. ومع ذلك، تمت مراجعة مشروع القانون لإزالة قدرة المدعي العام للولاية على مقاضاة شركات الذكاء الاصطناعي بسبب ممارسات الإهمال في حالة عدم وقوع حدث كارثي، ويمكن مقاضاتها إذا تسبب نموذجها في ضرر جسيم. .

وينطبق القانون على نماذج الذكاء الاصطناعي التي تكلف ما لا يقل عن 100 مليون دولار لاستخدامها، وكان من شأنه أن يغطي أيضا المشاريع المشتقة في الحالات حيث يستثمر طرف ثالث 10 ملايين دولار أو أكثر في تطوير أو تعديل النموذج الأصلي.

ستخضع أي شركة تمارس أعمالًا تجارية في كاليفورنيا للقواعد إذا كانت تستوفي المتطلبات الأخرى. وفي حديثه عن تركيز مشروع القانون على اللوائح واسعة النطاق، قال نيوسوم: “لا أعتقد أن هذا هو أفضل نهج لحماية الجمهور من التهديدات الحقيقية التي تشكلها التكنولوجيا”.

أثار مشروع قانون مجلس الشيوخ رقم 1047 معارضة قوية من جميع أنحاء مجال التكنولوجيا، وانتقد الباحث فاي لي مشروع القانون، كما فعل كبير علماء الذكاء الاصطناعي في ميتا يان لوكون، لتقييد إمكانية استكشاف استخدامات جديدة للذكاء الاصطناعي.

وقالت المجموعة التجارية التي تمثل عمالقة التكنولوجيا مثل أمازون وأبل وجوجل، إن مشروع قانون مجلس الشيوخ رقم 1047 سيحد من التطورات الجديدة في قطاع التكنولوجيا بالولاية.

كما تساءلت شركة رأس المال الاستثماري أندرسون هورويتز والعديد من الشركات الناشئة عما إذا كان مشروع القانون يفرض أعباء مالية غير ضرورية على مبتكري الذكاء الاصطناعي.

طالب المعارضون الإنسانيون وغيرهم من المعارضين لمشروع القانون الأصلي بإدخال تعديلات تم اعتمادها في نسخة مشروع قانون مجلس الشيوخ رقم 1047 التي أقرتها لجنة المخصصات في كاليفورنيا في 15 أغسطس.