-أمودي يحذر من تسارع قدرات النماذج ويطالب برقابة مستقلة ومعايير دولية للحد من مخاطرها
في تحول لافت داخل سباق الذكاء الاصطناعي، لم تعد التحذيرات من سرعة تطوير النماذج المتقدمة مقتصرة على باحثين وخبراء مستقلين، إذ دعا الرئيس التنفيذي لشركة “أنثروبيك” داريو أمودي إلى إبطاء وتيرة التطوير، وسرعان ما حظيت دعوته بتأييد الرئيس التنفيذي لشركة “أوبن إيه آي” سام ألتمان والملياردير الأميركي إيلون ماسك.
وحذر أمودي من أن سرعة التقدم الحالية قد تتجاوز قدرة الشركات والحكومات على التعامل مع المخاطر التي يمكن أن تفرضها الأنظمة الأكثر تطوراً، داعياً شركات الذكاء الاصطناعي إلى خفض وتيرة تحسين قدرات نماذجها.
وقال في تدوينة على منصة “إكس” إن التقدم سيظل سريعاً حتى مع إبطائه، معتبراً أن الوقت الإضافي الذي يوفره ذلك يمكن استثماره في تطوير وسائل أمان أكثر فاعلية والاستعداد للمخاطر المرتبطة بالأنظمة المستقبلية.
وطرح أمودي إطاراً من ثلاث خطوات للتعامل مع تسارع تطوير الذكاء الاصطناعي، تبدأ بإلزام الشركات بمنح مقيّمين خارجيين مستقلين وصولاً دائماً إلى أنظمتها، بمستوى قريب من وصول الموظفين، بما يتيح لهم فحص إجراءات السلامة وتقييم مدى توافق النماذج وبيئات التدريب مع معايير الأمان.
وتتمثل الخطوة الثانية في تنسيق شركات الذكاء الاصطناعي العاملة في الدول الديمقراطية فيما بينها لوضع معايير سلامة مشتركة وحدود لسرعة تطوير القدرات، تجنباً لتحول المنافسة إلى سباق يدفع الشركات إلى تسريع التطوير على حساب إجراءات الحماية.
أما الخطوة الثالثة فتتعلق بالحكومات، إذ دعا أمودي الدول الديمقراطية إلى التنسيق، قدر الإمكان، لوضع حدود ومحاذير مشتركة للتعامل مع أنظمة الذكاء الاصطناعي المتطورة.
ويرى رئيس “أنثروبيك” أن استمرار التطور بالوتيرة الحالية قد يقود خلال فترة قصيرة إلى ظهور وكلاء ذكاء اصطناعي أكثر استقلالية وقادرين على تنفيذ مهام واسعة النطاق، محذراً من مخاطر محتملة تشمل فقدان السيطرة على الأنظمة المتقدمة، وإساءة استخدامها في الهجمات السيبرانية والإرهاب البيولوجي والعمليات التأثيرية وتطوير وسائل تدمير أكثر فتكاً.
وأشار إلى أن تعدد الشركات والنماذج لا يشكل في حد ذاته ضمانة كافية للسلامة، نظراً إلى احتمال اعتماد أنظمة مختلفة على تقنيات وأساليب تدريب متشابهة، ما قد يؤدي إلى تكرار أوجه القصور نفسها في وسائل الحماية عبر أكثر من نظام.
ولم تتأخر ردود الفعل على دعوة أمودي، إذ أعلن ألتمان تأييده لها قائلاً عبر منصة “إكس”: “أوافق داريو الرأي”، موضحاً أن “أوبن إيه آي” ستستعين بمراقبين مستقلين للتحقق من سلامة أنظمتها، في خطوة مماثلة للالتزام الذي طرحه أمودي.
بدوره، اختصر ماسك موقفه بالقول إن “داريو على حق”، معلناً تأييده لضرورة إبطاء وتيرة تطوير قدرات الذكاء الاصطناعي المتقدمة.
وجاء هذا التقارب في المواقف بعد أيام من دعوة مسؤول الشؤون العامة في “أوبن إيه آي” كريس لاهان إلى وضع قواعد دولية تحدد متى وكيف ينبغي إبطاء تطوير الذكاء الاصطناعي أو وقفه.
وتزامنت دعوة أمودي أيضاً مع استقالة الباحث جاكوب كوكسون من “أنثروبيك”، وهو الذي سبق أن عمل في “أوبن إيه آي”، محذراً من دخول الشركات في سباق لتطوير أنظمة قادرة على تحسين نفسها، وما قد يترتب على ذلك من صعوبة أكبر في السيطرة عليها.
وحذر كوكسون من أن الذكاء الاصطناعي قد يشكل تهديداً بالغاً للبشرية خلال العقد الحالي، منتقداً ما وصفه بسباق بين الشركات للتفوق على المنافسين على حساب إجراءات السلامة.
وحظيت رسالته بأكثر من 100 مليون مشاهدة، فيما أبدى زميله في “أنثروبيك” إيفان هوبينغر مخاوف مماثلة، مقدراً احتمال أن يؤدي الذكاء الاصطناعي إلى كارثة وجودية خلال العقد المقبل بأكثر من 10 في المئة.
وتعيد هذه المواقف المتقاربة إلى صدارة النقاش داخل صناعة الذكاء الاصطناعي سؤالاً بات أكثر إلحاحاً: إلى أي مدى يمكن مواصلة تسريع تطوير النماذج، فيما تحاول الشركات والحكومات في الوقت نفسه بناء أدوات قادرة على فهم مخاطرها والسيطرة عليها؟
المصدر: جريدة السياسة
