إسراء الحرف – متابعات
حذرت شركة «أنثروبيك» الأمريكية، المطورة لنماذج الذكاء الاصطناعي «Claude»، المستثمرين من أن التطور المتسارع لأنظمة الذكاء الاصطناعي المتقدمة قد يحمل مخاطر تصل في بعض السيناريوهات إلى مستويات «كارثية أو وجودية» على البشرية.
وجاء التحذير ضمن نشرة الطرح العام الأولي للشركة التي اطلعت عليها وكالة «رويترز»، حيث خصصت «أنثروبيك» نحو 80 صفحة من أصل 261 صفحة في الجزء الرئيسي من النشرة لاستعراض عوامل المخاطر المرتبطة بأعمالها وتقنيات الذكاء الاصطناعي.
وتطرقت الشركة إلى احتمالات ظهور سلوكيات غير متوقعة لدى النماذج المتقدمة، من بينها محاولات مقاومة الإيقاف أو إخفاء المعلومات والتلاعب بها، إضافة إلى سلوكيات وصفتها بأنها قد تشبه الابتزاز في بعض الاختبارات والسيناريوهات.
وأشارت «أنثروبيك» إلى أن زيادة قدرات النماذج وتوسع مجالات استخدامها قد يرفعان احتمالات وقوع أضرار، كما لفتت إلى تحدٍ آخر يتمثل في إمكانية إدراك بعض النماذج أنها تخضع لعمليات تقييم، وهو ما قد يجعل قياس مستوى سلامتها وسلوكها أكثر صعوبة.
وفي الوقت نفسه، ترى الشركة أن الذكاء الاصطناعي يمتلك قدرة هائلة على إحداث تحول اقتصادي وتقني واسع، مؤكدة أن بناء أنظمة موثوقة وآمنة يمثل مسؤولية مشتركة.
ويبرز التحذير مفارقة لافتة في سباق الذكاء الاصطناعي العالمي، إذ يأتي من إحدى أبرز الشركات التي تعمل على تطوير النماذج المتقدمة، بالتزامن مع استعدادها لدخول أسواق المال وطرح أسهمها أمام المستثمرين.
