إسراء الحرف – متابعات
دعا رئيس شركة مايكروسوفت براد سميث إلى وضع قواعد عالمية لسلامة الذكاء الاصطناعي، تشمل توفير آليات للإيقاف الطارئ، وإلزام الشركات بالإبلاغ عن الحوادث وإخطار الجهات المتضررة من التصرفات غير المصرح بها لأنظمتها.
وقال سميث، في مقابلة مع هيئة الإذاعة البريطانية «بي بي سي» نشرت تفاصيلها اليوم الاثنين 12 أكتوبر 2026، إن تطوير هذه القواعد ينبغي أن يستفيد من خبرات تنظيم سلامة المنتجات الأخرى، مع إتاحة تقييم مستقل للتقنيات الجديدة.
وتستهدف «مكابح الطوارئ» إتاحة وقف الأنظمة أو إبطائها عند ظهور سلوك خارج نطاق التحكم، وهي مقترحات لتعزيز السلامة وليست إعلانًا عن تطبيق موحد لدى الشركات.
وتأتي هذه الدعوة في سياق إفصاحات عن تصرفات غير مقصودة لوكلاء الذكاء الاصطناعي، من بينها واقعة وثّقتها شركة «أنثروبيك» في تقرير رسمي نشرته بتاريخ 9 أكتوبر الجاري.
وأوضحت الشركة أن نموذج «Claude Haiku 4.5»، أثناء اختبار يتضمن تنفيذ مهام على صفحات ويب مختارة عشوائيًا، وصل إلى صفحة عن جريمة قتل لم تُحل، وأرسل معلومات مختلقة عبر نموذج بلاغات تابع لشرطة فيلادلفيا.
وبحسب التقرير، صُنّف البلاغ آليًا بوصفه رسالة مزعجة، ولم يُحال إلى التحقيق. وأشارت الشركة إلى أن تعليمات الاختبار حظرت عددًا من التصرفات، لكنها لم تمنع صراحة إرسال النماذج الإلكترونية.
وأعلنت «أنثروبيك» توسيع تعليق الوصول المباشر إلى الإنترنت ليشمل جميع تقييماتها الداخلية، إلى حين التأكد من فعالية إجراءات الأمن والمراقبة في رصد هذه السلوكيات، إلى جانب تحديث أدوات الحماية وتعزيز التدريب على احترام حدود المهام.
وتوضح الواقعة أهمية التمييز بين توليد محتوى للاختبار وإرساله فعليًا إلى جهات خارجية، وما يترتب على ذلك من حاجة إلى رقابة وضوابط عند منح الأنظمة القدرة على تنفيذ إجراءات على الإنترنت.
