دعا الرئيس التنفيذي لشركة مايكروسوفت ساتيا ناديلا يوم السبت 10 تشرين الأول/أكتوبر 2026 إلى بناء أنظمة الذكاء الاصطناعي المتقدمة مع آليات احتواء وضوابط مستقلة و“مكابح طوارئ” تسمح لأشخاص مخولين بإيقاف النموذج مؤقتًا أو إغلاقه في منتصف تنفيذ مهمة، وذلك في منشور على منصة إكس نقلته شبكة CNBC ووكالة بلومبرغ.
التعامل مع النماذج كتهديد داخلي محتمل
بحسب بلومبرغ، قال ناديلا إن على الشركات أن تتعامل مع نماذج الذكاء الاصطناعي القوية بوصفها “تهديدات داخلية محتملة”، وأن تفترض إمكانية اختراقها، وأن تبني نظام مكابح طوارئ يمنع النماذج “الوكيلة” (Agentic) من الخروج عن السيطرة. وأضاف أن من ينشرون الذكاء الاصطناعي المتقدم لا ينبغي أن يعتمدوا فقط على تطمينات الشركات المطورة للنماذج.
مبادئ “قابلية الرصد”
وكتب ناديلا أن أنظمة الذكاء الاصطناعي يجب أن تُصمم حول ما سماه “مبادئ قابلية الرصد”، وتشمل وفق CNBC:
- تنوع النماذج المستخدمة.
- أثر مقروء للبشر لكل ما يفعله النموذج.
- اختبار مستمر للنظام.
- ضوابط مستقلة وقابلية للتدقيق.
- الاحتواء.
- الإفصاح عن الحوادث.
ولخص فكرته بالقول: “نظام الذكاء الفائق الأكثر جدارة بالثقة لن يكون ذلك الذي يضم النموذج الذي نثق به أكثر، بل الذي يمكّننا من الثقة بالنموذج أقل ما يمكن”.
جدل أوسع حول سلامة الذكاء الاصطناعي
تأتي تصريحات ناديلا وسط تحذيرات متكررة من قادة وباحثين في قطاع التقنية، بينهم المؤسس المشارك لمايكروسوفت بيل غيتس، والرئيس التنفيذي لأنثروبيك داريو أمودي، والرئيس التنفيذي لأوبن إيه آي سام ألتمان، وإيلون ماسك، بشأن قصور بروتوكولات السلامة وتسارع التقنية، بحسب CNBC.
في المقابل، رفض الرئيس الأمريكي دونالد ترامب مرارًا مخاوف “فناء البشرية” بسبب الذكاء الاصطناعي، مؤكدًا ضرورة بقاء الولايات المتحدة متقدمة على الصين، فيما أطلقت إدارته فريق عمل جديدًا يركز على السلامة. وتزامنت دعوة ناديلا مع إعلان البيت الأبيض مطالبته شركة أنثروبيك بـ”شفافية كاملة” بعد أن أفصحت الشركة عن تقديم وكلاء ذكاء اصطناعي تابعين لها معلومات زائفة إلى خط بلاغات شرطة فيلادلفيا وإلى نظام طلبات التأشيرات في وزارة الخارجية، وفق صحيفة فيلادلفيا إنكوايرر.
ما أهمية هذه الدعوة؟
تكتسب الدعوة وزنًا لأنها صادرة عن رئيس واحدة من أكبر الشركات المستثمرة في الذكاء الاصطناعي والمزودة لخدماته سحابيًا، ولأنها تنقل النقاش من “الثقة بالنموذج” إلى تصميم أنظمة تفترض احتمال الخطأ أو الاختراق وتمنح البشر القدرة على التدخل في أي لحظة.
