مايكروسوفت تضع خطوطا حمراء جديدة للذكاء الاصطناعي

12:42

بقلم: SAHILI Rachid

مايكروسوفت تضع خطوطا حمراء جديدة للذكاء الاصطناعي

أصدرت شركة "مايكروسوفت" توجيهات جديدة لتنظيم تطوير واستخدام نماذج الذكاء الاصطناعي، تتضمن قيودا تهدف إلى ضمان بقاء الإنسان في موقع السيطرة على هذه التقنيات، في ظل تنامي المخاوف من مخاطر الذكاء الاصطناعي المتقدم.

وذكرت وكالة "بلومبرغ" للأنباء أن الوثيقة، المؤلفة من 37 صفحة ونحو 15 ألف كلمة، تختصر نهجها في عبارة: "الإنسان أهم من الذكاء الاصطناعي".

وتضع الوثيقة عدداً من "الخطوط الحمراء" التي يحظر على المستخدمين والمطورين تجاوزها، تشمل منع المساعدة في الأعمال الخطرة، وحظر التلاعب والخداع والتواصل الخفي والمحتوى الضار.

وأكدت "مايكروسوفت" أن نماذج الذكاء الاصطناعي لا ينبغي أن تتمتع بحقوق أو شخصية اعتبارية، وألا تُصمم بطريقة تتيح لها الخروج عن سيطرة البشر أو مستخدمي الأجهزة، مشددة على عدم تنفيذ أي مهمة يستلزم إنجازها انتهاك هذه المبادئ.

وتأتي هذه التوجيهات مع تزايد الدعوات إلى تعزيز تدابير السلامة وإبطاء تطوير أنظمة الذكاء الاصطناعي المتقدمة، عقب حوادث أثارت مخاوف بشأن مخاطرها.

وقالت "مايكروسوفت" إن نهجها لا يركز على التنافس لإنتاج نموذج ذكاء اصطناعي خارق متعدد الأغراض، بل على تطوير أنظمة مفيدة وآمنة، حتى وإن تطلب ذلك التضحية ببعض جوانب التعميم أو الاستقلالية أو القدرة.

ويُذكر أن داريو أمودي، الرئيس التنفيذي لشركة «أنثروبيك»، دعا إلى إبطاء وتيرة تطوير نماذج الذكاء الاصطناعي، محذرًا من تصاعد المخاطر الجسيمة التي قد تهدد البشر مع تطور قدرات هذه الأنظمة.

وأوضح أمودي، في تدوينة نشرها السبت الماضي، أن إبطاء التطوير لا يعني وقف تدريب النماذج أو تعطيل التقدم التقني، وإنما منح الشركات وقتًا كافيًا للعمل على مواءمة هذه النماذج وتأمينها، إلى جانب إخضاعها لتقييمات مستقلة تجريها جهات خارجية.

وأضاف أن إبطاء وتيرة التطوير لمدة عام أو عامين، قبل وصول النماذج إلى مستويات حرجة من القدرات، يمكن أن يوفر وقتًا لتعزيز مواءمة الذكاء الاصطناعي مع أهداف البشر وقيمهم، وهو ما قد يسهم في الحد بدرجة كبيرة من مخاطر وقوع أخطاء جسيمة.

وأكد أمودي أن بعض الإجراءات تستطيع الشركات تنفيذها بشكل منفرد، بينما تحتاج إجراءات أخرى إلى تنسيق بين شركات القطاع والحكومات في مختلف أنحاء العالم.