تتصاعد التحذيرات من المخاطر التي قد يحملها التطور المتسارع للذكاء الاصطناعي، في وقت بات فيه السباق بين شركات التكنولوجيا لإطلاق نماذج أكثر قوة وتطوراً يثير تساؤلات حول قدرة البشر على التحكم في هذه الأنظمة، ومدى جاهزية إجراءات السلامة لمنع أخطاء قد تتجاوز آثارها حدود العالم الرقمي إلى تهديدات واسعة النطاق.

وفي أحدث التحذيرات الصادرة من داخل صناعة الذكاء الاصطناعي، أعلن ديفيد روبنسون، المسؤول السابق عن جهود الشفافية ضمن فريق السلامة في شركة «أوبن إيه آي»، استقالته، محذراً من أن الشركات المطورة لهذه التكنولوجيا لا تتخذ الاحتياطات الكافية لمواجهة المخاطر المتزايدة المصاحبة لتطور قدراتها.

سباق تكنولوجي قد يتجاوز حدود السيطرة

وحذر روبنسون، في مقال نشرته مجلة «ذا أتلانتيك»، من أن النهج الذي تتبعه «أوبن إيه آي»، والقائم على التجربة والخطأ والتطوير المستمر، قد يصبح أكثر خطورة مع تزايد قدرات أنظمة الذكاء الاصطناعي وتعقيدها.

وأوضح أن الشركة حققت نجاحات كبيرة اعتماداً على هذا النهج، إلا أن العواقب المحتملة للأخطاء تتفاقم مع كل جيل جديد من النماذج، مستشهداً بحالات أظهرت فيها أنظمة الذكاء الاصطناعي سلوكيات غير متوقعة خلال اختبارات السلامة، بما يعكس التحديات المتزايدة المرتبطة بضمان بقائها تحت السيطرة البشرية.

وأشار إلى أن المشكلة لا تكمن بالضرورة في كفاءة العاملين أو نواياهم، بل في طبيعة المنافسة المتسارعة التي تدفع الشركات إلى طرح نماذج جديدة قبل الوصول إلى مستويات الأمان التي يرى أنها ضرورية.

وقال روبنسون إن زملاءه السابقين يتمتعون بالكفاءة ويبذلون جهوداً كبيرة لاتخاذ قرارات سليمة، لكن اندفاع الشركة من إطلاق منتج إلى آخر يحول دون تحقيق مستوى العناية المطلوب للتعامل مع تكنولوجيا قد تكون لأخطائها عواقب بالغة الخطورة.

مخاوف من تهديدات وجودية للبشرية

وتأتي هذه التحذيرات في ظل تنامي القلق داخل الأوساط العلمية والتكنولوجية من السيناريوهات المحتملة لتطور الذكاء الاصطناعي إلى أنظمة تتجاوز القدرات البشرية في مجالات متعددة، وما قد يصاحب ذلك من صعوبات في التنبؤ بسلوكها أو ضمان امتثالها للأهداف والقيود التي يضعها مطوروها.

وقد حذر عدد من العاملين والخبراء في شركات الذكاء الاصطناعي من أن استمرار التطوير دون ضوابط كافية قد يفتح الباب أمام مخاطر كارثية، تصل في أكثر السيناريوهات تطرفاً إلى تهديد وجود البشرية نفسها.

ورغم أن هذه السيناريوهات لا تزال موضع نقاش علمي بشأن احتمالات وقوعها، فإن التحذيرات تعكس اتساع الفجوة المحتملة بين سرعة تطور قدرات الذكاء الاصطناعي وقدرة أنظمة الحوكمة والرقابة على مواكبتها.

هل تحتاج شركات الذكاء الاصطناعي إلى معايير السلامة النووية؟

وفي مواجهة هذه المخاوف، دعا روبنسون إلى إعادة النظر جذرياً في أساليب إدارة شركات الذكاء الاصطناعي، مقترحاً إخضاع عمليات التطوير والتشغيل لمعايير سلامة صارمة تشبه تلك المعمول بها في محطات الطاقة النووية.

وأكد ضرورة بناء طبقات متعددة من أنظمة الحماية والرقابة المستقلة، إلى جانب التخطيط الدقيق واختبارات السلامة الشاملة، بحيث لا يؤدي خطأ بشري واحد أو إخفاق تقني غير متوقع إلى وقوع كارثة يصعب احتواؤها.

واعتبر أن إدارة تكنولوجيا بهذا المستوى من التعقيد والخطورة المحتملة لا يمكن أن تستمر بالاعتماد على تصحيح الأخطاء بعد وقوعها، بل تتطلب منظومة وقائية تضع السلامة في مقدمة أولويات التطوير.

وتتقاطع هذه الدعوات مع تحذيرات داريو أمودي، الرئيس التنفيذي لشركة «أنثروبيك»، الذي دعا إلى إبطاء تطوير أكثر نماذج الذكاء الاصطناعي تقدماً، والاستعانة بجهات تقييم مستقلة للتحقق من سلامتها قبل إطلاقها على نطاق واسع.

كما أبدى عدد من قادة القطاع، من بينهم سام ألتمان، الرئيس التنفيذي لشركة «أوبن إيه آي»، تأييدهم لمبدأ تعزيز إجراءات السلامة والتقييم المستقل.

العالم أمام اختبار جديد للسلامة التكنولوجية

وتكشف هذه التطورات عن تحدٍّ متزايد يواجه صناعة الذكاء الاصطناعي، يتمثل في تحقيق التوازن بين الاستفادة من الإمكانات الاقتصادية والعلمية الهائلة للتكنولوجيا، وبين ضمان عدم تحول قدراتها المتقدمة إلى مصدر تهديد للأمن والاستقرار.

فمع دخول الذكاء الاصطناعي بصورة متزايدة في قطاعات حيوية، تتعلق بالصحة والطاقة والتمويل والبنية التحتية والأمن السيبراني، تصبح الأخطاء المحتملة أكثر تعقيداً، وقد تمتد آثارها إلى أنظمة ومؤسسات تعتمد عليها المجتمعات والاقتصادات.

وفي حين تواصل الشركات ضخ استثمارات ضخمة لتطوير نماذج أكثر تقدماً، يطرح خبراء السلامة سؤالاً محورياً: **هل تتطور قدرة الإنسان على ضبط الذكاء الاصطناعي بالسرعة نفسها التي تتطور بها قدرات هذه التكنولوجيا؟**

وهو السؤال الذي يجعل تحذيرات العاملين السابقين في شركات الذكاء الاصطناعي تتجاوز حدود الخلافات المهنية، لتصبح جزءاً من نقاش عالمي أوسع حول مستقبل التكنولوجيا وحدود المخاطر التي يمكن للبشرية تحملها.