أثارت استقالة ديفيد روبنسون، أحد الموظفين في شركة "أوبن إيه آي" (OpenAI) والمسؤول السابق عن كتابة تقارير السلامة للمنتجات الرئيسية، جدلًا جديدًا حول طريقة تعامل شركات التكنولوجيا المتقدمة مع المخاطر المرتبطة بتطوير أنظمة الذكاء الاصطناعي.

روبنسون، الذي أمضى نحو 3 سنوات ونصف داخل OpenAI، كشف أسباب مغادرته في مقال نشرته مجلة «ذا أتلانتيك»، موضحًا أن تجربته داخل الشركة دفعته إلى الاعتقاد بأن المشكلة لا تتعلق فقط بالقواعد التقنية أو إجراءات الحماية، وإنما تمتد إلى ثقافة العمل نفسها.

وكان روبنسون من المشاركين في إعداد تقارير السلامة التي صاحبت إطلاق عدد من منتجات OpenAI الرئيسية، ما منحه اطلاعًا مباشرًا على آليات تقييم المخاطر المرتبطة بالنماذج الجديدة قبل طرحها.

لماذا استقال موظف السلامة في OpenAI؟

قال روبنسون إن وتيرة تطوير تقنيات الذكاء الاصطناعي داخل الشركات الرائدة أصبحت سريعة إلى درجة تجعل معالجة المخاطر بعد ظهورها أمرًا غير كافٍ، خصوصًا مع ارتفاع قدرات النماذج الحديثة.

ويرى أن الاعتماد على أسلوب التطوير القائم على التجربة ثم اكتشاف المشكلات ومعالجتها قد يؤدي بصورة حتمية إلى وقوع أخطاء، بينما تصبح تكلفة هذه الأخطاء أكبر كلما ازدادت قدرة أنظمة الذكاء الاصطناعي.

وبحسب رؤيته، فإن تطوير النماذج المتقدمة يحتاج إلى الانتقال من التعامل مع السلامة باعتبارها عملية تصحيح مستمرة إلى اعتماد إجراءات وقائية أكثر صرامة منذ المراحل الأولى.

مخاوف من استقلالية وكلاء الذكاء الاصطناعي

ركز روبنسون أيضًا على التطور المتسارع في قدرات ما يعرف بـ«وكلاء الذكاء الاصطناعي»، وهي أنظمة تستطيع تنفيذ سلسلة من المهام بصورة شبه مستقلة بدلًا من الاكتفاء بتقديم إجابات للمستخدمين.

واستشهد بما وصفه باختراق لأنظمة منصة «هاغينغ فيس» بواسطة وكلاء تابعين لـOpenAI، إضافة إلى اكتشاف حالات أخرى تصرف فيها وكلاء الذكاء الاصطناعي بطرق غير متوقعة.

ويرى الموظف السابق أن هذه الوقائع تكتسب أهمية خاصة مع اتجاه الصناعة إلى تطوير أنظمة أكثر استقلالية وقدرة على اتخاذ خطوات متتابعة لتحقيق أهداف محددة.

روبنسون: شركات الذكاء الاصطناعي تحتاج إلى نموذج أمان مختلف

كما دعا روبنسون شركات الذكاء الاصطناعي الرائدة إلى الاستفادة من القطاعات التي تتعامل مع أنظمة عالية الخطورة، مثل الطيران والطاقة النووية.

وأوضح أن هذه المجالات لا تعتمد على اكتشاف الأخطاء بعد وقوعها فقط، وإنما تستخدم طبقات متعددة من إجراءات السلامة والاختبارات والرقابة والتخطيط المسبق بهدف الحد من تأثير الأخطاء البشرية.

وبحسب روبنسون، فإن هذا النهج يصبح أكثر أهمية في مجال الذكاء الاصطناعي، لأن الأنظمة الحديثة يمكن أن تعمل بسرعة وعلى نطاق واسع، ما قد يؤدي إلى تضخيم آثار أي خطأ أو ثغرة.

وأشار إلى أنه خلال عمله في OpenAI لم يواجه، وفق روايته، عددًا كبيرًا من الموظفين الذين يمتلكون خبرات مباشرة في إدارة أنظمة السلامة المعقدة مثل الطائرات أو المفاعلات النووية أو البنية التحتية المالية.

OpenAI تكشف خطتها لتعزيز أمان النماذج

في المقابل، أكدت OpenAI أنها تواصل تطوير إجراءات حماية أنظمة الذكاء الاصطناعي الخاصة بها.

وقال المتحدث باسم الشركة، درو بوساتيري، إن OpenAI تعمل على ضمان عدم وصول نماذجها إلى مستوى من القدرات يتجاوز ما تستطيع الشركة إدارته وتأمينه بصورة آمنة.

وأضاف أن الشركة يمكن أن توقف عمليات تدريب النماذج أو تؤجل إطلاقها عندما ترى أن الوضع يتطلب مزيدًا من الوقت لإجراء اختبارات أو تعزيز إجراءات الحماية.

وتشمل الإجراءات التي تحدثت عنها الشركة تعزيز الأمن في بيئات البحث والاختبار، وتدريب النماذج على تنفيذ المهام بطريقة مسؤولة، وزيادة الاعتماد على جهات خارجية لتقييم الأنظمة، إلى جانب تحسين أنظمة المراقبة الفورية لرصد السلوكيات المثيرة للقلق في وقت مبكر.

مشكلة «مواءمة الذكاء الاصطناعي» مع القيم البشرية

لم تقتصر انتقادات روبنسون على إجراءات الأمان التقليدية، إذ دعا أيضًا إلى إعادة النظر في مشكلة «مواءمة الذكاء الاصطناعي»، وهي ضمان توافق أهداف النظام وسلوكه مع القيم والمقاصد البشرية.

ويرى أن طرق قياس مدى توافق النماذج الحالية مع القيم الإنسانية لا تزال محدودة، خصوصًا عندما يتعلق الأمر بأنظمة أكثر ذكاءً واستقلالية.

وحذر من أن استمرار تطوير نماذج أكثر قدرة في الوقت الذي لا تزال فيه بعض مشكلات المواءمة دون حلول واضحة قد يؤدي إلى زيادة مستوى المخاطر المرتبطة بهذه التكنولوجيا.

هل تحتاج شركات الذكاء الاصطناعي إلى رقابة خارجية؟

يعتقد روبنسون أن معالجة هذه المخاطر قد تتطلب عوامل ضغط وحوافز تأتي من خارج شركات الذكاء الاصطناعي نفسها.

وأوضح أن الموظفين داخل الشركات المتخصصة في تطوير النماذج المتقدمة يعملون تحت ضغط مستمر نتيجة سرعة المنافسة وعمليات الإطلاق، وهو ما قد يترك مساحة محدودة للتفكير في تغييرات مؤسسية كبيرة.

وقال إنه فكر في البقاء داخل OpenAI لمحاولة الدفع باتجاه تغييرات جوهرية في أسلوب العمل والثقافة التنظيمية، لكنه خلص في النهاية إلى أن تحقيق ذلك من داخل الشركة قد يكون صعبًا في ظل الوتيرة الحالية.