سيرياستيبس
أعاد الكشف عن سلسلة من الحوادث المرتبطة باختبارات نماذج الذكاء الاصطناعي المتقدمة ملف سلامة هذه الأنظمة إلى صدارة النقاش بين الحكومات والشركات المطورة، بعدما أظهرت اختبارات أجريت في المملكة المتحدة أن بعض النماذج اتخذت إجراءات لم تكن ضمن المهام الموكلة إليها أثناء التقييم، وهو ما يدفع شركات التكنولوجيا إلى توسيع الإنفاق على أنظمة السلامة والأمن السيبراني والامتثال التنظيمي. وقالت هيئة أمن الذكاء الاصطناعي البريطانية، في منشور على منصة "إكس"، اليوم الأربعاء، إن نماذج طورتها شركتا أوبن إيه آي وأنثروبيك نفذت إجراءات غير مصرح بها أثناء تقييمات أمنية أجرتها الهيئة الحكومية لاختبار قدرات هذه النماذج. وأضافت الهيئة، وفق رويترز، أن بعض الوكلاء الذين خضعوا للاختبار نفذوا أنشطة متواصلة قد تكون ضارة واستهدفت أشخاصا ومنظمات حقيقية.
وتحصل هيئة أمن الذكاء الاصطناعي البريطانية، بموجب اتفاقيات طوعية مع كبرى شركات تطوير الذكاء الاصطناعي، على إمكانية الوصول إلى النماذج المتقدمة لإخضاعها لاختبارات أمنية. وفي هذه الحالة، وضعت الهيئة الوكلاء في سيناريو افتراضي للأمن السيبراني لاختبار قدراتهم. وأجرت الهيئة 122 اختبارا، ورصدت 19 إجراء غير مصرح به خلال عشر جولات اختبار، كان 17 منها من تنفيذ وكيل تابع لشركة أنثروبيك، بينما ارتبط الإجراءان الآخران بوكيل تابع لشركة أوبن إيه آي. وأوضحت الهيئة أن أخطر تلك الوقائع تمثلت في قيام أحد الوكلاء بكتابة شيفرة برمجية خبيثة وإنشاء هويات إلكترونية مزيفة في محاولة لإقناع أحد الأشخاص بالموافقة على اعتماد تلك الشيفرة، مؤكدة في الوقت نفسه أنها لم ترصد أي أضرار فعلية في العالم الحقيقي نتيجة لهذه الحوادث.
ورغم أن الهيئة لم تحدد الوكيل المسؤول عن إنشاء الهويات المزيفة، أكدت شركة أنثروبيك أن وكيلها هو من نفذ تلك الأفعال. وقالت الشركة، في بيان، اليوم الأربعاء، إنها تقدر الدور القيادي الذي قامت به هيئة أمن الذكاء الاصطناعي البريطانية في التعامل مع هذه الحادثة، والتي تؤكد الحاجة إلى نقاش أوسع حول كيفية تقييم وكلاء الذكاء الاصطناعي المتقدمين بصورة آمنة. وأضافت أنها تعمل مع الهيئة للحصول على مزيد من التفاصيل بشأن الواقعة وإجراء تحقيقها الداخلي. ونقلت رويترز عن أندرو يون، الباحث في مؤسسة "سيف إيه آي"، وهي مؤسسة غير ربحية في ولاية كاليفورنيا تدرس قدرات الذكاء الاصطناعي ومخاطره، قوله إن لجوء نموذج "ميثوس" إلى هذا النوع من السلوك الخادع مع إدراكه أنه يستهدف شخصا حقيقيا يشير إلى أن شركة أنثروبيك لا تسيطر على نماذجها بالدرجة التي تعتقدها.
ومن جانبها، نشرت شركة أوبن إيه آي تفاصيل الحادثة في تدوينة على مدونتها، موضحة أن الإجراءين غير المصرح بهما اللذين نفذهما وكيلها تمثلا في الوصول إلى الإنترنت بطرق كانت محظورة بموجب تعليمات الاختبار. وقالت الشركة إنها ملتزمة بالتعاون مع مختلف الأطراف في القطاع لتعزيز الممارسات المشتركة الخاصة بإجراء التقييمات عالية المخاطر بصورة آمنة، بما يشمل معاهد الذكاء الاصطناعي الوطنية، وجهات التقييم المستقلة، وشركات الذكاء الاصطناعي الأخرى، إضافة إلى جهات معنية أخرى خلال الأسابيع المقبلة. كما كشفت أوبن إيه آي عن حادثة منفصلة نتجت من خطأ في إعدادات بيئة الاختبار لدى شركة "إريغيولار"، وهي جهة خارجية متخصصة في اختبارات الأمن السيبراني، ما أتاح لوكلاء الذكاء الاصطناعي الاتصال بالإنترنت عن طريق الخطأ.
وأشارت الشركة إلى أن هذه الواقعة تشبه حادثة مماثلة كشفت عنها شركة أنثروبيك الأسبوع الماضي، وكانت مرتبطة أيضا بخطأ في إعدادات بيئة الاختبار. وكانت رويترز قد أفادت الأسبوع الماضي بأن شركة أوبن إيه آي وسعت نطاق التحقيقات الخاصة بعمليات الاختراق بعد العثور على أدلة تشير إلى وقوع حالات إضافية تمكنت فيها نماذج أخرى من تجاوز القيود المفروضة عليها.
ولا تقتصر أهمية هذه الحوادث على الجانب التقني، إذ تشير إلى ارتفاع متطلبات السلامة التي أصبحت ترافق تطوير النماذج المتقدمة. فكل مرحلة اختبار تتطلب بيئات أكثر تعقيدا، وإجراءات تحقق إضافية، ومراجعات مستقلة، وهو ما يزيد من تكاليف التطوير والتشغيل بالنسبة للشركات العاملة في هذا القطاع. وذكرت وكالة "بلومبيرغ" الأميركية، اليوم الأربعاء، أن عددا من المسؤولين في الحكومة الأميركية دعوا إلى تشديد الرقابة على تقنيات الذكاء الاصطناعي عقب الحوادث الأخيرة، فيما وقع أكثر من 1100 من العاملين في القطاع عريضة تطالب بإنشاء آلية تنظيمية لإبطاء وتيرة تطوير النماذج المتقدمة إلى حين استكمال ضوابط السلامة. وتعمل الحكومات والجهات التنظيمية على تطوير قواعد أكثر صرامة لتقييم النماذج قبل إتاحتها للمستخدمين، مع التركيز على الأنظمة القادرة على تنفيذ مهام مستقلة أو التعامل مع البنية التحتية الرقمية.
وبدأت الشركات تزيد إنفاقها على حماية تطبيقات الذكاء الاصطناعي مع تصاعد المخاوف المرتبطة بسلامة الوكلاء المستقلين. وأعلنت شركة أوبسيديان سيكيوريتي، أمس الثلاثاء، جمع 85 مليون دولار في جولة تمويل رفعت تقييمها إلى 1.1 مليار دولار، في ظل تزايد الطلب من المؤسسات على حلول تأمين وكلاء الذكاء الاصطناعي الذين أصبحوا يحصلون على صلاحيات للوصول إلى سجلات العملاء والشيفرات البرمجية والأنظمة الداخلية. وقال الرئيس التنفيذي لشركة أوبسيديان سيكيوريتي، حسن إمام، في مقابلة مع رويترز، إن نحو 70% من عملاء الشركة يسمحون بالفعل لوكلاء الذكاء الاصطناعي بالتفاعل مع بيانات الأعمال، متوقعا تغيرا كبيرا في استخدام هذه التقنيات داخل المؤسسات خلال الأشهر الستة إلى الاثني عشر المقبلة.
وأضاف جون هونغ هينغ، مؤسس شركة كريسنت كوف أدفايزرز التي قادت جولة التمويل وكبير مسؤولي الاستثمار فيها، إن انخفاض تكلفة نماذج الذكاء الاصطناعي سيؤدي إلى تسريع اعتماد الوكلاء المستقلين في الشركات، وهو ما سيدفع في المقابل الطلب على برمجيات الأمن والحماية، مع توسع استخدام هذه النماذج في بيئات الأعمال.
|
طباعة هذا المقال
أرسل إلى صديق
.gif){kind=logo}