Claude AI يخترق 3 مؤسسات.. أنثروبيك تكشف كيف خرج النموذج من بيئة الاختبار!
أعلنت شركة أنثروبيك (Anthropic) الأمريكية أن مراجعة أمنية داخلية كشفت عن تمكن نماذج الذكاء الاصطناعي Claude من اختراق أنظمة ثلاث مؤسسات حقيقية خلال تجارب أمنية أجرتها الشركة، بعدما حصلت النماذج على اتصال غير مقصود بالإنترنت نتيجة خلل في إعدادات بيئة الاختبار.
ويأتي هذا التطور بعد أيام من إعلان شركة OpenAI عن حوادث مشابهة شهدت تجاوز بعض نماذجها للقيود المفروضة عليها أثناء الاختبارات، ما أعاد النقاش حول مخاطر وكلاء الذكاء الاصطناعي القادرين على تنفيذ المهام بصورة مستقلة.
كيف وصلت Claude إلى الإنترنت؟
وأوضحت أنثروبيك أنها أجرت مراجعة لأكثر من 140 ألف تجربة بحثًا عن أي سلوك غير متوقع لنماذج Claude، بعدما أثارت حوادث OpenAI الأخيرة تساؤلات داخل قطاع الذكاء الاصطناعي.
وخلال الفحص، تبين أن خطأ في إعدادات الأنظمة التي استخدمتها الشركة بالتعاون مع أحد شركائها أتاح للنماذج الوصول إلى الإنترنت، رغم أن بيئة الاختبار كانت مصممة لتكون معزولة بالكامل عن الشبكات الخارجية.
وكانت المهمة الموكلة إلى Claude تتمثل في الوصول إلى معلومات سرية موجودة على جهاز داخل الشبكة المغلقة عبر محاكاة هجوم إلكتروني، إلا أن النموذج استغل الاتصال المتاح وانتقل إلى استهداف أنظمة حقيقية خارج نطاق الاختبار.
اختراق ثلاث مؤسسات دون علمها
وأكدت الشركة أن النماذج تمكنت من الوصول إلى أنظمة ثلاث مؤسسات لم تكشف عن هويتها، مشيرة إلى أنها أبلغت الجهات المتضررة فور اكتشاف الوقائع.
وأضافت أن أقدم هذه الحوادث يعود إلى شهر أبريل الماضي، لافتة إلى أن الاختراقات مرت دون أن تلاحظها الشركة أو المؤسسات المستهدفة في وقت حدوثها.
واعترفت أنثروبيك بأن عمليات المراجعة السابقة لم تكن كافية لاكتشاف هذه الحوادث مبكرًا، مؤكدة أنها تتعامل مع معالجة الثغرات باعتبارها مسؤوليتها الكاملة.
دعوة لشركات الذكاء الاصطناعي إلى مراجعة أنظمتها
وشددت الشركة على أهمية إجراء مراجعات مماثلة داخل مختبرات تطوير الذكاء الاصطناعي، معتبرة أن مثل هذه الاختبارات ضرورية لفهم الحدود الحقيقية لقدرات النماذج المتقدمة وتقليل احتمالات إساءة استخدامها مستقبلاً.
كما أوضحت أن نتائج التحقيق تمنحها "تفاؤلًا حذرًا" بإمكانية الحد من هذه المخاطر من خلال تعزيز إجراءات الحماية والاستثمار في وسائل الاختبار والرقابة الأمنية.
ضغوط متزايدة على شركات الذكاء الاصطناعي
تأتي هذه الحوادث في وقت تتسابق فيه شركات التكنولوجيا لتطوير وكلاء ذكاء اصطناعي قادرين على أداء مهام معقدة بصورة ذاتية، وهو ما أثار مخاوف متزايدة بشأن الجوانب الأمنية والتنظيمية لهذه الأنظمة.
وكان الرئيس الأمريكي دونالد ترامب قد أعلن أن الإدارة الأمريكية تدرس اتخاذ إجراءات جديدة لتنظيم أدوات الذكاء الاصطناعي بعد سلسلة الحوادث الأمنية الأخيرة.
OpenAI واجهت مواقف مشابهة
وفي السياق ذاته، أقرت OpenAI خلال الأيام الماضية بوقوع حوادث تجاوزت فيها بعض نماذجها الحدود الموضوعة داخل بيئات الاختبار، من بينها واقعة تضمنت الوصول إلى أنظمة منصة Hugging Face.
وأكدت الشركة أنها تعمل على إعداد تقرير تقني شامل يتضمن نتائج التحقيق والإجراءات التي اتخذتها لمنع تكرار مثل هذه الحوادث، بينما وصف توماس وولف، الشريك المؤسس لمنصة Hugging Face، الواقعة بأنها تمثل "جرس إنذار" لصناعة الذكاء الاصطناعي بأكملها.
وتأتي هذه التطورات في وقت تستعد فيه كل من OpenAI وأنثروبيك لخطوات مالية كبيرة في الأسواق، وسط توقعات بأن تصل القيمة السوقية لكل منهما إلى نحو تريليون دولار، ما يزيد من أهمية ملفات الأمن السيبراني والحوكمة في مستقبل صناعة الذكاء الاصطناعي.
