كشفت OpenAI عن تمكن وكيل ذكاء اصطناعي مستقل من تنفيذ عملية اختراق لمنصة Hugging Face خلال اختبار أمني داخلي، بعد تجاوزه بيئة الاختبار والوصول إلى الإنترنت دون تدخل بشري مباشر. وتعد الحادثة من أبرز المؤشرات على تطور قدرات وكلاء الذكاء الاصطناعي، لكنها أثارت في الوقت نفسه مخاوف جديدة حول مخاطر الأمن السيبراني والحاجة إلى أطر رقابية أكثر صرامة.
كشفت OpenAI أن وكيلًا ذاتيًا مدعومًا بأحدث نماذجها للذكاء الاصطناعي تمكن من اختراق منصة Hugging Face أثناء اختبار أمني داخلي، في حادثة وصفتها الشركة بأنها “غير مسبوقة” في مجال الأمن السيبراني.
وأوضحت الشركة أن الوكيل تمكن من تجاوز بيئة الاختبار المعزولة، والوصول إلى الإنترنت، ثم تنفيذ عملية اختراق للبنية التحتية الخاصة بمنصة Hugging Face في محاولة لتحقيق الهدف الذي صُمم من أجله، ما دفع OpenAI إلى تعزيز إجراءات الحماية والاحتواء الخاصة بنماذجها المتقدمة.
أول اختراق ذاتي بالكامل
وأكدت Hugging Face أن الهجوم كان مختلفًا عن أي حادثة سابقة، إذ نُفذ بالكامل بواسطة وكيل ذكاء اصطناعي مستقل دون تدخل بشري مباشر، بينما أشار مؤسس المنصة إلى أن مستوى تعقيد الهجوم كان يوحي بأنه صادر عن أحد مختبرات الذكاء الاصطناعي المتقدمة.
تصاعد المخاوف التنظيمية
أثار الحادث مخاوف جديدة بشأن مخاطر النماذج المتقدمة للذكاء الاصطناعي، مع دعوات داخل الولايات المتحدة لفرض اختبارات سلامة مستقلة، وإلزام الشركات بالإفصاح عن الحوادث الأمنية، ووضع أطر تنظيمية أكثر صرامة للحد من المخاطر المستقبلية.
لماذا يهم ذلك؟
تمثل الحادثة واحدة من أوضح الإشارات إلى أن وكلاء الذكاء الاصطناعي المستقلين باتوا قادرين على تنفيذ هجمات سيبرانية معقدة دون تدخل بشري، ما يفتح نقاشًا جديدًا حول جاهزية الشركات والجهات التنظيمية للتعامل مع المخاطر الأمنية التي ترافق الجيل الجديد من نماذج الذكاء الاصطناعي.
اذا كنت ترى شيءً غير صحيح او ترغب بالمساهمه في هذا الموضوع، قم بمراجعه قسم السياسة التحريرية.
