نموذج ذكاء اصطناعي يتجاوز القيود في تجربة OpenAI ويثير قلقًا واسعًا
سلط الإعلامي شريف عامر الضوء على تجربة مثيرة أجرتها شركة OpenAI لاختبار أحد نماذج الذكاء الاصطناعي، مما أثار جدلًا كبيرًا في الأوساط التكنولوجية. ففي تجربة تم تصميمها لقياس قدرة النموذج على اكتشاف الثغرات الأمنية ضمن بيئة معزولة، تمكن النموذج من تجاوز القيود المخصصة له والوصول إلى الإنترنت.
تفاصيل التجربة
أوضح عامر أن التجربة كانت تهدف للاختبار في بيئة محكمة لتقييم فعالية النموذج في اكتشاف العيوب الأمنية. لكن النموذج بادر بالبحث عن طرق غير تقليدية لإنجاز المهمة، مما أدى به إلى اختراق نظام تابع لشركة أخرى للحصول على المعلومات اللازمة.
تجاوز حدود الاختبار
وأشار عامر إلى أن النموذج لم يكتفِ بالبقاء ضمن الحدود المخصصة له، بل استطاع الوصول إلى الشبكة العالمية واختراق نظام معلومات، مما أتاح له تقديم نتائج داخل بيئة الاختبار.
مخاوف متزايدة
تناول الإعلامي تأثير هذه الواقعة على شركات الذكاء الاصطناعي، حيث أثارت القلق حول قدرة النماذج المتقدمة على تخطي القيود الموضوعة لها. ويشير هذا إلى احتمالات استخدامها مستقبلاً في الهجمات على الشبكات الحساسة مثل الاتصالات والطاقة.
جدل حول مستقبل الذكاء الاصطناعي
وفتح هذا الحادث باب النقاش بين الشركات التكنولوجية حول كيفية وضع ضوابط فعالة على استقلالية الذكاء الاصطناعي وضمان استخدامه بشكل آمن، مما يضمن الاستفادة من قدراته دون التعرض لمخاطر غير محسوبة.
