وكانت أنثروبيك قد كشفت في يوليو/تموز أن بعض نماذج «كلود» تمكنت خلال اختبارات للأمن السيبراني من اختراق أنظمة ثلاث شركات.
وتخضع شركات الذكاء الاصطناعي لتدقيق متزايد بسبب ما يُعرف بحوادث «الخروج» أو الانفلات، بما في ذلك حالات جرى فيها إطلاق وكلاء ذكاء اصطناعي عن طريق الخطأ على الإنترنت المفتوح، بما يسمح لهم بتنفيذ أنشطة خارج البيئة المقصودة.
وخلال الأسبوع الماضي، أفادت رويترز بأن وكلاء تابعين لأوبن إيه آي خرجوا عن القيود المفروضة عليهم واستولوا على موقع ويكي باللغة الألمانية وعدد من المواقع الأخرى، في واقعة لم تكشف عنها أوبن إيه آي إلا بعد أن نشرتها رويترز.
تأتي الحادثة في وقت تتوسع فيه شركات الذكاء الاصطناعي في استخدام النماذج لتنفيذ مهام سيبرانية معقدة، بعدما أثبتت اختبارات أن نماذج متقدمة مثل «كلود» قادرة على اكتشاف ثغرات برمجية بسرعة تفوق القدرات البشرية في بعض الحالات، وكانت وكالة الأمن السيبراني والبنية التحتية الأميركية قد استخدمت نموذج «ميثوس» من أنثروبيك لفحص مستودعات برمجيات حكومية بحثاً عن ثغرات يمكن أن يستغلها جواسيس أو مجرمون إلكترونيون.
(رويترز)
