باختصار
- حذر مسؤولون أمريكيون البنوك الكبرى من مخاطر الأمن السيبراني المرتبطة بنموذج الذكاء الاصطناعي Mythos من Anthropic، حسب تقرير Bloomberg.
- يمكن للنظام على ما يبدو تحديد واستغلال الثغرات في أنظمة التشغيل والمتصفحات.
- قيدت Anthropic الوصول إلى النموذج أثناء تقييمها للمخاطر الأمنية المحتملة.
عقد وزير الخزانة الأمريكي سكوت بيسنت ورئيس الاحتياطي الفيدرالي جيروم باول اجتماعاً مع الرؤساء التنفيذيين لبنوك وول ستريت في وقت سابق من هذا الأسبوع للتحذير من مخاطر الأمن السيبراني المرتبطة بنموذج الذكاء الاصطناعي الجديد من Anthropic.
وفقاً لتقرير من Bloomberg، شمل الاجتماع مسؤولين تنفيذيين من Citigroup وBank of America وWells Fargo وMorgan Stanley وGoldman Sachs. ناقش المسؤولون نموذج الذكاء الاصطناعي الجديد Mythos من Anthropic، الذي أثار مؤخراً قلقاً واسعاً بشأن قدراته المتقدمة في الأمن السيبراني.
عقد المسؤولون الاجتماع لضمان فهم البنوك للمخاطر التي تشكلها الأنظمة القادرة على تحديد واستغلال ثغرات البرامج عبر أنظمة التشغيل ومتصفحات الويب، ولتشجيع المؤسسات على تعزيز الدفاعات ضد الهجمات الإلكترونية المحتملة بمساعدة الذكاء الاصطناعي التي تستهدف البنية التحتية المالية.
حذر باحثو الأمن من أن الأدوات القادرة على اكتشاف الثغرات تلقائياً يمكن أن تسرع من عمل الأمن الدفاعي والاختراق الخبيث إذا أسيء استخدامها.
ظهر نموذج Mythos من Anthropic لأول مرة على الإنترنت في مارس بعد تسريب مواد مسودة حول النظام عبر الإنترنت، كاشفاً عما وصفته الشركة بأنه نموذج الذكاء الاصطناعي الأكثر قدرة حتى الآن. في الاختبار، وجد النظام على ما يبدو آلاف ثغرات البرامج غير المعروفة سابقاً، بما في ذلك عيوب يوم الصفر عبر أنظمة التشغيل الرئيسية ومتصفحات الويب.
قال باحثو Anthropic في تقرير في وقت سابق من هذا الأسبوع إن قدرات اكتشاف الثغرات في Mythos Preview لم تكن مدربة عمداً، بل ظهرت من تحسينات أوسع في الترميز والتفكير والاستقلالية للنموذج.
"نفس التحسينات التي تجعل النموذج أكثر فعالية بشكل كبير في إصلاح الثغرات تجعله أيضاً أكثر فعالية بشكل كبير في استغلالها"، كتبت الشركة.
بسبب تلك القدرات، قيدت Anthropic الوصول إلى مجموعة صغيرة من منظمات الأمن السيبراني.
"نظراً لقوة قدراته، نحن متعمدون في كيفية إصداره"، قالت Anthropic في بيان. "كما هي الممارسة القياسية عبر الصناعة، نحن نعمل مع مجموعة صغيرة من عملاء الوصول المبكر لاختبار النموذج. نعتبر هذا النموذج نقلة نوعية والأكثر قدرة الذي بنيناه حتى الآن."
لمعالجة هذا الخطر، تختبر Anthropic نموذج Mythos من خلال مشروع Glasswing، وهو تعاون مع شركات تكنولوجيا وأمن سيبراني كبرى يستخدم النموذج لتحديد وإصلاح الثغرات في البرامج الحيوية قبل أن يتمكن المهاجمون من استغلالها.
"مشروع Glasswing هو نقطة بداية. لا يمكن لمنظمة واحدة حل مشاكل الأمن السيبراني هذه بمفردها"، قالت الشركة في بيان. "مطورو الذكاء الاصطناعي الرائدون وشركات البرمجيات الأخرى وباحثو الأمن وصائنو المصادر المفتوحة والحكومات في جميع أنحاء العالم جميعهم لديهم أدوار أساسية للعب."
لم ترد Anthropic على الفور على طلب Decrypt للتعليق.
النشرة الإخبارية اليومية
ابدأ كل يوم بأهم الأخبار الآن، بالإضافة إلى ميزات أصلية وبودكاست ومقاطع فيديو والمزيد.
المصدر: https://decrypt.co/363927/powell-bessent-warn-banks-security-anthropic-mythos-ai
