بازسازی حمله سایبری اکویفاکس با هوش مصنوعی بدون نیاز به انسان
بازسازی حمله سایبری اکویفاکس با هوش مصنوعی بدون نیاز به انسان
تحقیقات مشترک دانشگاه کارنگی ملون و شرکت هوش مصنوعی Anthropic نشان داده که مدل‌های زبانی بزرگ (LLMها) می‌توانند به‌صورت کاملاً خودمختار حملات سایبری پیچیده‌ای را طراحی و اجرا کنند.
به گزارش نیوزلن و به نقل از سیودایو، در این پژوهش، حمله معروف سایبری به شرکت Equifax در سال ۲۰۱۷، که طی آن اطلاعات حدود ۱۴۷ میلیون نفر به سرقت رفت، به‌صورت شبیه‌سازی شده بازآفرینی شد.
این تیم پژوهشی ابزاری به‌نام Incalmo توسعه داد که استراتژی کلی حمله اکویفاکس را به دستورهای فنی قابل‌اجرا تبدیل می‌کند. هدف اصلی این پروژه، سنجش توانایی مدل‌های زبانی در برنامه‌ریزی و اجرای حمله بدون مداخله انسانی بود. طبق اظهارات برایان سینگر، سرپرست این تحقیق و دانشجوی دکترای مهندسی برق و کامپیوتر، Incalmo در ۱۰ محیط شبیه‌سازی‌شده آزمایش شد و در ۹ مورد، LLMها موفق به انجام بخشی از حمله شدند، از جمله استخراج اطلاعات حساس.
در این فرایند، مدل زبانی بزرگ راهبرد کلی حمله را ارائه می‌داد و انجام وظایف فنی‌تری مانند اسکن آسیب‌پذیری‌ها و اجرای کدهای مخرب بر عهده ترکیبی از عامل‌های LLM و غیربرپایه LLM بود. به گفته شرکت آنتروپک، در ۵ مورد از ۱۰ شبکه آزمایشی، حمله به‌طور کامل موفق بود و در ۴ مورد دیگر به‌صورت جزئی انجام شد.
در کنار حمله اکویفاکس، حمله باج‌افزاری به خط لوله کلونیال در سال ۲۰۲۱ نیز به‌عنوان نمونه‌ای دیگر برای سنجش توانایی مدل‌ها استفاده شد. یکی از دلایل انتخاب حمله اکویفاکس، وجود اطلاعات عمومی فراوان درباره نحوه انجام آن بود.
پژوهشگران هشدار می‌دهند که هنوز مشخص نیست آیا سامانه‌های امنیتی مدرن می‌توانند با چنین حملاتی مقابله کنند یا خیر. نگرانی اصلی این است که اجرای چنین حملاتی با استفاده از LLMها می‌تواند به‌شدت سریع، ارزان و در دسترس باشد؛ موضوعی که پیامدهای نگران‌کننده‌ای برای آینده امنیت سایبری دارد.
