اولین حمله سایبری هدایت‌شده با هوش مصنوعی توسط آنتروپیک خنثی شد

شرکت آنتروپیک اعلام کرد نخستین حمله سایبری سازمان‌یافته با هدایت یک هوش مصنوعی را خنثی کرده است؛ حمله‌ای که به گفته شرکت، از سوی یک گروه تحت حمایت دولت چین انجام شده است.

به گزارش تکناک بخش امنیت سایبری، این شرکت گزارش داده ابزار کدنویسی عامل‌محور آن در حمله‌ای علیه ۳۰ نهاد از جمله شرکت‌های فناوری، مالی، صنایع شیمیایی و حتی برخی سازمان‌های دولتی مورد سوءاستفاده قرار گرفته است و مهاجمان با استفاده از نسخه جیل‌بریک شده Claude حمله را اجرا کرده‌اند. Anthropic می‌گوید این نخستین نمونه گزارش‌شده از یک حمله سایبری کاملاً سازماندهی‌شده توسط هوش مصنوعی است.

به گفته شرکت، هرچند هوش‌های عامل‌محور توانایی‌ آن‌ها را در انجام وظایف بهره‌وری افزایش می‌دهد، همان قابلیت‌ها باعث شده بازیگران مخرب بتوانند حملات پیچیده را بدون نظارت مداوم انسانی اجرا کنند. مدل‌های زبانی معمولاً دارای محافظت داخلی هستند اما این رویداد نشان داد که این سد قابل دور زدن است.

پیشرفت‌های اخیر در هوش مصنوعی به مهاجمان امکان داده از Claude در نفوذهای خود استفاده کنند؛ افزایش هوشمندی مدل که امکان دنبال‌کردن دستورهای چندلایه و درک بافت اجرا را می‌دهد، توانایی عامل‌محور که اجازه تصمیم‌گیری مستقل می‌دهد و دسترسی به ابزارهای پیشرفته از طریق Model Context Protocol که امکان استفاده از ابزارهایی مانند رمزگشاهای پسورد و اسکنرهای شبکه را فراهم می‌کند.

به گفته Anthropic، حمله در پنج مرحله اجرا شده است. در مرحله اول، اپراتور انسانی هدف را تعیین می‌کند. در مرحله دوم، هوش مصنوعی مأموریت شناسایی اولیه را با اسکن، جستجو و تحلیل کد اجرا کرده و نتیجه را گزارش می‌دهد. مرحله سوم شامل اسکن آسیب‌پذیری‌های هدف با توجه به یافته‌هاست و در همین مرحله اپراتور می‌تواند دستور آغاز بهره‌برداری را بدهد.

در مراحل بعدی، اپراتور از Claude می‌خواهد به دسترسی‌ها و داده‌ها نفوذ کند. در این مراحل هم انسان و هم AI از ابزارهای سوءاستفاده برای یافتن و استخراج اطلاعات استفاده می‌کنند. هرچند Claude در چند مرحله برای گزارش‌دهی به انسان رجوع می‌کند، اما حدود ۸۰ تا ۹۰ درصد عملیات را مستقل اجرا کرده است که امکان اجرای کمپین پیچیده را با نیروی انسانی بسیار کمتر فراهم می‌کند.

به نقل از تامزهاردور، مهاجمان برای دور زدن محافظت‌ها ابتدا Claude را قانع کرده‌اند که در یک شرکت امنیتی مشغول تست نفوذ و رد تیمینگ است. سپس کل عملیات را به وظایف کوچک و بی‌ضرر تقسیم کرده‌اند تا مدل متوجه هدف کلی و مخرب دستورها نشود.

Anthropic می‌گوید این نخستین باری است که هوش مصنوعی نه برای «وایب هکینگ»، بلکه برای حمله‌ای در این سطح استفاده شده است. این شرکت با شناسایی سریع فعالیت‌ها، حساب‌های دخیل را مسدود کرده، اهداف حمله را مطلع کرده و موضوع را به مقامات گزارش داده است. همچنین گزارش کامل خود را منتشر کرده تا صنعت امنیت بتواند حملات مشابه را شناسایی و راهکار مقابله توسعه دهد.

نوشته اولین حمله سایبری هدایت‌شده با هوش مصنوعی توسط آنتروپیک خنثی شد اولین بار در Technoc. پدیدار شد.