محققان مدل‌های یادگیری ماشینی را با باج‌افزار مسلح می‌کنند

منبع

روش توصیف شده توسط محققان مشابه نحوه استفاده هکرها از استگانوگرافی برای پنهان کردن بارهای مخرب در تصاویر است. در مورد مدل ML، کد مخرب در داده های مدل پنهان می شود.

کلمنتز موافقت کرد که محققان نشان داده‌اند که برای وارد کردن دستورات مخرب در داده‌های آموزشی که می‌توانند توسط مدل‌های ML در زمان اجرا راه‌اندازی شوند، به تخصص علوم داده ML/AI نیاز ندارد.

او توضیح داد: «در زنجیره تأمین، اگر داده‌ها مسموم شوند به طوری که وقتی مدل‌ها آموزش می‌بینند، سیستم نیز مسموم می‌شود، آن مدل می‌تواند تصمیم‌هایی بگیرد که امنیت را به جای تقویت آن کاهش دهد».

مایک پارکین، مهندس فنی ارشد در Vulcan Cyber، ارائه‌دهنده SaaS برای اصلاح ریسک سایبری سازمانی در تل آویو، اسرائیل، خاطرنشان کرد که عوامل تهدید از هر عاملی که می‌توانند برای اجرای حملات خود استفاده می‌کنند.

او گفت: “این همچنین اهداف جدیدی را برای آنها باز می کند.” “این یک مسیر مستقیم به سیستم های دانشمند داده است. این امکان وجود دارد که یک مدل یادگیری ماشینی که در یک مخزن عمومی میزبانی شده است را واژگون کرد. دانشمندان داده آن را پایین می کشند و بارگذاری می کنند، سپس در معرض خطر قرار می گیرند.

پارکین به TechNewsWorld گفت: «این یک بردار غیرمعمول است که اگر با دقت انجام شود، می‌تواند از کنار چند ابزار رایج عبور کند.

حملات نیز می توانند سیستم عامل را آگنوستیک باشند. محققان توضیح دادند که سیستم‌عامل و محموله‌های خاص معماری را می‌توان در مدل جاسازی کرد، جایی که می‌توان آن‌ها را به صورت پویا در زمان اجرا، بسته به پلت‌فرم، بارگذاری کرد.

پرواز زیر رادار

تبلیغات

موری هابر، افسر ارشد امنیتی در توضیح داد: راه حل های سنتی ضد بدافزار و تشخیص و پاسخ نقطه پایانی برای شناسایی باج افزار بر اساس رفتارهای مبتنی بر الگو، از جمله امضای ویروس و نظارت بر API، فایل و درخواست های رجیستری کلیدی در ویندوز برای فعالیت های مخرب بالقوه طراحی شده اند. BeyondTrust، سازنده مدیریت حساب کاربری ممتاز و راه حل های مدیریت آسیب پذیری در Carlsbad، کالیفرنیا.

او ادامه داد: «این مدل‌ها همچنین در پلتفرم‌های مختلف عملیات یادگیری ماشینی دانلود می‌شوند، که می‌تواند بسیار ترسناک باشد زیرا می‌توانند به سطل‌های آمازون S3 دسترسی داشته باشند و داده‌های آموزشی را سرقت کنند.»

او گفت: “در حال حاضر، من فکر می کنم محبوبیت بردار حمله خاص احتمالاً برای آینده قابل پیش بینی کم خواهد بود.”

کیسی الیس، مدیر ارشد فناوری و بنیانگذار Bugcrowd، که یک پلتفرم پاداش باگ جمع‌سپاری شده را اداره می‌کند، خاطرنشان کرد که حملات به مدل‌های ML می‌تواند بخشی از روند بزرگ‌تر حملات به زنجیره‌های تامین نرم‌افزار باشد.

HiddenLayer نشان می‌دهد که چگونه مدل ResNet از قبل آموزش‌دیده ربوده‌شده، یک نمونه باج‌افزار را در لحظه بارگذاری آن در حافظه توسط PyTorch در دستگاه آزمایشی خود اجرا می‌کند.

---

مزیت اولین حرکت دهنده

او گفت: «این می‌تواند تأثیرات قابل‌توجهی بر قابلیت اطمینان و یکپارچگی سیستم‌های هوش مصنوعی داشته باشد و می‌تواند برای تضعیف اعتماد به این فناوری استفاده شود».

Pablum برای اسکریپت Kiddies

او گفت: «در موارد Log4j و SolarWinds، ما تأثیر آن را نه تنها بر سازمان صاحب نرم‌افزار، بلکه بر همه کاربران آن در آن زنجیره دیدیم. هنگامی که ML معرفی شود، این آسیب می تواند به سرعت چند برابر شود.

هابر به TechNewsWorld گفت: «اگر یادگیری ماشین برای تحویل بدافزارهایی مانند باج‌افزار اعمال شود، بردارهای حمله سنتی و حتی روش‌های تشخیص را می‌توان تغییر داد تا غیر مخرب به نظر برسند.

احتمال آسیب گسترده

محققان HiddenLayer، یک شرکت امنیتی زبان ماشین، روز سه‌شنبه در وبلاگی فاش کردند که چگونه یک مهاجم می‌تواند از یک مدل محبوب ML برای استقرار باج‌افزار استفاده کند.

مدل‌های ML در قلب فناوری‌هایی مانند تشخیص چهره و ربات‌های گفتگو قرار دارند. مانند مخازن نرم‌افزار متن‌باز، مدل‌ها اغلب توسط توسعه‌دهندگان و دانشمندان داده دانلود و به اشتراک گذاشته می‌شوند، بنابراین یک مدل در معرض خطر می‌تواند به طور همزمان بر بسیاری از سازمان‌ها تأثیر منفی بگذارد.

تبلیغات