محققان مدل‌های یادگیری ماشینی را با باج‌افزار مسلح می‌کنند

او ادامه داد: «این مدل‌ها همچنین در پلتفرم‌های مختلف عملیات یادگیری ماشینی دانلود می‌شوند، که می‌تواند بسیار ترسناک باشد زیرا می‌توانند به سطل‌های آمازون S3 دسترسی داشته باشند و داده‌های آموزشی را سرقت کنند.»

کلمنتز موافقت کرد که محققان نشان داده‌اند که برای وارد کردن دستورات مخرب در داده‌های آموزشی که می‌توانند توسط مدل‌های ML در زمان اجرا راه‌اندازی شوند، به تخصص علوم داده ML/AI نیاز ندارد.

او گفت: «این می‌تواند تأثیرات قابل‌توجهی بر قابلیت اطمینان و یکپارچگی سیستم‌های هوش مصنوعی داشته باشد و می‌تواند برای تضعیف اعتماد به این فناوری استفاده شود».

Pablum برای اسکریپت Kiddies

پارکین به TechNewsWorld گفت: «این یک بردار غیرمعمول است که اگر با دقت انجام شود، می‌تواند از کنار چند ابزار رایج عبور کند.

مایک پارکین، مهندس فنی ارشد در Vulcan Cyber، ارائه‌دهنده SaaS برای اصلاح ریسک سایبری سازمانی در تل آویو، اسرائیل، خاطرنشان کرد که عوامل تهدید از هر عاملی که می‌توانند برای اجرای حملات خود استفاده می‌کنند.

کیسی الیس، مدیر ارشد فناوری و بنیانگذار Bugcrowd، که یک پلتفرم پاداش باگ جمع‌سپاری شده را اداره می‌کند، خاطرنشان کرد که حملات به مدل‌های ML می‌تواند بخشی از روند بزرگ‌تر حملات به زنجیره‌های تامین نرم‌افزار باشد.

او گفت: «در موارد Log4j و SolarWinds، ما تأثیر آن را نه تنها بر سازمان صاحب نرم‌افزار، بلکه بر همه کاربران آن در آن زنجیره دیدیم. هنگامی که ML معرفی شود، این آسیب می تواند به سرعت چند برابر شود.

او ادامه داد: «در هر یک از این سناریوها، به نظر می‌رسد که راه‌های بسیار ساده‌تر و ساده‌تری برای به خطر انداختن هدف وجود داشته باشد، جدای از درج اکسپلویت‌های مبهم در داده‌های آموزشی».