اگر یک برچسب روی یک موز می تواند آن را به عنوان یک توستر نشان دهد، چگونه خرابکاری استراتژیک می تواند نحوه درک یک وسیله نقلیه خودران از علامت توقف را منحرف کند؟ اکنون، یک سیستم دفاعی الهام گرفته از سیستم ایمنی برای شبکه های عصبی می تواند از چنین حملاتی جلوگیری کند که توسط مهندسان، زیست شناسان و ریاضیدانان دانشگاه میشیگان طراحی شده است.
RAILS با تقلید از دفاع طبیعی سیستم ایمنی برای شناسایی و در نهایت مراقبت از ورودی های مشکوک به شبکه عصبی کار می کند. برای شروع توسعه آن، تیم بیولوژیکی نحوه واکنش سیستم ایمنی سازگار موش ها به آنتی ژن را بررسی کردند. در این آزمایش از بافت‌های موش‌های اصلاح‌شده ژنتیکی استفاده شد که نشانگرهای فلورسنت را بر روی سلول‌های B آنها بیان می‌کنند.
شبکه‌های عصبی عمیق زیرمجموعه‌ای از الگوریتم‌های یادگیری ماشین هستند که برای طیف گسترده‌ای از مسائل طبقه‌بندی استفاده می‌شوند. اینها شامل شناسایی تصویر و بینایی ماشین (که توسط وسایل نقلیه خودران و سایر روبات ها استفاده می شود)، پردازش زبان طبیعی، ترجمه زبان و تشخیص تقلب می باشد. با این حال، ممکن است یک فرد یا گروه شرور، ورودی را اندکی تنظیم کند و الگوریتم را به اصطلاح، به مسیر اشتباهی بفرستد. برای محافظت از الگوریتم‌ها در برابر چنین حملاتی، تیم میشیگان سیستم یادگیری الهام‌گرفته از ایمنی متخاصم را توسعه داد.
رن وانگ، محقق مهندسی برق و کامپیوتر، که مسئولیت اصلی توسعه و پیاده سازی نرم افزار را بر عهده داشت، گفت: «یک بخش بسیار امیدوارکننده این کار این است که چارچوب کلی ما می تواند در برابر انواع مختلف حملات دفاع کند.
استفان لیندزلی، دانشجوی دکترای بیوانفورماتیک در آن زمان، تجزیه و تحلیل داده ها را بر روی اطلاعات تولید شده در آزمایشگاه راجاپاکسه انجام داد و به عنوان مترجم بین زیست شناسان و مهندسان عمل کرد. سپس تیم Hero آن فرآیند بیولوژیکی را روی رایانه‌ها مدل‌سازی کردند و مکانیسم‌های بیولوژیکی را با کد ترکیب کردند. آنها دفاع RAILS را با ورودی های دشمن آزمایش کردند. سپس منحنی یادگیری سلول های B را که برای حمله به آنتی ژن ها یاد می گیرند با الگوریتم یادگیری برای حذف آن ورودی های بد مقایسه کردند.
محققان از شناسایی تصویر به عنوان مورد آزمایشی استفاده کردند و RAILS را در برابر هشت نوع حمله خصمانه در چندین مجموعه داده ارزیابی کردند. در همه موارد بهبود یافته است، از جمله محافظت در برابر مخرب ترین نوع حمله خصمانه – معروف به حمله گرادیان پیش بینی شده. علاوه بر این، Rails دقت کلی را بهبود بخشید. به عنوان مثال، به تشخیص درست تصویری از یک مرغ و یک شترمرغ که به طور گسترده به عنوان یک گربه و یک اسب تلقی می شوند، به عنوان دو پرنده کمک کرد.
RAILS نه تنها یک بیومیمیک مؤثر بود، بلکه از دو مورد از رایج‌ترین فرآیندهای یادگیری ماشینی که برای مبارزه با حملات متخاصم استفاده می‌شود، بهتر عمل کرد: شبکه‌های عصبی کانولوشنال و K-Nearest Neighbor قوی.
بودجه این پروژه توسط وزارت دفاع، آژانس پروژه های تحقیقاتی پیشرفته دفاعی و دفتر تحقیقات ارتش تامین شد.
آلفرد هیرو، استاد دانشگاه ممتاز جان اچ هالند، که رهبری کار منتشر شده در آن را بر عهده داشت، گفت: “RAILS اولین رویکرد به یادگیری مخالف را نشان می دهد که بر اساس سیستم ایمنی تطبیقی که متفاوت از سیستم ایمنی ذاتی عمل می کند، الگوبرداری شده است.” دسترسی IEEE.
Indika Rajapakse، دانشیار پزشکی محاسباتی و بیوانفورماتیک و یکی از رهبران این مطالعه گفت: «سیستم ایمنی برای شگفتی ساخته شده است. طراحی شگفت انگیزی دارد و همیشه راه حلی پیدا خواهد کرد.
هیرو همچنین استاد مهندسی R. Jamison و Betty Williams و استاد مهندسی برق و علوم کامپیوتر، مهندسی زیست پزشکی و آمار است. راجاپاکسه همچنین دانشیار ریاضیات و مهندسی زیست پزشکی است. لیندزلی اکنون در MathWorks است.
این تیم با کشت سلول‌های طحال همراه با سلول‌های مغز استخوان، مدلی از سیستم ایمنی ایجاد کردند که نشان‌دهنده مقر و پادگان سیستم ایمنی است. این سیستم تیم بیولوژیکی را قادر می سازد تا توسعه سلول های B را ردیابی کنند، که به عنوان یک رویکرد آزمون و خطا برای طراحی گیرنده ای که به آنتی ژن متصل می شود، شروع می شود. هنگامی که سلول های B روی یک محلول همگرا می شوند، هم سلول های B پلاسما را برای گرفتن آنتی ژن های موجود و هم سلول های B حافظه را برای آماده شدن برای حمله بعدی تولید می کنند.
در حالی که سیستم ایمنی ذاتی یک حمله کلی به پاتوژن ها انجام می دهد، سیستم ایمنی پستانداران می تواند سلول های جدیدی تولید کند که برای دفاع در برابر پاتوژن های خاص طراحی شده اند. به نظر می رسد که شبکه های عصبی عمیق که قبلاً از سیستم پردازش اطلاعات مغز الهام گرفته شده اند، می توانند از این فرآیند بیولوژیکی نیز بهره ببرند.
راجاپاکسه گفت: “این یک مثال شگفت انگیز از استفاده از ریاضیات برای درک این سیستم دینامیکی زیبا است.” ما ممکن است بتوانیم آنچه را از RAILS آموخته‌ایم استفاده کنیم و به برنامه‌ریزی مجدد سیستم ایمنی کمک کنیم تا سریع‌تر کار کند.»
