سیستم ایمنی تطبیقی ​​به عنوان الگویی برای دفاع از شبکه های عصبی در برابر حملات گیج کننده عمل می کند — ScienceDaily


اگر یک برچسب روی یک موز می تواند آن را به عنوان یک توستر نشان دهد، چگونه خرابکاری استراتژیک می تواند نحوه درک یک وسیله نقلیه خودران از علامت توقف را منحرف کند؟ اکنون، یک سیستم دفاعی الهام گرفته از سیستم ایمنی برای شبکه های عصبی می تواند از چنین حملاتی جلوگیری کند که توسط مهندسان، زیست شناسان و ریاضیدانان دانشگاه میشیگان طراحی شده است.

شبکه‌های عصبی عمیق زیرمجموعه‌ای از الگوریتم‌های یادگیری ماشین هستند که برای طیف گسترده‌ای از مسائل طبقه‌بندی استفاده می‌شوند. اینها شامل شناسایی تصویر و بینایی ماشین (که توسط وسایل نقلیه خودران و سایر روبات ها استفاده می شود)، پردازش زبان طبیعی، ترجمه زبان و تشخیص تقلب می باشد. با این حال، ممکن است یک فرد یا گروه شرور، ورودی را اندکی تنظیم کند و الگوریتم را به اصطلاح، به مسیر اشتباهی بفرستد. برای محافظت از الگوریتم‌ها در برابر چنین حملاتی، تیم میشیگان سیستم یادگیری الهام‌گرفته از ایمنی متخاصم را توسعه داد.

آلفرد هیرو، استاد دانشگاه ممتاز جان اچ هالند، که رهبری کار منتشر شده در آن را بر عهده داشت، گفت: “RAILS اولین رویکرد به یادگیری مخالف را نشان می دهد که بر اساس سیستم ایمنی تطبیقی ​​که متفاوت از سیستم ایمنی ذاتی عمل می کند، الگوبرداری شده است.” دسترسی IEEE.

در حالی که سیستم ایمنی ذاتی یک حمله کلی به پاتوژن ها انجام می دهد، سیستم ایمنی پستانداران می تواند سلول های جدیدی تولید کند که برای دفاع در برابر پاتوژن های خاص طراحی شده اند. به نظر می رسد که شبکه های عصبی عمیق که قبلاً از سیستم پردازش اطلاعات مغز الهام گرفته شده اند، می توانند از این فرآیند بیولوژیکی نیز بهره ببرند.

Indika Rajapakse، دانشیار پزشکی محاسباتی و بیوانفورماتیک و یکی از رهبران این مطالعه گفت: «سیستم ایمنی برای شگفتی ساخته شده است. طراحی شگفت انگیزی دارد و همیشه راه حلی پیدا خواهد کرد.

RAILS با تقلید از دفاع طبیعی سیستم ایمنی برای شناسایی و در نهایت مراقبت از ورودی های مشکوک به شبکه عصبی کار می کند. برای شروع توسعه آن، تیم بیولوژیکی نحوه واکنش سیستم ایمنی سازگار موش ها به آنتی ژن را بررسی کردند. در این آزمایش از بافت‌های موش‌های اصلاح‌شده ژنتیکی استفاده شد که نشانگرهای فلورسنت را بر روی سلول‌های B آنها بیان می‌کنند.

این تیم با کشت سلول‌های طحال همراه با سلول‌های مغز استخوان، مدلی از سیستم ایمنی ایجاد کردند که نشان‌دهنده مقر و پادگان سیستم ایمنی است. این سیستم تیم بیولوژیکی را قادر می سازد تا توسعه سلول های B را ردیابی کنند، که به عنوان یک رویکرد آزمون و خطا برای طراحی گیرنده ای که به آنتی ژن متصل می شود، شروع می شود. هنگامی که سلول های B روی یک محلول همگرا می شوند، هم سلول های B پلاسما را برای گرفتن آنتی ژن های موجود و هم سلول های B حافظه را برای آماده شدن برای حمله بعدی تولید می کنند.

استفان لیندزلی، دانشجوی دکترای بیوانفورماتیک در آن زمان، تجزیه و تحلیل داده ها را بر روی اطلاعات تولید شده در آزمایشگاه راجاپاکسه انجام داد و به عنوان مترجم بین زیست شناسان و مهندسان عمل کرد. سپس تیم Hero آن فرآیند بیولوژیکی را روی رایانه‌ها مدل‌سازی کردند و مکانیسم‌های بیولوژیکی را با کد ترکیب کردند. آنها دفاع RAILS را با ورودی های دشمن آزمایش کردند. سپس منحنی یادگیری سلول های B را که برای حمله به آنتی ژن ها یاد می گیرند با الگوریتم یادگیری برای حذف آن ورودی های بد مقایسه کردند.

هیرو گفت: «تا زمانی که منحنی‌های یادگیری RAILS را با منحنی‌های استخراج شده از آزمایش‌ها مقایسه نکردیم، مطمئن نبودیم که واقعاً فرآیند بیولوژیکی را ثبت کرده‌ایم. آنها دقیقاً همین طور بودند.

RAILS نه تنها یک بیومیمیک مؤثر بود، بلکه از دو مورد از رایج‌ترین فرآیندهای یادگیری ماشینی که برای مبارزه با حملات متخاصم استفاده می‌شود، بهتر عمل کرد: شبکه‌های عصبی کانولوشنال و K-Nearest Neighbor قوی.

رن وانگ، محقق مهندسی برق و کامپیوتر، که مسئولیت اصلی توسعه و پیاده سازی نرم افزار را بر عهده داشت، گفت: «یک بخش بسیار امیدوارکننده این کار این است که چارچوب کلی ما می تواند در برابر انواع مختلف حملات دفاع کند.

محققان از شناسایی تصویر به عنوان مورد آزمایشی استفاده کردند و RAILS را در برابر هشت نوع حمله خصمانه در چندین مجموعه داده ارزیابی کردند. در همه موارد بهبود یافته است، از جمله محافظت در برابر مخرب ترین نوع حمله خصمانه – معروف به حمله گرادیان پیش بینی شده. علاوه بر این، Rails دقت کلی را بهبود بخشید. به عنوان مثال، به تشخیص درست تصویری از یک مرغ و یک شترمرغ که به طور گسترده به عنوان یک گربه و یک اسب تلقی می شوند، به عنوان دو پرنده کمک کرد.

راجاپاکسه گفت: “این یک مثال شگفت انگیز از استفاده از ریاضیات برای درک این سیستم دینامیکی زیبا است.” ما ممکن است بتوانیم آنچه را از RAILS آموخته‌ایم استفاده کنیم و به برنامه‌ریزی مجدد سیستم ایمنی کمک کنیم تا سریع‌تر کار کند.»

تلاش‌های آتی تیم Hero بر کاهش زمان پاسخ از میلی‌ثانیه به میکروثانیه متمرکز خواهد بود.

هیرو همچنین استاد مهندسی R. Jamison و Betty Williams و استاد مهندسی برق و علوم کامپیوتر، مهندسی زیست پزشکی و آمار است. راجاپاکسه همچنین دانشیار ریاضیات و مهندسی زیست پزشکی است. لیندزلی اکنون در MathWorks است.

بودجه این پروژه توسط وزارت دفاع، آژانس پروژه های تحقیقاتی پیشرفته دفاعی و دفتر تحقیقات ارتش تامین شد.



منبع

Matthew Newman

Matthew Newman Matthew has over 15 years of experience in database management and software development, with a strong focus on full-stack web applications. He specializes in Django and Vue.js with expertise deploying to both server and serverless environments on AWS. He also works with relational databases and large datasets
[ Back To Top ]