بروزرسانی: 24 تیر 1404
سیستم ایمنی تطبیقی \u200b\u200bبه عنوان الگویی برای دفاع از شبکه های عصبی در برابر حملات گیج کننده عمل می کند -- ScienceDaily
هیرو گفت: «تا زمانی که منحنی های یادگیری RAILS را با منحنی های استخراج شده از آزمایش ها مقایسه نکردیم، مطمئن نبودیم که واقعاً فرآیند بیولوژیکی را ثبت کرده ایم. آنها دقیقاً همین طور بودند.
Indika Rajapakse، دانشیار پزشکی محاسباتی و بیوانفورماتیک و یکی از رهبران این مطالعه گفت: «سیستم ایمنی برای شگفتی ساخته شده است. طراحی شگفت انگیزی دارد و همیشه راه حلی پیدا خواهد کرد.
اگر یک برچسب روی یک موز می تواند آن را به عنوان یک توستر نشان دهد، چگونه خرابکاری استراتژیک می تواند نحوه درک یک وسیله نقلیه خودران از علامت توقف را منحرف کند؟ اکنون، یک سیستم دفاعی الهام گرفته از سیستم ایمنی برای شبکه های عصبی می تواند از چنین حملاتی جلوگیری کند که توسط مهندسان، زیست شناسان و ریاضیدانان دانشگاه میشیگان طراحی شده است.
هیرو همچنین استاد مهندسی R. Jamison و Betty Williams و استاد مهندسی برق و علوم کامپیوتر، مهندسی زیست پزشکی و آمار است. راجاپاکسه همچنین دانشیار ریاضیات و مهندسی زیست پزشکی است. لیندزلی اکنون در MathWorks است.
RAILS نه تنها یک بیومیمیک مؤثر بود، بلکه از دو مورد از رایج ترین فرآیندهای یادگیری ماشینی که برای مبارزه با حملات متخاصم استفاده می شود، بهتر عمل کرد: شبکه های عصبی کانولوشنال و K-Nearest Neighbor قوی.
محققان از شناسایی تصویر به عنوان مورد آزمایشی استفاده کردند و RAILS را در برابر هشت نوع حمله خصمانه در چندین مجموعه داده ارزیابی کردند. در همه موارد بهبود یافته است، از جمله محافظت در برابر مخرب ترین نوع حمله خصمانه - معروف به حمله گرادیان پیش بینی شده. علاوه بر این، Rails دقت کلی را بهبود بخشید. به عنوان مثال، به تشخیص درست تصویری از یک مرغ و یک شترمرغ که به طور گسترده به عنوان یک گربه و یک اسب تلقی می شوند، به عنوان دو پرنده کمک کرد.
این تیم با کشت سلول های طحال همراه با سلول های مغز استخوان، مدلی از سیستم ایمنی ایجاد کردند که نشان دهنده مقر و پادگان سیستم ایمنی است. این سیستم تیم بیولوژیکی را قادر می سازد تا توسعه سلول های B را ردیابی کنند، که به عنوان یک رویکرد آزمون و خطا برای طراحی گیرنده ای که به آنتی ژن متصل می شود، شروع می شود. هنگامی که سلول های B روی یک محلول همگرا می شوند، هم سلول های B پلاسما را برای گرفتن آنتی ژن های موجود و هم سلول های B حافظه را برای آماده شدن برای حمله بعدی تولید می کنند.
شبکه های عصبی عمیق زیرمجموعه ای از الگوریتم های یادگیری ماشین هستند که برای طیف گسترده ای از مسائل طبقه بندی استفاده می شوند. اینها شامل شناسایی تصویر و بینایی ماشین (که توسط وسایل نقلیه خودران و سایر روبات ها استفاده می شود)، پردازش زبان طبیعی، ترجمه زبان و تشخیص تقلب می باشد. با این حال، ممکن است یک فرد یا گروه شرور، ورودی را اندکی تنظیم کند و الگوریتم را به اصطلاح، به مسیر اشتباهی بفرستد. برای محافظت از الگوریتم ها در برابر چنین حملاتی، تیم میشیگان سیستم یادگیری الهام گرفته از ایمنی متخاصم را توسعه داد.
بودجه این پروژه توسط وزارت دفاع، آژانس پروژه های تحقیقاتی پیشرفته دفاعی و دفتر تحقیقات ارتش تامین شد.
منبع
RAILS با تقلید از دفاع طبیعی سیستم ایمنی برای شناسایی و در نهایت مراقبت از ورودی های مشکوک به شبکه عصبی کار می کند. برای شروع توسعه آن، تیم بیولوژیکی نحوه واکنش سیستم ایمنی سازگار موش ها به آنتی ژن را بررسی کردند. در این آزمایش از بافت های موش های اصلاح شده ژنتیکی استفاده شد که نشانگرهای فلورسنت را بر روی سلول های B آنها بیان می کنند.