دوره های خارج از خط در طول آموزش باعث کاهش “فراموشی فاجعه بار” در سیستم های محاسباتی شد — ScienceDaily


بسته به سن، انسان در هر 24 ساعت به 7 تا 13 ساعت خواب نیاز دارد. در طول این مدت، اتفاقات زیادی می افتد: ضربان قلب، تنفس و متابولیسم. تنظیم سطح هورمون؛ بدن آرام می شود نه چندان در مغز.

ماکسیم باژنوف، دکترای پزشکی، استاد پزشکی و محقق خواب در دانشکده پزشکی دانشگاه کالیفرنیا سن دیگو گفت: «مغز هنگام خواب بسیار مشغول است و آنچه را که در طول روز آموخته‌ایم تکرار می‌کند. “خواب به سازماندهی مجدد خاطرات کمک می کند و آنها را به کارآمدترین راه ارائه می دهد.”

در کارهای منتشر شده قبلی، باژنوف و همکارانش گزارش کرده‌اند که چگونه خواب باعث ایجاد حافظه منطقی، توانایی به خاطر سپردن ارتباط‌های خودسرانه یا غیرمستقیم بین اشیا، افراد یا رویدادها می‌شود و از فراموش کردن خاطرات قدیمی محافظت می‌کند.

شبکه‌های عصبی مصنوعی از معماری مغز انسان برای بهبود فناوری‌ها و سیستم‌های متعدد، از علوم پایه و پزشکی گرفته تا امور مالی و رسانه‌های اجتماعی استفاده می‌کنند. از برخی جهات، آنها به عملکرد مافوق بشری، مانند سرعت محاسباتی دست یافته‌اند، اما در یک جنبه کلیدی شکست می‌خورند: وقتی شبکه‌های عصبی مصنوعی به‌طور متوالی یاد می‌گیرند، اطلاعات جدید اطلاعات قبلی را بازنویسی می‌کنند، پدیده‌ای که فراموشی فاجعه‌بار نامیده می‌شود.

باژنوف گفت: «در مقابل، مغز انسان به طور مداوم یاد می‌گیرد و داده‌های جدید را در دانش موجود گنجانده است، و معمولاً زمانی که تمرینات جدید با دوره‌های خواب برای تثبیت حافظه ترکیب می‌شود، بهتر یاد می‌گیرد.»

در حال نوشتن در شماره 18 نوامبر 2022 زیست شناسی محاسباتی PLOS، نویسنده ارشد Bazhenov و همکارانش در مورد اینکه چگونه مدل‌های بیولوژیکی ممکن است به کاهش خطر فراموشی فاجعه‌آمیز در شبکه‌های عصبی مصنوعی کمک کنند و کاربرد آنها را در طیفی از علایق تحقیقاتی افزایش دهند، بحث می‌کنند.

دانشمندان از شبکه‌های عصبی spiking استفاده کردند که به‌طور مصنوعی سیستم‌های عصبی طبیعی را تقلید می‌کنند: به‌جای اینکه اطلاعات به‌طور مداوم ارتباط برقرار کنند، به‌صورت رویدادهای گسسته (خوشه‌ها) در مقاطع زمانی خاص منتقل می‌شوند.

آنها دریافتند که وقتی شبکه‌های spiking برای یک کار جدید آموزش داده می‌شوند، اما با دوره‌های گاه به گاه خارج از خط که شبیه خواب است، فراموشی فاجعه‌بار کاهش می‌یابد. به گفته نویسندگان این مطالعه، مانند مغز انسان، «خواب» برای شبکه‌ها به آن‌ها اجازه می‌دهد تا خاطرات قدیمی را بدون استفاده صریح از داده‌های آموزشی قدیمی بازپخش کنند.

خاطرات در مغز انسان با الگوهای وزن سیناپسی – قدرت یا دامنه ارتباط بین دو نورون – نشان داده می شوند.

باژنوف گفت: «وقتی اطلاعات جدیدی یاد می‌گیریم، نورون‌ها به ترتیب خاصی شلیک می‌کنند و این باعث افزایش سیناپس‌های بین آنها می‌شود. در طول خواب، الگوهای جهشی که در حالت بیداری ما یاد می‌گیریم خود به خود تکرار می‌شوند. به آن فعال‌سازی مجدد یا پخش مجدد می‌گویند.

انعطاف‌پذیری سیناپسی، ظرفیت تغییر یا قالب‌گیری، هنوز در طول خواب وجود دارد و می‌تواند الگوهای وزن سیناپسی را که نشان‌دهنده حافظه هستند، تقویت کند و به جلوگیری از فراموشی یا انتقال دانش از کارهای قدیمی به کارهای جدید کمک کند.

وقتی باژنوف و همکارانش این رویکرد را برای شبکه‌های عصبی مصنوعی به کار بردند، دریافتند که به شبکه‌ها کمک می‌کند از فراموشی فاجعه‌بار جلوگیری کنند.

این بدان معناست که این شبکه‌ها می‌توانند مانند انسان‌ها یا حیوانات به طور مداوم یاد بگیرند. درک اینکه چگونه مغز انسان اطلاعات را در طول خواب پردازش می‌کند می‌تواند به تقویت حافظه در افراد انسانی کمک کند. تقویت ریتم خواب می‌تواند به حافظه بهتر منجر شود.

در پروژه‌های دیگر، ما از مدل‌های رایانه‌ای برای توسعه استراتژی‌های بهینه برای اعمال تحریک در طول خواب، مانند صداهای شنیداری، استفاده می‌کنیم که ریتم خواب را افزایش می‌دهد و یادگیری را بهبود می‌بخشد. پیری یا در برخی شرایط مانند بیماری آلزایمر.”

نویسندگان مشترک عبارتند از: رایان گلدن و ژان اریک دلانوا، هر دو در UC San Diego. و پاول ساندا، موسسه علوم کامپیوتر آکادمی علوم چک.



منبع

Matthew Newman

Matthew Newman Matthew has over 15 years of experience in database management and software development, with a strong focus on full-stack web applications. He specializes in Django and Vue.js with expertise deploying to both server and serverless environments on AWS. He also works with relational databases and large datasets
[ Back To Top ]