نرم افزار سایبری جدید می تواند میزان دانش واقعی هوش مصنوعی را تأیید کند — ScienceDaily
مطالعه در مورد نرم افزار Surrey برنده جایزه بهترین مقاله در بیست و پنجمین سمپوزیوم بین المللی روش های رسمی شد.
پروفسور آدریان هیلتون، مدیر موسسه هوش مصنوعی مردم محور در دانشگاه ساری، گفت:
در بسیاری از کاربردها، سیستمهای هوش مصنوعی با یکدیگر یا با انسانها تعامل دارند، مانند ماشینهای خودران در بزرگراه یا رباتهای بیمارستان. بررسی آنچه که یک سیستم داده هوشمند هوش مصنوعی میداند، مشکلی است که سالها طول کشیده تا بتوانیم آن را پیدا کنیم. راه حل برای.
طی چند ماه گذشته، علاقه شدید مردم و صنعت به مدلهای هوش مصنوعی مولد ناشی از پیشرفتها در مدلهای زبان بزرگ مانند ChatGPT بوده است. ایجاد ابزارهایی که میتوانند عملکرد هوش مصنوعی مولد را تأیید کنند، برای حمایت از ایمنی و ایمنی آنها ضروری است. این تحقیق گامی مهم در جهت حفظ حریم خصوصی و یکپارچگی مجموعه داده های مورد استفاده در آموزش است.”
این نرم افزار همچنین قادر است تشخیص دهد که آیا AI نقص های کد نرم افزار را شناسایی کرده و می تواند از آن استفاده کند. به عنوان مثال، در یک زمینه بازی آنلاین، میتواند تشخیص دهد که آیا هوش مصنوعی یاد گرفته است که همیشه در پوکر آنلاین با سوء استفاده از یک خطای کدگذاری برنده شود یا خیر.
“نرم افزار تأیید ما می تواند استنباط کند که هوش مصنوعی چقدر می تواند از تعامل آنها بیاموزد، آیا آنها دانش کافی دارند که همکاری موفقیت آمیز را ممکن می کند یا خیر، و آیا آنها دانش زیادی دارند که حریم خصوصی را نقض می کند. از طریق توانایی تأیید آنچه که هوش مصنوعی آموخته است، می توانیم ارائه دهیم. سازمان ها این اطمینان را دارند که با خیال راحت قدرت هوش مصنوعی را در تنظیمات ایمن رها کنند.”
با توجه به علاقه روزافزون به سیستمهای هوش مصنوعی مولد (AI) در سراسر جهان، محققان دانشگاه ساری نرمافزاری ایجاد کردهاند که میتواند میزان اطلاعاتی را که یک هوش مصنوعی از پایگاهداده دیجیتال یک سازمان جمعآوری کرده است، تأیید کند.
دکتر Solofomampionona Fortunat Rajaona پژوهشگر در تأیید رسمی حریم خصوصی در دانشگاه Surrey و نویسنده اصلی مقاله است. او گفت:
نرم افزار تأیید سوری می تواند به عنوان بخشی از پروتکل امنیتی آنلاین یک شرکت مورد استفاده قرار گیرد، و به سازمان کمک می کند تا بفهمد آیا هوش مصنوعی بیش از حد یاد گرفته است یا حتی به داده های حساس دسترسی پیدا کرده است.