محققان مراقبت های بهداشتی باید مراقب سوء استفاده از هوش مصنوعی -- ScienceDaily باشند

محققان توصیه می کنند که الگوریتم های ML باید در برابر رویکردهای آماری سنتی (در صورت امکان) قبل از استفاده در تحقیقات بالینی ارزیابی شوند. و هنگامی که مناسب تشخیص داده شود، آنها باید به جای جایگزینی، تصمیم گیری پزشک را تکمیل کنند. محققان می نویسند: "محققان ML باید محدودیت های الگوریتم ها و مدل های خود را بشناسند تا از استفاده بیش از حد و سوء استفاده از آنها جلوگیری کنند، که در غیر این صورت می تواند باعث بی اعتمادی و آسیب به بیمار شود."

استادیار نان لیو، نویسنده ارشد این نظر، از مرکز پزشکی کمی و می گوید: "بسیاری بر این باورند که ML مراقبت های بهداشتی را متحول خواهد کرد، زیرا ماشین ها به طور عینی تر از انسان ها انتخاب می کنند. اما بدون نظارت صحیح، مدل های ML ممکن است بیش از فایده آسیب برساند." برنامه تحقیقاتی خدمات و سیستم های بهداشتی در دانشکده پزشکی Duke-NUS، سنگاپور.

دکتر ولوویچی درباره این حادثه گفت: «ما باید از این ایده خلاص شویم که ML می تواند الگوهایی را در داده هایی که ما نمی توانیم آن ها را درک کنیم، کشف کنیم. "ML به خوبی می تواند الگوهایی را کشف کند که ما نمی توانیم مستقیماً آنها را ببینیم، اما پس از آن باید بتوانید توضیح دهید که چگونه به این نتیجه رسیده اید. برای انجام این کار، الگوریتم باید بتواند نشان دهد که چه مراحلی را طی کرده است، و اینکه نیاز به نوآوری دارد."