در مورد هوش مصنوعی در سلامت چه باید کرد؟

قبل از اینکه یک دارو توسط سازمان غذا و داروی ایالات متحده (FDA) تایید شود، باید هم ایمنی و هم کارایی آن را نشان دهد. با این حال، FDA برای تایید نیازی به درک مکانیسم اثر دارو ندارد. این پذیرش نتایج بدون توضیح این سوال را مطرح می کند که آیا تصمیم گیری “جعبه سیاه” است یا خیر process یک مدل هوش مصنوعی ایمن و موثر باید به طور کامل توضیح داده شود تا تاییدیه FDA تضمین شود.

این موضوع یکی از بسیاری از موضوعات مورد بحث بود روی دوشنبه، 4 دسامبر، در طول کنفرانس MIT عبداللطیف جمیل برای یادگیری ماشینی در سلامت (کلینیک جمیل) هوش مصنوعی و سیاست تنظیم مقررات سلامت، که باعث ایجاد یک سری بحث‌ها و بحث‌ها در بین اساتید شد. تنظیم کننده های ایالات متحده، اتحادیه اروپا و نیجریه؛ و کارشناسان صنعت در مورد تنظیم هوش مصنوعی در سلامت.

همانطور که یادگیری ماشین به سرعت در حال تکامل است، عدم اطمینان در مورد اینکه آیا تنظیم کننده ها می توانند ادامه دهند و احتمال تاثیرات مضر را کاهش دهند و در عین حال تضمین کنند که کشورهای مربوطه در نوآوری رقابتی باقی می مانند یا خیر، وجود دارد. برای ترویج محیط گفتگوی صریح و آزاد، حضور در رویداد کلینیک جمیل برای 100 نفر از شرکت کنندگان که از طریق اجرای قانون چتم هاوس در حال مناظره بودند، تنظیم شد تا به سخنرانان اجازه ناشناس ماندن برای بحث در مورد نظرات و استدلال های بحث برانگیز بدون ذکر منبع داده شود. .

هدف کلینیک جمیل به جای میزبانی رویدادی برای ایجاد سروصدا در مورد هوش مصنوعی در سلامت، ایجاد فضایی برای آگاه نگه داشتن قانون‌گذاران از پیشرفته‌ترین پیشرفت‌های هوش مصنوعی بود، در حالی که به متخصصان دانشکده و صنعت اجازه می‌داد رویکردهای جدید یا متفاوتی را برای نظارت پیشنهاد کنند. چارچوب هایی برای هوش مصنوعی در سلامت، به ویژه برای استفاده از هوش مصنوعی در محیط های بالینی و در توسعه دارو.

نقش هوش مصنوعی در پزشکی بیش از هر زمان دیگری مرتبط است، زیرا این صنعت با کمبود نیروی کار پس از همه‌گیری، افزایش هزینه‌ها (یکی از سخنرانان گفت: «مسئله حقوق و دستمزد نیست، علی‌رغم باور رایج»)، و همچنین نرخ بالای فرسودگی شغلی و استعفاها دست و پنجه نرم می‌کند. در میان متخصصان مراقبت های بهداشتی یکی از سخنرانان پیشنهاد کرد که اولویت ها برای استقرار هوش مصنوعی بالینی باید بیشتر متمرکز شود روی ابزار عملیاتی به جای تشخیص و درمان بیمار.

یکی از شرکت‌کنندگان به «فقدان واضح آموزش در همه مؤلفه‌ها – نه فقط در میان جوامع توسعه‌دهنده و سیستم‌های مراقبت بهداشتی، بلکه در مورد بیماران و تنظیم‌کننده‌ها» اشاره کرد. با توجه به اینکه پزشکان اغلب کاربران اصلی ابزارهای هوش مصنوعی بالینی هستند، تعدادی از پزشکان حاضر از قانون‌گذاران درخواست کردند که قبل از اقدام با آنها مشورت کنند.

در دسترس بودن داده ها یک مسئله کلیدی برای اکثر محققان هوش مصنوعی حاضر در جلسه بود. آنها از کمبود داده برای کارآمدی ابزارهای هوش مصنوعی ابراز تاسف کردند. بسیاری از آنها با موانعی مانند ممنوعیت دسترسی به مالکیت معنوی یا کمبود مجموعه داده های بزرگ و با کیفیت روبرو بودند. یکی از سخنرانان در این رویداد خاطرنشان کرد: «توسعه دهندگان نمی توانند میلیاردها دلار برای ایجاد داده هزینه کنند، اما FDA می تواند. یک عدم قطعیت قیمتی وجود دارد که می‌تواند منجر به سرمایه‌گذاری کم در هوش مصنوعی شود. سخنرانان اتحادیه اروپا از توسعه سیستمی حمایت کردند که دولت ها را ملزم می کند داده های بهداشتی را برای محققان هوش مصنوعی در دسترس قرار دهند.

در پایان این رویداد یک روزه، بسیاری از شرکت کنندگان پیشنهاد طولانی شدن بحث را دادند و از کیوریشن انتخابی و محیط بسته ستایش کردند، که فضای منحصر به فردی را برای بحث های باز و سازنده ایجاد کرد. روی مقررات هوش مصنوعی در سلامت پس از تایید رویدادهای بعدی آینده، کلینیک جمیل کارگاه های دیگری با ماهیت مشابه ایجاد خواهد کرد تا حرکت را حفظ کند و تنظیم کننده ها را در جریان نگه دارد. روی آخرین تحولات در این زمینه.

یکی از حاضران اذعان کرد: “ستاره شمالی برای هر سیستم نظارتی ایمنی است.” “اندیشه نسلی از آن سرچشمه می گیرد، سپس در پایین دست کار می کند.”