استانداردهای ایمنی استراتوسفر: چگونه هوانوردی می تواند مقررات هوش مصنوعی را در سلامت هدایت کند

احتمال مرگ در سانحه هوایی چقدر است؟ طبق گزارش سال 2022 منتشر شده توسط انجمن بین المللی حمل و نقل هوایی، خطر مرگ و میر صنعت 0.11 است. به عبارت دیگر، روی به طور متوسط، یک فرد باید به مدت 25214 سال هر روز یک پرواز داشته باشد تا 100 درصد شانس تجربه یک تصادف مرگبار را داشته باشد. صنعت هوانوردی که مدت‌ها از آن به عنوان یکی از ایمن‌ترین روش‌های حمل‌ونقل یاد می‌شود، دانشمندان MIT را به این فکر می‌کند که ممکن است کلید تنظیم هوش مصنوعی در مراقبت‌های بهداشتی باشد.

مرضیه قاسمی، استادیار دپارتمان مهندسی برق و علوم کامپیوتر MIT (EECS) و موسسه علوم مهندسی پزشکی، و جولی شاه، پروفسور HN Slater هوانوردی و فضانوردی در MIT، علاقه‌مند به چالش‌های شفافیت در MIT هستند. مدل های هوش مصنوعی پس از گپ زدن در اوایل سال 1402، آنها متوجه شدند که حمل و نقل هوایی می تواند به عنوان الگویی برای اطمینان از اینکه بیماران به حاشیه رانده شده توسط مدل های هوش مصنوعی مغرضانه آسیب نمی بینند، عمل کند.

قاسمی که همچنین محقق اصلی در کلینیک ام آی تی عبداللطیف جمیل برای یادگیری ماشین در سلامت (کلینیک جمیل) و آزمایشگاه علوم کامپیوتر و هوش مصنوعی (CSAIL) است و شاه یک تیم بین رشته‌ای متشکل از محققان، وکلای دادگستری را به خدمت گرفتند. و تحلیلگران سیاست در سراسر MIT، دانشگاه استنفورد، فدراسیون دانشمندان آمریکایی، دانشگاه اموری، دانشگاه آدلاید، مایکروسافت و دانشگاه کالیفرنیا سانفرانسیسکو برای شروع یک پروژه تحقیقاتی که نتایج آن اخیراً در Equity and Access پذیرفته شده است. در کنفرانس الگوریتم ها، مکانیسم ها و بهینه سازی.

الیزابت باندی کلی، نویسنده اول، که اکنون استادیار EECS در دانشگاه میشیگان است و زمانی که در آزمایشگاه قاسمی فوق دکترا بود، می‌گوید: «من فکر می‌کنم بسیاری از نویسندگان ما از پتانسیل هوش مصنوعی برای تأثیرات اجتماعی مثبت، به ویژه با پیشرفت‌های اخیر هیجان‌زده هستند. پروژه آغاز شد. اما ما همچنین محتاط هستیم و امیدواریم با شروع استقرار، چارچوب هایی برای مدیریت ریسک های احتمالی ایجاد کنیم، بنابراین به دنبال الهام گرفتن برای چنین چارچوب هایی بودیم.

لیندسی سانمن، یکی از نویسندگان این مقاله، دانشجوی دکترا در دپارتمان هوانوردی و فضانوردی در MIT، می‌گوید هوش مصنوعی در سلامت امروز شباهتی به جایی که صنعت هوانوردی در یک قرن پیش بود، دارد. به گفته مرکز سیاست عمومی مکیناک، اگرچه دهه 1920 به عنوان “عصر طلایی هوانوردی” شناخته می شد، اما سوانح مرگبار “به طرز نگران کننده ای متعدد” بودند.

جف مارکوس، رئیس فعلی بخش توصیه‌های ایمنی هیئت ملی ایمنی حمل‌ونقل (NTSB)، اخیراً یک پست وبلاگی ماه ملی هوانوردی منتشر کرده است که در آن اشاره می‌کند که در حالی که تعدادی از سوانح مرگبار در دهه 1920 رخ داده است، سال 1929 همچنان «بدترین سال» است. روی رکورد بیشترین مرگبارترین سوانح هوایی در تاریخ، با 51 حادثه گزارش شده. طبق استانداردهای امروزی، این میزان تصادف به 7000 تصادف در سال یا 20 مورد در روز خواهد رسید. در پاسخ به تعداد بالای تصادفات مرگبار در دهه 1920، رئیس جمهور کالوین کولیج در سال 1926 قانون مهمی را به تصویب رساند که به عنوان قانون تجارت هوایی شناخته می شود، که سفرهای هوایی را از طریق وزارت بازرگانی تنظیم می کرد.

اما موازی‌ها به همین جا ختم نمی‌شود – مسیر بعدی هوانوردی به سمت اتوماسیون مشابه با هوش مصنوعی است. توضیح‌پذیری هوش مصنوعی با توجه به مشکل بدنام «جعبه سیاه» هوش مصنوعی، موضوعی بحث‌برانگیز بوده است، که محققان هوش مصنوعی را وادار می‌کند تا در مورد اینکه یک مدل هوش مصنوعی تا چه اندازه باید نتیجه‌اش را برای کاربر «توضیح دهد» قبل از اینکه آنها را به دنبال کورکورانه از راهنمایی‌های مدل سوق دهد، بحث‌برانگیز بوده است.

Sanneman می افزاید: “در دهه 1970 مقدار فزاینده ای از اتوماسیون وجود داشت… سیستم های خلبان خودکار که مراقب خطرات خلبانان هشدار می داد.” با ورود اتوماسیون به فضای هوانوردی از نظر تعامل انسانی با سیستم خودمختار، دردسرهای فزاینده‌ای وجود داشت – سردرگمی بالقوه‌ای که زمانی به وجود می‌آید که خلبان از آنچه اتوماسیون انجام می‌دهد آگاهی کافی نداشته باشد.»

امروزه، تبدیل شدن به کاپیتان خطوط هوایی تجاری به 1500 ساعت زمان پرواز ثبت شده همراه با آموزش ابزار نیاز دارد. بر اساس مقاله محققان، این دقیق و جامع است process تقریباً 15 سال طول می کشد که شامل مدرک لیسانس و کمک خلبانی می شود. محققان بر این باورند که موفقیت آموزش خلبانی گسترده می تواند الگویی بالقوه برای آموزش پزشکان باشد روی استفاده از ابزارهای هوش مصنوعی در تنظیمات بالینی

این مقاله همچنین گزارش‌های تشویقی از ابزارهای هوش مصنوعی سلامت ناامن را به روشی که آژانس هوانوردی فدرال (FAA) برای خلبانان انجام می‌دهد پیشنهاد می‌کند – از طریق «مصونیت محدود» که به خلبانان اجازه می‌دهد پس از انجام کاری ناامن، تا زمانی که غیرعمدی بوده، گواهینامه خود را حفظ کنند.

بر اساس گزارش سال 1402 منتشر شده توسط سازمان بهداشت جهانی، روی به طور متوسط، از هر 10 بیمار، یک نفر با یک رویداد نامطلوب (به عنوان مثال، “خطاهای پزشکی”) در حین دریافت مراقبت های بیمارستانی در کشورهای با درآمد بالا آسیب می بیند.

با این حال، در عملکرد فعلی مراقبت های بهداشتی، پزشکان و کارکنان مراقبت های بهداشتی اغلب از گزارش خطاهای پزشکی می ترسند، نه تنها به دلیل نگرانی های مربوط به گناه و انتقاد از خود، بلکه به دلیل پیامدهای منفی که بر مجازات افراد تأکید می کند، مانند لغو مجوز پزشکی. ، به جای اصلاح سیستمی که احتمال وقوع خطای پزشکی را بیشتر می کرد.

قاسمی در کامنت اخیر خود نوشت: در سلامت، وقتی چکش از دست می‌رود، بیماران آسیب می‌بینند طبیعت رفتار انسان. این واقعیت یک خطر اخلاقی غیرقابل قبول برای جوامع هوش مصنوعی پزشکی است که در حال حاضر با مسائل مراقبتی پیچیده، کمبود نیروی انسانی و سیستم های سنگین دست و پنجه نرم می کنند.

گریس ویکرسون، یکی از نویسندگان و مدیر سیاست عدالت سلامت در فدراسیون دانشمندان آمریکایی، این مقاله جدید را به‌عنوان افزوده‌ای حیاتی به یک چارچوب حکومتی گسترده‌تر می‌بیند که هنوز وجود ندارد. آنها می‌گویند: «من فکر می‌کنم کارهای زیادی می‌توانیم با اختیارات دولتی موجود انجام دهیم. روش‌های مختلفی وجود دارد که Medicare و Medicaid می‌توانند برای هوش مصنوعی سلامت پرداخت کنند که اطمینان حاصل می‌کند که در فناوری‌های خرید یا بازپرداخت آن‌ها، حقوق صاحبان سهام در نظر گرفته می‌شود، NIH [National Institute of Health] می تواند تحقیقات بیشتری را برای ایجاد عادلانه تر الگوریتم ها تأمین مالی کند و استانداردهایی برای این الگوریتم ها ایجاد کند که می تواند توسط FDA استفاده شود. [Food and Drug Administration] همانطور که آنها در تلاشند تا بفهمند عدالت سلامت به چه معناست و چگونه آنها در مقامات فعلی خود تنظیم می شوند.”

از جمله، این مقاله شش سازمان دولتی موجود را فهرست می‌کند که می‌توانند به تنظیم هوش مصنوعی سلامت کمک کنند، از جمله: FDA، کمیسیون تجارت فدرال (FTC)، آژانس پروژه‌های تحقیقاتی پیشرفته اخیراً تأسیس شده برای سلامت، آژانس تحقیقات و کیفیت مراقبت‌های بهداشتی، مراکز مدیکر و مدیکید، وزارت بهداشت و خدمات انسانی، و دفتر حقوق مدنی (OCR).

اما ویکرسون می گوید که باید کارهای بیشتری انجام شود. چالش‌برانگیزترین بخش نوشتن مقاله، از نظر ویکرسون، «تصور چیزهایی بود که هنوز نداریم».

به جای تکیه صرف روی نهادهای نظارتی موجود، این مقاله همچنین ایجاد یک مرجع حسابرسی مستقل، مشابه NTSB را پیشنهاد می‌کند که امکان ممیزی ایمنی برای سیستم‌های هوش مصنوعی بهداشتی نادرست را فراهم می‌کند.

ویکرسون می‌افزاید: «من فکر می‌کنم این سؤال فعلی برای حاکمیت فناوری است – ما واقعاً نهادی نداشتیم که تأثیر فناوری را از دهه 90 ارزیابی کند. قبلاً یک دفتر ارزیابی فناوری وجود داشت … حتی قبل از شروع دوره دیجیتال، این دفتر وجود داشت و سپس دولت فدرال اجازه غروب آن را داد.

زک هارند، یکی از نویسندگان و فارغ‌التحصیل اخیر دانشکده حقوق استنفورد، معتقد است که چالش اصلی در فناوری‌های نوظهور داشتن مقررات سرعت توسعه فناوری است. هارند می‌گوید: «با این حال، اهمیت فناوری هوش مصنوعی و مزایا و خطرات بالقوه آن، به‌ویژه در عرصه مراقبت‌های بهداشتی، منجر به انبوهی از تلاش‌های نظارتی شده است». FDA به وضوح بازیگر اصلی در اینجا است، و آنها به طور مداوم دستورالعمل ها و مقالات سفید منتشر کرده اند تا موقعیت در حال تحول خود را نشان دهند. روی هوش مصنوعی با این حال، حریم خصوصی یکی دیگر از زمینه های مهم برای تماشا خواهد بود، با اجرای OCR روی HIPAA [Health Insurance Portability and Accountability Act] طرف و FTC نقض حریم خصوصی را برای نهادهای غیر تحت پوشش HIPAA اعمال می کند.

هارند خاطرنشان می کند که این منطقه به سرعت در حال تکامل است، از جمله تحولاتی مانند فرمان اجرایی اخیر کاخ سفید 14110 روی توسعه ایمن و قابل اعتماد هوش مصنوعی، و همچنین فعالیت های نظارتی در اتحادیه اروپا (EU)، از جمله قانون اساسی اتحادیه اروپا AI که در حال نهایی شدن است. او می‌گوید: «مطمئناً زمان هیجان‌انگیزی برای مشاهده توسعه و تنظیم این فناوری مهم برای اطمینان از ایمنی است و در عین حال نوآوری را خفه نمی‌کند.

علاوه بر فعالیت‌های نظارتی، این مقاله فرصت‌های دیگری را برای ایجاد انگیزه‌هایی برای ابزارهای هوش مصنوعی سلامتی ایمن‌تر مانند برنامه پرداخت برای عملکرد پیشنهاد می‌کند، که در آن شرکت‌های بیمه به بیمارستان‌ها برای عملکرد خوب پاداش می‌دهند (اگرچه محققان تشخیص می‌دهند که این رویکرد مستلزم نظارت بیشتر بر عادلانه باشد).

بنابراین، محققان فکر می کنند که ایجاد یک سیستم نظارتی کارآمد برای هوش مصنوعی سلامت چقدر طول می کشد؟ بر اساس این مقاله، “سیستم NTSB و FAA، که در آن تحقیقات و اجرا در دو نهاد مختلف انجام می شود، توسط کنگره در طول دهه ها ایجاد شده است.”

Bondi-Kelly امیدوار است که این مقاله قطعه ای از پازل مقررات هوش مصنوعی باشد. در ذهن او، “سناریوی رویایی این است که همه ما مقاله را بخوانیم و الهام بگیریم که برخی از درس های مفید هوانوردی را برای کمک به هوش مصنوعی برای جلوگیری از برخی از آسیب های احتمالی هوش مصنوعی در طول استقرار به کار ببریم.”

علاوه بر قاسمی، شاه، باندی کلی و سنمن، نویسندگان همکار MIT روی این کار شامل دانشمند پژوهشی ارشد لئو آنتونی سلی و فوق دکترای سابق توماس هارتویگسن و سوامی سانکارارایانان است. بودجه این کار تا حدی از طریق کمک هزینه تحصیلی MIT CSAIL METEOR، Quanta Computing، بنیاد فولکس واگن، مؤسسه ملی بهداشت، استاد توسعه شغلی Herman LF von Helmholtz و جایزه CIFAR Azrieli Scholar جهانی تامین شد.