مطالعه: هنگام تخصیص منابع کمیاب با هوش مصنوعی، تصادفی‌سازی می‌تواند عدالت را بهبود بخشد

سازمان ها به طور فزاینده ای از مدل های یادگیری ماشینی برای تخصیص منابع یا فرصت های کمیاب استفاده می کنند. به عنوان مثال، چنین مدل‌هایی می‌توانند به شرکت‌ها در بررسی رزومه‌ها برای انتخاب نامزدهای مصاحبه شغلی یا کمک به بیمارستان‌ها در رتبه‌بندی بیماران پیوند کلیه کمک کنند. روی احتمال زنده ماندن آنها

هنگام استقرار یک مدل، کاربران معمولاً تلاش می‌کنند تا با کاهش سوگیری، از عادلانه بودن پیش‌بینی‌های آن اطمینان حاصل کنند. این اغلب شامل تکنیک‌هایی مانند تنظیم ویژگی‌هایی است که یک مدل برای تصمیم‌گیری استفاده می‌کند یا کالیبره کردن امتیازهایی که ایجاد می‌کند.

با این حال، محققان MIT و دانشگاه نورث ایسترن استدلال می کنند که این روش های عادلانه برای رسیدگی به بی عدالتی های ساختاری و عدم قطعیت های ذاتی کافی نیستند. در یک مقاله جدید، آنها نشان می‌دهند که چگونه تصادفی‌سازی تصمیم‌های یک مدل به روشی ساختاریافته می‌تواند انصاف را در موقعیت‌های خاص بهبود بخشد.

به عنوان مثال، اگر چندین شرکت از یک مدل یادگیری ماشینی برای رتبه‌بندی قطعی نامزدهای مصاحبه شغلی استفاده کنند – بدون هیچ گونه تصادفی‌سازی – در آن صورت یک فرد شایسته می‌تواند کاندیدای رتبه پایین برای هر شغل باشد، شاید به این دلیل که مدل چگونه پاسخ‌های ارائه شده در یک را می‌سنجید. فرم آنلاین معرفی تصادفی سازی در تصمیمات یک مدل می تواند مانع از آن شود که یک فرد یا گروه شایسته همیشه از منابع کمیاب مانند مصاحبه شغلی محروم شود.

محققان از طریق تجزیه و تحلیل خود دریافتند که تصادفی‌سازی زمانی می‌تواند مفید باشد که تصمیمات یک مدل شامل عدم قطعیت باشد یا زمانی که همان گروه به طور مداوم تصمیمات منفی دریافت می‌کنند.

آنها چارچوبی را ارائه می‌کنند که می‌توان از آن برای معرفی مقدار مشخصی از تصادفی‌سازی در تصمیمات یک مدل با تخصیص منابع از طریق قرعه‌کشی وزنی استفاده کرد. این روش، که یک فرد می تواند متناسب با موقعیت خود تنظیم کند، می تواند انصاف را بدون آسیب رساندن به کارایی یا دقت مدل بهبود بخشد.

«حتی اگر می‌توانید پیش‌بینی‌های منصفانه داشته باشید، آیا باید این تخصیص اجتماعی منابع یا فرصت‌های کمیاب را کاملاً خارج از امتیازها یا رتبه‌بندی‌ها تعیین کنید؟ همانطور که همه چیز مقیاس می شود، و ما می بینیم که فرصت های بیشتر و بیشتری توسط این الگوریتم ها تصمیم گیری می شود، عدم قطعیت های ذاتی در این امتیازات را می توان تقویت کرد. شومیک جین، دانشجوی فارغ التحصیل در موسسه داده ها، سیستم ها و جامعه (IDSS) و نویسنده اصلی مقاله می گوید: ما نشان می دهیم که انصاف ممکن است به نوعی تصادفی سازی نیاز داشته باشد.

جین ملحق شد روی مقاله کاتلین کریل، استادیار فلسفه و علوم کامپیوتر در دانشگاه نورث ایسترن؛ و نویسنده ارشد آشیا ویلسون، پروفسور توسعه شغلی برادران لیستر در گروه مهندسی برق و علوم کامپیوتر و محقق اصلی در آزمایشگاه سیستم های اطلاعات و تصمیم گیری (LIDS). این تحقیق در کنفرانس بین المللی ارائه خواهد شد روی فراگیری ماشین.

در نظر گرفتن ادعاها

این کار از مقاله قبلی ساخته شده است که در آن محققان آسیب‌هایی را که می‌تواند هنگام استفاده از سیستم‌های قطعی در مقیاس رخ دهد، بررسی کردند. آنها دریافتند که استفاده از یک مدل یادگیری ماشینی برای تخصیص قطعی منابع می‌تواند نابرابری‌های موجود در داده‌های آموزشی را تقویت کند، که می‌تواند سوگیری و نابرابری سیستمی را تقویت کند.

ویلسون می‌گوید: «تصادفی‌سازی مفهومی بسیار مفید در آمار است و با کمال میل، خواسته‌های انصافی را که هم از دیدگاه سیستمی و هم از منظر فردی می‌آیند، برآورده می‌کند».

در این مقاله، آنها این سوال را بررسی کردند که چه زمانی تصادفی‌سازی می‌تواند عدالت را بهبود بخشد. آن‌ها تحلیل‌های خود را حول ایده‌های فیلسوف جان بروم، که در مورد ارزش استفاده از قرعه‌کشی برای اعطای منابع کمیاب به شیوه‌ای که به همه ادعاهای افراد احترام می‌گذارد، نوشت.

ادعای یک فرد در مورد منابع کمیاب، مانند پیوند کلیه، می تواند ناشی از شایستگی، شایستگی یا نیاز باشد. برای مثال، هرکسی حق زندگی و ادعاهایش را دارد روی ویلسون توضیح می دهد که پیوند کلیه ممکن است از همین حق ناشی شود.

«وقتی تصدیق می‌کنید که مردم ادعاهای متفاوتی نسبت به این منابع کمیاب دارند، انصاف مستلزم این است که به همه ادعاهای افراد احترام بگذاریم. اگر همیشه به کسی که ادعای قوی‌تری دارد منبع بدهیم، آیا این منصفانه است؟» جین می گوید.

این نوع تخصیص قطعی می‌تواند باعث طرد سیستمیک یا تشدید نابرابری الگو شود، که زمانی رخ می‌دهد که دریافت یک تخصیص احتمال دریافت تخصیص‌های آینده را افزایش می‌دهد. علاوه بر این، مدل‌های یادگیری ماشینی می‌توانند اشتباه کنند و یک رویکرد قطعی می‌تواند باعث تکرار همان اشتباه شود.

تصادفی سازی می تواند بر این مشکلات غلبه کند، اما این بدان معنا نیست که تمام تصمیماتی که یک مدل می گیرد باید به طور مساوی تصادفی شوند.

تصادفی سازی ساختاریافته

محققان از یک قرعه کشی وزنی برای تنظیم سطح تصادفی سازی بر اساس استفاده می کنند روی میزان عدم قطعیت موجود در تصمیم گیری مدل. تصمیمی که کمتر قطعی است باید تصادفی سازی بیشتری را در خود جای دهد.

“در تخصیص کلیه، معمولاً برنامه ریزی در مورد طول عمر پیش بینی شده است، و این عمیقا نامشخص است. اگر دو بیمار فقط پنج سال از هم فاصله داشته باشند، اندازه گیری آن بسیار سخت تر می شود. ویلسون می‌گوید: ما می‌خواهیم از آن سطح عدم قطعیت برای تنظیم تصادفی‌سازی استفاده کنیم.

محققان از روش های کمی سازی عدم قطعیت آماری برای تعیین میزان تصادفی سازی در موقعیت های مختلف استفاده کردند. آنها نشان می‌دهند که تصادفی‌سازی کالیبره‌شده می‌تواند به نتایج منصفانه‌تری برای افراد منجر شود، بدون اینکه تأثیر قابل‌توجهی بر سودمندی یا اثربخشی مدل داشته باشد.

ویلسون می‌گوید: «توازنی بین مطلوبیت کلی و احترام به حقوق افرادی که منابع کمیاب را دریافت می‌کنند وجود دارد، اما اغلب اوقات این مبادله نسبتاً ناچیز است».

با این حال، محققان تاکید می‌کنند موقعیت‌هایی وجود دارد که تصادفی‌سازی تصمیم‌ها باعث بهبود انصاف نمی‌شود و می‌تواند به افراد آسیب برساند، مانند زمینه‌های عدالت کیفری.

اما می‌تواند زمینه‌های دیگری نیز وجود داشته باشد که تصادفی‌سازی می‌تواند انصاف را بهبود بخشد، مانند پذیرش در کالج، و محققان قصد دارند سایر موارد استفاده را در کار آینده مطالعه کنند. آنها همچنین می خواهند بررسی کنند که چگونه تصادفی سازی می تواند بر سایر عوامل مانند رقابت یا قیمت ها تأثیر بگذارد و چگونه می توان از آن برای بهبود استحکام مدل های یادگیری ماشینی استفاده کرد.

ما امیدواریم مقاله ما اولین حرکتی باشد که نشان دهد تصادفی‌سازی ممکن است فایده‌ای داشته باشد. ما تصادفی سازی را به عنوان یک ابزار ارائه می دهیم. اینکه چقدر می خواهید این کار را انجام دهید به همه ذینفعان در تخصیص بستگی دارد که تصمیم بگیرند. ویلسون می‌گوید و البته روش تصمیم‌گیری آنها یکی دیگر از سؤالات تحقیقاتی است.