برای ساختن یک کمک‌کننده هوش مصنوعی بهتر، با مدل‌سازی رفتار غیرمنطقی انسان‌ها شروع کنید

برای ساختن سیستم‌های هوش مصنوعی که می‌توانند به طور موثر با انسان‌ها همکاری کنند، داشتن یک مدل خوب از رفتار انسان برای شروع کمک می‌کند. اما انسان ها تمایل دارند هنگام تصمیم گیری رفتاری غیربهینه از خود نشان دهند.

این غیرمنطقی بودن، که مدل‌سازی آن به‌ویژه دشوار است، اغلب به محدودیت‌های محاسباتی ختم می‌شود. یک انسان نمی تواند دهه ها را صرف فکر کردن به راه حل ایده آل برای یک مشکل کند.

محققان MIT و دانشگاه واشنگتن راهی برای مدل‌سازی رفتار یک عامل، خواه انسان یا ماشین، ابداع کردند که محدودیت‌های محاسباتی ناشناخته‌ای را که ممکن است توانایی‌های حل مسئله عامل را مختل کند، توضیح دهد.

مدل آنها می تواند به طور خودکار محدودیت های محاسباتی یک عامل را با دیدن تنها چند اثر از اقدامات قبلی آنها استنباط کند. نتیجه، به اصطلاح “بودجه استنتاج” یک عامل، می تواند برای پیش بینی رفتار آینده آن عامل استفاده شود.

در مقاله‌ای جدید، محققان نشان می‌دهند که چگونه می‌توان از روش آنها برای استنتاج اهداف ناوبری افراد از مسیرهای قبلی و پیش‌بینی حرکات بعدی بازیکنان در مسابقات شطرنج استفاده کرد. تکنیک آنها با روش رایج دیگری برای مدل سازی این نوع تصمیم گیری مطابقت دارد یا از آن بهتر عمل می کند.

در نهایت، این کار می‌تواند به دانشمندان کمک کند تا به سیستم‌های هوش مصنوعی روش رفتار انسان‌ها را بیاموزند، که می‌تواند این سیستم‌ها را قادر می‌سازد تا به همکاران انسانی خود بهتر پاسخ دهند. Athul Paul Jacob، دانشجوی فارغ التحصیل رشته مهندسی برق و علوم کامپیوتر (EECS) و نویسنده اصلی مقاله می‌گوید توانایی درک رفتار انسان، و سپس استنتاج اهداف آن‌ها از آن رفتار، می‌تواند یک دستیار هوش مصنوعی را بسیار مفیدتر کند. روی این تکنیک

«اگر ما بدانیم که یک انسان در شرف مرتکب اشتباه است، با مشاهده رفتار آنها قبلاً، عامل هوش مصنوعی می‌تواند وارد عمل شود و راه بهتری برای انجام آن ارائه دهد. یا عامل می تواند با نقاط ضعفی که همکاران انسانی اش دارند سازگار شود. او می‌گوید که توانایی مدل‌سازی رفتار انسان گام مهمی به سوی ساخت یک عامل هوش مصنوعی است که در واقع می‌تواند به آن انسان کمک کند.

جیکوب این مقاله را با آبیشک گوپتا، استادیار دانشگاه واشنگتن، و نویسنده ارشد، جاکوب آندریاس، دانشیار EECS و عضو آزمایشگاه علوم کامپیوتر و هوش مصنوعی (CSAIL) نوشت. این تحقیق در کنفرانس بین المللی ارائه خواهد شد روی بازنمایی های یادگیری

رفتار مدل سازی

محققان چندین دهه است که در حال ساخت مدل های محاسباتی رفتار انسان هستند. بسیاری از رویکردهای قبلی سعی می‌کنند با اضافه کردن نویز به مدل، تصمیم‌گیری غیربهینه را در نظر بگیرند. به جای اینکه نماینده همیشه گزینه صحیح را انتخاب کند، مدل ممکن است از آن نماینده بخواهد 95 درصد مواقع انتخاب صحیح را انجام دهد.

با این حال، این روش ها می توانند این واقعیت را که انسان ها همیشه این کار را نمی کنند، درک کنند به همین شکل نابهینه رفتار کنید.

سایرین در MIT نیز روش‌های مؤثرتری برای برنامه‌ریزی و استنباط اهداف در مواجهه با تصمیم‌گیری غیربهینه مطالعه کرده‌اند.

جیکوب و همکارانش برای ساختن مدل خود از مطالعات قبلی شطرنج بازان الهام گرفتند. آنها متوجه شدند که بازیکنان زمان کمتری برای فکر کردن قبل از اقدام در هنگام انجام حرکات ساده صرف می‌کنند و بازیکنان قوی‌تر تمایل دارند زمان بیشتری را نسبت به بازیکنان ضعیف‌تر برای برنامه‌ریزی در مسابقات چالش‌برانگیز صرف کنند.

جیکوب می‌گوید: «در پایان روز، دیدیم که عمق برنامه‌ریزی، یا مدت زمانی که کسی در مورد مشکل فکر می‌کند، نشان‌دهنده واقعاً خوبی از روش رفتار انسان‌ها است.

آنها چارچوبی ساخته اند که می تواند عمق برنامه ریزی یک عامل را از اقدامات قبلی استنباط کند و از آن اطلاعات برای مدل سازی تصمیم گیری عامل استفاده کند. process.

اولین مرحله در روش آنها شامل اجرای یک الگوریتم برای مدت زمان معینی برای حل مسئله مورد مطالعه است. به عنوان مثال، اگر آنها در حال مطالعه یک مسابقه شطرنج هستند، ممکن است اجازه دهند الگوریتم بازی شطرنج برای تعداد معینی از مراحل اجرا شود. در پایان، محققان می توانند تصمیماتی را که الگوریتم در هر مرحله اتخاذ کرده است، مشاهده کنند.

مدل آنها این تصمیمات را با رفتارهای عاملی که همان مشکل را حل می کند مقایسه می کند. این تصمیمات عامل را با تصمیمات الگوریتم هماهنگ می کند و مرحله ای را که عامل برنامه ریزی را متوقف کرده است مشخص می کند.

از این رو، مدل می‌تواند بودجه استنتاج عامل یا مدت زمانی که آن عامل برای این مشکل برنامه‌ریزی می‌کند، تعیین کند. می‌تواند از بودجه استنتاج برای پیش‌بینی روش واکنش آن عامل هنگام حل یک مشکل مشابه استفاده کند.

راه حل قابل تفسیر

این روش می تواند بسیار کارآمد باشد زیرا محققان می توانند به مجموعه کاملی از تصمیمات اتخاذ شده توسط الگوریتم حل مسئله بدون انجام کار اضافی دسترسی داشته باشند. این چارچوب همچنین می تواند برای هر مشکلی که می تواند با یک کلاس خاص از الگوریتم ها حل شود، اعمال شود.

برای من، قابل توجه ترین چیز این واقعیت بود که این بودجه استنباط بسیار قابل تفسیر است. می‌گویند مشکلات سخت‌تر نیاز به برنامه‌ریزی بیشتری دارند یا اینکه یک بازیکن قوی بودن به معنای برنامه‌ریزی طولانی‌تر است. زمانی که برای اولین بار این کار را انجام دادیم، فکر نمی‌کردیم که الگوریتم ما بتواند این کار را انجام دهد روی ژاکوب می گوید که این رفتارها به طور طبیعی.

محققان رویکرد خود را در سه کار مدل‌سازی مختلف آزمایش کردند: استنباط اهداف ناوبری از مسیرهای قبلی، حدس زدن قصد ارتباطی افراد از روی نشانه‌های کلامی آنها، و پیش‌بینی حرکات بعدی در مسابقات شطرنج انسان و انسان.

روش آنها یا مطابقت داشت یا بهتر از یک جایگزین رایج در هر آزمایش عمل کرد. علاوه بر این، محققان مشاهده کردند که مدل رفتار انسانی آنها با معیارهای مهارت بازیکن (در مسابقات شطرنج) و دشواری کار مطابقت دارد.

در حرکت رو به جلو، محققان می خواهند از این رویکرد برای مدل سازی برنامه ریزی استفاده کنند process در حوزه های دیگر، مانند یادگیری تقویتی (روش آزمون و خطا که معمولا در رباتیک استفاده می شود). در دراز مدت، آنها قصد دارند به ساختن ادامه دهند روی این کار به سمت هدف بزرگتر توسعه همکاران موثرتر هوش مصنوعی کار می کند.

این کار تا حدی توسط برنامه MIT Schwarzman کالج هوش مصنوعی محاسباتی برای تقویت و بهره‌وری و بنیاد ملی علوم پشتیبانی شد.