تراز کردن هوش مصنوعی با ارزشهای انسانی

آدری لوروو ارشد در حال تحقیق در مورد ایمنی هوش مصنوعی است ، که به دنبال اطمینان از مدلهای هوش مصنوعی به طور فزاینده ای قابل اعتماد است و می تواند به نفع بشریت باشد. زمینه در حال رشد تمرکز دارد روی چالش های فنی مانند استحکام و تراز هوش مصنوعی با ارزش های انسانی و همچنین نگرانی های اجتماعی مانند شفافیت و پاسخگویی. پزشکان همچنین به خطرات احتمالی وجودی مرتبط با ابزارهای هوش مصنوعی به طور فزاینده ای نگران هستند.

لوروو ، یک علوم رایانه ، اقتصاد و علوم داده ، می گوید: “اطمینان از سوء استفاده از هوش مصنوعی یا عمل بر خلاف اهداف ما ، به طور فزاینده ای مهم است زیرا ما به هوش عمومی مصنوعی (AGI) نزدیک می شویم.” AGI پتانسیل هوش مصنوعی را برای مطابقت یا پیشی گرفتن از قابلیت های شناختی انسان توصیف می کند.

دانشکده محاسبه محاسبات اجتماعی و اخلاقی محقق محققان محاسبه (SERC) ، لوروو از نزدیک به چگونگی خودکار سازی AI می تواند فرایندها و شیوه های تحقیق و توسعه هوش مصنوعی را از نزدیک نگاه کند. یکی از اعضای گروه تحقیقات بزرگ داده ، او در حال بررسی پیامدهای اجتماعی و اقتصادی مرتبط با پتانسیل هوش مصنوعی برای تسریع در تحقیقات است روی خود و چگونگی ارتباط مؤثر این ایده ها و تأثیرات بالقوه برای مخاطبان عمومی از جمله قانونگذاران ، مشاوران استراتژیک و دیگران.

لورو بر لزوم ارزیابی انتقادی پیشرفتهای سریع AI و پیامدهای آنها تأکید می کند ، و اطمینان از سازمانها از چارچوب ها و استراتژی های مناسب برای رفع خطرات برخوردار است. او می گوید: “ما باید هر دو را تضمین کنیم که انسان از مزایای AI استفاده کند و ما کنترل فناوری را از دست ندهیم.” “ما باید تمام تلاش خود را انجام دهیم تا با خیال راحت آن را توسعه دهیم.”

مشارکت وی در تلاش هایی مانند کمک هزینه تحصیلی فنی ایمنی هوش مصنوعی ، نشان دهنده سرمایه گذاری وی در درک جنبه های فنی ایمنی هوش مصنوعی است. کمک هزینه تحصیلی فرصت هایی برای بررسی تحقیقات موجود فراهم می کند روی تراز توسعه هوش مصنوعی با ملاحظات تأثیر بالقوه انسان. او می گوید: “این کمک هزینه تحصیلی به من کمک کرد تا سوالات و چالش های فنی ایمنی AI را درک کنم تا بتوانم استراتژی های بهتر مدیریت هوش مصنوعی را پیشنهاد کنم.” به گفته لورو ، شرکت ها روی مرزهای هوش مصنوعی همچنان به فشار مرزها ادامه می دهند ، این بدان معناست که ما باید سیاست های مؤثر را که در اولویت بندی ایمنی انسان قرار دارد بدون اینکه مانع تحقیق شود ، اجرا کنیم.

ارزش از درگیری انسان

هنگام ورود به MIT ، لورو می دانست که می خواهد دوره تحصیلی را دنبال کند که به او امکان می دهد در تقاطع علم و علوم انسانی کار کند. با این حال ، انواع پیشنهادهای این موسسه انتخاب های او را دشوار کرد.

او می گوید: “روش های زیادی برای کمک به پیشبرد کیفیت زندگی برای افراد و جوامع وجود دارد.” و MIT مسیرهای مختلفی را برای تحقیقات ارائه می دهد. “

شروع با اقتصاد – نظم و انضباطی که به دلیل تمرکزش از آن لذت می برد روی کمیت تأثیر-لورو قبل از انتخاب دوره 6-14 ، ریاضی ، علوم سیاسی و برنامه ریزی شهری را بررسی کرد.

“کلاسهای اقتصاد سنجی پروفسور جوشوا Angrist به من کمک کرد تا ارزش تمرکز را ببینم روی اقتصاد ، در حالی که عناصر علوم داده و علوم رایانه به دلیل افزایش رشد و تأثیر بالقوه هوش مصنوعی ، برای من جذاب بودند. ” “ما می توانیم از این ابزارها برای مقابله با برخی از مشکلات مهم جهان استفاده کنیم و امیدوارم بر چالش های جدی غلبه کنیم.”

لورو همچنین در مطالعات شهری و برنامه ریزی و توسعه بین المللی غلظت هایی را دنبال کرده است.

همانطور که تمرکز خود را محدود کرده است ، لورو می یابد که چشم انداز خود را به اشتراک می گذارد روی بشریت با سایر اعضای جامعه MIT مانند گروه تراز MIT AI ، که از او کاملاً درباره ایمنی هوش مصنوعی آموخته است. او می گوید: “دانش آموزان به تأثیر حاشیه ای خود اهمیت می دهند.”

تأثیر حاشیه ای ، تأثیر اضافی یک سرمایه گذاری خاص از زمان ، پول یا تلاش ، راهی برای اندازه گیری میزان مشارکت به آنچه در حال حاضر انجام شده است ، به جای تمرکز است. روی تأثیر کل این به طور بالقوه می تواند در جایی که افراد برای اختصاص منابع خود تصمیم می گیرند تأثیر بگذارد ، ایده ای که برای لورو جذاب است.

او می گوید: “در دنیای منابع محدود ، یک رویکرد داده محور برای حل برخی از بزرگترین چالش های ما می تواند از یک رویکرد متناسب باشد که مردم را به سمت جایی که احتمالاً آنها را خوب انجام می دهند ، سوق می دهد.” “اگر می خواهید تأثیرات اجتماعی خود را به حداکثر برسانید ، منعکس کننده روی تأثیر حاشیه انتخاب شغلی شما می تواند بسیار ارزشمند باشد. “

Lorvo همچنین تمرکز MIT را ارزیابی می کند روی آموزش کل دانش آموز و از فرصت هایی برای بررسی رشته هایی مانند فلسفه از طریق MIT Concourse ، برنامه ای که گفتگو بین علم و علوم انسانی را تسهیل می کند ، استفاده کرده است. Concourse امیدوار است که شرکت کنندگان راهنمایی ، وضوح و هدف را برای اقدامات علمی ، فنی و انسانی کسب کنند.

تجربیات دانشجویی در موسسه

لورو وقت خود را در خارج از کلاس برای ایجاد تجربیات به یاد ماندنی و تقویت روابط با همکلاسی های خود سرمایه گذاری می کند. او می گوید: “من خوش شانس هستم که فضایی برای تعادل در دوره های کار ، تحقیق و تعهدات باشگاه من با سایر فعالیت ها ، مانند وزنه برداری و ابتکارات خارج از دانشگاه وجود دارد.” “همیشه باشگاه ها و رویدادهای زیادی در سراسر موسسه وجود دارد.”

این فرصت ها برای گسترش جهان بینی وی ، اعتقادات او را به چالش کشیده و او را در مناطق جدید مورد علاقه قرار داده است که زندگی و انتخاب شغلی او را برای بهتر شدن تغییر داده است. لورو ، که به زبان فرانسه ، انگلیسی ، اسپانیایی و پرتغالی مسلط است ، همچنین از MIT برای تجربیات بین المللی که برای دانشجویان فراهم می کند ، تشویق می کند.

وی گفت: “من در سانتیاگو د شیلی و پاریس با میسی کارآموزی کردم و به آزمایش یک محفظه چگالش بخار آب که در یک کلاس پاییز 1402 D-LAB با همکاری مدرسه پلی تکنیک ماداگاسکار و سازمان های غیردولتی تاتیرانو طراحی کردیم ، کمک کردم [nongovernmental organization]او می گوید ، “و از فرصت های یادگیری در مورد رسیدگی به نابرابری اقتصادی از طریق توسعه بین المللی من و کلاس های D-Lab لذت بردم.”

به عنوان رئیس انجمن اقتصاد کارشناسی ارشد MIT ، لورو در حالی که همچنان به گسترش درک خود از این زمینه ادامه می دهد ، با سایر دانشجویان علاقه مند به اقتصاد ارتباط برقرار می کند. او از روابطی که در حال ایجاد است و در عین حال در رویدادهای انجمن در طول سال نیز شرکت می کند ، لذت می برد. او می گوید: “حتی به عنوان یک ارشد ، جوامع جدید دانشگاه را برای کشف و قدردانی پیدا کردم.” “من دانش آموزان دیگر را تشویق می کنم تا به کاوش در گروه ها و کلاس هایی که علاقه های آنها در طول زمان خود در MIT را برانگیخته است ، ادامه دهند.”

پس از فارغ التحصیلی ، لورو می خواهد به تحقیق در مورد ایمنی هوش مصنوعی و تحقیق در مورد استراتژی های حاکمیتی ادامه دهد که می تواند به اطمینان از استقرار ایمن و مؤثر AI کمک کند.

وی می گوید: “حاکمیت خوب برای پیشرفت موفق AI ضروری است و اطمینان از اینکه بشریت می تواند از پتانسیل تحول آن بهره مند شود.” “ما باید همچنان به نظارت بر رشد و توانایی های هوش مصنوعی ادامه دهیم.

درک تأثیرات بالقوه فناوری روی بشریت ، انجام خوب ، به طور مداوم در حال بهبود و ایجاد فضاهایی که ایده های بزرگ می توانند نور روز را به سمت رانندگی Lorvo ببینند. ادغام علوم انسانی با علوم ، بسیاری از کارهایی را که او انجام می دهد ، متحرک می کند. او می گوید: “من همیشه امیدوار بودم که در بهبود زندگی مردم مشارکت کنم و هوش مصنوعی بیانگر بزرگترین چالش و فرصت بشریت است.” “من معتقدم که حوزه ایمنی هوش مصنوعی می تواند از افرادی که تجربیات بین رشته ای دارند مانند نوعی که من خوش شانس برای به دست آوردن بوده ام ، بهره مند شود ، و من هر کسی را تشویق می کنم که آینده را برای شکل گیری آینده برای کشف آن جلب کند.”