رئیس جمهور سالی کورنبلوت و مدیر عامل OpenAI سم آلتمن در مورد آینده هوش مصنوعی صحبت می کنند

حوزه هوش مصنوعی چگونه در حال پیشرفت است و چه معنایی برای آینده شغلی، تحصیلی و بشریت دارد؟ سالی کورنبلوت، رئیس MIT و سام آلتمن، مدیر عامل OpenAI، همه اینها و موارد دیگر را در یک بحث گسترده پوشش دادند. روی پردیس MIT 2 مه.

موفقیت مدل‌های زبان بزرگ ChatGPT OpenAI به موجی از سرمایه‌گذاری و نوآوری در زمینه هوش مصنوعی کمک کرده است. ChatGPT-3.5 پس از انتشار آن در پایان سال 2022، با استفاده از صدها میلیون نفر از این ابزار، به سریع ترین برنامه نرم افزاری مصرف کننده در تاریخ تبدیل شد. از آن زمان، OpenAI همچنین محصولات تولید تصویر، صدا و ویدئو مبتنی بر هوش مصنوعی را به نمایش گذاشته و با مایکروسافت شریک شده است.

این رویداد، که در سالن مملو از کرسگ برگزار شد، هیجان لحظه‌ای را در اطراف هوش مصنوعی، با چشم‌اندازی به اتفاقات بعدی، به تصویر کشید.

کورنبلوت گفت: «فکر می‌کنم اکثر ما اولین باری که ChatGPT را دیدیم، به یاد می‌آوریم و می‌گفتیم: «اوه خدای من، این خیلی باحال است!» اکنون ما در تلاشیم تا بفهمیم نسل بعدی این همه چه خواهد بود.»

به نوبه خود، آلتمن از انتظارات بالای شرکت خود و به طور گسترده‌تر حوزه هوش مصنوعی استقبال می‌کند.

من فکر می‌کنم خیلی خوب است که به مدت دو هفته، همه درباره ChatGPT-4 نگران بودند، و سپس در هفته سوم، همه می‌گفتند، بیا onآلتمن گفت، GPT-5 کجاست؟ من فکر می‌کنم که این موضوع به خوبی در مورد انتظارات و تلاش‌های انسانی و اینکه چرا همه ما مجبور به انجام آن هستیم، می‌گوید [be working to] اوضاع را بهتر کن.»

مشکلات هوش مصنوعی

زود روی در بحث خود، کورنبلوت و آلتمن در مورد بسیاری از معضلات اخلاقی ایجاد شده توسط هوش مصنوعی بحث کردند.

آلتمن گفت: «من فکر می‌کنم که ما پیشرفت‌های شگفت‌آوری خوبی در مورد چگونگی همسو کردن یک سیستم حول مجموعه‌ای از ارزش‌ها داشته‌ایم. همان‌قدر که مردم دوست دارند بگویند «شما نمی‌توانید از این چیزها استفاده کنید زیرا دائماً زباله‌های سمی به بیرون پرتاب می‌کنند»، GPT-4 به نحوی رفتار می‌کند که شما می‌خواهید، و ما می‌توانیم آن را به آن برسانیم. مجموعه‌ای از ارزش‌ها را دنبال کنید، نه کاملاً خوب، اما بهتر از آن چیزی که تا اینجا انتظار داشتم.»

آلتمن همچنین اشاره کرد که مردم موافق نیستند روی دقیقاً چگونه یک سیستم هوش مصنوعی باید در بسیاری از موقعیت ها رفتار کند، که تلاش ها برای ایجاد یک کد رفتار جهانی را پیچیده می کند.

“چگونه تصمیم بگیریم که یک سیستم چه ارزش هایی داشته باشد؟” آلتمن پرسید. «چگونه تصمیم بگیریم که یک سیستم چه کاری انجام دهد؟ جامعه چقدر در مقابل اعتماد به کاربر با این ابزارها مرزها را مشخص می کند؟ همه آنها را آنطور که ما دوست داریم استفاده نمی کنند، اما این دقیقاً در مورد ابزارها صدق می کند. من فکر می‌کنم مهم است که کنترل زیادی به مردم بدهیم… اما برخی چیزها وجود دارد که یک سیستم نباید انجام دهد، و ما باید به طور جمعی درباره آن‌ها مذاکره کنیم.»

Kornbluth موافقت کرد که انجام کارهایی مانند ریشه کن کردن سوگیری در سیستم های هوش مصنوعی دشوار خواهد بود.

او گفت: «این جالب است که به این فکر کنیم که آیا می‌توانیم مدل‌ها را نسبت به انسان‌ها مغرضانه‌تر کنیم یا نه.

Kornbluth همچنین نگرانی‌های مربوط به حفظ حریم خصوصی را در رابطه با حجم وسیعی از داده‌های مورد نیاز برای آموزش مدل‌های بزرگ زبان امروزی مطرح کرد. آلتمن گفت که جامعه از ابتدای پیدایش اینترنت با این نگرانی‌ها دست و پنجه نرم می‌کند، اما هوش مصنوعی چنین ملاحظاتی را پیچیده‌تر و با ریسک‌های بالاتری انجام می‌دهد. او همچنین سؤالات کاملاً جدیدی را می بیند که با چشم انداز سیستم های هوش مصنوعی قدرتمند مطرح می شوند.

“چگونه می‌خواهیم حریم خصوصی را در مقابل سودمندی در مقابل معاوضه‌های ایمنی پیمایش کنیم؟” آلتمن پرسید. “جایی که همه ما به صورت جداگانه تصمیم می گیریم آن معاوضه ها را تنظیم کنیم، و مزایایی که اگر کسی اجازه دهد سیستم آموزش داده شود ممکن خواهد بود. روی کل زندگی آنها چیز جدیدی برای جامعه است که باید آن را طی کند. نمی‌دانم چه پاسخ‌هایی خواهد داشت.»

آلتمن گفت که در مورد نگرانی‌های مربوط به حریم خصوصی و مصرف انرژی در مورد هوش مصنوعی، معتقد است پیشرفت در نسخه‌های آینده مدل‌های هوش مصنوعی کمک خواهد کرد.

آلتمن گفت: “چیزی که ما از GPT-5 یا 6 یا هر چیز دیگری می خواهیم این است که بهترین موتور استدلال ممکن باشد. درست است که در حال حاضر، تنها راهی که می توانیم این کار را انجام دهیم آموزش آن است. روی تن و تن از داده ها. در آن process، یادگیری چیزی در مورد چگونگی انجام استدلال یا شناخت بسیار بسیار محدود است یا هر چیزی که می خواهید آن را بنامید. اما این واقعیت که می‌تواند داده‌ها را به خاطر بسپارد، یا اینکه اصلاً داده‌ها را در فضای پارامتری خود ذخیره می‌کند، فکر می‌کنم به گذشته نگاه می‌کنیم و می‌گوییم: “این یک هدر دادن منابع عجیب بود.” من فرض می‌کنم در مقطعی، ما متوجه خواهیم شد که چگونه موتور استدلال را از نیاز به هزاران داده یا ذخیره داده‌ها در آن جدا کنیم. [the model]و بتوانید با آنها به عنوان چیزهای جداگانه رفتار کنید.»

Kornbluth همچنین در مورد اینکه چگونه هوش مصنوعی ممکن است منجر به جابجایی شغل شود، پرسید.

یکی از چیزهایی که بیشتر از همه در مورد افرادی که کار می کنند آزارم می دهد روی هوش مصنوعی زمانی است که آنها با چهره ای صاف از جای خود می ایستند و می گویند: “این هرگز باعث حذف شغل نمی شود.” این فقط یک چیز افزودنی است. آلتمن گفت: همه اینها عالی خواهد بود. این کار بسیاری از مشاغل فعلی را حذف خواهد کرد، و این روش عملکرد بسیاری از مشاغل فعلی را تغییر خواهد داد، و این امر باعث ایجاد مشاغل کاملاً جدید خواهد شد. این همیشه با تکنولوژی اتفاق می افتد.”

وعده هوش مصنوعی

آلتمن بر این باور است که پیشرفت در هوش مصنوعی، دست و پنجه نرم کردن با تمام مشکلات کنونی این حوزه را ارزشمند خواهد کرد.

آلتمن گفت: “اگر ما 1 درصد از برق جهان را صرف آموزش یک هوش مصنوعی قدرتمند کنیم، و این هوش مصنوعی به ما کمک کرد تا بفهمیم چگونه به انرژی غیر مبتنی بر کربن برسیم یا جذب کربن عمیق را بهتر کنیم، این یک پیروزی بزرگ خواهد بود.”

او همچنین گفت که کاربرد هوش مصنوعی که بیشتر به آن علاقه دارد، کشف علمی است.

“من باور دارم [scientific discovery] آلتمن گفت که موتور اصلی پیشرفت بشر است و این تنها راهی است که ما رشد اقتصادی پایدار را پیش می بریم. «مردم از GPT-4 راضی نیستند. آنها می خواهند اوضاع بهتر شود. همه خواهان زندگی بیشتر و بهتر و سریعتر هستند و علم این است که چگونه به آنجا برسیم.

کورنبلوت همچنین از آلتمن برای دانش‌آموزانی که به حرفه‌شان فکر می‌کنند، راهنمایی خواست. وی از دانش آموزان خواست که خود را محدود نکنند.

“مهم ترین درسی که باید زود یاد گرفت روی آلتمن گفت: در حرفه شما این است که می توانید هر چیزی را بفهمید، و هیچ کس وقتی شروع به کار می کند، همه پاسخ ها را ندارد. “شما به نوعی در مسیر خود دچار تلو تلو خوردن می شوید، سرعت تکرار بالایی دارید، و سعی می کنید به سمت جالب ترین مشکلات پیش روی خود بروید، و در اطراف چشمگیرترین افراد باشید و این اعتماد را داشته باشید که با موفقیت به سمت چیزهای درست تکرار خواهید کرد. … شما می توانید بیشتر از آنچه فکر می کنید، سریعتر از آنچه فکر می کنید، انجام دهید.»

این توصیه بخشی از پیام گسترده تر آلتمن در مورد خوش بین بودن و تلاش برای ایجاد آینده ای بهتر بود.

روشی که به جوانان خود می آموزیم که دنیا کاملاً خراب است و تلاش برای حل مشکلات ناامیدکننده است، اینکه تنها کاری که می توانیم انجام دهیم این است که در اتاق خواب خود در تاریکی بنشینیم و به این فکر کنیم که چقدر وحشتناک هستیم. آلتمن گفت: یک خط غیرمولد. “امیدوارم MIT با بسیاری از دانشگاه های دیگر متفاوت باشد. من فرض می کنم که باشد. اما همه شما باید آن را به بخشی از ماموریت زندگی خود تبدیل کنید تا با آن مبارزه کنید. رفاه، فراوانی، زندگی بهتر در سال آینده، زندگی بهتر برای فرزندانمان. این تنها راه پیش رو است. این تنها راه برای داشتن یک جامعه کارآمد است… و جریان ضد پیشرفت، خط ضد «مردم لایق یک زندگی عالی هستند» چیزی است که امیدوارم همه شما با آن مبارزه کنید.»