حوزه هوش مصنوعی چگونه در حال توسعه است و چه معنایی برای آینده شغلی، تحصیلی و بشریت دارد؟ سالی کورنبلوت، رئیس MIT و سام آلتمن، مدیر عامل OpenAI، همه اینها و موارد دیگر را در یک بحث گسترده در پردیس MIT در 2 می پوشش دادند.
موفقیت مدل‌های زبان ChatGPT در مقیاس بزرگ OpenAI به موجی از سرمایه‌گذاری و نوآوری در زمینه هوش مصنوعی کمک کرده است. ChatGPT-3.5 با استفاده از صدها میلیون نفر از این ابزار، از زمان انتشار آن در اواخر سال 2022، به سریع ترین برنامه نرم افزاری مصرف کننده در تاریخ تبدیل شده است. از آن زمان، OpenAI همچنین محصولات تولید تصویر، صدا و ویدئو مبتنی بر هوش مصنوعی را به نمایش گذاشته و با مایکروسافت همکاری کرده است.
این رویداد که در سالنی مملو از Kresge برگزار شد، هیجان لحظه‌ای در اطراف هوش مصنوعی را با نگاهی به اتفاقات بعدی به تصویر کشید.
کورنبلوت گفت: «فکر میکنم اکثر ما اولین باری که ChatGPT را دیدیم، به یاد می‌آوریم و می‌گفتیم: «اوه خدای من، این خیلی باحال است!» اکنون ما در تلاش هستیم تا بفهمیم نسل بعدی این همه چه خواهد بود.”
به نوبه خود، آلتمن از انتظارات بالای شرکت خود و حوزه هوش مصنوعی به طور کلی استقبال می کند.
آلتمن گفت: «فکر میکنم خیلی خوب است که برای دو هفته همه برای ChatGPT-4 دیوانه می‌شدند، و سپس در هفته سوم همه می‌گفتند، بیا، GPT-5 کجاست؟» «من فکر میکنم که این موضوع به‌طور قانونی در مورد انتظارات و آرزوهای انسان و اینکه چرا همه ما باید این کار را انجام دهیم، می‌گوید [be working to] اوضاع را بهتر کن.”
مشکلات هوش مصنوعی
کورنبلوت و آلتمن در اوایل بحث خود در مورد بسیاری از معضلات اخلاقی ایجاد شده توسط هوش مصنوعی بحث کردند.
آلتمن گفت: «من فکر میکنم ما پیشرفت‌های شگفت‌آوری خوبی در مورد چگونگی همسو کردن یک سیستم با مجموعه‌ای از ارزش‌ها داشته‌ایم. “هر چقدر مردم دوست دارند بگویند، “شما نمی توانید از این چیزها استفاده کنید زیرا آنها دائما زباله های سمی به بیرون پرتاب می کنند”، GPT-4 همانطور که شما می خواهید رفتار می کند، و ما می توانیم آن را از مجموعه ای از ارزش ها پیروی کنیم، نه بسیار خوب است، اما بهتر از آنچه در این مرحله انتظار داشتم.
آلتمن همچنین خاطرنشان کرد که مردم در مورد اینکه دقیقاً چگونه یک سیستم هوش مصنوعی باید در بسیاری از موقعیت‌ها رفتار کند، اختلاف نظر دارند، که تلاش‌ها برای ایجاد یک کد رفتار جهانی را پیچیده می‌کند.
از آلتمن پرسید: «چگونه تصمیم بگیریم که یک سیستم چه ارزش هایی داشته باشد؟» «چگونه تصمیم بگیریم که یک سیستم چه کاری انجام دهد؟ جامعه تا چه اندازه با این ابزارها محدودیت هایی را برای اعتماد کاربران تعیین می کند؟ همه آنها را آن طور که ما دوست داریم استفاده نمی کنند، اما این فقط در مورد ابزارها صدق می کند. من فکر می کنم مهم است که به مردم کنترل زیادی بدهیم… اما برخی چیزها وجود دارد که یک سیستم نباید انجام دهد، و ما باید به طور جمعی به توافق برسیم که اینها چیست.”
Kornbluth موافقت کرد که انجام کارهایی مانند حذف سوگیری در سیستم های هوش مصنوعی دشوار خواهد بود.
او گفت: «این جالب است که به این فکر کنیم که آیا می‌توانیم مدل‌ها را کمتر از آنچه که ما هستیم، سوگیری کنیم یا نه.
Kornbluth همچنین نگرانی‌های مربوط به حفظ حریم خصوصی را در رابطه با حجم وسیع داده‌های مورد نیاز برای آموزش مدل‌های بزرگ زبان امروزی مطرح کرد. آلتمن گفت که جامعه از ابتدای پیدایش اینترنت با این نگرانی ها دست و پنجه نرم کرده است، اما هوش مصنوعی این ملاحظات را پیچیده تر و بالاتر می کند. او همچنین سؤالات کاملاً جدیدی را می بیند که با چشم انداز سیستم های هوش مصنوعی قدرتمند مطرح می شوند.
آلتمن می‌پرسد: «چگونه می‌توانیم بین حریم خصوصی در مقابل سودمندی و ایمنی حرکت کنیم؟» زمانی که همه ما به صورت جداگانه تصمیم می‌گیریم این مبادلات را تنظیم کنیم و مزایایی که اگر کسی اجازه دهد سیستم در طول زندگی خود آموزش ببیند ممکن خواهد بود، چیز جدیدی است که جامعه باید از آن عبور کند.» نمی‌دانم چه پاسخ‌هایی خواهد داشت.»
آلتمن با توجه به نگرانی‌های مربوط به حفظ حریم خصوصی و مصرف انرژی مرتبط با هوش مصنوعی گفت که او معتقد است پیشرفت در نسخه‌های آینده مدل‌های هوش مصنوعی کمک خواهد کرد.
آلتمن گفت: «آنچه ما از GPT-5 یا 6 یا هر چیز دیگری می خواهیم این است که بهترین ماشین استدلال ممکن باشد. “درست است که در حال حاضر تنها راهی که می‌توانیم این کار را انجام دهیم آموزش اوست. در این فرآیند، او چیزی در مورد چگونگی انجام استدلال یا دانش بسیار بسیار محدود یا هر چیزی که می‌خواهید آن را بنامید، یاد می‌گیرد.” اما این واقعیت که می‌تواند داده‌ها را به خاطر بسپارد، یا اینکه همه داده‌ها را در فضای پارامتری ذخیره می‌کند، فکر میکنم ما به گذشته نگاه می‌کنیم و می‌گوییم: «فکر میکنم در مقطعی این یک هدر دادن منابع عجیب بود.» ما متوجه خواهیم شد که چگونه ماشین استدلال را از نیاز به هزاران داده یا ذخیره داده در آن جدا کنیم. [the model]و بتوانید با آنها به عنوان چیزهای جداگانه رفتار کنید.’
Kornbluth همچنین پرسید که چگونه هوش مصنوعی می تواند منجر به جابجایی شغلی شود.
یکی از چیزهایی که بیشتر از همه در مورد افرادی که روی هوش مصنوعی کار می‌کنند آزارم می‌دهد این است که صاف می‌ایستند و می‌گویند: «این هرگز مشاغل را حذف نمی‌کند. این فقط یک افزونه است. آلتمن گفت: “همه اینها بسیار عالی خواهند بود.” با تکنولوژی اتفاق می افتد.”
وعده هوش مصنوعی
آلتمن معتقد است که پیشرفت در هوش مصنوعی، حل همه مشکلات فعلی در این زمینه را ارزشمند می کند.
آلتمن گفت: “اگر ما 1 درصد از برق جهان را صرف آموزش یک هوش مصنوعی قدرتمند کنیم و این هوش مصنوعی به ما کمک می کند تا بفهمیم چگونه به انرژی غیر کربنی برسیم یا جذب عمیق کربن را بهبود بخشیم، این یک پیروزی بزرگ خواهد بود.”
او همچنین گفت که کاربرد هوش مصنوعی که بیشتر به آن علاقه دارد، کشف علمی است.
“من باور دارم [scientific discovery] آلتمن گفت که محرک اصلی پیشرفت بشر است و تنها راه برای پیشبرد رشد اقتصادی پایدار است. «مردم از GPT-4 راضی نیستند. آنها خواهان بهبود اوضاع هستند. همه خواهان زندگی بیشتر، بهتر و سریعتر هستند و علم این است که چگونه به آنجا برسیم.
کورنبلوت همچنین از آلتمن خواست تا با توجه به شغل آنها به دانش آموزان توصیه کند. وی از دانش آموزان خواست که خود را محدود نکنند.
آلتمن می‌گوید: «مهم‌ترین درسی که باید در اوایل کار خود یاد بگیرید این است که می‌توانید همه چیز را بفهمید و هیچ‌کس وقتی شروع به کار کرد، همه پاسخ‌ها را ندارد. “شما به نوعی در حال ایجاد مسیر خود هستید، و سرعت تکرار بالایی دارید، و سعی می کنید مشکلاتی را که برای شما جالب ترین هستند، هدف قرار دهید، و در اطراف چشمگیرترین افراد هستید، و این اطمینان را دارید که با موفقیت به کار درست می پردازیم. … شما می توانید بیشتر از آنچه فکر می کنید، سریعتر از آنچه فکر می کنید، انجام دهید.»
این توصیه بخشی از پیام بزرگتر آلتمن در مورد خوش بین بودن و تلاش برای ایجاد آینده ای بهتر بود.
ما به جوانان خود می آموزیم که دنیا کاملاً خراب است و تلاش برای حل مشکلات ناامید کننده است، تنها کاری که می توانیم انجام دهیم این است که در اتاق خواب خود در تاریکی بنشینیم و فکر کنیم که واقعاً چه قدر وحشتناک هستیم که رگه های غیرمولد عمیقی داریم. آلتمن گفت. من امیدوارم که MIT با بسیاری از کالج های دیگر متفاوت باشد. من هم همینطور فکر میکنم. اما همه شما باید مبارزه با آن را ماموریت زندگی خود قرار دهید. رفاه، فراوانی، زندگی بهتر در سال آینده، زندگی بهتر برای فرزندانمان. این تنها راه پیش روست. این تنها راه برای داشتن یک جامعه کارآمد است… و جریان ضد پیشرفت، ضد مردم سزاوار یک زندگی عالی هستند، چیزی است که امیدوارم همه شما با آن مبارزه کنید.”