محققان LLM را برای حل چالش های برنامه ریزی پیچیده آموزش می دهند | اخبار MIT

یک شرکت قهوه را تصور کنید که سعی در بهینه سازی زنجیره تأمین دارد. این شرکت لوبیا را از سه تأمین کننده تخلیه می کند ، آنها را در دو تسهیلات در قهوه تیره یا سبک پخت و سپس قهوه کباب شده را به سه مکان ارسال می کند. تأمین کنندگان ظرفیت ثابت متفاوتی دارند و هزینه هزینه های پخت و تحویل از جایی به مکان دیگر متغیر است.
این شرکت در تلاش است تا ضمن افزایش 23 درصد تقاضا ، هزینه ها را به حداقل برساند.
آیا این شرکت برای شرکت از چتپپ آسان تر نخواهد بود که یک برنامه بهینه ارائه دهد؟ در حقیقت ، برای تمام قابلیت های باورنکردنی آنها ، مدل های بزرگ زبان (LLM) اغلب هنگام بارگیری مستقیم با چنین مشکلات برنامه ریزی پیچیده ای ، خود را ضعیف نشان می دهند.
محققان MIT به جای تلاش برای تغییر مدل برای برنامه ریزی بهتر LLM ، رویکرد متفاوتی اتخاذ کرده اند. آنها قاب را معرفی کردند که LLM را برای شکستن مشکل به عنوان یک شخص راهنمایی می کند و سپس با استفاده از یک ابزار نرم افزاری قدرتمند ، آن را به طور خودکار حل می کند.
کاربر فقط باید مشکل را در زبان طبیعی توصیف کند بدون نمونه های خاص آموزش یا ترتیب LLM لازم نیست. این مدل سریع متن کاربر را در فرمی رمزگذاری می کند که می تواند با بهینه سازی طراحی شود تا به طور مؤثر چالش های بسیار دشوار را برای برنامه ریزی پانچ کند.
در طی فرآیند فرمولاسیون ، LLM کار خود را در چندین مرحله میانی بررسی می کند تا اطمینان حاصل شود که این طرح به درستی در مورد راه حل شرح داده شده است. اگر او به جای تسلیم شدن ، خطایی را مشاهده کند ، LLM سعی می کند قسمت شکسته عبارت را تنظیم کند.
هنگامی که محققان قاب خود را برای نه چالش پیچیده ، از جمله به حداقل رساندن روبات های پاک ، آزمایش کردند ، آنها باید برای انجام وظایف سفر کنند ، 85 درصد موفقیت را به دست آورده است ، در حالی که بهترین خط پایه تنها 39 درصد موفقیت کسب کرده است.
قاب جهانی را می توان برای تعدادی از کارهای برنامه ریزی چند منظوره مانند برنامه ریزی خدمه هواپیمایی یا مدیریت دستگاه در یک کارخانه استفاده کرد.
ییلون هائو ، دانشجوی فارغ التحصیل در آزمایشگاه MIT برای اطلاعات و راه حل ها می گوید: “مطالعه ما چارچوبی را معرفی می کند که اساساً به عنوان دستیار هوشمند برای مشکلات برنامه ریزی عمل می کند. این می تواند بهترین برنامه ای را که تمام نیازهای شما را برآورده می کند ، درک کند ، حتی اگر قوانین پیچیده یا غیرمعمول باشد.”
به روزنامه جان جیان ، علمی برای تحقیق در آزمایشگاه MIT-BM Watson AI بپیوندید. و نویسنده ارشد چو فن ، استادیار هوانوردی و فضانوردی و محقق سرمایه. این نظرسنجی در کنفرانس بین المللی نمایندگان آموزش ارائه خواهد شد.
بهینه سازی 101
گروه فن الگوریتم هایی را ایجاد می کند که به طور خودکار آنچه را که به عنوان مشکلات بهینه سازی ترکیبی شناخته می شوند ، حل می کنند. این مشکلات عظیم متغیرهای به هم پیوسته زیادی برای حل دارند که هر کدام گزینه های مختلفی دارند که به سرعت میلیاردها انتخاب بالقوه را اضافه می کنند.
افراد با محدود کردن آنها به چندین گزینه ، مشکلات مشابه را حل می کنند و سپس تعیین می کنند که کدام یک به بهترین برنامه کلی منجر می شود. حلالهای الگوریتمی محققان همان اصول را برای مشکلات بهینه سازی اعمال می کنند که برای یک فرد بسیار پیچیده است.
اما حلالهایی که توسعه می یابند تمایل به داشتن منحنی آموزش شیب دار دارند و معمولاً فقط توسط متخصصان استفاده می شوند.
“ما فکر کردیم که LLMS می تواند به غیر متخصصان اجازه دهد تا از این الگوریتم ها برای حل استفاده کنند. در آزمایشگاه ما ، ما برای متخصص دامنه مشکلی ایجاد می کنیم و آن را در یک مشکل رسمی می کنیم که می تواند تصمیم بگیرد که راه حل ما باشد. آیا ما می توانیم LLM را انجام دهیم؟” فن می گوید.
با استفاده از این قاب ، که توسط محققان به نام برنامه نویسی رسمی مبتنی بر LLM (LLMFP) تهیه شده است ، توضیحات طبیعی از زبان مسئله ، یک اطلاعات اصلی وظیفه و درخواستی را ارائه می دهد که هدف آنها را توصیف می کند.
LLMFP سپس LLM را ترغیب می کند تا در مورد مشکل فکر کند و راه حل های راه حل و محدودیت های کلیدی را که راه حل بهینه را شکل می دهد ، تعیین کند.
LLMFP از LLM می خواهد قبل از رمزگذاری اطلاعات در فرمولاسیون ریاضی یک مشکل بهینه سازی ، نیازهای هر متغیر را شرح دهد. او کدی را می نویسد که مشکل را رمزگذاری می کند و خواستار بهینه سازی حل کننده ضمیمه شده است که به یک راه حل کامل می رسد.
هوادار می افزاید: “این شبیه به نحوه آموزش مشکلات با بهینه سازی MIT است. ما فقط یک دامنه به آنها آموزش نمی دهیم. ما روش شناسی را به آنها آموزش می دهیم.”
در حالی که ورودی های تعیین کننده صحیح است ، جواب درست می دهد. همه اشتباهات موجود در راه حل ناشی از اشتباهات در فرآیند فرمولاسیون است.
برای اطمینان از اینکه وی یک برنامه کاری پیدا کرده است ، LLMFP راه حل را تجزیه و تحلیل می کند و تمام مراحل اشتباه را در تدوین مشکل تغییر می دهد. پس از تصویب این طرح خود ارزیابی ، تصمیم به زبان طبیعی برای کاربر توصیف می شود.
بهبود طرح
این ماژول خود ارزیابی همچنین به LLM اجازه می دهد تا هرگونه محدودیت ضمنی را که بار اول از دست داده است اضافه کند.
به عنوان مثال ، اگر قاب زنجیره تأمین را به حداقل برساند تا هزینه یک کافه را به حداقل برساند ، فرد می داند که کافه نمی تواند مقدار منفی لوبیای بو داده را تحویل دهد ، اما LLM ممکن است آن را تحقق بخشد.
مرحله خود ارزیابی این اشتباه را نشان می دهد و مدل را برای تصحیح آن سوق می دهد.
فن می گوید: “به علاوه ، LLM می تواند با ترجیحات کاربر سازگار باشد. اگر این مدل کاربر خاصی را پیاده سازی کند ، دوست ندارد زمان یا بودجه برنامه های سفر خود را تغییر دهد ، ممکن است پیشنهاد کند مواردی را که نیازهای کاربر را برآورده می کند ، تغییر دهد.”
در یک سری آزمایشات ، چارچوب آنها با 9 مشکل برنامه ریزی مختلف با استفاده از چندین LLM به موفقیت متوسط بین 83 تا 87 درصد دست یافت. در حالی که برخی از مدل های اساسی برای مشکلات خاص بهتر بودند ، LLMFP به میزان موفقیت کل تقریباً دو برابر تکنیک های اساسی دست یافت.
بر خلاف این رویکردهای دیگر ، LLMFP به نمونه های آموزشی خاص دامنه نیاز ندارد. او می تواند راه حل بهینه برای یک مشکل برنامه ریزی را بلافاصله در خارج از جعبه پیدا کند.
علاوه بر این ، کاربر می تواند LLMFP را برای حلال های مختلف بهینه سازی با تنظیم درخواست شده به LLM تطبیق دهد.
فن می گوید: “با LLMS ، ما این فرصت را داریم که رابط کاربری ایجاد کنیم که به افراد اجازه می دهد از ابزارهایی از سایر حوزه ها استفاده کنند تا مشکلات را به روشهایی که قبلاً فکر نکرده اند ، حل کنند.”
در آینده ، محققان می خواهند LLMFP را قادر به پذیرش تصاویر به عنوان سهم در مکمل توضیحات مشکل برنامه ریزی کنند. این به قاب کمک می کند تا کارهایی را که به ویژه توصیف کامل در زبان طبیعی دشوار است ، حل کند.
این کار تا حدودی توسط سرویس تحقیقات نیروی دریایی و آزمایشگاه MIT-BIBM Watson AI تأمین شد.




