با راه اندازی Frontier در ماه مه 2022، ORNL رسما ایالات متحده را وارد عصر مقیاس بزرگ محاسباتی با عملکرد بالا کرده است. اما در سال 2008، امکان‌سنجی ماشین‌های اگزا اسکیل که می‌توانستند یک میلیارد میلیارد عملیات ممیز شناور در ثانیه انجام دهند، تاریک به نظر می‌رسید.
پیتر ام. کوگ از دانشگاه نوتردام مطالعه ای را با حمایت آژانس پروژه های تحقیقاتی پیشرفته دفاعی برای شناسایی موانع کلیدی مقیاس اگزا رهبری کرد. منتشر شده در می 2008، چالش های تکنولوژیک در دستیابی به سیستم های در مقیاس بزرگ از کارشناسان HPC از دانشگاه‌ها، آزمایشگاه‌های تحقیقاتی و صنعت نظرسنجی کرد تا پیش‌بینی کند که آیا کشور تا سال 2015 می‌تواند به افزایش هزار برابری قدرت محاسباتی نسبت به سیستم‌های پنج‌مقیاس جدید دست یابد یا خیر.
اجماع آنها؟ بدون تغییر مسیر تکنولوژی HPC نسبت به پیشرفته ترین آن زمان نیست.
اما اکنون، 15 سال بعد، محاسبات در مقیاس اگزا به واقعیت تبدیل شده است، البته نه آنطور که دارپا امیدوار بود. فرانتیر دوران جدیدی را در علوم کامپیوتر نوید داد که در چند سال آینده توسط Aurora در آزمایشگاه ملی Argonne و El Capitan در آزمایشگاه ملی Lawrence Livermore دنبال خواهد شد. این ابررایانه‌های مقیاس بزرگ با مشکلات بزرگ‌تر مقابله می‌کنند و به سوالات پیچیده‌تر از همیشه پاسخ می‌دهند.
چگونه Oak Ridge Leadership Computing Facility و شرکای فروشنده آن AMD و HPE Cray بر موانع شناسایی شده در گزارش Kogge غلبه کردند؟ کار سازمانی زیادی، چند شروع اشتباه و برخی پیشرفت‌های اتفاقی در فناوری محاسبات نیاز داشت.
ما مجبور بودیم پردازنده های کارآمدتری در مصرف انرژی ایجاد کنیم. ما باید سخت افزار قابل اعتمادتر و اتصالات بهتر می ساختیم. ما نیاز داشتیم که بتوانیم داده ها را کارآمدتر جابجا کنیم. ما مجبور بودیم الگوریتم هایی طراحی کنیم که بتواند از این سطح از موازی سازی استفاده کند. همزمانی توانایی پردازش بیش از یک کار به طور همزمان بدون اجرای دو کار به طور همزمان است.
“اینها همه چیزهای پیچیده ای هستند و برای توسعه فناوری مورد نیاز برای دستیابی به آنها به تحقیق نیاز دارند. اما برای 10 سال آینده یا بیشتر، ما همین کار را انجام دادیم.
برنامه ریزی برای کلاس جدیدی از ابر رایانه ها
برای طراحی و ساخت یک ابررایانه نسل بعدی، اولین قدم سخت ترین است: یافتن بودجه. اما برای متقاعد کردن سازمان‌های دولتی – و به نوبه خود کنگره – برای هزینه‌های کلان برای یک فناوری پیشرفته، باید دلیل محکمی برای ضرورت و امکان‌سنجی آن ارائه شود، و این شامل بسیاری از گروه‌های مطالعاتی و ایجاد اجماع فراوان است.
گزارش‌های زیادی در دهه پس از اولین مطالعه در مقیاس بزرگ منتشر شد که معمولاً نام دونگارا روی آنها بود. بسیاری احتمالات و غیرممکن‌های بالقوه محاسبات مقیاس بزرگ را بررسی کرده‌اند. اکثر آنها همان دو چالش فنی را شناسایی کردند که برای دستیابی به مقیاس بزرگ باید بر آنها غلبه کرد: کاهش مصرف انرژی و افزایش قابلیت اطمینان تراشه‌هایی که این سیستم‌های عظیم را تغذیه می‌کنند.
در همین حال، ائتلاف‌های exascale در میان آزمایشگاه‌های ملی شروع به شکل‌گیری کرده‌اند تا چگونگی حل این چالش‌های فنی و ایجاد قدرت سیاسی کافی برای انتقال پروژه‌های exascale از طریق آژانس‌های فدرال را بیابند. ناموفق ترین، اما حرکت رو به جلو به سمت مقیاس بزرگ در سه جبهه انجام شد.
ابتدا، روابط با فروشندگان فناوری کامپیوتر در سال 2012 با برنامه های FastForward و DesignForward DOE رسمیت یافت. FastForward بر فروشندگان پردازنده، حافظه و ذخیره سازی – مانند AMD و Intel – برای رسیدگی به مشکلات مصرف انرژی و پایداری تمرکز دارد. DesignForward عمدتاً بر روی یکپارچه‌سازهای سیستم مانند HPE، Cray و IBM برای برنامه‌ریزی بسته‌بندی، یکپارچه‌سازی و مهندسی تمرکز دارد. Cray بعداً توسط HPE در سال 2019 خریداری شد.
دوم، Oak Ridge، Argonne و Livermore Collaboration یا CORAL توسط DOE در سال 2012 ایجاد شد تا فرآیند تحویل ابررایانه را ساده کند. در آن زمان، هر آزمایشگاه در حال دستیابی به سیستم‌های پیش مقیاس بزرگ بود و برای آنها منطقی بود که با هم کار کنند. CORAL-2 این همکاری موفق را برای ارائه سیستم های مقیاس قبلی ادامه می دهد.
سوم، پروژه محاسباتی Exascale در سال 2016 به عنوان بخشی از طرح محاسباتی Exascale DOE راه اندازی شد و بیش از 1000 محقق از 15 آزمایشگاه، 70 دانشگاه و 32 فروشنده را گرد هم می آورد تا توسعه برنامه های کاربردی exascale و همچنین کتابخانه های نرم افزاری و فناوری های نرم افزاری را بر عهده بگیرند. نرم‌افزار عاملی حیاتی در تعیین موفقیت اولیه سیستم‌های اکساسکال جدید خواهد بود.
ما بسیار خوش شانس هستیم که به یک ابرکامپیوتر بی‌نظیر در سطح جهانی دسترسی داریم و نمی‌خواهیم اجازه دهیم آن یک دقیقه بماند. ما طیف وسیعی از برنامه‌ها و فناوری‌های نرم‌افزاری را ارائه می‌کنیم که می‌توانند از این منبع ارزشمند برای حل مشکلات منافع ملی استفاده کنند.»
همه چیز باید در روز اول کیفیت، عملکرد و قابلیت حمل ثابت شود. بنابراین برای به دست آوردن بیشترین بازده در سرمایه گذاری مالیات دهندگان و سریع ترین مسیر برای اکتشافات علمی جدید، باید همه این برنامه ها را آماده داشته باشیم.
با وجود این برنامه‌ها، نیازمندی‌های سیستم‌های تمام‌مقیاس واقعی برای صدور درخواست‌های اطلاعات و درخواست‌های پیشنهادی، گام‌های ضروری در فرآیند تدارکات دولتی برای تحریک رقابت بین تامین‌کنندگان، باید مستحکم شود.
داگ کوت، دانشیار سابق علوم محاسباتی و محاسباتی ORNL گفت: «ما به این ماشین‌ها نیاز داریم که پایدار باشند تا همراه با برنامه‌های کاربردی و پشته نرم‌افزاری ما، بتوانند به وعده خود مبنی بر اینکه ابزارهای علمی و مهندسی ثابت برای کشور باشند، عمل کنند. Laboratory. Directorate که در سال 2023 توسط Diachin به عنوان مدیر ECP جایگزین شد. «بنابراین ما به عنوان یک جامعه از سال‌ها پیش شروع به صحبت در مورد این موضوع کردیم – و صحبت کردن به معنای نوشتن پاسخ به سؤالات کلیدی در مورد الزامات است مانند: چرا؟ چی؟ چگونه چقدر خوب؟ از نظر تحقیق و توسعه و نرم افزار روی چه چیزی باید تمرکز کنیم؟
بسیاری از این پرسش‌ها حول محور این بود که سیستم در نهایت از چه معماری زیربنایی استفاده می‌کرد – که تا حدی با انتخاب سال‌ها قبل توسط OLCF برای استفاده از برخی سخت‌افزار رایانه‌های مصرفی در ابررایانه‌ها مشخص شد.
تعریف آینده HPC
قبل از معرفی Titan OLCF در سال 2012، GPU ها یا GPU ها بیشتر به خاطر قدرت بخشیدن به رایانه های شخصی گیمینگ رده بالا معروف بودند. در آن زمان، اکثر ابرکامپیوترها تنها به واحدهای پردازش مرکزی یا CPUها برای خرد کردن الگوریتم‌های خود متکی بودند. اما Titan یک معماری پردازنده هیبریدی انقلابی را معرفی کرد که ترکیبی از پردازنده‌های 16 هسته‌ای AMD Opteron و پردازنده‌های گرافیکی NVIDIA Kepler است که محاسبات ریاضی فشرده را انجام می‌دهند. در عین حال، پردازنده ها به طور موثر وظایف را هدایت می کنند، بنابراین محاسبات را به طور قابل توجهی سرعت می بخشند.
کوته گفت: «سیستم مبتنی بر GPU تیتان در آن زمان یک طراحی منحصر به فرد ابر رایانه بود. من فکر نمی‌کنم که کل جامعه عاشق آن شده باشند یا فکر نمی‌کنند که قرار است به یک فناوری اساسی برای مقیاس بزرگ تبدیل شود. Oak Ridge معتقد بود که محاسبات شتاب دهنده گره برای آینده قابل پیش بینی یک هنجار خواهد بود و تا کنون به نتیجه رسیده است.
تایتان منجر به ساخت ابررایانه‌های بیشتر مبتنی بر GPU شده است، از جمله Summit در سال 2017 – جانشین Titan در OLCF – و Sierra از LLNL در سال 2018. هر دو از پردازنده‌های گرافیکی NVIDIA V100 استفاده می‌کنند و این انتخاب همچنین در پیکربندی قابلیت‌های سیستم exascale آینده مهم است.
Al Geist، مدیر ارشد فناوری ECP و OLCF، بسیاری از اسناد را برای CORAL و CORAL-2 نوشت. او معماری Summit را نقطه عطف دیگری در طراحی ابررایانه می داند.
با بزرگ‌تر شدن و بزرگ‌تر شدن ابررایانه‌ها، انتظار داشتیم آنها تخصصی‌تر و محدود به تعداد کمی از برنامه‌های کاربردی باشند که بتوانند از قابلیت‌های خاص آنها استفاده کنند. اما وقتی Summit اعلام شد، NVIDIA پرید و گفت: “اوه، اتفاقاً، این پردازنده‌های گرافیکی Volta چیزی به نام هسته‌های تانسور در خود دارند که به شما امکان می‌دهد محاسبات هوش مصنوعی و انواع چیزهای اضافی را انجام دهید.” آنها می‌توانند مدل‌سازی و شبیه‌سازی HPC سنتی را انجام دهند، اما Summit در انجام تجزیه و تحلیل داده‌ها و هوش مصنوعی با کارایی بالا نیز بسیار کارآمد است.
توانایی پردازنده‌های گرافیکی در سرعت بخشیدن به عملکرد و همچنین مدیریت ریاضیات با دقت ترکیبی برای علم داده – در حالی که از توان کمتری نسبت به پردازنده‌ها استفاده می‌کنند – آنها را به بهترین انتخاب برای معماری exascale تبدیل می‌کند، به خصوص با طراحی‌های قدرتمندتر و کارآمدتر تراشه‌های نسل بعدی. شرکای فروشنده مانند AMD، Intel و NVIDIA.
Geist گفت: “چیزی که ما در نهایت دریافتیم این است که exascale به این فناوری عجیب و غریب که از آن گزارش سال 2008 بیرون آمده است، نیاز ندارد.” «ما به معماری خاصی نیاز نداشتیم. ما به پارادایم های برنامه نویسی جدید نیاز نداشتیم. رسیدن به مقیاس بزرگ گام‌های بسیار افزایشی بود – نه آن جهش عظیمی که فکر می‌کردیم برای رسیدن به فرانتیر طول بکشد.
