مدل‌های زبان بزرگ مانند انسان‌ها رفتار نمی‌کنند، اگرچه ممکن است انتظار داشته باشیم که | اخبار MIT

یکی از مواردی که مدل‌های زبان در مقیاس بزرگ (LLM) را بسیار قدرتمند می‌کند، تنوع وظایفی است که می‌توان آن‌ها را برای آنها اعمال کرد. همان مدل یادگیری ماشینی که می تواند به یک دانشجوی فارغ التحصیل کمک کند تا یک ایمیل تهیه کند، می تواند به پزشک در تشخیص سرطان نیز کمک کند.

با این حال، کاربرد گسترده این مدل ها ارزیابی سیستماتیک آنها را دشوار می کند. ایجاد یک مجموعه داده مرجع برای آزمایش یک مدل برای هر نوع سؤالی که ممکن است پرسیده شود غیرممکن است.

که در کاغذ جدید، محققان MIT رویکرد متفاوتی در پیش گرفتند. آنها استدلال می‌کنند که چون مردم تصمیم می‌گیرند چه زمانی مدل‌های زبانی بزرگ را به کار گیرند، ارزیابی یک مدل مستلزم درک چگونگی شکل‌گیری باورهای مردم در مورد قابلیت‌های آن است.

به عنوان مثال، دانشجوی فارغ التحصیل باید تصمیم بگیرد که آیا این مدل ممکن است در تهیه یک ایمیل خاص مفید باشد یا خیر، و پزشک باید تعیین کند که کدام موارد بهتر است با مدل مشورت کند.

با تکیه بر این ایده، محققان چارچوبی را برای ارزیابی LLM بر اساس تطابق آن با باورهای انسانی درباره نحوه عملکرد آن در یک کار خاص ایجاد کردند.

آنها یک تابع تعمیم انسانی را معرفی می کنند – مدلی از اینکه چگونه افراد باورهای خود را در مورد قابلیت های LLM پس از تعامل با آن به روز می کنند. سپس ارزیابی می کنند که LLM ها چقدر با این تابع تعمیم انسانی موافق هستند.

نتایج آن‌ها نشان می‌دهد که وقتی مدل‌ها با تابع تعمیم انسانی همسو نمی‌شوند، کاربر می‌تواند نسبت به محل قرار دادن آن بیش از حد یا کم اعتماد باشد، که می‌تواند منجر به شکست غیرمنتظره مدل شود. همچنین، به دلیل این نابرابری، مدل‌های توانمندتر در موقعیت‌های پرمخاطره عملکرد بدتری نسبت به مدل‌های کمتر دارند.

اشش رامباچان یکی از نویسندگان این مطالعه گفت: «این ابزارها هیجان انگیز هستند زیرا همه منظوره هستند، اما چون همه منظوره هستند، با انسان ها همکاری می کنند، بنابراین ما باید انسان را در حلقه در نظر بگیریم.» ، استادیار اقتصاد و محقق اصلی در آزمایشگاه اطلاعات و سیستم های تصمیم گیری (LIDS).

رامباچان در این گزارش توسط کیون وفا، محقق فوق دکتری در دانشگاه هاروارد، به این گزارش پیوست. و Sendhil Mullainathan، استاد MIT در بخش های مهندسی برق و علوم کامپیوتر و در اقتصاد و عضو LIDS. این تحقیق در کنفرانس بین المللی یادگیری ماشین ارائه خواهد شد.

خلاصه انسان

همانطور که با افراد دیگر تعامل می کنیم، باورهایی در مورد آنچه فکر می کنیم انجام می دهند و نمی دانند شکل می دهیم. به عنوان مثال، اگر دوست شما در تصحیح گرامر افراد سختگیر است، ممکن است تعمیم دهید و فکر کنید که آنها در ساخت جمله نیز عالی خواهند بود، حتی اگر هرگز در مورد جمله سازی از آنها سؤال نپرسیدید.

«الگوهای زبان اغلب بسیار انسانی به نظر می رسند. ما می‌خواستیم نشان دهیم که این قدرت تعمیم انسانی در روشی که مردم در مورد الگوهای زبانی باور می‌کنند نیز وجود دارد.» رامباچان می‌گوید.

به عنوان نقطه شروع، محققان به طور رسمی تابع تعمیم انسانی را تعریف کردند که شامل پرسیدن سؤالات، مشاهده نحوه پاسخ‌های یک فرد یا LLM و سپس استنتاج در مورد نحوه پاسخ آن شخص یا مدل به سؤالات مرتبط است.

اگر کسی ببیند که یک رشته حقوق می تواند به سؤالات وارونگی ماتریس به درستی پاسخ دهد، ممکن است تصور کند که می تواند به سؤالات ساده حسابی پاسخ دهد. مدلی که با این ویژگی ناسازگار است – مدلی که در سوالاتی که انتظار دارد به درستی پاسخ دهد – عملکرد خوبی ندارد – ممکن است به کار نرود.

با در دست داشتن این تعریف رسمی، محققان مطالعه ای را برای سنجش نحوه تعمیم افراد هنگام تعامل با LLM و سایر افراد طراحی کردند.

آنها به شرکت کنندگان در مطالعه سؤالاتی را نشان دادند که یک شخص یا یک رشته حقوق به درستی یا نادرستی گفته است، و سپس از آنها پرسیدند که آیا فکر می کنند آن شخص یا یک رشته حقوق به سؤال مرتبط پاسخ می دهد یا خیر. از طریق این مطالعه، آنها مجموعه داده ای از نزدیک به 19000 نمونه از نحوه خلاصه کردن عملکرد LLM را در 79 کار مختلف تولید کردند.

اندازه گیری ناهماهنگی

آن‌ها دریافتند که شرکت‌کنندگان وقتی از او پرسیده می‌شود که آیا فردی که یک سؤال را درست می‌پرسد، به سؤال مرتبط پاسخ صحیح می‌دهد یا نه، عملکرد نسبتاً خوبی داشتند، اما در تعمیم عملکرد LLM بسیار بدتر بودند.

رامباچان می‌گوید: «تعمیم انسانی برای مدل‌های زبانی اعمال می‌شود، اما از بین می‌رود زیرا این مدل‌های زبانی در واقع الگوهای مهارتی را مانند انسان‌ها نشان نمی‌دهند.

علاوه بر این، افراد با پاسخ نادرست به سؤالات بیشتر از زمانی که به سؤالات پاسخ صحیح می دهند، باورهای خود را در مورد LLM به روز می کنند. آنها همچنین تمایل دارند بر این باورند که عملکرد استاد در سؤالات ساده تفاوت چندانی با عملکرد او در سؤالات پیچیده تر نخواهد داشت.

در شرایطی که افراد به پاسخ های نادرست وزن بیشتری می دهند، مدل های ساده تر از مدل های بسیار بزرگ مانند GPT-4 بهتر عمل می کنند.

او می‌گوید: «مدل‌های زبانی که در حال بهتر شدن هستند، تقریباً می‌توانند افراد را فریب دهند تا فکر کنند در سؤالات مرتبط به خوبی عمل خواهند کرد، در حالی که واقعاً چنین نیستند.

یک توضیح احتمالی برای اینکه چرا افراد در تعمیم LLM بدتر هستند ممکن است ناشی از تازگی آنها باشد – افراد تجربه بسیار کمتری در تعامل با LLM نسبت به سایر افراد دارند.

او می‌گوید: «در آینده، تنها با تعامل بیشتر با مدل‌های زبانی می‌توان بهتر شد.

برای این منظور، محققان می‌خواهند مطالعات بیشتری در مورد اینکه چگونه باورهای افراد در مورد LLM در طول زمان و در تعامل با یک مدل تکامل می‌یابد، انجام دهند. آنها همچنین می خواهند بررسی کنند که چگونه تعمیم انسانی می تواند در توسعه LLM گنجانده شود.

او می‌گوید: «وقتی در وهله اول این الگوریتم‌ها را آموزش می‌دهیم یا سعی می‌کنیم آنها را با بازخورد انسانی به روز کنیم، باید ویژگی تعمیم انسانی را در روشی که در مورد اندازه‌گیری عملکرد فکر می‌کنیم، در نظر بگیریم.

در همین حال، محققان امیدوارند که مجموعه داده آنها بتواند به عنوان معیاری برای مقایسه نحوه عملکرد LLM ها در رابطه با عملکرد تعمیم انسانی مورد استفاده قرار گیرد، که می تواند به بهبود عملکرد مدل های پیاده سازی شده در موقعیت های دنیای واقعی کمک کند.

برای من سهم روزنامه دو برابر است. اولین مورد عملی است: مقاله یک مشکل اساسی را در اجرای LLM برای استفاده عمومی مصرف کننده نشان می دهد. اگر مردم درک درستی از زمان دقیق بودن و زمان شکست LLM ها نداشته باشند، احتمالاً خطاها را مشاهده می کنند و شاید از استفاده بیشتر دلسرد شوند. الکس ایماس، استاد علوم رفتاری و اقتصاد در دانشکده بازرگانی دانشگاه شیکاگو، که در این کار دخالتی نداشت، می‌گوید این موضوع همسو کردن مدل‌ها با درک مردم از تعمیم را برجسته می‌کند. کمک دوم اساسی‌تر است: عدم تعمیم مسائل و حوزه‌های مورد انتظار به دریافت تصویر بهتری از آنچه که مدل‌ها هنگام ارائه یک مشکل «درست» انجام می‌دهند، کمک می‌کند. این آزمایشی را ارائه می دهد که آیا LLM ها مشکلی را که حل می کنند “درک” دارند یا خیر.”

این تحقیق تا حدی توسط ابتکار علم داده هاروارد و مرکز هوش مصنوعی کاربردی در دانشکده بازرگانی دانشگاه شیکاگو تامین شده است.