روش های یادگیری در پشت ربات ها

یکی از محققانی که پشت انتشار اجباری قرار دارد به تأثیر مقاله اصلی خود و آینده مدل های جهانی می پردازد.

دیگو مارتی مونسو، نویسنده مقاله اصلی در مورد اجبار انتشار، مشغول بود. او در مدل‌های جهانی تخصص دارد، که سیستم‌هایی هستند که از طریق اطلاعات حسی پیرامون خود را یاد می‌گیرند و از آنچه می‌آموزند برای پیش‌بینی اتفاقات بعدی استفاده می‌کنند. مدل‌های جهانی در حال حاضر به‌عنوان مرز بعدی در هوش مصنوعی در نظر گرفته می‌شوند که مسیر امیدوارکننده‌ای را برای روباتیک عمومی، تولید ویدیو و واقعیت مجازی ارائه می‌دهند. با این حال، در حال حاضر، مارتی مونسو بر روی رباتیک تمرکز کرده است.

تمرکز او منعکس کننده اعتقاد او است که رباتیک مرز بعدی است که مدل‌های جهانی – و به طور کلی هوش مصنوعی – باید آن را فتح کنند. این نشان دهنده اعتقاد او است که تعمیم و انتقال پذیری راه موفقیت است. اگرچه او ارزشی را در رباتیک کلاسیک می‌بیند، که سیستم تخصصی است که امروزه اغلب در انبارها و کارخانه‌ها یافت می‌شود، اما مارتی مونسو انتظار دارد سیستم‌های همه‌منظوره‌تر در نهایت جایگزین سیستم‌های بسیار باریک شوند.

بنابراین، تحقیقات او بر روش‌های آموزشی متمرکز است که با تغییر برنامه‌ها مفید باقی می‌مانند. مارتی مونسو گفت: «من به قابلیت های اساسی محصول علاقه مند هستم. “اگر روشی بتواند دانش را بین مشکلات انتقال دهد، شانس بیشتری برای مفید ماندن در هنگام تغییر برنامه دارد.”

این فلسفه مارتی مونسو را به سمت اجبار انتشار سوق داد، روش یادگیری که او در حین کار به عنوان محقق مهمان در گروه نمایش صحنه در آزمایشگاه علوم کامپیوتر و هوش مصنوعی MIT کشف کرد. این تحقیق که در سال 2024 در NeurIPS منتشر شد، به مشکلی می پردازد که زمانی ایجاد می شود که مدل های هوش مصنوعی توالی ها را در یک دوره زمانی طولانی پیش بینی می کنند. مدل‌های جهانی قبلی می‌توانند در طول پیش‌بینی‌های طولانی تغییر قابل توجهی داشته باشند، که حفظ توالی منسجم در طول زمان را دشوار می‌کند.

Diffusion Forcing یک فرمول آموزشی را معرفی کرد که برای پشتیبانی از دنباله‌های طولانی طراحی شده بود و در عین حال به مدل اجازه می‌داد تا با تکامل پیش‌بینی به اقدامات واکنش نشان دهد.

مارتی مونسو یکی از دو محققی بود که فرمول آموزشی پایه را توسعه داد، الگوریتم را پیاده‌سازی کرد و آزمایش‌ها و ارزیابی‌هایی را انجام داد که شامل پیش‌بینی ویدیویی و وظایف روباتیک بود. مارتی مونسو هرگز تصور نمی کرد مقاله او چه تاثیری بر دنیای هوش مصنوعی بگذارد.

Diffusion Forcing از آن زمان بسیار فراتر از آزمایشگاه MIT حرکت کرده و راه خود را به محصولات تجاری و پروژه های منبع باز پیدا کرده است. دو سال پس از انتشار، این اثر بیش از 600 استناد و 1200 ستاره در GitHub دریافت کرده است، تعداد غیرعادی بالایی که نشان دهنده استقبال گسترده آن در دانشگاه و صنعت است.

به عنوان مثال، Skywork AI، یک شرکت ثبت شده در شنژن با 400 میلیون کاربر فعال ماهانه، SkyReels-V2 را مستقیماً در بالای Diffusion Forcing ساخته است. Overworld’s Waypoint-1، یک مدل جهانی تعاملی بی‌درنگ با یک محصول مصرف‌کننده زنده، نیز بر اساس Diffusion Forcing ساخته شده است. پرونده های عمومی نشان می دهد که شرکت هایی مانند Google DeepMind، OpenAI، Nvidia، Meta، Adobe، ByteDance، Tencent و Sony از این روش استفاده کرده اند یا بر اساس آن ساخته شده اند. محققان دانشگاهی در MIT، استنفورد، هاروارد، UC برکلی و سایر موسسات نیز راه‌حل‌هایی را ایجاد کرده‌اند.

برای مارتی مونسو، این مایه افتخار است. او گفت: «این روش زمانی مفیدتر می شود که مردم بتوانند آن را برای مشکلاتی که به طور خاص برای حل آن طراحی نشده است، اعمال کنند. “این بخشی از چیزی است که من در تحقیق به دنبال آن هستم. من می‌خواهم روی ایده‌هایی کار کنم که فراتر از آزمایشی که در آنجا شروع شده‌اند، اهمیت دارند.”

این دیدگاه همچنین بر نحوه نگاه مارتی مونسو به چشم انداز روباتیک فعلی تأثیر می گذارد. مدل‌های بینایی-زبان-عملی یک رویکرد رایج برای ترکیب اطلاعات بصری، دانش مبتنی بر زبان و اقدامات ربات است. او اعتراف می کند که آنها در حال حاضر به خوبی کار می کنند. با این حال، او پیش‌بینی می‌کند که این رویکرد ممکن است در نهایت گذرا باشد، زیرا او معتقد است که یادگیری مدل جهانی می‌تواند درک غنی‌تری از پویایی فیزیکی ایجاد کند. او انتظار دارد که سیستم های آینده به جای حفظ مرزهای فعلی بین دسته های مدل، از دانش در انواع مختلف داده ها استفاده کنند.

مارتی مونسو گفت: «من فکر می‌کنم تقسیم‌بندی بین روش‌ها بسیار کم‌اهمیت خواهد شد. دانش آموخته شده از یک نوع تجربه باید زمانی در دسترس باشد که سیستم نیاز به استدلال در مورد چیز دیگری داشته باشد. او انتظار دارد که مدل‌های آینده از اطلاعاتی که از طریق اشکال مختلف داده به دست می‌آیند، سود ببرند. با این حال، او این نتیجه را به‌عنوان یک پیش‌بینی ارائه می‌کند تا چیزی که این رشته قبلاً به آن دست یافته است. رباتیک دقیقاً به این دلیل دشوار است که عملکرد بالا در کارهای دیجیتالی به وضوح به توانایی های فیزیکی که انسان تقریباً به طور خودکار به دست می آورد تبدیل نمی شود.

مارتی مونسو معتقد است که مدل های جهانی به دلیل این شکاف، مرز بعدی هستند. هدف او ساختن یک سیستم تجسم یافته است که بتواند وظایفی را که هرگز برای انجام آنها آموزش ندیده بود، حل کند. این سیستم ریشه در یک درک مشترک از فیزیک و محیط زیست خواهد داشت. چنین سیستمی می تواند دانش خود را در محیط های در حال تغییر به کار گیرد و به صورت پویا سازگار شود، قابلیتی که در رباتیک کلاسیک به شدت فاقد آن است. Monso توانایی انتقال دانش را به عنوان یک نیاز اصلی برای حرکت فراتر از ماشین های تخصصی امروزی می داند.

محصولات ساخته شده بر اساس این قابلیت ها ممکن است قبل از دستیابی به این هدف بارها تغییر کنند. مارتی مونسو انتظار دارد سخت افزارها و برنامه های کاربردی با امکان پذیر شدن سیستم های همه منظوره تر، تکامل پیدا کنند. این عدم قطعیت دقیقاً به همین دلیل است که او تصمیم می گیرد بیشتر در پشته کار کند، جایی که یک روش موفق همچنان اهمیت دارد حتی با تغییر فناوری قابل مشاهده در اطراف آن. او گفت: «این برنامه نشان می دهد که یک سیستم در حال حاضر چه کاری می تواند انجام دهد. من می‌خواهم روی روش‌هایی کار کنم که دامنه کارهایی را که می‌توان در آینده انجام داد را گسترش داد.»