[ Video ] نحوه انتخاب مدل با وزنه های باز – قسمت 1

مدل های پیشرفته هوش مصنوعی مانند Claude، Grok یا Codex بسیار قدرتمند هستند، اما به سرعت گران می شوند. اگر به طور جدی از آنها استفاده می کنید، انتظار 100 تا 300 دلار در ماه و گاهی اوقات بیشتر را داشته باشید. طرح‌های 20 دلاری ارزان‌تر به سرعت محدودیت‌های خود را از بین می‌برند، و زمانی که هر روز از آن‌ها برای کدنویسی، نوشتن یا کار با نمایندگان استفاده می‌کنید، سطوح بالاتر شروع به خرج کردن بیش از حد می‌کنند. فقط با انجام کارهای معمولی، شما بین 50 تا 100 دلار هستید.

مدل های وزن باز در سال گذشته پیشرفت زیادی کرده اند. در بسیاری از موارد، اکنون می‌توانید کیفیت مشابه مدل‌های حلقه بسته را با کسری از هزینه دریافت کنید—یا اگر آن‌ها را روی سخت‌افزار خودتان اجرا کنید، کاملاً رایگان است.

نکته این است که انتخاب درست هنوز گیج کننده است – حتی برای من، صادقانه بگویم. هیچ شرکتی وجود ندارد که به شما بگوید “این یکی برای کدنویسی خوب است، این یکی برای نمایندگان خوب است، این یکی برای دستگاه شما بسیار سنگین است”. خودت باید بفهمی

من از این موضوع خسته شدم، بنابراین تصمیم گرفتم یک مینی سریال کوتاه 4 قسمتی بسازم که تمام مراحل تصمیم گیری را طی می کند. هیچ نظریه ای برای تئوری وجود ندارد، فقط اصول اولیه است که در واقع به شما در انتخاب یک مدل و استفاده از آن کمک می کند.

قسمت 1 هم اکنون به صورت زنده است و می توانید آن را از اینجا تماشا کنید. در آن پوشش می دهم:

• چرا مدل های وزن باز در نهایت در حال حاضر شایسته توجه جدی هستند
• تفاوت واقعی بین وزن های متن باز و متن باز (بیشتر مردم این دو را اشتباه می گیرند)
• تنها چهار معیاری که هنگام ارزیابی یک مدل اهمیت دارند
• تعداد پارامترها و اینکه اندازه‌های مختلف واقعاً برای آن مناسب هستند (1-8B، 14-70B، 100B+)
• معماری متراکم در مقابل ترکیبی از متخصصان (MOE) و چرایی تغییر الزامات استفاده در محل
• سطوح کوانتیزاسیون (2 بیتی، 4 بیتی، 6 بیتی، 8 بیتی) و تبادل بین کیفیت و اندازه
• مدل‌های فقط متنی در مقابل مدل‌های چندوجهی و زمانی که هر کدام منطقی است

اپیزود کوتاه و متمرکز است. من آن را زیر ده دقیقه نگه داشته ام تا بتوانید یک بار آن را تماشا کنید و با یک چک لیست ذهنی واضح بیایید.

بقیه سریال ها در همین سطح خواهند بود و شامل موارد زیر می شوند:

• قسمت 2: دسترسی به مدل ها از طریق ارائه دهندگان شخص ثالث و API ها
• اپیزود 3: اجرای مدل‌ها به صورت محلی بر روی سخت‌افزار خودتان (و اینکه این الزامات سخت‌افزاری چگونه به نظر می‌رسند)
• اپیزود 4: مهارها – لایه نرم افزاری که در بالای مدل قرار می گیرد و آن را قابل استفاده می کند، از ابزارهای خط فرمان ساده تا رابط های کامل عامل

اگر در حال حاضر برای مدل‌های بسته پول می‌پردازید و نمی‌دانید که آیا وزن‌های باز برای گردش کار شما به اندازه کافی خوب هستند، با اپیزود 1 شروع کنید. این زبان اولیه و چهار معیاری را که قبل از شروع دانلود هر چیزی به آن نیاز دارید، در اختیار شما قرار می‌دهد.

موارد بعدی را وقتی زنده شدند پست خواهم کرد.