هفته گذشته، Anthropic Fable 5 را منتشر کرد. سه روز بعد، دولت ایالات متحده به آنها دستور داد که آن را تعطیل کنند – برای افراد خارج از ایالات متحده. Anthropic گفت که آنها نمی توانند کاربران را بر اساس ملیت به سرعت فیلتر کنند، بنابراین همه چیز را متوقف کردند.
مثل هر معجزه خوب، فقط 3 روز دوام آورد.
این یک دوش آب سرد بسیار مورد نیاز بود. وقتی متوجه می‌شوید که کسی می‌تواند نیروی کار شما را به همین شکل از بین ببرد، استفاده از مدل‌های محلی و خصوصی هوش مصنوعی ناگهان به اولویت اول تبدیل می‌شود.
چرا باید مدل های هوش مصنوعی محلی خود را اجرا کنید؟
بدون ترتیب خاصی (زیرا همه آنها به حساب می آیند):
- هیچ کس نمی تواند آن را از بین ببرد. مدل‌های هوش مصنوعی بومی دستگاه شما به کنترل‌های صادرات، دستورالعمل‌های دولتی یا تصمیمات هیئت تامین‌کننده اهمیتی نمی‌دهند.
- هیچ محدودیتی برای استفاده وجود ندارد. بدون محدودیت سرعت، بدون ردیف اشتراک، بدون “شما از نشانه های ماهانه خود استفاده کرده اید”. هر چقدر که می خواهید بازی کنید.
- هیچ چیزی از دستگاه شما خارج نمی شود. کد شما، اسناد شما، داده‌های مشتری شما – هیچ یک از آنها روی سرور شخص ثالث قرار نمی‌گیرد. مدل های محلی هوش مصنوعی به طور پیش فرض خصوصی هستند.
- قیمت ثابت. شما برای سخت افزار به علاوه برق پرداخت می کنید. افزایش قیمت تعجب آور در اواسط سال وجود ندارد.
- بدون وابستگی به API. هنگامی که فروشنده ای قطع می شود، مدلی را رد می کند یا نامه انطباق دریافت می کند، گردش کار شما قطع نمی شود.
- می توانید آن را تغییر دهید. تنظیم دقیق، کمی سازی، کار با داده های خود. چیزی بسازید که نتوانند به شما بفروشند. کارخانه مدل هوش مصنوعی محلی و خصوصی خود را بسازید.
واقعا چه ارزشی دارد؟
می شنوم: اما من پولی ندارم که در زیرزمینم یک مرکز داده بسازم. بازی منصفانه اما نکته اینجاست: شما مجبور نیستید.
در اینجا چهار گزینه واقع بینانه از پول ژوئن 2026 وجود دارد:
مک بوک پرو M4 Max (~3000-4500 دلار): پهنای باند حافظه 546 گیگابایت بر ثانیه. با مدل های 70B در حدود 70 توکن در ثانیه با کوانتیزاسیون 4 بیتی کار می کند. آنقدر سریع که احساس سریع کنید. این گزینه “شما ممکن است از قبل مالک این باشید” است.
Mac Studio M3 Ultra (~5000-10000 دلار): 800 گیگابایت در ثانیه، حداکثر تا 512 گیگابایت فضای ذخیره سازی ترکیبی. DeepSeek R1 – مدلی با 671 میلیارد پارامتر – را با 17 تا 18 توکن در ثانیه اجرا می کند. این مدلی است که به ازای هر توکن هر API که به صورت محلی روی سخت افزار خودتان اجرا می شود، هزینه واقعی دارد. این لایه بالایی برای دستگاه های Apple Silicon است.
Nvidia DGX Spark (~4000 دلار): ابررایانه هوش مصنوعی شخصی انویدیا، تقریباً به اندازه یک مک مینی. 128 گیگابایت در 273 گیگابایت بر ثانیه. با بهینه سازی TensorRT FP4، ~ 38 توکن در ثانیه در مدل های کلاس 120B. اگر در اکوسیستم CUDA زندگی می کنید خوب است.
AMD Ryzen AI MAX+ 395 (~ 3000 دلار در رایانه کوچک): 128 گیگابایت حافظه یکپارچه، سرعت رمزگشایی رقابتی، قوی در مدل‌های MoE – Qwen 3 30B A3B با سرعت 72 توکن در ثانیه اجرا می‌شود. ارزان ترین راه برای ذخیره سازی جدی محلی.
به طور خلاصه: هزینه اجرای مدل های محلی و اختصاصی هوش مصنوعی بر روی سخت افزار خود بین 3000 تا 10000 دلار است. بسته به میزان درآمدی که با راه اندازی هوش مصنوعی خود کسب می کنید، می توانید سرمایه اولیه را در یک یا دو سال جبران کنید. از آنجا سود خالص است.
مدل های منبع باز در حال حاضر واقعا خوب هستند
یک سال پیش، راه اندازی مدل های بومی هوش مصنوعی به معنای پذیرش تفاوت واقعی در کیفیت بود. این شکاف تقریباً از بین رفته است. در اینجا 3 گزینه وجود دارد که احتمالاً 90٪ موارد استفاده را پوشش می دهد:
کیمی کی 2 (Moonshot AI): یک تریلیون پارامتر، 32B فعال در هر توکن. MoE با 15.5 تریلیون توکن آموزش دید. SWE-bench با 65.8% تست شده – بهتر از اکثر مدل های حلقه بسته در وظایف کدگذاری عامل. وزن تحت مجوز اصلاح شده MIT در HuggingFace پیدا شد.
GLM-5.2 (Zhipu AI): در 13 ژوئن 2026 – دو روز پس از بسته شدن Fable منتشر شد. یک میلیون پنجره زمینه رمزی، به این معنی که می توانید کل یک پایگاه کد متوسط را در یک پاس بارگیری کنید. دو حالت تفکر: بالا برای سرعت، حداکثر برای مشکلات سخت. اوزان باز دارای مجوز MIT. هیچ عدد معیاری در زمان عرضه وجود ندارد، که غیرعادی است – اما GLM-5 قبلی امتیاز 77.8 را در SWE-bench Verified کسب کرد، بنابراین خط پایه ثابت است.
MiniMax M3 (MiniMax): منتشر شده در 1 ژوئن 2026. مجموع 428B پارامتر، 23B فعال در هر توکن، یک میلیون توکن زمینه. رتبه 1 از 90 مدل در معیار هوش مستقل تحلیل مصنوعی. SWE-Bench Pro با 59.0% (فروشنده گزارش شده است). اعتبار به HuggingFace تعلق می گیرد، اگرچه مجوز MIT نیست – اگر شرکت شما کمتر از 20 میلیون دلار در سال هزینه کند، استفاده تجاری رایگان است، در غیر این صورت به مجوز کتبی نیاز دارید. ارزش دانستن قبل از ارسال محصول بر روی آن را دارد.
به طور خلاصه: شما می توانید با پارامترهای 32B تا 428B در دستگاه خود، با سرعت مناسب و با فراخوانی هوشمند ابزار بازی کنید. کارگاه دیجیتال کوچک شما که کاملاً از مدل‌های هوش مصنوعی محلی و خصوصی ساخته شده است. همچنین شایان ذکر است که سرعت نوآوری در این زمینه هنوز هم نفس گیر است، بنابراین آنچه که اکنون در مورد آن صحبت می کنیم ممکن است توسط مدل های بهتر در 3 ماه دیگر منسوخ شود.
اجرای مدل‌های هوش مصنوعی محلی و خصوصی دیگر اجباری نیست
خاموش شدن Fable آخرین بار نخواهد بود. دولت ها درک می کنند که قابلیت های این مدل از نظر ژئوپلیتیک حساس است. فروشندگان می دانند که انطباق اختیاری است – و در حال حاضر علائم اولیه مبنی بر آمدن KYC وجود دارد. دسترسی شما به ابزارهایی که به آنها تکیه می کنید، جایی در وسط قرار دارد – برای مذاکره مجدد در هر زمان، توسط افرادی که شما نیستند و احتمالاً اهدافی مشابه شما ندارند.
اجرای مدل های هوش مصنوعی بومی خود پارانویا نیست. این در واقع یک علامت آگاهی است: جهان به سرعت در حال حرکت است، بنابراین شما باید با آن همراه باشید. ما در آستانه تبدیل کاربران تجاری هوش مصنوعی به یک محصول واقعی هستیم – شما، رشته فکرتان، داده هایتان فروخته می شود. در مورد شبکه های اجتماعی هم همین اتفاق افتاد.
اگر با آن موافق هستید، مشکلی نیست. اما اگر به حریم خصوصی خود، انتخاب واقعیت الگوریتمی و حاکمیت خود اهمیت می دهید، پس به هر حال شروع به ساخت کارخانه مدل سازی هوش مصنوعی محلی و خصوصی خود کنید.
خود آینده شما از شما تشکر خواهد کرد.
