من بسیار دوست دارم Grok Build به عنوان یک مهار. رابط کاربری ترمینال بدون براقیت زیاد صیقلی شده است، ابزارها مناسب هستند، و روش خاصی برای چسبیدن به پروژه وجود دارد. چیزی که کمتر دوست دارم فقط دسترسی به طیف مدل های Grok است. اگر بتوانم همان لایه غنی را داشته باشم اما با مدل هایی با وزن باز صحبت کنم، چه؟
بنابراین من کاری را انجام دادم که این روزها هر فرد وسواس به هوش مصنوعی انجام می دهد: شروع به کندوکاو در فایل های پیکربندی کردم، هر اونس آب را از هر چیزی که می توانستم بیرون بکشم. به نظر می رسد که Grok Build با هر چیزی که از یک API چت سازگار با OpenAI صحبت می کند صحبت می کند. این می تواند یک مدل از دستگاه شما یا یک مدل رایگان پشت OpenRouter باشد. شما از همان رابط استفاده می کنید و مدل ها را با آن تلنگر می زنید /model و به کار خود ادامه دهید
تمام سفارشی سازی در:
~/.grok/config.tomlدر زیر تنظیمات واقعی من است. دو گزینه مختلف وجود دارد، شما می توانید فقط یکی را انتخاب کنید یا هر دو را ذخیره کنید.
گزینه 1: مدل های محلی
برای این کار به چیزی نیاز دارید که در خدمت الگوی میزبان محلی باشد. llama.cpp، LM Studio، Ollama – هر آنچه که دوست دارید تا زمانی که در معرض نمایش قرار گیرد /v1/chat/completions. من سرورم را طوری پیکربندی کردم که در پورت 8080 گوش کند، اما شما می توانید هر چیزی را که می خواهید انتخاب کنید، به هر حال محلی است.
سپس در فایل config.toml به Grok Build در مورد آن بگویید:
[model.gemma-4-12b-local]
model = "gemma-4-12b-it-qat-q4_0"
base_url = "http://127.0.0.1:8080/v1"
name = "Gemma 4 12B QAT Q4_0 (local)"
api_backend = "chat_completions"
context_window = 16384
[model.qwen-3-8-27b-local]
model = "Qwen3.8-27B-UD-IQ2_S"
base_url = "http://127.0.0.1:8080/v1"
name = "Qwen 3.8 27b QT 2 (local)"
api_backend = "chat_completions"
context_window = 16384در مک بوک پرو 16 گیگابایتی M1 من می توانم مدل های بسیار کوانتیزه شده را در لایه Gemma/Qwen اجرا کنم، چیزی بالاتر از آن. عملکرد عالی نیست، اما محلی است. چند نکته که می تواند در وقت شما صرفه جویی کند:
modelباید با شناسه ای که سرور محلی شما انتظار دارد مطابقت داشته باشد، نه با نام بازاریابی واقعی.base_urlبه پایان می رسد/v1. Grok Build بقیه را اضافه می کند.context_windowاگر رم کمی دارید (مثل من) باید حداقل باشد. اگر هدف شما 128k است و مدل کوانتیزه شده فقط 16k را نگه می دارد، تقریباً در هر درخواست فشرده سازی می شود و جلسات طولانی کاملاً فراموشی هستند.- برای لوکال هاست نیازی به کلید API نیست.
سروری را که وزن ها را بارگیری می کند راه اندازی کنید، Grok Build را مجددا راه اندازی کنید، سپس در جلسه جدید:
/model gemma-4-12b-localیا می توانید grok را مستقیماً با مدل به عنوان آرگومان شروع کنید:
grok -m gemma-4-12b-localو این همه گزینه محلی است. آفلاین است، هیچ پولی پرداخت نمی کنید و به طور پیش فرض خصوصی است. همانطور که گفتم، کیفیت به سخت افزار شما، به ویژه RAM، و میزان تهاجمی شما بستگی دارد. به عنوان یک قاعده کلی، اگر بیش از 32 گیگابایت رم داشته باشید، می توان کار معناداری انجام داد، 16 گیگابایت، همانطور که من اکنون انجام می دهم، عمدتاً برای آزمایش است.
گزینه 2: مدل های OpenRouter رایگان
Local واقعا جالب است، اما بیشتر اوقات شما مدلی بزرگتر از آن چیزی که دستگاه شما می تواند در خود جای دهد می خواهید. OpenRouter یک ردیف رایگان برای دسته ای از مدل های باز دارد. از همان بسته نرم افزاری اما با نقطه پایانی متفاوت استفاده خواهیم کرد.
برای این کار به یک کلید OpenRouter API نیاز دارید. یکی را در داشبورد خود ایجاد کنید، سپس آن را به محیط خود اضافه کنید:
export OPENROUTER_API_KEY="sk-or-..."سپس یک بار ارائه دهنده را تعریف کنید تا مجبور نباشید خود را برای هر مدل تکرار کنید:
[model_providers.openrouter]
base_url = "https://openrouter.ai/api/v1"
env_key = "OPENROUTER_API_KEY"
api_backend = "chat_completions"
[model_providers.openrouter.extra_headers]
HTTP-Referer = "https://x.ai"
X-Title = "Grok Build"سپس الگوهای رایگان مورد علاقه خود را اضافه کنید. لیست غیر جامع من در اینجا آمده است:
[model.glm-5-2-free]
model = "z-ai/glm-5.2:free"
name = "GLM 5.2 (OpenRouter free)"
model_provider = "openrouter"
base_url = "https://openrouter.ai/api/v1"
env_key = "OPENROUTER_API_KEY"
api_backend = "chat_completions"
context_window = 256000
[model.openrouter-free]
model = "openrouter/free"
name = "OpenRouter free router"
description = "Routes to whatever free OpenRouter model is available"
model_provider = "openrouter"
base_url = "https://openrouter.ai/api/v1"
env_key = "OPENROUTER_API_KEY"
api_backend = "chat_completions"
context_window = 200000
[model.gemma-4-31b-free]
model = "google/gemma-4-31b-it:free"
name = "Gemma 4 31B (OpenRouter free)"
model_provider = "openrouter"
base_url = "https://openrouter.ai/api/v1"
env_key = "OPENROUTER_API_KEY"
api_backend = "chat_completions"
context_window = 262144را :free پسوند بسیار مهم است بدون آن، در نهایت در مسیر پولی قرار می گیرید. openrouter/free همچنین یک گزینه جالب است – هر مدل رایگانی را که در آن روز در دسترس است انتخاب می کند. به نظر من برای آزمایش واقعا عالی است. اما برای کار واقعی، من به یک مورد خاص، معمولاً GLM 5.2 رایگان یا Gemma 4 31B رایگان پایبند هستم، بنابراین رفتار تا حدودی ثابت می ماند.
در مهار Grok Build، به همین ترتیب جابجا می‌شوید:
/model glm-5-2-freeو همچنین می توانید آنچه را که Grok Build می تواند ببیند را بررسی کنید:
grok modelsواقعاً چگونه از این استفاده می کنم
تقریباً 90٪ از جلسات کاری من بر روی مدل پولی Grok است که کمربند کامل و ابزارهای آن را به حداکثر می رساند. من برای جلسات خصوصی یا آفلاین به محلی تغییر می کنم. و زمانی که می‌خواهم یک مدل باز بزرگتر بدون استفاده از Grok استفاده کنم، OpenRouter را به صورت رایگان انتخاب می‌کنم. گاهی اوقات مدل هایی مانند Nemotoron یا DeepSeek Flash را انتخاب می کنم. من تنظیمات مربوط به آن‌ها را در این مقاله لحاظ نکردم، فقط آن را به عنوان یک تکلیف کوچک برای شما گذاشتم.
بخش مهم فایل پیکربندی است. یک بار ~/.grok/config.toml درباره یک مدل می‌داند، بقیه Grok Build با آن مانند هر مدل دیگری رفتار می‌کند: ابزارها، جلسات، /model، ابزار انتخاب Ctrl+M. هرگز برنامه دومی را در گردش کار خود اجرا نکنید. شما همان برنامه را به مغز دیگری هدف قرار می دهید.
اگر چیزی متصل نشد، ابتدا نقطه پایانی را بچرخانید. برای محلی:
curl -s http://127.0.0.1:8080/v1/modelsدرباره OpenRouter:
curl -s https://openrouter.ai/api/v1/models \
-H "Authorization: Bearer $OPENROUTER_API_KEY"اگر curl خوشحال است و Grok Build خوشحال نیست، تقریبا همیشه یک اشتباه تایپی است model، base_url، یا env_key.
این کل چیدمان من است: یک کمربند، دو بزرگراه و انتخاب های بی پایان. تنها کاری که باید انجام دهید این است که toml را ویرایش کنید، دوباره راه اندازی کنید یا با آن سوئیچ کنید /model، و به ساختن ادامه دهید.
