برو به محتوای اصلی

چت با مدل‌های AI محلی

چرا مدل‌های AI محلی؟​

کار با مدل‌های AI به صورت محلی مزایای مهمی دارد:

  • ایمن به طور ذاتی - داده‌های شما روی رایانه شما باقی می‌ماند و هرگز به سرورهای خارجی فرستاده نمی‌شود
  • بدون هزینه اضافی - مدل‌های محلی هیچ هزینه API به ازای استفاده ندارند
  • حریم خصوصی تضمین‌شده - ایده‌آل برای اسناد و اطلاعات حساس

چرا Ollama؟​

Ollama ابزاری است که به‌سادگی می‌توانید مدل‌های AI را به‌طور محلی اجرا کنید. روی هر رایانه به‌صورت جداگانه نصب می‌شود، بنابراین محدودیتی از نظر تعداد کاربران وجود ندارد - نیازی به سرور مشترک نیست.

نصب Ollama​

  1. به صفحه دانلود Ollama بروید
  2. نسخه مناسب سیستم‌عامل خود را دانلود کنید (Windows، macOS یا Linux)
  3. Ollama را با دنبال کردن برنامه نصب‌کننده نصب کنید
  4. پس از نصب، Ollama به‌طور خودکار در پس‌زمینه اجرا می‌شود

نصب یک مدل زبانی​

پس از نصب Ollama باید حداقل یک مدل زبانی را دانلود کنید:

  1. رابط کاربری Ollama را باز کنید (از طریق آیکون نوار وظیفه یا ترمینال)
  2. یک مدل زبانی به انتخاب خود دانلود کنید

مدل پیشنهادی​

ترجیحاً مدلی را انتخاب کنید که دارای قابلیت‌های ابزار و بینایی باشد:

  • قابلیت‌های ابزار - مدل می‌تواند از تمام ابزارهای موجود در برنامه استفاده کند، مانند جستجوی اینترنت و تولید تصاویر
  • قابلیت‌های بینایی - مدل می‌تواند تصاویر را تحلیل و توضیح دهد
مدل پیشنهادی

qwen3-vl:4b تعادل خوبی بین سرعت و قابلیت‌های ابزار/بینایی دارد. این مدل را از طریق ترمینال نصب کنید:

ollama pull qwen3-vl:4b

انتخاب مدل بر اساس سخت‌افزار​

عملکرد یک مدل تا حد زیادی به سخت‌افزار رایانه شما وابسته است:

سخت‌افزارتوصیه
محدود (8GB RAM، بدون GPU)مدل‌های کوچکتر (1-4B پارامتر) را انتخاب کنید
متوسط (16GB RAM، GPU پایه)مدل‌ها تا 7B پارامتر
قوی (32GB+ RAM، GPU مدرن)مدل‌های بزرگ‌تر احتمالاً قابل استفاده‌اند (13B+)
سرعت vs. کیفیت

یک مدل کوچک‌تر عموماً از نظر سرعت بهتر عمل می‌کند، اما ممکن است پاسخ‌های دقیق‌تری ارائه ندهد. برای یافتن بهترین تعادل برای وضعیت شما آزمایش کنید.

پیکربندی در برنامه دسکتاپ​

به محض اینکه Ollama با یک مدل نصب‌شده اجرا شود، برنامه دسکتاپ به‌طور خودکار این را تشخیص می‌دهد. شما می‌توانید در چت مدل محلی را به‌عنوان گزینه جایگزین برای مدل‌های ابری انتخاب کنید.

مدل‌های در دسترس با پشتیبانی ابزار/بینایی​

فهرست کامل را در ollama.com/library مشاهده کنید. فیلتر کنید روی مدل‌های با:

  • تگ Tools برای قابلیت‌های ابزار
  • تگ Vision برای تشخیص تصاویر

گزینه‌های محبوب:

  • qwen3-vl:4b - جمع‌وجور، سریع، ابزار + بینایی
  • llama3.2-vision - قابلیت‌های بینایی
  • mistral - کارهای عمومی سریع