چت با مدل‌های محلی AI

چرا مدل‌های محلی AI؟

Ollama مدل را محلی اجرا می‌کند. ورود و ذخیره گفتگو از ابر استفاده می‌کنند و به اینترنت نیاز دارند. تغییر خودکار به مدل ابری انجام نمی‌شود.

این برای حالت عادی است. در حالت آفلاین همه‌چیز روی این رایانه می‌ماند: برنامه بدون اینترنت هم کار می‌کند و گفتگوهای جدید فقط به‌صورت محلی و رمزگذاری‌شده ذخیره می‌شوند.

چرا Ollama؟

Ollama ابزاری است که به‌سادگی می‌توانید مدل‌های AI را به صورت محلی اجرا کنید. روی هر کامپیوتر به‌طور جداگانه نصب می‌شود، بنابراین محدودیت کاربری وجود ندارد - بدون نیاز به سرور مشترک.

نصب Ollama

1. به صفحه دانلود Ollama بروید: Ollama download pagina
2. نسخه مناسب سیستم عامل خود را دانلود کنید (Windows یا macOS)
3. Ollama را با دنبال کردن نصاب نصب کنید
4. پس از نصب، Ollama به‌طور خودکار در پس‌زمینه اجرا می‌شود

نصب یک مدل زبان

پس از نصب Ollama باید حداقل یک مدل زبان را دانلود کنید:

1. رابط کاربری Ollama را باز کنید (از طریق آیکون نوار وظیفه یا ترمینال)
2. یک مدل زبان به انتخاب خود دانلود کنید

مدل پیشنهادی

به‌ترتیب توصیه، مدلی را انتخاب کنید که دارای قابلیت‌های ابزار و تصویر (vision) باشد:

• قابلیت‌های ابزار - مدل می‌تواند از تمامی ابزارهای موجود در برنامه استفاده کند، مانند جستجوی اینترنت و تولید تصاویر
• قابلیت‌های Vision - مدل می‌تواند تصاویر را تحلیل و توصیف کند

مدل پیشنهادی

qwen3-vl:4b-instruct تعادل خوبی بین سرعت و قابلیت‌های ابزار/vision ارائه می‌دهد. این مدل را از طریق ترمینال نصب کنید:

ollama pull qwen3-vl:4b-instruct

نسخهٔ -instruct را انتخاب کنید: بی‌درنگ پاسخ می‌دهد. qwen3-vl:4b معمولی پیش از هر مرحله مدت زیادی فکر می‌کند و روی لپ‌تاپ چندین برابر کندتر است. برای مدل‌های محلی کوچک، برنامه از یک دستور کوتاه و فقط ابزارهای مرتبط با پرسش شما استفاده می‌کند. اگر همان مرحله بارها شکست بخورد، هوش مصنوعی متوقف می‌شود و می‌گوید چه چیزی انجام شد و چه چیزی نه.

انتخاب مدل بر اساس سخت‌افزار

عملکرد یک مدل به‌شدت به سخت‌افزار کامپیوتر شما بستگی دارد:

سخت‌افزار	توصیه
محدود (8GB RAM، بدون GPU)	مدل‌های کوچکتر (1-4B پارامتر) را انتخاب کنید
متوسط (16GB RAM، GPU پایه)	مدل‌ها تا 7B پارامتر
قدرتمند (32GB+ RAM، GPU مدرن)	مدل‌های بزرگتر ممکن است (13B+)

سرعت در مقابل کیفیت

یک مدل کوچک‌تر به طور کلی از نظر سرعت بهتر عمل می‌کند اما احتمالاً پاسخ‌های دقیق‌تری ندارد. برای پیدا کردن بهترین تعادل برای شرایط شما، آزمایش کنید.

پیکربندی در برنامه دسکتاپ

به محض اینکه Ollama با یک مدل نصب‌شده اجرا شود، برنامه دسکتاپ به‌طور خودکار این را تشخیص می‌دهد. سپس می‌توانید در چت مدل محلی را به‌عنوان جایگزین برای مدل‌های ابری انتخاب کنید.

در صفحه آغازین، انتخابگر زیر کادر ورودی به شما اجازه می‌دهد پیش از ارسال اولین پیام یک مدل محلی انتخاب کنید. مدل انتخاب‌شده از همان پیام اول استفاده می‌شود و بعداً نیز قابل تغییر است.

مدل‌های موجود با پشتیبانی ابزار/تصویر

فهرست کامل را در ollama.com/library مشاهده کنید. فیلتر کنید روی مدل‌ها با:

• برچسب Tools برای قابلیت‌های ابزار
• برچسب Vision برای تشخیص تصاویر

گزینه‌های محبوب:

• qwen3-vl:4b-instruct - جمع و‌جور، سریع، ابزار + vision
• llama3.2-vision - قابلیت‌های Vision
• mistral - مسئولیت‌پذیر در وظایف عمومی سریع

خواندن محلی اسناد و اسکن‌ها

با یک مدل محلی، برنامهٔ دسکتاپ اسناد را روی رایانهٔ خودتان می‌خواند. چیزی بارگذاری نمی‌شود.

• پوشهٔ کاری: در یک پوشهٔ تأییدشده، هوش مصنوعی فایل‌های Word، PowerPoint، Excel، PDF، OpenDocument (ODT، ODP، ODS) و RTF را می‌خواند. فایل‌های قدیمی ‎.doc و ‎.ppt فقط وقتی خوانده می‌شوند که LibreOffice نصب باشد.
• اسکن‌ها و عکس‌ها: صفحه‌های PDF اسکن‌شده، تصاویر (PNG، JPG، WebP، TIFF) و تصاویر داخل فایل‌های Word و PowerPoint با تشخیص متن (OCR) خوانده می‌شوند. OCR همراه برنامه ارائه می‌شود و هلندی، انگلیسی، آلمانی و فرانسوی را تشخیص می‌دهد. در گفتگو می‌بینید کدام صفحه در حال خواندن است؛ یک اسکن طولانی ممکن است چند دقیقه طول بکشد. از هر سند حداکثر ۱۰۰ صفحه با OCR خوانده می‌شود.
• تشخیص نامطمئن: وقتی تشخیص متن نامطمئن است، هوش مصنوعی آن را اعلام می‌کند. در این صورت نام‌ها، اعداد و مبالغ را در نسخهٔ اصلی بررسی کنید. دست‌نوشته، جدول‌ها و نمودارها همیشه درست تشخیص داده نمی‌شوند.
• مدل تصویر: اگر مدل انتخاب‌شده قابلیت بینایی داشته باشد (مانند qwen3-vl:4b-instruct)، خود مدل تصاویری را که تشخیص متن در آن‌ها کم یا نامطمئن می‌خواند بررسی می‌کند. بدون GPU این کار بیشتر طول می‌کشد.
• عکس‌های iPhone ‏(HEIC): ابتدا آن‌ها را با قالب JPEG یا PNG ذخیره کنید.

با یک مدل ابری هم برنامه اسناد پوشهٔ کاری را روی رایانهٔ شما می‌خواند، اما متن خوانده‌شده به‌عنوان بخشی از گفتگو برای آن مدل فرستاده می‌شود.

کار بدون اینترنت، از جمله با پیوست‌ها در گفتگو: حالت آفلاین را ببینید.