دلت برای gpt تنگ شده؟ بیا اینجا

آموزش نصب ollama و اجرا

توى اين شرايط، شبيه gpt روى لپتاپ خودمون داشته باشيم. مرحله به مرحله کار هارو انجام بدین.

وارد این سایت میشیم و نسخه مورد نیاز رو نصب میکنیم. سیستم عاملتون ویندوز باشه این رو دانلود میکنید، اگه مک باشه وارد این سایت بشید و دانلود کنید.

آپدیت: لینک اپلیکیشن برای سیستم عامل مک کار نمیکنه. اپ رو توی این لینک آپلود کردم تست کنید ببینید کار میکنه یا نه توی پوشه Applications میریزید. لینک دانلود

بعد از حالت فشرده دربیارین و نصبش کنید. چیز خاصی نداره فقط دکمه install رو میزنید و صبر میکنید.

الان نیازه که مدل مد نظر رو دانلود کنیم و استفاده کنیم توی سایت ۳ تا مدل موجوده که:

Model : Gemma 3: 12b و Model : DeepSeek-R1: 14b و Model : Qwen 3: :14b هست که اینا تقریبا مدل نسبتا سنگینی حساب میشن و احتمالا لپ تاپتون نتونه اجرا کنه. برای همین ۲ تا مدل سبک تر اینجا براتون آپلود کردم که میتونید استفاده کنید.

لینک دانلود مدل llama3.2 حجم مدل ۲ گیگابایت هست.

لینک دانلود مدل qwen2.5 حجم مدل ۴.۷ گیگابایت هست (هر ۳ لینک رو دانلود کنید) لینک ۱ + لینک ۲ + لینک ۳

این ۳ مدل رو روی سیستم RTX3080 تست کردم بدون مشکل و کاهش سرعت اجرا میشد. روی مک با کانفیگ M4 16GB رم مدل gemma به مشکل میخوره. ولی مدل های دیگه که لینک رو گذاشتم بدون مشکل اجرا میشن.

فایل هارو دانلود کنید و بعد از حالت فشرده دربیارین.

الان توی هر کدوم از این پوشه هایی که در آوردیم، ۲ تا پوشه به نام blobs و manifests وجود داره. توی سیستم عامل مک وارد این مسیر میشیم(اسم لپ تاپت همون ehsan هست):

/Users/ehsan/.ollama/models

این پوشه دیده نمیشه برای اینکه بتونی ببینی توی مک win + shift + . رو باید بزنی. توی ویندوز هم از قسمت views باید show all folders یا یه همچین چیزی رو بزنی تا نشون بده.

الان وارد پوشه .ollama میشی و توی پوشه models محتوی این چیزی که دانلود کردیم رو میریزی. به این صورت که:

محتوی blobs رو توی همون پوشه blobs میریزی و الان محتوی پوشه manifests که چند تا پوشه تو در تو داره رو آخرین پوشه رو برمیداری میریزی توی همین پوشه که داشتیم. (اگه فقط یه مدل میخوای اجرا کنی همین پوشه رو replace کنی هم مشکلی نداره)

الان میتونی مدل رو انتخاب کنی و باهاش حرف بزنی. دفعه اول هر باز یه خرده تایم میبره چون رو رم یا روی vram لود میشه ولی از دفعات بعدی سریع تر اجرا میشه. این مدل ها فارسی رو خوب ساپورت نمیکنن ولی مدل های ۱۲ و ۱۴ میلیارد پارامتری روی وبسایت فارسی رو متوسط ساپورت میکنن. کلا انگلیسی چت کنید بهتره.

میتونید توی ترمینال هم از این مدل ها استفاده کنید. برای عمیق تر کار کردن هم میتونید پارامتر هایی مثل temprature و ... رو تغییر بدین (چون برای عموم نیاز نیست اینجا دیگه دقیق واردش نشدم)

برای دانلود مدل ها از روی سایت میتونید بسته نامحمود همراه اول بگیرید و شب دانلود کنید.

آپدیت ۱ پیام بازرگانی: لینک اپلیکیشن برای سیستم عامل مک کار نمیکنه. اپ رو توی این لینک آپلود کردم تست کنید ببینید کار میکنه یا نه توی پوشه Applications میریزید. لینک دانلود

آپدیت ۲ پیام بازرگانی: برای دانلود فیلم سریال بدون سانسور میتونید از این لینک استفاده کنید.