همت و همایت گردد تمامی پست-های انتقال دانش #هوش_مصنوعی در زمان #قطعی_اینترنت و #اینترنت_ملی از تگ و هشتگ #آوردگاه_هوش_مصنوعی_ایران استفاده کنند تا جستوجویی ساده-تر داشته باشیم.
انسان موجودی اجتماعی است که مبنای تمامی امور را بر رابطه بنا نهاده است. این رابطه از طریق بیان، نوشتار و غیره ایجاد می-گردد و تمامی ایده-های بنیادی بدین واسطه توسعه داده می-شوند. همین مهم منجر به رشد جوامع بشری با تمام تفاوت-ها شده که هدف سعادت انسانی را محقق سازد.
رسیدن به سعادت انسانی هرچند سخت و دشوار شروع شده اما به هر حال به رشد ادامه داده تا به عصر فعلی رسیده است که تکنولوژی با تولید و انتشار اطلاعت تلفیق شده است؛ هوش مصنوعی و مدل-های زبانی بزرگ (Large Language Models) چند سالی است که کمک دست بشریت در این زمینه می-باشد و حال که روال ملی شدن اینترنت (از 18-دیماه-1404) در پیش گرفته شده است بسیاری از امور پژوهشی و فناوری از حرکت ایستاده و جامع علمی و دانشجویی به ناچار از توسعه باز ایستاده اند. بدین دلیل آموزشی برای استفاده از این مدل-های LLM بر روی سیستم-های شخصی خود را نوشته تا شاید نقشی کوچک در پیشرفت این حوزه داشته باشم.
مدل-ها هوش مصنوعی از چندین پارامتر (neuron) تشکیل شده است. در حوزه LLM که مدل-ها دانشی جامع دارند هر آنچه که تعداد پارامتر-های مدل بیشتر باشد می-تواند گفت با مدلی جامع تر مواجه هستیم اگرچه که این مدل-ها که حدودا 650 میلیارد پارامتر دارند نیازمند زیرساخت-های مبتنی بر دیتاسنتر-ها هستند تا کاربران در سطح جهانی بتوانند از آن-ها بهره ببرند. حال روش-هایی (knowledge distillation) توسعه داده شده است که کاربران بتوانند مدلی با دانش مدل بزرگ-تر را با تعداد پارامترها کمتر به صورت متن باز (open source) در اختیار داشته باشند.
مدل-های LLM مختلفی با تعداد پارامتر-های مختلفی وجود دارند و نیاز به ابزاری هست تا این مدل-ها اجرا شوند اما در شرایط فعلی هیچ کدام از سرویس-ها در دسترس نیستند تا بتوانیم مدل و محیط اجرایی را از OLLAMA که توسعه داده شده توسط Meta است دانلود کنیم (اگر آیندگان اینترنت داشتند حتما مدل-ها و محیط اجرایی را از OLLAMA دانلود کنند).
اما جای نگرانی نیست؛ سایت-هایی همچون p30download و soft98 مدل-ها و محیط اجرایی را برای دانلود آماده دارند (در سایت-ها سرچ کنید OLLAMA).
منابع مورد نیاز برای اجرای این مدل ها در سایت soft98 بدین صورت آمده است:
Windows 10/11
CPU (minimum): 8-core modern CPU (Intel i7 / AMD Ryzen 7 or better)
RAM (minimum): 16 GB (runs, but slower)
GPU (optional): 8–16 GB VRAM (quantized runs on 16 GB; FP16/full precision requires 24 GB+)
نکته مهمی که وجود دارد این است که مدل-ها بر روی GPU اجرا می-شوند، پس حتما به مشخصات GPU-ایی که در بالا آمده است توجه کنید در غیر این صورت اجرای مدل-تان بسیار کند خواهد بود.
با توجه با لینک-های گفته شده (از soft98 و یا p30download) نرم افزار محیط اجرایی (OLLAMA) و مدل-ای متناسب با مشخصات سخت افزاری سیستم خود دانلود کنید.
این آموزش بر اساس مدل Gemma-3 جلو خواهد رفت. سایر مدل-ها همانند Qwen-3 و DeepSeek-R1 با 14 میلیارد پارامتر هم در دو سایت فوق برای دانلود در دسترس هستند.
همانند شکل بالا، فایل .exe دانلود شده را نصب کرده و وارد نرم افزار شوید تا تصویر زیر را مشاهد کنید:
با کلیک بر روی لیست مدل-ها تعدادی مدل با لوگو ابر یا دانلود (باکس قرمز رنگ) میبینید که آن-ها در شرایط فعلی قابلیت اجرا / دانلود شدن را ندارند. حال شما باید فایل-های مدل Gemma-3 یا دیگر مدل-ها که پیش-تر دانلود کرده بودید را extract کرد و به مسیر C:\Users\mmRoshani\.ollama\models رفته تا در آنجا فایل-های extract شده را paste کنید. برای اینکه مطمین شوید مدل به درستی paste شده است مسیر C:\Users\mmRoshani\.ollama\models\blobs را باز کرده تا تصویر زیر را مشاهده کنید:
دقت کنید که نام کاربری سیستم من mmRoshani است و شما باید در آدرس-های گفته شده از نام کاربری خود استفاده کنید.
سپس محیط اجرایی OLLAMA را بسته و مجددا باز کنید:
حالا که OLLAMA را باز کردید در لیست مدل-ها گزینه gemma3:12b را خواهید دید که لوگو ابر و یا دانلود در جلوی آن نیست؛ این همان مدلی است که پیش-تر دانلود شده بود و در مسیر مربوطه گذاشته شده بود.
در این مرحله شما می-توانید با این مدل صحبت کرده و تا حدود خوبی از قابلیت چت با اسناد استفاده کنید اما چون ابزار سرچ برای این برهه زمانی از دسترس ما خارج است این مدل توانایی جستوجو در سطح اینترنت را نداشته و این مسیله طلب می-کند تا کاربر به تفضیل اطلاعات مورد نیاز و جزیات را به مدل ارایه دهد.
در نهایت هنگامی که مدل اجرا می-شود ایکون استفاده از GPU شما رنگی شده و پراسس ollama.exe را تشخیص می-دهد.
باشد که این مطلب کمک دست مردم فرهیخته کشورم باشد.
