ویرگول
ورودثبت نام
آموزش chatgpt و LLM ها
آموزش chatgpt و LLM ها
خواندن ۷ دقیقه·۳ ماه پیش

آشنایی با افزونه های ChatGPT

ChatGPT یک مدل زبان قدرتمند است که می تواند ورودی های کاربر را درک کند و به آنها پاسخ دهد. دارای بسیاری از ویژگی های مفید داخلی است، اما گاهی اوقات کاربران به عملکردهای اضافی نیاز دارند که خارج از جعبه در دسترس نیست. اینجاست که افزونه ها وارد می شوند.

افزونه ها افزونه هایی هستند که قابلیت های ChatGPT را گسترش می دهند. آنها به کاربران اجازه می دهند در پاسخ به درخواست کاربر به اطلاعات به روز دسترسی داشته باشند، محاسبات را اجرا کنند یا با خدمات شخص ثالث تعامل داشته باشند. به عنوان مثال، یک افزونه می تواند توانایی جستجوی اطلاعات در یک وب سایت خاص یا ادغام با نرم افزار CRM کاربر را اضافه کند.

یا یک افزونه تقویم برای ChatGPT ممکن است با اجازه دادن به کاربران برای زمان‌بندی رویدادها و یادآوری‌ها مستقیماً در رابط چت کار کند. برای مثال، یک کاربر می‌تواند «برنامه‌ریزی جلسه با جان در روز جمعه در ساعت ۲ بعد از ظهر» را تایپ کند و ChatGPT می‌تواند هدف را تشخیص دهد و برای ایجاد رویداد با افزونه تقویم ارتباط برقرار کند.

۰:۰۰/۱×

افزونه Instacart ChatGPT در حال اجرا است

افزونه Instacart برای ChatGPT یک افزونه موجود است که به کاربران امکان می‌دهد بدون خروج از رابط چت، به راحتی مواد دستور غذا را به سبد خرید Instacart خود اضافه کنند. به عنوان مثال، اگر کاربر بپرسد “برای تهیه لازانیا به چه موادی نیاز دارم؟”، ChatGPT می‌تواند فهرستی از مواد لازم برای لازانیا را ارائه کند و پیشنهاد دهد آنها را به سبد خرید Instacart کاربر اضافه کند. سپس کاربر می تواند با یک کلیک ساده سفارش را تایید کند و افزونه Instacart به طور خودکار تمام مواد لازم را به سبد خرید اضافه می کند.

📷

پلاگین ها چگونه کار می کنند؟

برای ایجاد یک افزونه، توسعه‌دهندگان می‌توانند یک API را از طریق وب‌سایت خود در دسترس قرار دهند و یک فایل مانیفست ایجاد کنند که API را به صورت استاندارد مشخص می‌کند. سپس ChatGPT می‌تواند این فایل‌ها را بخواند و مدل‌های هوش مصنوعی را فعال کند تا با API مشخص‌شده توسط توسعه‌دهنده ارتباط برقرار کنند. یک پلاگین معمولی شامل:

  • API،
  • یک طرح با فرمت OpenAPI JSON یا YAML برای API،
  • فایل مانیفست برای افزونه با فرمت JSON.

ChatGPT از فایل مانیفست و طرحواره OpenAPI استفاده می کند تا بفهمد این افزونه چه کاری انجام می دهد و چگونه با آن تعامل داشته باشد. سپس هنگامی که کاربر ChatGPT را درخواست می کند، تعیین می کند که آیا نیاز به تعامل با افزونه های فعال برای انجام درخواست دارد یا خیر و نقاط پایانی مربوطه را برای انجام درخواست های کاربر فراخوانی می کند. درست مانند درخواست سایر مدل‌های زبان، می‌خواهید چندین فرمان و توضیحات را در طرح مانیفست و API آزمایش کنید تا ببینید چه چیزی بهترین کار را دارد.

OpenAI کدی را برای یک نمونه پلاگین ارائه می دهد که می تواند یک DB برداری مانند Pinecone را جستجو کند و اسناد مربوطه را برگرداند. در حین پاسخ دادن به درخواست‌های کاربر، ChatGPT ممکن است از این افزونه برای افزودن دانش خود با جستجوی اسناد مربوطه استفاده کند. به عنوان مثال، در داخل یک سازمان، ChatGPT ممکن است برای پاسخ به سؤالات مربوط به شرکت نیاز به استعلام اسناد داخلی شرکت داشته باشد.

برای این افزونه بازیابی سند، فایل مانیفست نامگذاری شده ai-plugin.jsonچیزی شبیه به این خواهد بود:

📷

description_for_modelتوجه کنید که چگونه فیلدهایی مانند و وجود دارد description_for_human. این description_for_modelویژگی به شما این آزادی را می دهد که به مدل در مورد نحوه استفاده از افزونه خود به طور کلی آموزش دهید. به طور کلی، مدل زبانی که در پشت ChatGPT قرار دارد، توانایی بالایی در درک زبان طبیعی و پیروی از دستورالعمل‌ها دارد. بنابراین، اینجا مکان خوبی برای قرار دادن دستورالعمل‌های کلی در مورد کارهایی که افزونه شما انجام می‌دهد و اینکه مدل چگونه باید از آن به درستی استفاده کند، است.

استقرار یک افزونه

ما افزونه بازیابی فوق را در TrueFoundry مستقر می کنیم و آن را با ChatGPT متصل می کنیم. این افزونه می تواند پایگاه داده های برداری مانند Pinecone را جستجو کرده و اسناد مربوطه را برگرداند.

توجه داشته باشید که برای ایجاد یک افزونه به دسترسی به افزونه ChatGPT نیاز دارید.

مخزن Github را شبیه سازی کنید

برای استقرار این برنامه، باید این مخزن را شبیه سازی کنید. این مورد ضروری است زیرا در نهایت باید طرح OpenAPI و مانیفست را با URL های بعدی برنامه افزونه مستقر شده به روز کنیم.

تنظیم وکتور DB: Pinecone

Pinecone یک پایگاه داده برداری مدیریت شده است که برای سرعت، مقیاس و ارسال زودتر به تولید ساخته شده است. برای استفاده از Pinecone به‌عنوان ارائه‌دهنده پایگاه داده برداری، ابتدا با ثبت نام برای یک حساب، یک کلید API دریافت کنید . می‌توانید از بخش «کلیدهای API» در نوار کناری داشبورد خود به کلید API خود دسترسی پیدا کنید. Pinecone همچنین از جستجوی ترکیبی پشتیبانی می کند و در زمان نگارش تنها ذخیره داده ای است که از بردارهای پراکنده SPLADE به صورت بومی پشتیبانی می کند.

راهنمای کامل نوت بوک Jupyter برای طعم کاج پلاگین بازیابی را می توانید در اینجا پیدا کنید . همچنین یک راهنمای تصویری در اینجا وجود دارد .

این برنامه زمانی که برای اولین بار آن را اجرا می کنید، به طور خودکار یک فهرست Pinecone برای شما ایجاد می کند. فقط یک نام برای فهرست خود انتخاب کنید و آن را به عنوان یک متغیر محیطی در حین استقرار برنامه تنظیم کنید.

استقرار برنامه در TrueFoundry

حالا بیایید برنامه را در TrueFoundry مستقر کنیم.

  1. یک حساب کاربری رایگان با TrueFoundry ایجاد کنید و یک فضای کاری جدید با یک نام منحصر به فرد ایجاد کنید.

2. در حین استفاده از Pinecone vector DB، به متغیرهای محیطی زیر نیاز دارید. توکن حامل برای احراز هویت درخواست ها به نقاط پایانی استفاده می شود.

NameRequiredDescriptionDATASTOREYesDatastore نام، این را روی pinecone تنظیم کنیدBEARER_TOKENYsToken مخفی شما برای احراز هویت درخواست‌ها به APIOPENAI_API_KEYبله کلید OpenAI API شما برای ایجاد جاسازی‌ها با text-embedding-ada-002 pinoneolesPINOKEY PINECONE_ENVIRONMENTبله محیط Pinecone شما که در کنسول Pinecone یافت می شود، به عنوان مثال us-west1-gcp، us-east-1-aws، و غیره.PINECONE_INDEXبله نام نمایه Pinecone انتخابی شما. توجه: نام فهرست باید از نویسه‌های حروف عددی کوچک یا «-» باشد.

به کنسول TrueFoundry Secrets بروید . یک گروه مخفی جدید ایجاد کنید و اسرار را برای استفاده از متغیرهای محیط ایجاد کنید.

📷

۳. به کنسول استقرار بروید . یک سرویس جدید در فضای کاری خود ایجاد کنید.

4. در فرم ایجاد سرویس، منبع را روی URL repo که به تازگی کلون کرده اید و بیلد را روی DockerFile build قرار دهید.

۵. در فرم، پورت را روی ۸۰۸۰ تنظیم کنید و یک نقطه پایانی مناسب برای سرویس خود انتخاب کنید:

📷

۶. متغیرهای محیطی را اضافه کنید و آنها را روی رازهایی که ایجاد کردید تنظیم کنید.

📷

7. Deploy و برنامه وب و نقطه پایانی افزونه شما باید در برگه Deployments نشان داده شود . ما از نقطه پایانی تولید شده در اینجا برای ثبت افزونه در OpenAI برای استفاده با ChatGPT استفاده می کنیم:

📷

8. به مخزن Github خود بروید و URL برنامه را در طرحواره OpenAPI و مانیفست واقع در ./well-knownپوشه به روز کنید. پس از به‌روزرسانی، می‌توانید استقرار در TrueFoundry را به آخرین commit ویرایش کرده و از برگه استقرار مجدداً مستقر کنید .

برایاستفادهازآخرینcommitازGithub،استقرارراویرایشکنید📷

تست افزونه

هنگامی که API، فایل مانیفست و مشخصات OpenAPI را برای API خود ایجاد کردید، اکنون آماده اتصال افزونه از طریق ChatGPT UI هستید.

برای رابط کاربری ChatGPT ، ابتدا “Develop your own plugin” را انتخاب کنید تا آن را تنظیم کنید و سپس “Install an unverified plugin” را انتخاب کنید تا آن را برای خود نصب کنید.

ابتدا باید نقطه پایانی را به سرویس API خود ارائه دهید. می توانید این را از برگه استقرار TrueFoudry دریافت کنید . در مرحله دوم، باید توکن حامل مورد استفاده برای احراز هویت درخواست‌های API را ارائه دهید. پس از انجام این کار، افزونه باید برای استفاده با ChatGPT آماده باشد (فقط برای شما، زیرا تأیید نشده است!).

اینجا جدیدترین تکنیک های مربوط به آموزش chatgpt و LLM ها بهت یاد می دم https://aliayoubi.com
شاید از این پست‌ها خوشتان بیاید