امروز تجربهی جالبی رو در خصوص استفاده از OpenAI API کسب کردم.
موضوع این بود که یک رکوئست سنگین به مدل GPT-5 میزدم و گرفتن پاسخ حدود 4 تا 5 دقیقه طول میکشید و همین باعث میشد خیلی اوقات با خطای Time-out شبکه مواجه بشم.
برای حل این مشکل راهکاری که پیدا کردم این بود که درخواستم رو به صورت Background mode ارسال بکنم.
با این کار اتفاقی که میافته این هست که یک id برای درخواستمون دریافت میکنیم و میتونیم در بازههای N ثانیهای درخواست بزنیم و ببینیم آیا پاسخمون آماده شده یا نه.
با اعمال این تغییر توی کدم، نتیجهای که حاصل شد این بود که دیگه با خطای Time-Out مواجه نشم.
نمونهی کد:
