گزارش عامل‌های هوش مصنوعی

در زمان تهیه این گزارش سیگنال در تمام لایه‌های پشته هوش مصنوعی یکسان است؛ از سیلیکون تا ایمنی، از حافظه تا ارزیابی.

- Blackwell انویدیا در حال بازنویسی این است که زیرساخت آموزش مدل‌های مرزی چگونه باید باشد.

-   Z.aiنشان می‌دهد که مدل‌های متن‌باز می‌توانند در وظایف طولانی‌مدت با زمینه‌ای در حد میلیون توکن عملکرد واقعی ارائه دهند.

- xAI برای توسعه‌دهندگان یک «کابین کنترل» فراهم کرده تا ده‌ها عامل را به‌صورت موازی اجرا کنند.

- AWS فاصله بین تشخیص خطاهای عامل‌ها و عیب‌یابی آن‌ها را از بین می‌برد.

- Perplexity حافظه‌ای ارائه کرده که از خودِ کار یاد می‌گیرد، نه فقط از کاربر.

- OpenAI قبل از آنکه حتی یک کاربر مدل جدیدی را ببیند، استقرار آن را شبیه‌سازی می‌کند.

و Google DeepMind نقشه راهی منتشر کرده که در آن باید حتی عامل‌های خودتان را نیز به‌عنوان تهدیدهای بالقوه داخلی در نظر بگیرید.

الگوی فعلی یک خبر واحد نیست؛ بلکه یک پشته کامل در حال حرکت است. محاسبات، مدل‌ها، ابزارها، ارزیابی، حافظه و امنیت همگی به‌طور هم‌زمان در حال پیشرفت‌اند.

عامل‌ها دیگر صرفاً یک مورد در نقشه راه نیستند. آن‌ها در محیط‌های واقعی در حال اجرا هستند و زیرساخت اطرافشان با سرعت در حال رسیدن به آن‌هاست.

در اینجا آنچه در این زمان تغییر کرد و اینکه چرا مهم است آورده شده است.

داشبورد عامل xAI: مرکز فرماندهی برای اجرای موازی عامل‌ها

چه اتفاقی افتاده است:

xAI Agent Dashboard  را در Grok Build راه‌اندازی کرده است؛ یک رابط بومی ترمینال که به توسعه‌دهندگان اجازه می‌دهد چندین نشست هم‌زمان عامل کدنویسی را از یک صفحه مدیریت کنند.

گزارش شامل موارد زیر است:

• یک نمای یکپارچه از همه نشست‌های فعال Grok Build که بر اساس وضعیت مرتب شده‌اند؛ نشست‌هایی که منتظر ورودی هستند ابتدا نمایش داده می‌شوند تا موانع سریع برطرف شوند.

• مشاهده و پاسخ درجا: خروجی آخر هر نشست را بررسی کنید، به پرسش‌های چندبخشی با کلیدهای جهت پاسخ دهید، و برای نشست‌های فعال پیام در صف قرار دهید؛ همه بدون ترک داشبورد.

• راه‌اندازی نشست از داخل داشبورد؛ تعیین مدل، حالت برنامه‌ریزی و تنظیمات تأیید خودکار قبل از اجرا.

• زیرعامل‌ها زیر نشست والد که آن‌ها را راه‌اندازی کرده نمایش داده می‌شوند؛ بنابراین نما منعکس‌کننده کاری است که شما ارسال کرده‌اید، نه شاخه‌های متعدد زیر آن.

• دستور نصب تک‌مرحله‌ای :curl -fsSL سپس: grok dashboard

چرا مهم است:

اجرای یک عامل هوش مصنوعی یک جریان کاری است. اجرای ده عامل به‌صورت موازی یک مسئله هماهنگی است.

Agent Dashboard کدنویسی عامل‌محور را مانند اتاق کنترل عملیات موازی مدیریت می‌کند؛ به توسعه‌دهندگان دید کامل روی همه چیز می‌دهد و دسترسی سریع به مواردی که نیاز به تصمیم انسانی دارند فراهم می‌کند. با مقیاس گرفتن بار کاری عامل‌ها، توانایی ارکستراسیون بدون آشفتگی به اندازه خود عامل‌ها اهمیت پیدا می‌کند.

GLM‑5.2: مدل متن‌باز با زمینه یک میلیون توکن برای اجرای طولانی مهندسی

چه اتفاقی افتاده است:

• Z.aiمدل پرچم‌دار جدید خود یعنی GLM5.2 را منتشر کرده است؛ مدلی که به‌طور خاص برای وظایف طولانی‌مدت کدنویسی و پژوهش طراحی شده و پنجره زمینه‌ای قابل‌اعتماد با ۱ میلیون توکن ارائه می‌دهد.

گزارش شامل موارد زیر است:

• پنجره زمینه ۱ میلیون توکن که تحت فشار واقعی مهندسی پایدار می‌ماند: مسیرهای آشفته عامل‌ها، ساخت کد در مقیاس بزرگ و اشکال‌زدایی پیچیده؛ نه فقط پذیرش توکن.

• بهترین عملکرد متن‌باز در بنچمارک‌های FrontierSWE، PostTrainBench و SWE‑Marathon؛ تنها پشت سری مدل‌های Opus 4.8 از Anthropic در هر سه.

• کنترل سطح تلاش که به کاربران اجازه می‌دهد بین سرعت و عمق انتخاب کنند؛ عملکردی تنظیم‌شده بین Claude Opus 4.7 و 4.8 با بودجه توکن مشابه.

• معماری IndexShare که FLOPs هر توکن را در زمینه ۱ میلیون توکن تا ۲.۹ برابر کاهش می‌دهد و نرخ پذیرش decoding پیش‌بینی‌گر را بهبود می‌دهد.

• مجوز متن‌باز MIT بدون محدودیت منطقه‌ای.

چرا مهم است:

ادعای زمینه یک میلیون توکن آسان است؛ اما پایدار نگه داشتن آن وقتی یک عامل ساعت‌ها اجرا شده سخت است.

GLM5.2 نخستین مدل متن‌بازی است که نشان می‌دهد توانایی زمینه طولانی می‌تواند به تحویل واقعی در افق زمانی بلند منجر شود. برای شرکت‌ها و توسعه‌دهندگانی که می‌خواهند کدنویسی عامل‌محور در سطح مدل‌های پیشرفته داشته باشند اما به مدل‌های بسته وابسته نباشند، این پیشرفت استاندارد را به‌طور قابل‌توجهی بالا می‌برد.

شبیه‌سازی استقرار OpenAI: پیش‌بینی رفتار مدل قبل از استفاده کاربران

چه اتفاقی افتاده است:

OpenAI روشی به نام Deployment Simulation منتشر کرده است؛ یک روش ارزیابی پیش از انتشار که مکالمات واقعی محیط تولید را با یک مدل کاندیدا بازپخش می‌کند تا نرخ رفتارهای نامطلوب را قبل از انتشار مدل پیش‌بینی کند.

گزارش شامل موارد زیر است:

• بازپخش مکالمات واقعی: مکالمات اخیر محیط استقرار گرفته می‌شوند، پاسخ دستیار اصلی حذف می‌شود و توسط مدل جدید دوباره تولید می‌شود؛ ایجاد سیگنالی مشابه محیط واقعی بدون قرار گرفتن در معرض کاربران واقعی.

• رفع سه شکاف اصلی ارزیابی: محدودیت پوشش، سوگیری انتخاب به سمت خطاهای شناخته‌شده، و توانایی مدل‌ها در تشخیص اینکه در حال آزمایش هستند.

• از قبل در چندین استقرار از سری GPT5 Thinking استفاده شده و الگوهای جدیدی از عدم هم‌راستایی را پیش از انتشار آشکار کرده است.

• برای انتشارهای عامل‌محور شامل استفاده از ابزارها نیز گسترش یافته است.

• پوشش ارزیابی با افزایش توان محاسباتی مقیاس می‌گیرد، نه با افزایش تلاش انسانی در ارزیابی.

چرا مهم است:

ردتیمینگ سنتی و ارزیابی‌های مصنوعی لازم هستند اما کافی نیستند؛ زیرا به خطرات شناخته‌شده سوگیری دارند و مدل‌ها می‌توانند تشخیص دهند که در حال آزمایش هستند.

Deployment Simulation به آزمایشگاه‌ها اجازه می‌دهد بپرسند:

«این مدل در توزیع واقعی پیام‌های کاربران چگونه رفتار خواهد کرد؟»

این سؤال با «آیا می‌توان این مدل را جیل‌بریک کرد؟» متفاوت است و برای بیشتر رفتارهای نامطلوب مهم‌تر محسوب می‌شود. انتظار می‌رود این روش به استانداردی در صنعت تبدیل شود.

AWS Strands Evals: از «خراب شد» تا «چرا خراب شد» در چند دقیقه

چه اتفاقی افتاده است:

AWS یک بررسی فنی عمیق درباره توابع Detector در SDK جدید Strands Evals منتشر کرده است؛ لایه‌ای برای تشخیص خودکار خطا و تحلیل علت ریشه‌ای که مستقیماً در خط لوله ارزیابی عامل‌ها قرار می‌گیرد.

گزارش شامل موارد زیر است:

• Detectorها به‌طور خودکار شکست‌ها در ردپای اجرای عامل را شناسایی کرده و تحلیل علت ریشه‌ای انجام می‌دهند؛ زمان تشخیص را از ساعت‌ها به دقیقه‌ها کاهش می‌دهند.

• خروجی ساختاریافته شامل خطاهای دسته‌بندی‌شده با امتیاز اطمینان، زنجیره‌های علّی که علت ریشه‌ای را به علائم بعدی وصل می‌کند، و توصیه‌های اصلاحی.

• Strands Evals به‌طور پیش‌فرض از Amazon Bedrock با Claude 4 به‌عنوان مدل داور استفاده می‌کند.

• قابلیت‌های اضافی شامل chaos testing از طریق تزریق خطای تعیین‌پذیر (شبیه‌سازی timeout ابزارها، خطاهای شبکه و خراب شدن پاسخ‌ها) و ارزیابی red‑team با استراتژی‌های حمله تعبیه‌شده.

• ادغام با خطوط CI/CD برای تشخیص خودکار در هر اجرای تست.

چرا مهم است:

دانستن اینکه نرخ موفقیت هدف عامل شما از ۸۵٪ به ۷۰٪ کاهش یافته مفید است، اما نمی‌گوید چه چیزی را باید اصلاح کنید.

Detectorهای Strands Evals این شکاف را پر می‌کنند؛ شکست‌ها را در زنجیره علّی‌شان دنبال کرده و دقیقاً نشان می‌دهند مهندسان باید کجا را اصلاح کنند.

وقتی تیم‌ها عامل‌ها را در مقیاس اجرا می‌کنند، گلوگاه دیگر تشخیص خطا نیست؛ بلکه تشخیص سریع علت آن برای انتشار اصلاح است.

Blackwell انویدیا در MLPerf Training 6.0: سریع‌ترین، بزرگ‌ترین، قدرتمندترین

چه اتفاقی افتاده است:

پلتفرم Blackwell انویدیا در MLPerf Training 6.0 معیار داوری‌شده صنعت برای عملکرد آموزش هوش مصنوعی در تمام دسته‌ها رتبه اول را به دست آورد.

گزارش شامل موارد زیر است:

• سریع‌ترین زمان آموزش در تمام بنچمارک‌ها و بزرگ‌ترین مقیاس آموزش با ۸٬۱۹۲ GPU روی سیستم‌های NVIDIA Blackwell NVL72.

• اضافه شدن دو workload جدید برای پیش‌آموزش Mixture‑of‑Experts: مدل‌های DeepSeek‑V3 671B و GPT‑OSS‑20B.

• سیستم GB300 NVL72 تا ۱.۶ برابر سریع‌تر از GB200 NVL72 در همان مقیاس آموزش داد.

• Microsoft Azure آموزش Llama 3.1 405B را روی ۸٬۱۹۲ GPU با سیستم GB200 NVL72 اجرا کرد و در ۷.۰۷ دقیقه به کیفیت مرجع رسید.

• روش‌های آموزش NVFP4 برای پیش‌آموزش مدل ۵۵۰ میلیارد پارامتری NVIDIA Nemotron 3 Ultra استفاده شدند.

چرا مهم است:

هر مدل پیشرفته با یک اجرای آموزش شروع می‌شود.

زیرساخت پشت آن تعیین می‌کند تیم‌ها با چه سرعتی تکرار کنند، چه مقیاسی از مدل بسازند و آیا آموزش به‌طور قابل‌اعتماد کامل می‌شود یا نه.

برتری Blackwell در MLPerf 6.0 نشان می‌دهد زیرساخت محاسباتی نسل بعدی مدل‌های عامل‌محور همین حالا در حال شکل‌گیری است.

نقشه راه کنترل هوش مصنوعی Google DeepMind: نگاه به عامل‌های خودی به‌عنوان تهدید داخلی

چه اتفاقی افتاده است:

Google DeepMind نقشه راه AI Control Roadmap را منتشر کرده است؛ چارچوب امنیتی دفاع در عمق برای مدیریت عامل‌های پیشرفته که در داخل سازمان‌ها مستقر شده‌اند.

گزارش شامل موارد زیر است:

• عامل‌های داخلی به‌عنوان «تهدید داخلی بالقوه» در نظر گرفته می‌شوند؛ مشابه کارمندی که دسترسی به شرکت دارد اما ممکن است سرکش شود.

• رویکرد دفاع در عمق فراتر از هم‌راستایی مدل می‌رود و کنترل‌های امنیتی در سطح سیستم اضافه می‌کند.

• ۱۵ کنترل عملی شامل لایه‌های تشخیص از نظارت بر chain‑of‑thought تا بررسی استدلال مبهم، و لایه‌های پاسخ از بازبینی غیرهم‌زمان تا مسدودسازی بلادرنگ.

• نمونه اولیه یک سیستم نظارت غیرهم‌زمان که مسیر اجرای عامل‌های کدنویسی را بررسی کرده و موارد مشکوک را برای بررسی انسانی ارسال می‌کند.

• راهنمای سیاست‌گذاری همراه که الزامات امنیتی در سطح عامل، سیستم چندعاملی و اکوسیستم گسترده‌تر را توضیح می‌دهد.

چرا مهم است:

بیشتر بحث‌های ایمنی عامل‌ها بر هم‌راستایی در مرحله آموزش تمرکز دارند. DeepMind استدلال متفاوتی مطرح می‌کند: حتی پس از هم‌راستایی نیز باید کنترل‌های سیستمی داشته باشید که شکست را فرض می‌کنند.

سؤال دیگر فقط این نیست که «آیا مدل امن است؟» بلکه این است که «اگر امن نبود چه می‌شود؟»

Perplexity Brain: حافظه‌ای که از خودِ کار یاد می‌گیرد

چه اتفاقی افتاده است:

Perplexity سیستم حافظه‌ای به نام Brain معرفی کرده است؛ حافظه‌ای خودبهبوددهنده برای عامل Computer که از جلسات گذشته یک گراف زمینه زنده می‌سازد.

گزارش شامل موارد زیر است:

• Brain به یاد می‌آورد عامل چه کاری انجام داده، چه چیزی موفق بوده، چه چیزی شکست خورده و چه اصلاحاتی انجام شده است؛ نه فقط ترجیحات کاربر.

• یک گراف زمینه زنده از طریق «ویکی مبتنی بر LLM» ایجاد می‌کند که خودکار روی sandbox عامل بارگذاری می‌شود.

• نتایج اولیه:

  • افزایش ۲۵٪ در درستی پاسخ برای وظایفی که قبلاً دیده شده‌اند

  • بهبود ۱۶٪ در یادآوری اطلاعات

  • کاهش ۱۳٪ هزینه برای وظایف وابسته به زمینه تاریخی

• حلقه بازخورد به‌طور مداوم خود را بهبود می‌دهد و عامل‌ها در به‌روزرسانی زمینه بهتر می‌شوند.

• هرچه کاربر بیشتر با Computer کار کند، نقشه زمینه Brain بهتر می‌شود.

چرا مهم است:

بیشتر حافظه‌های هوش مصنوعی درباره کاربر بوده‌اند؛ سلیقه‌ها، ترجیحات و سبک کار.

Brain مدل متفاوتی معرفی می‌کند: حافظه درباره کاری که عامل انجام داده است تا در انجام همان کار بهتر شود.

این تفاوت میان ابزاری است که فقط نام شما را به خاطر می‌سپارد و ابزاری که واقعاً در کارتان بهتر می‌شود.

#اینشورتک_ایران

@Insurtech_Iran