نقاط کور هوش مصنوعی: ضرورت ادغام منطق نمادین با مدل‌های زبانی

سازمان‌ها با ولع زیاد تمایل به پیاده‌سازی عامل‌های هوش مصنوعی (AI Agents) در بخش های مختلف دارند، بی خبر از آنکه بزودی با یک پارادوکس مواجه می‌شوند: سیستم‌هایی با توانایی‌های فراانسانی که در حل مسائل بسیار ابتدایی دچار اشتباه می شوند. این چالش - که گاهی «مشکل پنیر سوئیسی» (Swiss Cheese Problem) نامیده می‌شود - زمانی نمایان می‌شود که یک مدل زبانی بزرگ (Large Language Model - LLM) در بسیاری از وظایف پیچیده عملکردی درخشان دارد، اما در برخی وظایف ساده خروجی‌ای تولید می‌کند که به‌شدت - و گاهی به‌طرز عجیبی- غیرمنطقی است. برای رهبرانی که با قطعیت (Determinism) نرم‌افزارهای سنتی رشد کرده‌اند، این بی‌ثباتی احتمالاتی (Probabilistic Fickleness) می‌تواند عمیقاً نگران‌کننده باشد. ما از یک کامپیوتر چنین چیزی انتظار نداریم. بیایید بررسی کنیم چرا این اتفاق می‌افتد.

بازنمایی‌های توزیع‌شده در برابر بازنمایی‌های محلی

LLMها بر اساس بازنمایی‌های توزیع‌شده (Distributed Representations) عمل می‌کنند، مفاهیم در میان میلیون‌ها پارامتر «پخش» شده‌اند، که این امر خلاقیت، تحمل نویز و تعمیم‌پذیری چشمگیر از داده‌های نامرتب را ممکن می‌سازد.در مقابل، ما با سیستم‌های کامپیوتری مبتنی بر منطق بزرگ شده‌ایم. این سیستم‌های نمادین (Symbolic Systems) از بازنمایی‌های محلی (Local Representations) استفاده می‌کنند،نمادها و متغیرها گسسته، بدون ابهام و ترکیب‌پذیر هستند. این اساسِ منطق، برنامه‌نویسی و ریاضیات است.

قدرت سیستم‌های نمادین

منطق نمادین (Symbolic Logic) در جاهایی که ترکیب‌پذیری اهمیت دارد، عملکردی عالی دارد. معادلات و قوانین رسمی به ما اجازه می‌دهند تا ساختارهای جدیدی با معانی قابل پیش‌بینی بسازیم. این امر تعمیم‌پذیری سیستماتیک را ممکن می‌سازد ( یعنی توانایی مدیریت قابل‌اطمینانِ ،مجموعه‌ای نامحدود از ورودی‌های جدید)چیزی که سیستم‌های عصبی ( که فقط مبتنی بر شبکه عصبی طراحی شده اند) در دستیابی به آن عملکرد چندان موفقی ندارند

یکپارچه‌سازی

سیستم‌های عصبی و نمادین رقیب نیستند؛ آن‌ها مکمل یکدیگرند. هوش مصنوعی عصبی-نمادین (Neuro-symbolic AI) نقاط قوت هر دو را ترکیب می‌کند. شبکه‌های عصبی از داده‌های نویزی و بدون ساختار (Unstructured Data) یاد می‌گیرند. منطق نمادین، دقت، تفسیرپذیری (Interpretability) و قابلیت راستی‌آزمایی را اعمال می‌کند. آن‌ها با هم یک حلقه بازخورد تشکیل می‌دهند که در آن نمادها ،شبکه‌ها را محدود (و قانون‌مند) می‌کنند و شبکه‌ها دانش نمادین را گسترش می‌دهند.