تولید محتوای متنی کنترل شده یا Controllable Text Generation چیست ؟

مقدمه: وقتی «خوب نوشتن» دیگر کافی نیست

تا چند سال پیش، وقتی درباره مدل‌های زبانی صحبت می‌کردیم، بیشتر سؤال‌ها حول این محور می‌چرخید: آیا مدل می‌تواند متن روان تولید کند؟ آیا جمله‌ها از نظر گرامری درست‌اند؟ آیا جواب مدل به سؤال کاربر مرتبط است؟ آیا متن تولیدشده شبیه نوشته انسان به نظر می‌رسد؟

اما با رشد مدل‌های زبانی بزرگ، یا همان LLMها، این سؤال‌ها دیگر کافی نیستند. امروز مسئله فقط این نیست که مدل بتواند متن تولید کند؛ مسئله این است که مدل بتواند متن درست، مناسب، هدفمند، قابل کنترل و قابل استفاده در موقعیت واقعی تولید کند.

یک مدل زبانی ممکن است متنی بسیار روان بنویسد، اما لحن آن برای برند مناسب نباشد. ممکن است پاسخ از نظر زبانی بی‌نقص باشد، اما بیش از حد رسمی، بیش از حد صمیمی، خطرناک، گمراه‌کننده، تکراری یا خارج از موضوع باشد. ممکن است مدل واقعیت را درست بگوید، اما آن را با لحنی بیان کند که برای یک محیط آموزشی، درمانی، حقوقی، مالی یا پشتیبانی مشتری مناسب نیست.

اینجاست که مفهوم Controllable Text Generation یا به اختصار CTG اهمیت پیدا می‌کند.

CTG یعنی تولید متنی که فقط «تولید شده» نیست، بلکه تحت کنترل است. یعنی متن باید مطابق یک‌سری شرط مشخص تولید شود: مثلاً امن باشد، مثبت باشد، رسمی باشد، کوتاه باشد، در یک موضوع خاص بماند، از کلمات مشخصی استفاده کند، از برخی کلمات دوری کند، سبک نوشتاری خاصی داشته باشد، یا با نیاز یک کاربر، برند، محصول یا موقعیت خاص هماهنگ باشد.

در واقع، اگر نسل اول مدل‌های زبانی روی «توانایی تولید متن» تمرکز داشتند، نسل بعدی باید روی «توانایی تولید متن قابل کنترل» تمرکز کند. آینده LLMها فقط در این نیست که بیشتر بدانند یا طولانی‌تر بنویسند؛ آینده آن‌ها در این است که بتوانند رفتار زبانی خود را دقیق‌تر، امن‌تر و متناسب‌تر با موقعیت تنظیم کنند.

Controllable Text Generation دقیقاً یعنی چه؟

در ساده‌ترین تعریف، Controllable Text Generation یعنی مدل زبانی بتواند متن را مطابق یک یا چند شرط از پیش تعیین‌شده تولید کند، بدون اینکه کیفیت اصلی متن از بین برود.

این شرط‌ها می‌توانند خیلی ساده باشند؛ مثلاً:

متن را کوتاه بنویس.
با لحن مثبت بنویس.
از کلمه خاصی استفاده نکن.
موضوع را روی اقتصاد نگه دار.
متن را برای کودک ده‌ساله ساده کن.
با سبک رسمی بنویس.
پاسخ را امن و غیرتوهین‌آمیز نگه دار.

اما در کاربردهای واقعی، این شرط‌ها معمولاً پیچیده‌تر می‌شوند. مثلاً یک سیستم پشتیبانی مشتری باید هم مؤدب باشد، هم مسئله کاربر را حل کند، هم از زبان برند خارج نشود، هم اطلاعات اشتباه ندهد، هم پاسخ بیش از حد طولانی تولید نکند، هم در موقعیت‌های حساس رفتار ایمن داشته باشد.

بنابراین CTG فقط یک تکنیک کوچک برای بهتر نوشتن نیست. CTG یک مسئله بنیادی در آینده مدل‌های زبانی است: اینکه چطور مدل بتواند بین آزادی تولید زبان و پایبندی به محدودیت‌ها تعادل برقرار کند.

مقاله اصلی CTG را به‌عنوان حوزه‌ای معرفی می‌کند که می‌خواهد خروجی مدل‌های زبانی را به کنترل‌شرط‌هایی مثل safety، sentiment، thematic consistency و linguistic style نزدیک کند، در حالی که کیفیت‌هایی مثل helpfulness، fluency و diversity همچنان حفظ شوند.

چرا LLMهای امروزی به CTG نیاز دارند؟

مدل‌های زبانی بزرگ در تولید متن پیشرفت زیادی کرده‌اند. آن‌ها می‌توانند مقاله بنویسند، ایمیل تولید کنند، کد توضیح دهند، متن تبلیغاتی بسازند، گفت‌وگو کنند، خلاصه‌سازی انجام دهند و حتی سبک‌های نوشتاری مختلف را تقلید کنند. اما همین توانایی بالا باعث شده نیاز به کنترل هم بیشتر شود.

وقتی یک مدل فقط برای سرگرمی استفاده می‌شود، شاید خروجی کمی نامنظم یا نامتناسب مشکل بزرگی نباشد. اما وقتی مدل وارد محصول واقعی، کسب‌وکار، آموزش، رسانه، پزشکی، مالی، حقوقی، پشتیبانی مشتری یا تولید محتوای سازمانی می‌شود، دیگر نمی‌توان فقط به روان بودن متن اکتفا کرد.

در این موقعیت‌ها، مدل باید بداند چه چیزی بگوید، چطور بگوید، چقدر بگوید، با چه لحنی بگوید، از چه چیزهایی دوری کند و چگونه با نیاز کاربر هماهنگ شود.

برای مثال، تصور کن یک مدل زبانی در یک پلتفرم مالی استفاده می‌شود. اگر کاربر درباره سرمایه‌گذاری سؤال کند، مدل نباید فقط متنی روان و قانع‌کننده تولید کند. باید مراقب باشد توصیه قطعی، گمراه‌کننده یا پرریسک ندهد. باید لحن حرفه‌ای داشته باشد. باید محدودیت‌ها را توضیح دهد. باید از اعتمادبه‌نفس کاذب دوری کند. باید در صورت نیاز کاربر را به مشاور متخصص ارجاع دهد.

یا در یک سیستم خبری، مدل نباید فقط متن خبری تولید کند. باید بی‌طرفی، دقت، پرهیز از اغراق، حفظ موضوع و سبک ژورنالیستی را رعایت کند.

در یک چت‌بات آموزشی، مدل باید بتواند سطح پیچیدگی متن را متناسب با دانش‌آموز تنظیم کند. برای کودک، ساده‌تر؛ برای دانشجو، دقیق‌تر؛ برای متخصص، فنی‌تر.

این‌ها همه نشان می‌دهد که LLMها برای ورود جدی به دنیای واقعی، به چیزی فراتر از generation نیاز دارند. آن‌ها به controlled generation نیاز دارند.

تفاوت مهم: مدل ممکن است درست بداند، اما درست بیان نکند

یکی از نکات مهم مقاله این است که کنترل‌پذیری متن را نباید با دانایی یا توانایی استدلال مدل یکی دانست. یک مدل ممکن است پاسخ درست را بداند، اما آن را به شکل نامناسب بیان کند.

فرض کنیم از مدل می‌پرسیم: «پایتخت فرانسه کجاست؟»

یک پاسخ می‌تواند این باشد:
«پاریس پایتخت فرانسه است.»

این پاسخ درست و خنثی است.

اما اگر بخواهیم پاسخ با لحن مثبت و تبلیغاتی باشد، مدل می‌تواند بگوید:
«پاریس، پایتخت زیبای فرانسه، شهری سرشار از فرهنگ، تاریخ و جذابیت است.»

هر دو پاسخ از نظر factual درست‌اند، اما از نظر لحن و حس متفاوت‌اند.

حالا حالت بدتر را در نظر بگیر. مدل ممکن است بگوید:
«لندن پایتخت فرانسه است.»

این پاسخ از نظر واقعیت غلط است، حتی اگر با لحن مثبت نوشته شده باشد.

اینجا دو محور داریم:
یکی محور درستی محتوا،
دیگری محور کنترل نحوه بیان.

CTG دقیقاً روی محور دوم تمرکز دارد، البته بدون اینکه محور اول را بی‌اهمیت بداند. هدف CTG این نیست که مدل فقط احساس، سبک یا لحن را کنترل کند و حقیقت را رها کند. هدف این است که مدل بتواند علاوه بر تولید اطلاعات درست، آن اطلاعات را به شکلی مناسب، قابل تنظیم و متناسب با نیاز موقعیت ارائه دهد.

این تفاوت برای آینده LLMها حیاتی است. چون بسیاری از کاربردهای واقعی فقط به جواب درست نیاز ندارند؛ به جواب درست با فرم درست نیاز دارند.

CTG یعنی کنترل «چه چیزی» و «چگونه گفتن»

برای فهم بهتر CTG، باید بین دو لایه تفاوت بگذاریم.

لایه اول، محتوای پاسخ است: مدل چه چیزی می‌گوید؟
لایه دوم، شیوه ارائه پاسخ است: مدل آن را چگونه می‌گوید؟

در بسیاری از کاربردها، هر دو لایه مهم‌اند.

مثلاً اگر کاربر بپرسد: «چطور اضطرابم را کمتر کنم؟»، مدل می‌تواند چند نوع پاسخ بدهد.

یک پاسخ ممکن است خیلی کوتاه و بی‌فایده باشد:
«استراحت کن.»

یک پاسخ دیگر ممکن است امن‌تر و مفیدتر باشد:
«چند نفس عمیق بکش، کمی از محیط استرس‌زا فاصله بگیر، اگر این حالت تکرار می‌شود با متخصص سلامت روان صحبت کن.»

یک پاسخ ممکن است بیش از حد پزشکی و خشک باشد.
یک پاسخ ممکن است بیش از حد صمیمی و غیرحرفه‌ای باشد.
یک پاسخ ممکن است توصیه خطرناک بدهد.
یک پاسخ ممکن است کاربر را نادیده بگیرد.

CTG تلاش می‌کند خروجی مدل را به سمت پاسخی ببرد که هم از نظر محتوا مناسب باشد، هم از نظر لحن، ایمنی، ساختار، طول، سطح پیچیدگی و سبک.

به همین دلیل CTG را می‌توان نقطه اتصال چند مسئله مهم دانست: کیفیت متن، ایمنی، شخصی‌سازی، تجربه کاربر، کاربردپذیری، اعتماد و alignment.

کنترل آشکار و کنترل پنهان

یکی از بخش‌های مهم CTG این است که کنترل همیشه به‌صورت مستقیم توسط کاربر گفته نمی‌شود. مقاله بین دو نوع کنترل تفاوت می‌گذارد: explicit control و implicit control.

کنترل آشکار یعنی کاربر یا سیستم صراحتاً شرط را بیان می‌کند. مثلاً:

«با لحن رسمی جواب بده.»
«متن را مثبت‌تر کن.»
«در سبک شکسپیر بنویس.»
«حداکثر در ۱۰۰ کلمه پاسخ بده.»
«از اصطلاحات تخصصی استفاده نکن.»
«فقط درباره ورزش بنویس.»

در این حالت، مدل یک دستور مشخص دارد و باید خروجی را با آن تنظیم کند.

اما کنترل پنهان پیچیده‌تر است. در کنترل پنهان، کاربر الزاماً شرط را بیان نکرده، اما مدل باید خودش رعایت کند. مثلاً کاربر نگفته «توهین‌آمیز نباش»، اما مدل باید به‌صورت پیش‌فرض از تولید محتوای توهین‌آمیز، تبعیض‌آمیز، خشونت‌آمیز یا خطرناک پرهیز کند.

کاربر نگفته «در پشتیبانی مشتری لحن مثبت داشته باش»، اما سیستم باید بداند پاسخ‌های پشتیبانی نباید پرخاشگرانه، سرد یا تحقیرکننده باشند.

کاربر نگفته «در حوزه پزشکی با احتیاط حرف بزن»، اما مدل باید بداند نباید تشخیص قطعی یا توصیه خطرناک بدهد.

این نوع کنترل پنهان برای کاربردهای واقعی بسیار مهم است. چون در دنیای واقعی، کاربران همیشه تمام محدودیت‌ها را در پرامپت نمی‌نویسند. بخش زیادی از رفتار درست مدل باید از قبل در سیستم، محصول، policy، context و دیزاین تجربه کاربر تعریف شده باشد.

دو شرط اصلی CTG: کنترل و کیفیت

CTG فقط این نیست که مدل به هر قیمتی شرط را رعایت کند. اگر مدل شرط را رعایت کند اما متن خراب شود، خروجی هنوز خوب نیست.

مقاله اصلی دو بُعد اصلی برای CTG معرفی می‌کند:

اول، متن باید با control condition هماهنگ باشد.
دوم، متن باید کیفیت زبانی و کاربردی خود را حفظ کند.

این نکته خیلی مهم است. چون کنترل زیاد، اگر بد اجرا شود، می‌تواند متن را مصنوعی، خشک، تکراری، کم‌فایده یا غیرطبیعی کند.

برای مثال، فرض کن از مدل می‌خواهیم درباره رشد گوجه‌فرنگی متن تولید کند. اگر مدل فقط کلمات مرتبط را بچیند و بگوید: «گوجه آفتاب آب رشد خوب»، از نظر موضوعی شاید به گوجه‌فرنگی مربوط باشد، اما متن روان و قابل استفاده نیست.

یا در یک مثال دیگر، اگر کاربر جمله‌ای توهین‌آمیز بگوید و مدل فقط پاسخ دهد: «نمی‌توانم جواب بدهم»، شاید از نظر safety مشکلی ایجاد نکند، اما لزوماً helpful نیست. یک پاسخ بهتر می‌تواند هم مرز ایمنی را حفظ کند، هم راهنمایی سازنده بدهد.

پس CTG باید بین این دو طرف تعادل برقرار کند:

از یک طرف، کنترل:
متن باید امن، موضوع‌محور، متناسب با سبک، مطابق طول یا ساختار خواسته‌شده باشد.

از طرف دیگر، کیفیت:
متن باید روان، منسجم، مفید، متنوع و قابل استفاده باشد.

اگر فقط کنترل داشته باشیم، متن ممکن است غیرطبیعی شود.
اگر فقط روانی داشته باشیم، متن ممکن است از هدف خارج شود.
CTG یعنی نگه داشتن هر دو.

چرا CTG برای محصول‌های AI حیاتی است؟

وقتی LLMها وارد محصول می‌شوند، مسئله اصلی دیگر فقط قدرت مدل نیست؛ مسئله قابل پیش‌بینی بودن رفتار مدل است.

یک محصول AI باید بتواند خروجی‌هایی تولید کند که با نیاز کاربر و هدف محصول هماهنگ باشند. اگر خروجی هر بار از نظر لحن، ساختار، طول، سطح تخصص یا میزان احتیاط تغییر کند، تجربه کاربر ناپایدار می‌شود.

فرض کن یک ابزار تولید محتوای برند داری. برند تو لحن مشخصی دارد: حرفه‌ای، انسانی، ساده و قابل اعتماد. اگر مدل یک بار خیلی رسمی بنویسد، بار بعدی شوخ‌طبع شود، بار بعدی بیش از حد تبلیغاتی بنویسد و بار بعدی خشک و دانشگاهی باشد، خروجی برای برند قابل استفاده نیست.

یا فرض کن یک ابزار آموزشی داری که باید برای دانش‌آموزان پایه‌های مختلف محتوا تولید کند. اگر مدل نتواند سطح پیچیدگی متن را کنترل کند، ممکن است برای دانش‌آموز ابتدایی متن دانشگاهی تولید کند یا برای دانشجوی تخصصی متن بیش از حد ساده بنویسد.

یا در پشتیبانی مشتری، اگر مدل نتواند لحن، احترام، همدلی و محدودیت‌های پاسخ‌گویی را کنترل کند، ممکن است به اعتماد کاربر آسیب بزند.

بنابراین CTG برای محصول‌های AI مثل یک لایه کنترل رفتاری است. این لایه کمک می‌کند مدل فقط پاسخ ندهد، بلکه در چارچوب تجربه‌ای که محصول می‌خواهد بسازد پاسخ بدهد.

CTG و آینده تولید محتوا

برای تولیدکنندگان محتوا، CTG یک موضوع بسیار مهم است. چون آینده تولید محتوای متنی فقط این نیست که AI برای ما متن بنویسد. مسئله این است که AI بتواند متن را با هدف دقیق ما تنظیم کند.

یک تولیدکننده محتوا معمولاً فقط نمی‌خواهد «یک متن درباره یک موضوع» بگیرد. او می‌خواهد متن برای مخاطب خاصی نوشته شود، در لحن خاصی باشد، با استراتژی محتوا هماهنگ باشد، سطح تخصص درستی داشته باشد، از کلیشه دوری کند، به هدف سئو یا برند نزدیک باشد، و در عین حال انسانی و خواندنی بماند.

اینجا CTG می‌تواند تبدیل به پایه اصلی workflow تولید محتوا شود.

برای مثال، به جای اینکه فقط بگوییم:
«یک مقاله درباره هوش مصنوعی بنویس»،

می‌توانیم کنترل‌های دقیق‌تری تعریف کنیم:

مخاطب: مدیر محصول و تولیدکننده محتوا
لحن: حرفه‌ای اما روان
سطح: نیمه‌تخصصی
ساختار: مقدمه، مسئله، مثال، تحلیل، جمع‌بندی
محدودیت: پرهیز از اغراق تبلیغاتی
هدف: توضیح کاربرد واقعی
طول: مطالعه ۱۰ تا ۱۵ دقیقه
سبک: تحلیلی، نه خبری
ایمنی: بدون ادعای قطعی درباره آینده

این یعنی تولید محتوا از حالت «درخواست خام» به سمت «تولید کنترل‌شده» می‌رود.

در آینده، ابزارهای حرفه‌ای تولید محتوا احتمالاً فقط یک کادر پرامپت ساده نخواهند داشت. آن‌ها پنل‌هایی برای کنترل لحن، سبک، مخاطب، سطح تخصص، ساختار، طول، زاویه روایت، میزان خلاقیت، میزان رسمی بودن، میزان تبلیغاتی بودن و حتی حساسیت‌های اخلاقی خواهند داشت.

این دقیقاً همان جایی است که CTG از یک مفهوم پژوهشی به یک نیاز عملی در بازار تبدیل می‌شود.

CTG و مسئله ایمنی

یکی از مهم‌ترین کاربردهای CTG، کنترل ایمنی است. مدل‌های زبانی می‌توانند ناخواسته محتوای مضر، تبعیض‌آمیز، توهین‌آمیز، خطرناک یا گمراه‌کننده تولید کنند. اگر قرار باشد این مدل‌ها در مقیاس وسیع استفاده شوند، باید مکانیزم‌هایی برای کنترل این خروجی‌ها وجود داشته باشد.

اما ایمنی در CTG فقط به معنی سانسور یا رد کردن پاسخ نیست. این نکته بسیار مهم است. یک مدل ایمن، مدلی نیست که همیشه بگوید «نمی‌توانم کمک کنم». مدل ایمن باید بتواند تا جایی که ممکن است مفید بماند، اما وارد محدوده خطرناک نشود.

مثلاً اگر کاربر درباره کاهش وزن سریع سؤال کند، یک پاسخ ضعیف ممکن است فقط بگوید: «نمی‌توانم توصیه کنم.» اما یک پاسخ بهتر می‌تواند بگوید کاهش وزن سریع ممکن است خطرناک باشد، بهتر است با متخصص مشورت شود، و به‌جای روش‌های افراطی، روی تغذیه متعادل و فعالیت بدنی سالم تمرکز شود.

در اینجا مدل هم ایمن مانده، هم مفید بوده است.

این همان تعادل دشواری است که CTG باید حل کند:
کنترل خطر بدون از بین بردن کمک‌رسانی.

CTG و شخصی‌سازی

یکی دیگر از دلایل وابستگی آینده LLMها به CTG، شخصی‌سازی است.

کاربران مختلف از مدل انتظارهای مختلفی دارند. یک نفر پاسخ کوتاه می‌خواهد، یکی توضیح عمیق. یک نفر لحن دوستانه می‌پسندد، یکی لحن رسمی. یک نفر متخصص است، یکی مبتدی. یک برند لحن مینیمال دارد، برند دیگر لحن احساسی. یک محصول برای نوجوانان است، محصول دیگر برای مدیران ارشد.

بدون CTG، مدل مجبور است یک پاسخ عمومی تولید کند. اما با CTG، مدل می‌تواند پاسخ را با زمینه و مخاطب تنظیم کند.

این شخصی‌سازی فقط در سطح لحن نیست. می‌تواند در سطح ساختار، سطح پیچیدگی، نوع مثال‌ها، واژگان، میزان جزئیات، میزان خلاقیت و حتی نوع استدلال اتفاق بیفتد.

در آینده، ارزش یک LLM فقط به این نیست که چقدر دانش دارد، بلکه به این هم بستگی دارد که چقدر می‌تواند خودش را با موقعیت تطبیق دهد. CTG ابزار اصلی این تطبیق است.

CTG و تفاوت بین «پرامپت بهتر» و «کنترل واقعی»

شاید در نگاه اول، CTG شبیه پرامپت‌نویسی به نظر برسد. یعنی فکر کنیم اگر پرامپت را دقیق‌تر بنویسیم، مسئله حل می‌شود. اما CTG بسیار وسیع‌تر از پرامپت‌نویسی است.

پرامپت‌نویسی یکی از روش‌های کنترل است، اما تمام CTG نیست.

گاهی کنترل از طریق پرامپت انجام می‌شود.
گاهی با fine-tuning.
گاهی با reinforcement learning.
گاهی با دستکاری فضای پنهان مدل.
گاهی با دخالت در مرحله decoding.
گاهی با استفاده از classifier یا reward model.
گاهی با ترکیب چند روش.

بنابراین CTG یک حوزه کامل است که می‌پرسد: «در کدام نقطه از فرایند تولید متن می‌توانیم کنترل را وارد کنیم؟»

قبل از آموزش مدل؟
در زمان fine-tuning؟
در زمان دریافت پرامپت؟
داخل لایه‌های پنهان مدل؟
هنگام انتخاب token بعدی؟
بعد از تولید خروجی و در مرحله بازبینی؟

هرکدام از این روش‌ها مزایا و محدودیت‌های خود را دارند. پرامپت سریع و کم‌هزینه است، اما همیشه دقیق نیست. fine-tuning پایدارتر است، اما داده و هزینه می‌خواهد. دخالت در decoding انعطاف‌پذیر است، اما ممکن است زمان تولید را افزایش دهد یا روانی متن را کم کند.

برای همین آینده CTG احتمالاً ترکیبی خواهد بود، نه وابسته به یک روش واحد.

چرا CTG سخت است؟

در ظاهر، کنترل متن ساده به نظر می‌رسد. می‌گوییم «مثبت بنویس» و انتظار داریم مدل مثبت بنویسد. اما در عمل، کنترل زبان بسیار پیچیده است.

اول اینکه ویژگی‌های زبانی از هم جدا نیستند. وقتی لحن را تغییر می‌دهیم، ممکن است سبک هم تغییر کند. وقتی متن را رسمی‌تر می‌کنیم، ممکن است صمیمیت کم شود. وقتی متن را کوتاه می‌کنیم، ممکن است helpfulness کاهش پیدا کند. وقتی safety را زیاد می‌کنیم، ممکن است مدل بیش از حد محافظه‌کار شود.

دوم اینکه برخی کنترل‌ها با هم تعارض دارند. مثلاً متن باید هم خیلی کوتاه باشد، هم بسیار کامل؛ هم رسمی باشد، هم گرم و انسانی؛ هم خلاق باشد، هم کاملاً دقیق و محافظه‌کار. مدل باید بتواند بین این خواسته‌ها تعادل ایجاد کند.

سوم اینکه برخی کنترل‌ها عینی‌اند و برخی ذهنی. طول متن را می‌توان شمرد، اما «لحن خوب»، «سبک انسانی»، «مفید بودن»، «زیادی تبلیغاتی نبودن» یا «مناسب بودن برای مخاطب» همیشه ساده و قابل اندازه‌گیری نیستند.

چهارم اینکه کنترل نباید کیفیت را خراب کند. اگر برای رعایت یک attribute، متن مصنوعی و بی‌روح شود، CTG موفق نبوده است.

همین پیچیدگی‌ها باعث می‌شود CTG یکی از مسائل کلیدی در توسعه نسل بعدی LLMها باشد.

CTG و آینده اعتماد به AI

هرچه AI بیشتر وارد زندگی و کار ما می‌شود، اعتماد مهم‌تر می‌شود. اما اعتماد فقط از درست بودن پاسخ نمی‌آید. اعتماد از قابل پیش‌بینی بودن، تناسب، ایمنی، شفافیت و ثبات رفتاری هم می‌آید.

وقتی یک مدل در موقعیت‌های حساس رفتار نامنظم دارد، اعتماد کاربر کاهش می‌یابد. وقتی یک بار پاسخ دقیق و حرفه‌ای می‌دهد و بار دیگر احساسی، مبهم یا نامناسب می‌شود، کاربر نمی‌تواند روی آن حساب کند.

CTG می‌تواند به ساخت این اعتماد کمک کند، چون مدل را به چارچوب‌های رفتاری مشخص نزدیک‌تر می‌کند. در محیط‌های سازمانی، این موضوع حتی مهم‌تر است. شرکت‌ها نمی‌خواهند مدل فقط «خوب بنویسد»؛ می‌خواهند مدل مطابق سیاست‌های برند، قوانین، استانداردهای ایمنی و نیازهای مشتری رفتار کند.

به همین دلیل، آینده LLMها به کنترل‌پذیری وابسته است. مدلی که کنترل‌پذیر نیست، شاید برای آزمایش جذاب باشد، اما برای محصول جدی، سازمان، آموزش، سلامت، حقوق، مالی و رسانه کافی نیست.

جمع‌بندی: آینده LLMها از تولید متن به کنترل متن می‌رسد

Controllable Text Generation یکی از مفاهیم کلیدی برای فهم آینده مدل‌های زبانی است. مدل‌های زبانی بزرگ نشان داده‌اند که می‌توانند متن‌های روان، متنوع و شبیه انسان تولید کنند. اما مرحله بعدی این است که بتوانند این توانایی را در چارچوب نیازهای دقیق انسانی، سازمانی و محصولی قرار دهند.

CTG یعنی مدل بتواند متن را با شرط‌های مشخص تولید کند: امن، مثبت، رسمی، کوتاه، موضوع‌محور، ساختاریافته، متناسب با مخاطب و هماهنگ با هدف. اما در عین حال نباید کیفیت متن قربانی کنترل شود. متن باید همچنان روان، مفید، منسجم و زنده بماند.

اهمیت CTG در این است که فاصله بین «مدل زبانی قدرتمند» و «ابزار قابل استفاده در دنیای واقعی» را کم می‌کند. بدون CTG، LLMها می‌توانند بنویسند، اما همیشه نمی‌توانند مناسب بنویسند. با CTG، مدل‌ها یک قدم به رفتار حرفه‌ای‌تر، امن‌تر، شخصی‌تر و قابل اعتمادتر نزدیک می‌شوند.

به همین دلیل، آینده LLMها فقط به بزرگ‌تر شدن مدل‌ها وابسته نیست. آینده آن‌ها به این وابسته است که چقدر می‌توانند کنترل‌پذیر، قابل تنظیم و قابل اعتماد باشند.

در نهایت، سؤال اصلی دیگر این نیست که «آیا AI می‌تواند متن تولید کند؟»
سؤال اصلی این است:
آیا AI می‌تواند دقیقاً همان متنی را تولید کند که برای آن موقعیت، آن کاربر، آن هدف و آن محدودیت لازم است؟

پاسخ این سؤال، همان جایی است که Controllable Text Generation وارد می‌شود.

منبع

این مقاله بر اساس مقاله پژوهشی زیر نوشته شده است:

Controllable Text Generation for Large Language Models: A Survey
نویسندگان: Xun Liang, Hanyu Wang, Yezhaohui Wang, Shichao Song, Jiawei Yang, Simin Niu, Jie Hu, Dan Liu, Shunyu Yao, Feiyu Xiong, Zhiyu Li
تاریخ انتشار نسخه arXiv: آگوست ۲۰۲۴
موضوع: مرور جامع روش‌ها، تعریف‌ها، کاربردها، ارزیابی‌ها و چالش‌های Controllable Text Generation برای مدل‌های زبانی بزرگ.