پست وبلاگی که با استفاده از هوش مصنوعی تولید شده

منتشرشده در مجله The Verge به تاریخ ۱۶ آگوست ۲۰۲۰
لینک مطلب اصلی: A college student used GPT-3 to write fake blog posts and ended up at the top of Hacker News

یک دانشجوی دانشگاه از GPT-3 برای نوشتن پست‌های وبلاگ جعلی استفاده کرد و به اخبار هکرها رسید. او می‌گوید که می‌خواست ثابت کند که هوش مصنوعی می‌تواند به عنوان یک نویسنده انسانی کار کند.

مجله فن‌آوری MIT گزارش داد که Liam Porr که یک دانشجوی دانشگاه است از ابزار تولید زبان هوش مصنوعی GPT-3 برای تولید یک پست وبلاگ تقلبی استفاده کرده‌است که اخیرا به عنوان تیتر شماره ۱ اخبار هکرها منتشر شده‌است. Porr سعی داشت نشان دهد که محتوای تولید شده توسط GPT-3 می‌تواند مردم را فریب دهد تا باور کنند که مطلب توسط یک انسان نوشته شده‌است. او به مجله فن‌آوری MIT گفت: « واقعا کار بسیار آسانی بود، که همین آن را ترسناک می‌کرد».

در صورتی که با GPT-3 آشنا نیستید، بگذارید کمی زمینه را برایتان آماده کنیم: این آخرین نسخه از یک سری از ابزارهای تکمیل‌کننده اتوماتیک هوش مصنوعی است که توسط OpenAI، که مقر آن در سان‌فرانسیسکو است، طراحی شده‌ و چندین سال است که در حال توسعه است. در ابتدایی‌ترین حالت، GPT-3 (که مخفف «ترانسفورماتور از قبل آموزش‌دیده مولد» است) متن شما را براساس دستورالعمل‌هایی از یک نویسنده انسانی به صورت اتوماتیک کامل می‌کند.

جیمز وینسنت توضیح می‌دهد که این ابزار چطور کار می‌کند:

همانند تمام سیستم‌های یادگیری عمیق، GPT-3 به دنبال الگوهایی در داده‌ها است. برای ساده‌سازی کارها، این برنامه روی یک پیکره بزرگ متن، که برای قواعد آماری استخراج شده‌، آموزش داده شده‌است. این قوانین برای انسان‌ها ناشناخته هستند، اما به عنوان میلیاردها اتصال وزن دار بین گره‌های مختلف در شبکه عصبی GPT-3 ذخیره می‌شوند. بخش مهم این است که هیچ ورودی انسانی در این فرآیند وجود ندارد: برنامه بدون هیچ راهنمایی به دنبال الگو می‌گردد و آن را پیدا می‌کند و سپس از آن برای تکمیل متن استفاده می‌کند. اگر کلمه «آتش» را به GPT-3 وارد کنید، برنامه براساس وزن در شبکه‌های خود می‌داند که کلمات «کامیون» و «هشدار» به نسبت «آشکار» یا «شیطانی»، به احتمال بیشتری پس از آن قرار می‌گیرند.

در اینجا نمونه‌ای از پست وبلاگ Porr (با یک نویسنده با نام مستعار) با عنوان «احساس بی‌ثمری می‌کنید؟ شاید بهتر باشد بیش از حد فکر نکنید.» آورده شده است.

Definition #2: Over-Thinking (OT) is the act of trying to come up with ideas that have already been thought through by someone else. OT usually results in ideas that are impractical, impossible, or even stupid.

ترجمه:

تعریف شماره ۲: تفکر بیش از حد (OT) عمل تلاش برای رسیدن به ایده‌هایی است که قبلا توسط فرد دیگری در مورد آن فکر شده‌است. این روش معمولا منجر به ایده‌هایی می‌شود که غیرعملی، غیر ممکن و حتی احمقانه هستند.

بله، من هم دوست دارم فکر کنم که می‌توانم از این موضوع مطمئن شوم که این مطلب توسط یک انسان نوشته نشده است، اما نوشته‌های زیادی در این مورد در اینترنت وجود دارد که خیلی هم خوب نیستند، بنابراین من حدس می‌زنم این امکان وجود دارد که این موضوع می‌تواند به عنوان «بازاریابی محتوا» یا محتوای دیگری مطرح شود.

OpenAI تصمیم گرفت قبل از انتشار عمومی، دسترسی به API ابزار GPT-3 را به محققان در یک بتای خصوصی بدهد. Porr که دانشجوی علوم کامپیوتر در دانشگاه برکلی کالیفرنیا است، توانست یک دانشجوی دکتری پیدا کند که از قبل به این API دسترسی داشت و موافقت کرد که در این آزمایش با او کار کند. Porr متنی نوشت که به GPT-3 یک تیتر و مقدمه پست وبلاگ داد. این ابزار چند نسخه از این پست را ایجاد کرد، و Porr یکی از آن‌ها را برای بلاگ خود انتخاب کرد و ویرایش خیلی کمی برروی نسخه تولید شده توسط GPT-3 انجام داد و آن را منتشر کرد.

Porr گفت که این پست در عرض چند ساعت به محبوبیت رسید و بیش از ۲۶،۰۰۰ بازدید کننده به این وبلاگ رسیدند. او نوشت که تنها یک نفر با او تماس برقرار کرده تا بپرسد که آیا این پست تولید هوش مصنوعی است یا خیر، اگر چه چندین نفر در بخش نظرات حدس زدند که نویسنده آن GPT-3 است. اما Porr می‌گوید که این نظرات را رد کردند.

او نشان می‌دهد که نوشته‌های GPT-3 می‌تواند جایگزین تولید کنندگان محتوا شود،‌البته که امیدواریم این اتفاق نیفتد و دور از ذهن هم به نظر می‌رسد. Porr می‌نویسد: «هدف کلی انتشار این مطلب در بتای خصوصی این است که جامعه بتواند موارد استفاده جدید OpenAI که یا باید تقویت شده یا پیدا شود، را نشان دهد.» و نکته قابل توجه این است که او هنوز به API ابزار GPT-3 دسترسی ندارد، با اینکه درخواست آن را داده، و به بررسی فن‌آوری MIT اعتراف می‌کند « این احتمال وجود دارد که آن‌ها از انجام این کار ناراحت باشند.»

این متن با استفاده از ربات ترجمه مقاله علمی ترجمه شده و به صورت محدود مورد بازبینی انسانی قرار گرفته است.در نتیجه می‌تواند دارای برخی اشکالات ترجمه باشد.