ویرگول
ورودثبت نام
محمد صدرا محمودی
محمد صدرا محمودی
خواندن ۹ دقیقه·۱ سال پیش

وعدۀ فریبندۀ هوش مصنوعی

این متن ترجمه‌ای است از مقاله‌ای با عنوان Here’s How AI Will Come for Your Job که در تاریخ 17 مه (27 اردیبهشت) امسال در وبسایت The Atlantic منتشر شد.


هفتۀ پیش، گوگل در کنفرانس سالانه‌اش با عنوان I/O چند ساعت به تشریح این پرداخت که چگونه مدل‌های زبانی بزرگ (LLM) می‌توانند به دانش‌ورزانِ (Knowledge Workers) جهان کمک کنند که بارِ مشغله‌های خود را به مجموعۀ عظیمی از شبکه‌های عصبیِ توانا و مشتاق بسپارند. گوگل به زودی امکاناتی از نوع هوش مصنوعی را به برنامه‌هایی چون Gmail و Google Sheets و Google Slides اضافه می‌کند که به کاربران امکان این را می‌دهد که دستوراتی ساده‌ بنویسند و نتایجی پیچیده دریافت کنند: مثلاً نوشتن متن کامل یک ای‌میل، یا ایجاد خودکار یک جدول. آینده‌ای که گوگل وعده‌اش را می‌دهد برای ما آشناست ـــ چیزی نیست جز سهولت هرچه بیشتر و انجام سریع کارها با یک‌ کلیک ـــ و من از آن متنفرم! هوش مصنوعیِ حوزۀ کار (Workplace AI) مانند خالص‌ترین عصارۀ ایدئولوژی مخربی است که بهره‌وری بدونِ اتلاف را از کارکنان طلب می‌کند: هرچقدر کارهای ما آسان‌تر می‌شوند، مقدار بیشتری از آن را می‌توانیم انجام دهیم، و از ما توقع می‌رود که مقدار بیشتری از آن را انجام دهیم.

هوش مصنوعی اینچنین گام‌به‌گام به سراغ شغل‌ها ما می‌آید، یک بار با اسلایدهای ساختۀ ChatGPT و بار دیگر با افزودن قابلیت‌هایش به ایمیل. این چشم‌اندازی است از آن آخرالزمان حقیقی‌ای که هوش مصنوعی رقم خواهد زد، که بیشتر به آینده‌ای از کارهای بی‌روحِ ملال‌انگیز شبیه است. نسل انسان قرار نیست به دست یک هوش مصنوعی خبیث نابود شود، و کارمندان دفتری نیز احتمالاً یکسره با ماشین‌ها جایگزین نمی‌شوند؛ بلکه، از ما توقع خواهد رفت که خود همانند ربات‌ها کار کنیم و رفتار کنیم.

هوش مصنوعیِ مولّد (Generative AI)، در آن صورتِ ایده‌آلی که از آن ترسیم شده، کمال ابزارهای بهره‌وری است. مدل‌های زبانی بزرگ پاسخ‌های هوشمندانه می‌دهند (ولو اینکه اساساً قابل اتکا نباشند)، با کوهی از اطلاعات تربیت شده‌اند و به طرز چشمگیری توانا هستند. داشتنِ یک پنجرۀ بازِ ChatGPT در کامپیوترهای محل کار، همین حالا هم برای بعضی‌ها همانند استفاده از ابزار spellcheck هنگام نوشتن شده است. افزونۀ مفسّر کدِ ChatGPT می‌تواند ویدئو ویرایش کند، از جداول پیچیدۀ اکسل اطلاعات را استخراج و تحلیل کند، و تنها با یک دستور تصاویر و نمودارهای سفارشیِ درخشان خلق کند.

وعدۀ هوش مصنوعی، خودکار شدن (Automation) است، و وعدۀ خودکارشدن زدودن اتلاف‌ها از فرآیند تولید است ـــ از فرآیند نوشتن کلمات، از فرآیند انجام محاسبات روی اعداد، از فرآیند ترکیب اطلاعات. ابزارهای هوش مصنوعیِ مولّد، در حقیقت، دستگاه‌های تشخیص الگو هستند، و استفادۀ گستردۀ آن‌ها از منظر طرفداران‌شان آغاز یک روند پرشتاب توسعۀ "میزان هوشمندی در جهان" تلقی می‌شود، معنی‌اش هرچه باشد؛ و این چشم‌اندازی است از بهره‌وری‌ای که با امکاناتِ بی‌حدومرزش تعریف می‌شود.

ما قبلاً هم شاهد چنین چیزی بوده‌ایم. بارها شده که یک فناوری جدید وعده بدهد که با زدودن ناکارآمدی‌های زندگی‌های ما بهره‌وری را افزایش بدهد. به ما گفته می‌شود که موجب رهایی‌مان خواهد شد ـــ از سلطۀ ایمیل‌هایمان یا از کار پرزحمت کارگران کارخانه ـــ و به این ترتیب ما اختیار زمان خود، این با ارزش‌ترینِ دارایی‌ها، را دوباره به دست می‌آوریم. اما معمولاً این زمانِ آزادشده مجدداً صرف کارِ بیشتر می‌شود. منطقش ساده است و مدوّر: کارآییِ بیشتر زمانِ ما را آزاد می‌کند تا بهره‌وریِ بیشتری داشته باشیم. فردریک وینسلو تیلور با زمان‌سنجش فعالیت‌های تولیدی کارخانۀ Bethlehem Steel را از طریق نظارت بر کارگران و وادار کردن آنها به زدودن وقفه‌ها و حذف حرکات و کارهای زائد، به طرز بی‌رحمانه‌ای بهینه‌سازی کرد. اصول تیلوریسمْ کسب‌وکار و مدیریت را برای همیشه تغییر دادند. اما حاصل آن به سود کارگر نبود. کارگری که حالا وادار می‌شد که در هر شیفت مقدار بیشتری تولید کند.

تکرار همین ماجرا را می‌توان در بسیاری از فناوری‌های معمولیِ کارهای دفتری (Office Technologies) دید: ای‌میل مکاتبات کاری و فرهنگ ردوبدل کردن پیام‌های کاغذی در شرکت‌ها را از میان برنداشت، بلکه موجب شد که آن ارتباطات همیشه و به‌آسانی در دسترس باشتد؛ Slack، که به مثابۀ قاتل ایمیل در شرکت‌ها تلقی می‌شد، باعث نشده که صندوق‌های پیام ما خالی شود. بلکه صرفاً تبدیل شده به یک کانال کاری دیگر که کارمندان باید به آن هم توجه کنند ـــ یک راه دیگر برای بهره‌ور بودن و بودن در دسترسِ همکاران و رؤسایمان، بلافاصله و در هر زمان. چرا باید انتظار داشته باشیم که هوش مصنوعیِ مولّد ما را از این دورِ آشنا رها کند؟

در جهانی که هزینۀ تولید محتوا، ارتباطات، تحقیق و کدنویسی به صفر نزدیک می‌شود، منطقی است که انتظار داشته باشیم که پاسخ نیروهای سرمایه‌داری این باشد که تا جای ممکن مقدار بیشتری از آن را طلب کنند. و اگرچه که دیگر انسان‌ها نیستند که تک‌تک کلمات، جملات، اصوات و رشتۀ اعداد را تولید می‌کنند، با این حال وظیفۀ ایجاد، ویرایش و گردآوردن همۀ این محصولاتِ رسانه‌ایِ مصنوعی همچنان به عهدۀ انسان‌ها خواهد بود. اگر هوش مصنوعی قرار است به سراغ شغل ما بیاید، طرحش این است که همۀ ما را تبدیل کند به مدیرانی واسط در میانِ سیستم‌های هوش مصنوعی‌ای که با هم تعامل و همپوشانی دارند. تنها مشکلش می‌دانید چیست؟ اینکه مدیریتِ واسطه‌ای کاری‌ است پرفشار و جان‌فرسا، و معمولاً لایق قدردانی شناخته نمی‌شود. مردم با تحقیر راجع به مدیران واسط صحبت می‌کنند چرا که خروجی کار آن‌ها را به‌سختی می‌توان تعریف کرد و سنجید ـــ آن‌ها را، گاهی با بی‌انصافی، صرفاً به مثابۀ یک حلقۀ واسط در زنجیره در نظر می‌گیرند.

وقتی که آینده‌ای را می‌بینم که تحت سلطۀ ابزارهای هوش مصنوعی‌ِ مولّدی درآمده که الآن در هر گوشه و کنارِ صنعت جای گرفته‌اند، از کار ملالت‌باری که در پیش داریم به هراس می‌افتم. صندوق‌های ایمیل را می‌بینم که زیر بار پاسخ‌های ربات‌ها و اسلایدهای سریعاً-ساخته-شده خرد شده‌اند. دریایی از ایمیل‌های فراموش شدنیِ Lorem-Ipsum-مانندی که تنها هدفشان این است که ربات‌های دیگر را وادار کنند که به پیام‌های مؤدبانۀ رسمی آن‌ها پاسخ بدهند. صنایع خلاق را می‌توانم تصور کنم که از انسانیت‌شان تهی شده‌اند تا بتوانند مقدار سرسام‌آوری از محتوا را، با عیارِ اینترنتی که هوش مصنوعی مولّد آن را فراگرفته، تولید کنند. چه بر سر صنعت موسیقی می‌آید وقتی که هرکسی می‌تواند یک آهنگ جذاب به سبک هنرمند محبوب دلخواهش تولید کند؟ این اتفاق احتمالاً موجب نابودی کامل هنرمندان نخواهد شد، بلکه منجر خواهد شد به کم‌ارزش انگاشته شدن هنرشان ــ و این یکی دیگر از بحران‌های حاصل از فناوری است که دامن اهالی موسیقی را می‌گیرد.

آینده‌ای را می‌توان تصور کرد با قراردادهای مشقت‌بارِ شرکت‌های پخشِ موسیقی که از هنرمندان توقعِ چند آلبوم در سال را دارند، با توجه به اینکه حالا می‌توان نوشتن ترانه‌ها و خواندن و ضبط استودیویی آن‌ها را برون‌سپاری کرد. محتوای بیشتر یعنی مادۀ بیشتر برای روغن‌کاری چرخ‌دنده‌های الگوریتم‌ها و سیستم‌های پیشنهادگرِ مبتنی بر هوش مصنوعی در پلتفرم‌های پخشِ زنده. همین ماجرا در شغل من هم برقرار است: چرا نباید شرکت‌های انتشارات از نویسنده‌ها توقع داشته باشند که پنج-شش مطلب در روز تحویل بدهند حالا که آن‌ها هرکدام دستیارهای مبتنی بر هوش مصنوعی برای تحقیق و نوشتن‌شان در اختیار دارند؟ همچنین، چنین سیلی از محتوای فراموش‌شدنیِ تولید شده به شکل انبوه، موجب بی‌مایه شدن بازار تبلیغات محتوایی و کاهش هزینه‌های تبلیغات برمبنای محتوا خواهد شد، که به معنای یک نیاز جدی‌تر است به … محتوای بیشتر.

همین حالا هم می‌توان سایۀ این آیندۀ ملال‌انگیز و کارآمدی-زده را دید که کم‌کم در برابرمان پدیدار می‌شود. استودیو هایی مانند Netflix مشغول سروکله زدن با این ایده هستند که به هوش مصنوعیِ مولّد اجازه دهند طرح ابتدایی عناصر صحنه‌های پویانمایی‌ها را ترسیم کند، و در هالیوود نیز شایعه‌هایی منتشر شده حاکی از اینکه استودیوها، در خلال اعتصاب صنف نویسندگان (WGA) به این فکر افتاده‌اند که از هوش مصنوعی برای نوشتن طرح اولیۀ فیلمنامه استفاده کنند (تا بعد که توسط انسان‌ها ظرافت‌هایش به آن اضافه شود). این انبوه لجن‌مانند محتوا در برنامه‌های شرکت‌های Big Tech [اعم از گوگل و مایکروسافت و متا] برای بازطراحی جستجو به صورت تعاملی و مبتنی بر ربات گفتگو (Chatbot) نیز حاضر است.

کافیست سوالت را تایپ کنی تا یک جواب مطمئن با لحنی دوستانه دریافت کنی. این فرایندی است که، چنانکه همکارم دِیمِن برز نوشته است، "موجب می‌شود اینترنت را کوچک‌تر حس کنیم"، و این به طور بالقوه خواهد توانست که به مثابه‌ی سدّی عمل کند که مانع سرازیر شدن ترافیکِ جستجوهای اینترنتی به سمت همه‌ی وبسایت‌ها بشود. بنابراین می‌توان تصور کرد که موتورهای جستجو دیگر احتیاجی نداشته باشند به این که ناشرانِ محتوا محتوایی باکیفیت تأمین کنند. آنها صرفاً نیاز دارند به انبوهی از نوشته‌ها برای اینکه ماشین الگوریتمشان را فعال نگه دارند.

سال ۲۰۱۷ من مصاحبه‌ای داشتم با جاناتان البرایت، محققی که نشانم داد که چگونه به پدیده‌ای عجیب در سراسر یوتیوب برخورده بود. او مخزنی از کانال‌هایی یافته بود که ده‌ها هزار ویدئو داشتند. اغلب آنها Slideshow-هایی بودند که با استفاده از متن‌ها و تصاویری برگرفته از مقالات اخبار سیاسی‌ای که در سراسر اینترنت وجود داشتند به طرزی خام سرهم‌بندی شده بودند. و یک صدای کامپیوتریِ منقطع، همزمان با پخش‌شدن Slideshow، متن‌ها را از روی صفحه می‌خواند. این کانال‌ها هر سه دقیقه ویدئوهای هم‌شکل جدیدی منتشر می‌کردند. عمده‌ی آنها را نمی‌شد تحمل کرد. بعضی از ویدئوها حتی یک بازدید هم ثبت نکرده بودند اما بقیه صدها هزار بار پخش شده بودند. پس از کمی کاوش عمیق‌تر، او دریافت که ویدئوها توسط یک هوش مصنوعی تولید شده بودند تا بر الگوریتم‌های توصیه‌گر یوتیوب تأثیر بگذارند. محتوای ویدئوها بی‌اهمیت بود. تنها چیزی که اهمیت داشت علامت و پیامی بود که به این پلتفرم می‌فرستاد: اینکه تقاضایی برای ویدئو های اخبار سیاسی‌ وجود دارد.

در آن زمان، این ایده‌ی اقتصاد سایه‌ای که در آن ربات‌ها برای ربات‌هایی دیگر محتوایی تولید می‌کردند که تنها هدفش این بود که آن پلتفرم را کمی به جهت مطلوب خودشان بگرداند، به من حس دلسردی داد. اما حالا انگار اقتصاد سایه‌ای قالبی است برای شکل دادن آیندۀ مربوط به هوش مصنوعیِ مولّد. استدلال خوشبینانه در دفاع از این سنخ ابزارهای بهره‌وری همواره چنین بوده که این‌ها به پتانسیل‌های انسان و خلاقیت او امکان بروز می‌دهند __ و واقعاً هم چنین می‌‌کنند. اما سخت است که تصور کنیم آن‌ها در مقیاس گسترده به چه صورتی درمی‌آیند. خلاقیت یک فرآیند غیرکارآمد و غیرخطی است. تمام خوشی و جادویش در همان اصطکاک‌هایش است. بهره‌وری اما، از جهات گوناگون، عکسِ آن است. و هوش مصنوعی، فراتر از هر ویژگی دیگرش، ابزاری است که تحقق کامل بهره‌وری است و دستور کارش از میان بردن تمام اصطکاک‌هاست، هرجا که بتواند. هوش مصنوعی آمده تا بر شغل‌های ما، خلاقیت‌ ما و فرهنگ ما اثر بگذارند ـــ اما احتمالا نه به آن صورتی که انتظارش را دارید. آنچه در پیش است آخرالزمان به معنای واقعی‌اش نیست. بلکه بسیار ملال‌انگیزتر از این‌ها خواهد بود.


این مقاله با عنوان Here’s How AI Will Come for Your Job در تاریخ 17 مه (27 اردیبهشت) امسال در وبسایت The Atlantic منتشر شد.

ترجمۀ محمدصدرا محمودی

هوش مصنوعیمهندسیگوگلهوش
"The Only Journey Is the One Within"
شاید از این پست‌ها خوشتان بیاید