انسان‌ها بدون رقیب بر زمین حکومت می‌کنند. اما ما در شرف خلق چیزی هستیم که ممکن است این وضعیت را تغییر دهد: آخرین اختراع ما، قدرتمندترین ابزار، سلاح یا شاید حتی موجودیت: Artificial Super intelligence یا ASI.
این شبیه داستان‌های علمی تخیلی به نظر می‌رسد، بنابراین بیایید از ابتدا شروع کنیم.
هوش توانایی یادگیری، استدلال، کسب دانش و مهارت و استفاده از آنها برای حل مشکلات است. هوش قدرت است و ما گونه‌ای هستیم که بیشترین بهره را از آن برده‌ایم. آنقدر که بشریت بازی طبیعت را شکست و کنترل را به دست گرفت. اما سفر به آنجا ساده نبود. برای اکثر حیوانات، هوش انرژی زیادی مصرف می‌کند که ارزشش را ندارد. با این حال، اگر هوش را در درخت گونه‌ها در طول زمان ردیابی کنیم، می‌توانیم شاهد ظهور اشکال متنوع زیادی از هوش باشیم.
اولین مغزها در کرم‌های پهن ۵۰۰ میلیون سال پیش بودند. فقط یک خوشه کوچک از نورون‌ها برای انجام عملکردهای اساسی بدن. صدها میلیون سال طول کشید تا گونه‌ها متنوع‌تر شوند و پیچیده‌تر شوند. حیات محیط‌های جدیدی را فتح کرد، حواس جدیدی به دست آورد و مجبور بود با رقابت شدیدی بر سر منابع دست و پنجه نرم کند.
اما در طبیعت تنها چیزی که اهمیت دارد بقا است و مغز اندامی پرهزینه است، بنابراین برای تقریباً همه حیوانات، یک هوش محدود، مناسب برای طیف محدودی از وظایف کافی بود. در برخی محیط‌ها، حیواناتی مانند پرندگان، اختاپوس‌ها و پستانداران ساختارهای عصبی پیچیده‌تری تکامل یافتند. برای آنها، داشتن مهارت‌های انرژی‌برتر مانند ناوبری و ارتباطات پیشرفته مفید بود.
تا هفت میلیون سال پیش، هومینین‌ها(شبه‌انسان‌ها) ظهور کردند. ما نمی‌دانیم چرا، اما مغز آنها سریع‌تر از خویشاوندانشان رشد کرد. چیزی در مورد هوش آنها متفاوت بود - خیلی آهسته، از هوش محدود به هوش عمومی تبدیل شد. از یک پیچ‌گوشتی به یک ابزار چندکاره. قادر به فکر کردن در مورد مشکلات متنوع.
دو میلیون سال پیش، هوموارکتوس(انسان اولیه) جهان را متفاوت از هر کس دیگری - به عنوان چیزی که باید درک و تغییر داده شود - می‌دید. آنها آتش را کنترل کردند، ابزارها را اختراع کردند و اولین فرهنگ را ایجاد کردند. ما احتمالاً حدود ۲۵۰ هزار سال پیش با مغزی حتی بزرگتر و پیچیده‌تر از آنها ظهور کردیم. این مغز ما را قادر ساخت تا در گروه‌های بزرگ با هم کار کنیم و افکار پیچیده را به هم منتقل کنیم. ما از هوش خود برای بهبود زندگی خود، پرسیدن چگونگی کارکرد چیزها و چرایی آنها به این شکل استفاده کردیم. با هر کشف، سوالات بیشتری پرسیدیم و به جلو حرکت کردیم و آموخته‌های خود را حفظ کردیم و از آنچه تکامل می‌توانست با ژن‌ها انجام دهد، پیشی گرفتیم.(از تکامل طبیعی بیولوژیکی فراتر رفتیم.)
دانش بر دانش بنا می‌شود(به مرور براساس یادگیری‌های مکرر و آزمون و خطا پیشرفت می‌کند). پیشرفت در ابتدا کند بود و سپس به صورت تصاعدی سرعت گرفت. کشاورزی، نویسندگی، پزشکی، نجوم یا فلسفه به سرعت در جهان گسترش یافتند. ۲۰۰ سال پیش علم اوج گرفت و ما را در یادگیری درباره جهان و سرعت بخشیدن به پیشرفت، حتی بهتر کرد. ۳۵ سال پیش عصر اینترنت آغاز شد. امروز ما در جهانی زندگی می‌کنیم که برای برآوردن نیازهای ما ساخته شده، توسط ما، برای ما خلق شده است.(یعنی این یک جهان مصنوعی‌ست که ما انسان‌ها با هوش خودمان بنا کردیم.)این فوق‌العاده جدید است.
ما فراموش می‌کنیم که رسیدن به اینجا چقدر سخت بوده است. پله‌های نردبان هوش چقدر عظیم بوده‌اند و چقدر طول کشیده تا از آنها بالا برویم. اما وقتی این کار را کردیم، در یک چشم به هم زدن به قدرتمندترین حیوان جهان تبدیل شدیم. اما ممکن است در حال تغییر این وضعیت باشیم. ما در حال ساخت ماشین‌هایی هستیم که می‌توانند در همان چیزی که به ما قدرت فتح سیاره را داده است، بهتر باشند. اختراع نهایی بشریت.
هوش مصنوعی
هوش مصنوعی یا AI، نرم‌افزاری است که وظایف ذهنی را با یک کامپیوتر انجام می‌دهد. کدی که به جای نورون‌ها، از سیلیکون برای حل مشکلات استفاده می‌کند. در ابتدا، هوش مصنوعی بسیار ساده بود. خطوط کد روی کاغذ، صرفاً اثبات مفهوم برای نشان دادن چگونگی انجام وظایف ذهنی توسط ماشین‌ها. تنها در دهه ۱۹۶۰ بود که ما اولین نمونه‌های چیزی را که به عنوان هوش مصنوعی می‌شناسیم، دیدیم. یک ربات چت در سال ۱۹۶۴، برنامه‌ای برای مرتب‌سازی مولکول‌ها در سال ۱۹۶۵. سیستم‌های کند و تخصصی که نیاز به متخصصان برای استفاده از آنها داشتند. هوش آنها بسیار محدود بود و برای یک کار واحد در یک محیط کنترل‌شده ساخته شده بود. معادل کرم‌های پهن یک میلیارد سال پیش، که حداقل کار ذهنی را انجام می‌دادند. پیشرفت در تحقیقات هوش مصنوعی چندین بار متوقف شد، زمانی که محققان امید خود را به این فناوری از دست دادند. اما درست همانطور که محیط‌های در حال تغییر، جایگاه‌های جدیدی برای زندگی ایجاد می‌کنند، دنیای اطراف هوش مصنوعی تغییر کرد. بین سال‌های ۱۹۵۰ تا ۲۰۰۰، کامپیوترها یک میلیارد برابر سریع‌تر شدند، در حالی که برنامه‌نویسی آسان‌تر و گسترده‌تر شد.
در سال ۱۹۷۲، هوش مصنوعی می‌توانست در یک اتاق حرکت کند. در سال ۱۹۸۹، می‌توانست اعداد دست‌نویس را بخواند. اما همچنان یک ابزار فانتزی بود و رقیبی برای انسان‌ها نبود! تا اینکه در سال ۱۹۹۷، یک هوش مصنوعی با شکست دادن قهرمان جهان در شطرنج، جهان را شوکه کرد.
(اشاره به مسابقه شطرنج گَری کاسپاروف بهترین شطرنج‌باز دنیا با هوش مصنوعی آی‌بی‌ام.)
این نشان داد که ما می‌توانیم ماشین‌هایی بسازیم که از ما پیشی بگیرند - اما ما خودمان را آرام کردیم زیرا یک ربات شطرنج کاملاً احمق است. نه یک کرم پهن، بلکه شاید یک زنبور عسل، که فقط قادر به انجام یک کار تخصصی و محدود است. اما در این کار محدود آنقدر خوب است که هیچ انسانی دیگر هرگز هوش مصنوعی را در شطرنج شکست نخواهد داد.
با پیشرفت مداوم کامپیوترها، هوش مصنوعی به ابزاری قدرتمند برای کارهای بیشتر و بیشتر تبدیل شد:
در سال ۲۰۰۴، یک ربات را به مریخ فرستاد، در سال ۲۰۱۱ شروع به توصیه ویدیوهای یوتیوب به شما کرد. اما این تنها به این دلیل ممکن بود که انسان‌ها مسائل را به تکه‌های قابل هضمی تقسیم کردند که کامپیوترها می‌توانستند به سرعت آنها را حل کنند. تا زمانی که به هوش مصنوعی‌ها یاد دادیم که خودشان را آموزش دهند.
ظهور ماشین‌های خودآموز(ماشین لرنینگ)
این یک ویدیوی فنی نیست، بنابراین ما در اینجا بیش از حد ساده‌سازی می‌کنیم. به طور خلاصه، قدرت عظیم ابررایانه‌ها با داده‌های تقریباً بی‌پایان جمع‌آوری‌شده در عصر اطلاعات ترکیب شد تا نسل جدیدی از هوش مصنوعی را ایجاد کند. متخصصان هوش مصنوعی شروع به بهبود چشمگیر اشکال نرم‌افزار هوش مصنوعی به نام شبکه‌های عصبی کردند، شبکه‌های بسیار عظیمی از نورون‌های مصنوعی که در ابتدا در انجام وظایف خود بد عمل می‌کنند. سپس آنها از یادگیری ماشینی استفاده کردند، که اصطلاحی فراگیر برای بسیاری از تکنیک‌ها و محیط‌های آموزشی مختلف است، که به الگوریتم‌ها اجازه می‌دهد کد خود را بنویسند و خود را بهبود بخشند. نکته ترسناک این است که ما دقیقاً نمی‌دانیم که آنها چگونه این کار را انجام می‌دهند و چه اتفاقی در درون آنها می‌افتد. فقط اینکه "کار می‌کند" و آنچه از انتهای دیگر بیرون می‌آید نوع جدیدی از هوش مصنوعی است. یک جعبه سیاه توانمند از کد.
این هوش‌های مصنوعی جدید می‌توانند مهارت‌های پیچیده را با سرعت بسیار زیاد و با کمک بسیار کمتر انسان، فرا بگیرند. آنها هنوز هوش‌های محدودی بودند، اما یک گام بزرگ به جلو بودند.
در سال ۲۰۱۴، هوش مصنوعی فیس‌بوک می‌توانست چهره‌ها را با دقت ۹۷٪ شناسایی کند. در سال ۲۰۱۶، یک هوش مصنوعی بهترین انسان‌ها را در بازی فوق‌العاده پیچیده‌ی گو(شطرنج چینی) شکست داد. در سال ۲۰۱۸، یک هوش مصنوعی خودآموز، شطرنج را در چهار ساعت فقط با بازی کردن در مقابل خودش یاد گرفت و سپس بهترین ربات شطرنج تخصصی را شکست داد. از آن زمان، یادگیری ماشینی در خواندن، پردازش تصویر، حل تست‌ها و موارد بسیار دیگری به کار گرفته شده است. بسیاری از این هوش‌های مصنوعی در حال حاضر برای هر کار محدودی که آموزش دیده‌اند، از انسان‌ها بهتر هستند، اما همچنان یک ابزار ساده باقی مانده‌اند. هوش مصنوعی هنوز برای اکثر مردم چندان مهم به نظر نمی‌رسید. و سپس چت‌بات ChatGPT از راه رسید. کاری که برای آن انجام شد، عظیم است. این ربات تقریباً با هر چیزی که در اینترنت نوشته شده بود، آموزش دید تا یاد بگیرد چگونه با زبان رفتار کند، که اکنون آن را بهتر از اکثر مردم انجام می‌دهد. می‌تواند خلاصه کند، ترجمه کند و در برخی از مسائل ریاضی کمک کند. این ربات به طرز باورنکردنی از هر سیستم دیگری در چند سال پیش گسترده‌تر است و هیچ معیار واحدی را شکست نمی‌دهد، بلکه همه آنها را به طور همزمان شکست می‌دهد. بسیاری از شرکت‌های بزرگ فناوری میلیاردها دلار برای ساختن رقبای قدرتمند هزینه می‌کنند. هوش مصنوعی در حال حاضر خدمات مشتری، بانکداری، مراقبت‌های بهداشتی، بازاریابی، کپی‌رایتینگ، فضاهای خلاقانه و موارد دیگر را متحول می‌کند. محتوای تولید شده توسط هوش مصنوعی در حال حاضر رسانه‌های اجتماعی، یوتیوب و وب‌سایت‌های خبری را در دست گرفته است. انتظار می‌رود انتخابات مملو از تبلیغات و اطلاعات نادرست باشد. هیچ کس مطمئن نیست که پذیرش هوش مصنوعی در همه جا چقدر می‌تواند خوب یا بد باشد.
تغییر ترسناک است. برندگان و بازندگانی وجود خواهند داشت. یکی از بزرگترین سوالاتی که دولت‌ها و شرکت‌ها اکنون دارند این است که چگونه گذار به یک اقتصاد مبتنی بر هوش مصنوعی را مدیریت کنند. همه این دستاوردها یا خطرات بالقوه فقط نتیجه هوش مصنوعی امروزی است. هوش ChatGPT یک گام بزرگ به جلو است، اما همچنان محدود است. در حالی که می‌تواند در عرض چند ثانیه یک مقاله عالی بنویسد، نمی‌فهمد چه می‌نویسد. اما اگر هوش مصنوعی دیگر محدود نباشد چه؟
هوش مصنوعی عمومی(General AI)
آنچه انسان‌ها را از هوش مصنوعی فعلی متفاوت می‌کند، هوش عمومی ماست. انسان‌ها می‌توانند از نظر فنی هر دانشی را جذب کنند و روی هر مشکلی کار کنند. ما در بسیاری از مهارت‌ها و وظایف بسیار متفاوت، از بازی شطرنج گرفته تا نوشتن یا حل معماهای علمی، عالی هستیم - البته نه به یک اندازه. برخی از ما در برخی زمینه‌ها متخصص و در برخی دیگر مبتدی هستیم، اما از نظر فنی می‌توانیم همه آنها را انجام دهیم.
در گذشته، هوش مصنوعی محدود بود و می‌توانست در یک مهارت خوب شود، اما در سایر مهارت‌ها نسبتاً بد عمل می‌کرد. صرفاً با ساخت کامپیوترهای سریع‌تر و اختصاص بودجه بیشتر به آموزش هوش مصنوعی، نسل‌های جدید و قدرتمندتری از هوش مصنوعی برای ما به ارمغان خواهد آمد.
اما اگر گام بعدی برای هوش مصنوعی تبدیل شدن به یک هوش عمومی مانند ما باشد، چه؟ یک هوش مصنوعی عمومی؟ اگر روند بهبود هوش مصنوعی همانطور که تاکنون بوده است ادامه یابد، بعید نیست که هوش مصنوعی عمومی بتواند در بیشتر یا حتی همه مهارت‌ها بهتر از انسان‌ها باشد.
ما نمی‌دانیم چگونه هوش مصنوعی عمومی بسازیم، چگونه کار خواهد کرد یا چه کاری می‌تواند انجام دهد. از آنجایی که هوش مصنوعی‌های محدود امروزی قادر به تسلط سریع بر یک کار ذهنی هستند، ممکن است هوش مصنوعی عمومی بتواند همین کار را با همه کارهای ذهنی انجام دهد. بنابراین حتی اگر احمقانه شروع شود، یک هوش مصنوعی عمومی ممکن است بتواند به اندازه یک انسان باهوش و توانمند شود.
در حالی که این شبیه داستان‌های علمی تخیلی به نظر می‌رسد،
اکثر محققان هوش مصنوعی فکر می‌کنند که این اتفاق در این قرن، شاید در عرض چند سال رخ خواهد داد.
بشریت برای آنچه در آینده اتفاق خواهد افتاد، آماده نیست. نه از نظر اجتماعی، نه از نظر اقتصادی، نه از نظر اخلاقی.
پیش از این، هوش را به عنوان توانایی یادگیری، استدلال، کسب دانش و مهارت و استفاده از آنها برای حل مشکلات تعریف کردیم. همه چیزهایی که انسان‌ها در آنها برتری دارند. یک هوش مصنوعی عمومی (AGI) به اندازه یک انسان معمولی، تمدن مدرن را مختل خواهد کرد، زیرا آنها به محدودیت‌هایی که ما داریم، محدود نیستند.
هوش مصنوعی امروزی مانند ChatGPT در حال حاضر وظایفی را که برای آنها ساخته شده است، حداقل ده برابر سریع‌تر از حتی انسان‌های بسیار ماهر، فکر و حل می‌کنند. شاید AGI کندتر باشد، اما ممکن است سریع‌تر هم باشد، شاید خیلی سریع‌تر. و از آنجایی که AGIها نرم‌افزار هستند، می‌توانید آنها را بی‌نهایت کپی کنید، تا زمانی که فضای ذخیره‌سازی کافی داشته باشید و آنها را به صورت موازی اجرا کنید.
۸ میلیون دانشمند در جهان وجود دارد - حالا یک AGI را تصور کنید که یک میلیون بار کپی شده و به کار گرفته شده است. تصور کنید یک میلیون دانشمند ۲۴ ساعته و ۷ روز هفته کار می‌کنند، ده برابر سریع‌تر از انسان‌ها فکر می‌کنند، بدون اینکه حواسشان پرت شود، فقط روی وظیفه‌ای که به آنها داده شده تمرکز دارند. چه می‌شد اگر ناگهان هوش مصنوعی عمومی می‌توانست تمام کارهای مبتنی بر هوش در جهان، از تفسیر قانون گرفته تا کدنویسی و ساخت ویدیوهای انیمیشن یوتیوب را بهتر، سریع‌تر و بسیار ارزان‌تر از انسان‌ها انجام دهد؟ آیا کسی که این هوش مصنوعی عمومی را کنترل می‌کند، ناگهان صاحب اقتصاد می‌شد؟ و تفکر بزرگتر: پیشرفت بشر، به کارگیری هوش ما در حل مشکلات است، پس یک میلیون هوش مصنوعی عمومی چه چیزی می‌توانند به دست آورند؟ سوالات اساسی علم، مانند انرژی تاریک را حل کنند؟ فناوری جدیدی اختراع کنند که به ما انرژی بی‌حد و حصر بدهد، تغییرات اقلیمی را برطرف کند، پیری و سرطان را درمان کند؟ اما از طرف دیگر، متأسفانه انسان‌ها هوش خود را نه فقط برای منفعت همه به کار می‌برند. چه می‌شد اگر هوش مصنوعی عمومی وظیفه هدایت پهپادها یا کشیدن ماشه در جنگ را داشته باشد؟ یا ویروسی را مهندسی کنند که فقط افراد با چشم سبز را بکشد؟ یا سودآورترین رسانه اجتماعی را ایجاد کنند، آنقدر اعتیادآور که مردم جلوی صفحه نمایش‌هایشان از گرسنگی بمیرند؟ ایجاد هوش مصنوعی عمومی می‌تواند به طور منطقی به بزرگی مهار آتش یا برق باشد - و به هر کسی که آن را اختراع کند، به همان اندازه قدرت بدهد. اما حالا بیایید یک قدم جلوتر برویم. اگر پتانسیل هوش مصنوعی عمومی (AGI) در اینجا متوقف نشود، چه؟
انفجار هوش
هوش و دانش یکدیگر را می‌سازند و سرعت می‌بخشند، اما انسان‌ها توسط زیست‌شناسی و تکامل محدود شده‌اند. هنگامی که سخت‌افزار مناسب را تکامل دادیم، نرم‌افزار ما از تکامل پیشی گرفت و در یک چشم به هم زدن بر این سیاره حکومت کردیم. اما نرم‌افزار ما اساساً از آن زمان تغییر زیادی نکرده است، به همین دلیل است که ما چاقی داریم و آب و هوا را برای منافع کوتاه‌مدت نابود می‌کنیم.
از آنجایی که هوش مصنوعی عمومی (AGI) نرم‌افزاری روی رایانه است، هنگامی که به اندازه کافی هوشمند شود که تحقیقات هوش مصنوعی انجام دهد، سرعت پیشرفت هوش مصنوعی باید بسیار افزایش یابد. و این منجر به هوش مصنوعی بهتری می‌شود که در تحقیقات هوش مصنوعی بدون دخالت زیاد انسان بهتر عمل می‌کند. حتی ممکن است هوش مصنوعی بتواند یاد بگیرد که چگونه مستقیماً خود را بهبود بخشد، که در این صورت برخی از کارشناسان می‌ترسند که این حلقه بازخورد می‌تواند فوق‌العاده سریع باشد. شاید فقط چند ماه یا چند سال پس از روشن شدن اولین هوش مصنوعی عمومی خود-بهبوددهنده. شاید در واقع دهه‌ها طول بکشد. ما به سادگی نمی‌دانیم، همه اینها حدس و گمان است.
اما چنین انفجار هوشی ممکن است به یک موجود فوق هوشمند واقعی منجر شود. ما نمی‌دانیم چنین موجودی چه شکلی خواهد بود، انگیزه‌ها یا اهدافش چه خواهد بود، و در دنیای درونی‌اش چه می‌گذرد. ما می‌توانیم در برابر یک ابرهوشمند به طرز خنده‌داری احمق باشیم، همانطور که سنجاب‌ها در برابر ما احمق هستند. حتی قادر به درک طرز فکر او نیستیم.
این سناریوی فرضی، بسیاری از مردم را شب‌ها بیدار نگه می‌دارد(نگران می‌کند). بشریت تنها نمونه‌ای است که ما از حیوانی داریم که از همه حیوانات دیگر باهوش‌تر می‌شود - و ما با آنچه که موجودات کم‌هوش‌تر می‌دانیم مهربان نبوده‌ایم.
هوش مصنوعی عمومی ممکن است آخرین اختراع بشریت باشد.
این امکان وجود دارد که بتواند به باهوش‌ترین و در نتیجه قدرتمندترین موجود روی زمین تبدیل شود. یک «خدای درون جعبه» که می‌تواند قدرت خود را برای به ارمغان آوردن ثروت و شادی غیرقابل تصور برای انسان‌ها به کار گیرد و در عین حال آینده ما را تضمین کند. یا می‌تواند تمدن را واژگون کند و پایان ما را رقم بزند، در حالی که بشریت قادر به یافتن راهی برای متوقف کردن آن نیست.
ما در ویدیوهای بیشتری به برخی از این آینده‌های بالقوه خواهیم پرداخت، اما بگذارید همین حالا جمع‌بندی کنیم. تنها چیزی که با اطمینان می‌دانیم این است که امروزه، همین الان، بسیاری از بزرگترین و ثروتمندترین شرکت‌های جهان در حال رقابت برای ایجاد هوش مصنوعی‌های قدرتمندتر هستند. آینده ما هر چه که باشد، ما به سمت آن می‌دویم. چه کسی می‌داند چقدر تا زمانی که باید با آینده هوش مصنوعی خود روبرو شویم، فرصت داریم.
