مفهوم قدرت تفکر یا خودآگاهی در هوش مصنوعی، مفهومی است که از ابتدای تاریخ هوش مصنوعی مورد بحث بوده است. چیزی که از حدود سال 1940 (دلیل اینکه این زمان را مبنا قرار داده ایم، آلن تورینگ ریاضیدان مشهور انگلیسی است که در این حدود بود که ایده های تفکر ماشینی/ریاضیاتی را مطرح کرد) که ایده های هوش شکل گرفته اند تا به امروز که با آخرین دستاورد های هوش مصنوعی مانند chat GPT سر و کار داریم به آن نرسیده ایم. (این استدلال به این بستگی دارد که دقیقا چه چیزی را خودآگاهی در نظر بگیریم).
در ابتدای مطلب بایستی دقیقا بدانیم که چه چیزی را به عنوان تعریف خودآگاهی در نظر می‌گیریم، اگر تعریف ما از خودآگاهی صرفا به معنای رفتار انسان گونه باشد (همانند ایده‌ای که آلن تورینگ مطرح کرده بود) مدت ها است که به آن دست یافته ایم. اما برای این کار بهتر است از فلسفه کمک بگیریم. به کمک فلسفه می‌توان مفهوم خودآگاهی را در یک جمله خلاصه کرد "براستی آنی که درون ما ناظر جهان و وقایع آن است کیست؟"، این کیستی می‌تواند تعریف دقیقی از خودآگاهی و قدرت تفکر در هوش مصنوعی باشد، اینکه هوش مصنوعی احساس کند، تصمیم هایی بدون توجه به داده های قبلی خود بگیرد، خودش بدون داشتن داده شروع به تولید داده کند (چیزی که در انسان ها شاهد آن هستیم (به عنوان مثال انتظار میرود که انسان مفهوم زبان را خود اختراع کرده باشد زیرا که قبل آن هیچ زبانی نبوده است، این نشانه ای از خودآگاهی است. البته ایده هایی نیز وجود دارد که میگوید این مفهوم زبان را، خالق ما، در ما نهفته است که در صورت اثبات این نکته، می‌توان به این نتیجه رسید که انسان هم به طور کامل، خودآگاه نیست بلکه نسبت به هوش مصنوعی میزان بیشتری به خودآگاهی نزدیک است)).
حال که تا حد زیادی خودآگاهی را درک کرده و مبنای خود را برای تعریف خودآگاهی تعیین کرده ایم، می‌توانیم به موضوع اصلی بازگردیم. اینکه هوش مصنوعی به خودآگاهی کامل یا حداقل میزان خودآگاهی که انسان دارد رسیده است یا نه؟ با تحلیل و بررسی مدل های مختلف هوش مصنوعی می‌توان به طور قطع جواب داد که، خیر. هوش مصنوعی های امروزی قادر به انجام هیچ کاری بدون توجه به داده های قبلی خود نیستند، توضیح ساده تر اینکه خلاقیت ندارند. آنها قدرت کاری به جز آنچه که الگوریتم هایشان تعریف کرده اند را ندارند. اگر کاری از آنها بخواهید که قبلا آن را ندیده اند هیچگاه نمی‌توانند پاسخی درست و خلاقانه به شما بدهند، آنها هیچ درک عمیقی جز آنچه که در الگوریتم هایشان تعریف شده است از دستور داده شده ندارند و در طول زمان نوع ادرکشان تغییری نمی‌کند. اینها تماما می‌توانند از هزاران دلیلی باشند که می‌توان با آنها به این نتیجه رسید که هوش مصنوعی هنوز قدرت تفکر و خودآگاهی ندارد.
از جنبه فلسفی این موضوع را بررسی کردیم، اما از لحاظ فنی ای که در آن اطلاعات نسبتا بیشتری داریم چطور؟ شخصا به عنوان کسی که در این حوزه فعالیت دارم، به طور کلی انتظار ندارم که مدل من، کاری جز آنچه که در الگوریتم هایش تعریف شده است انجام دهد. به عنوان مثال برای من دور از انتظار نیست که مدل من خروجی ای تولید کند که با ورودی های قبلی خود تفاوت بسیاری داشته باشد، اما همچنان خروجی تولید شده ارتباطی با داده های قبلی خود دارد و در یک بازه مورد انتظاری حضور دارد، اما اینکه چیزی را خود اختراع/اکتشاف کند هیچگاه اتفاق نخواهد افتاد. ممکن است استدلال کنید که الگوریتم هایی هستند که بدون داده قبلی و تنها با قرار گیری در محیط، به مرور زمان از آنها یاد می‌گیرند یا چنین الگوریتم هایی.. اگر چنین استدلالی دارید باید عرض کنم که خود جواب خود را داده اید، او در واقع از محیط می آموزد، اما آیا می‌توان انتظار داشت که مدل را بدون هیچ داده ای در جایی رها کنیم و بتواند به سوالات ما پاسخ های با معنی بدهد یا خود پس از مدتی شروع به تولید داده های با معنی(حداقل برای خودش) کند؟ با الگوریتم های فعلی و مرسوم خیر.
اما چه زمانی می‌توان انتظار داشت که هوش مصنوعی به خودآگاهی برسد، با توجه به استدلال فلسفی ما، می‌توان به این نتیجه رسید که اگر خودآگاهی کامل در 100/100 قرار داشته باشد، هوش مصنوعی در 1/100 یا چنین عددی قرار دارد(تعیین این عدد بسته به نظر هر شخص می‌تواند متفاوت باشد، اما قطع به یقین بسیار کوچک است)، زیرا که برخی از انتظارات مارا از یک موجود خودآگاه برآورده می‌کند، هرچند که اندک باشند. بازگردیم به سوال اصلی، چه زمانی انتظار میرود که به خودآگاهی کامل برسند؟ می‌دانیم که همه ساله با پیشرفت الگوریتم های هوش مصنوعی مقداری به میزان خودآگاهی هوش مصنوعی افزوده می‌شود، فلذا احتمالا بلاخره در یک برهه ای از تاریخ به میزان 100/100 از خودآگاهی خواهد رسید. اما با توجه به ذهنیت انسان و تلاش های چند قرنی ما در این موضوع مشخص می‌شود که انگار انسان قادر به خلق چنین الگوریتمی نیست و نمیتواند چنین چیزی را در کامپیوتر های صفر و یکی خود تصور کند (این موضوع به این اشاره دارد که شاید در کامپیوتر های کوانتومی ممکن شود، زیرا در دنیای کوانتومی لزومی به بودن (از قبل) نیست) و به همین دلیل است که انتظار میرود انسان در یک جایی متوقف شود.
پس راه حل چیست؟ آیا با توجه به ذهنیت محدود انسان در توسعه چنین الگوریتم هایی انتظار میرود که هیچگاه به خودآگاهی در هوش مصنوعی نرسیم؟ این احتمال وجود دارد که هیچگاه انسان نتواند به چنین الگوریتم های پیشرفته ای دست یابد اما اگر به دنبال راه حل باشیم، شاید بتوان از خود هوش مصنوعی، برای توسعه خویش استفاده کرد. اگر چنین الگوریتمی را توسعه دهیم که خود دائما در حال توسعه خود باشد و با هر بار توسعه قدرت توسعه اش هم افزایش یابد، احتمالا می‌توان انتظار داشت که در یک جایی بلاخره به هوش مصنوعی خودآگاه می‌رسیم، که دقیقا نقطه بحث است، زیرا با توجه به محدودیت های فیزیکی انسان، به سرعت این هوش مصنوعی انسان را پشت سر می‌گذارد و تاریخ بعد از این رویداد قابل پیش بینی نیست. البته می‌توانید مقاله من در خصوص تکینگی یا سینگولاریتی را بخوانید که حدس هایی از آن دوره زده ایم.
