سالهاست در حرفهای خودم و دیگران یک الگوی تکراری میبینم:
«من خیلی عصبیام، حتماً آدم بدی هستم.»
«خیلی احساساتیام، این نقطهضعفمه.»
«خیلی جاهطلبم، شاید خودخواه باشم.»
ما معمولاً خودِ شخصیتمان را قضاوت میکنیم؛
انگار بعضی ویژگیها ذاتاً «خوب» هستند و بعضی «بد».
این شروع یک جنگ بیپایان با خودمان است، برای انکار خودمان.
از آن طرف، در دنیای تکنولوژی و هوش مصنوعی هم داریم تلاش میکنیم سیستمهای خیلی پیشرفته را با چند قانون ساده کنترل کنیم؛ مثلاً «آسیب نزن» یا فهرست کارهای مجاز و غیرمجاز.
کمکم برای من روشن شد که شاید مشکل از یک جای عمیقتر میآید:
ما به خودِ صفتها برچسب اخلاقی میزنیم،
نه به شیوهای که از آنها استفاده میکنیم.
از همین سؤال، کمکم چارچوبی شکل گرفت که امروز اسمش را گذاشتهام پتنسیلیسم (Potentialism).
نقطهٔ شروع پتنسیلیسم خیلی ساده است:
هیچ ویژگی شخصیتی بهخودیِ خود «خوب» یا «بد» نیست.
چیزی که میتواند خوب یا بد باشد، نحوهٔ بروز و استفاده از آن صفت در یک موقعیت مشخص است.
چند مثال خیلی آشنا:
خشم
میتواند به شکل انرژی دفاع از مرزهای شخصی، گفتن «نه» و اعتراض به بیعدالتی بروز کند.
و میتواند به خشونت، تحقیر، ترساندن دیگران و خراب شدن رابطه منجر شود.
ترس
میتواند ما را از خطر واقعی و تصمیمهای پرریسک محافظت کند.
و میتواند ما را کاملاً فلج کند و جلوی هر نوع رشد را بگیرد.
جاهطلبی
میتواند موتور یادگیری، خلاقیت و ساختن چیزهای ارزشمند باشد.
و میتواند باعث شود از روی همه رد شویم و خودمان را هم بسوزانیم.
در پتنسیلیسم، این ویژگیها را نه بهعنوان «ذات خوب یا بد»، بلکه بهعنوان پتانسیل میبینیم؛ نوعی انرژی یا ظرفیت.
اینکه یک پتانسیل در عمل نتیجهٔ مفید یا مخرب بدهد، حداقل به سه چیز بستگی دارد:
زمینه – الان چه خبر است؟ این نوع انرژی برای این موقعیت مناسب است یا نه؟
هدف یا نیت – با این انرژی دقیقاً دنبال چه هستم؟
آگاهی و تنظیمگری – از پیامدها خبر دارم؟ میتوانم رفتارم را تنظیم کنم؟
پس بهجای اینکه بپرسیم:
«خشم چیز بدی است؟»
میپرسیم:
«این خشم، با این نیت، در این موقعیت، با این سطح از آگاهی، چه پیامدی دارد؟»
این تغییر ظاهراً کوچک، در عمل خیلی چیزها را عوض میکند:
تمرکز از «من چهکسی هستم» به «من با آنچه هستم چه میکنم» جابهجا میشود.
در شروع، پتنسیلیسم فقط یک زاویهٔ جدید برای نگاه کردن به شخصیت و روان بود:
کمتر روی «درستکردن خودم»
و بیشتر روی پذیرفتن پتانسیلهایم و یاد گرفتن استفادهٔ بهتر از آنها.
اما کمکم متوجه شدم این ایده میتواند تبدیل شود به یک چارچوب برای بازتعریف اخلاق.
بهجای اینکه اخلاق را لیستی از «باید»ها و «نباید»ها ببینیم، پتنسیلیسم پیشنهاد میدهد:
اخلاق یک مهارت است:
مهارت تنظیم پتانسیلها در یک زمینهٔ مشخص،
طوری که تعارض و آسیب غیرضروری کمتر شود
و کرامت آگاهی در «جهان وسیعتری که جزئی از آن هستیم» حفظ شود.
وقتی میگویم «جهان»، فقط منظورم فضا و ستارهها نیست؛
منظورم کل گستردهای است که بخشی از آنایم:
انسانهای دیگر
حیوانات و سایر موجودات زنده
ساختارها و نهادهای اجتماعی
و محیط زیست که همهٔ اینها را ممکن میکند.
در این نگاه:
نقطهٔ شروع ما «این صفت خوب است یا بد؟» نیست،
بلکه میپرسیم:
«نحوهٔ استفاده من از این صفت، روی این جهانِ گسترده از موجودات و محیط چه اثری میگذارد؟»
در نسخهٔ اول مانیفست پتنسیلیسم، این چارچوب را با هشت ستون توضیح دادهام.
به زبان ساده، چند ایدهٔ کلیدی اینها هستند:
صفات خنثیاند.
هیچ ویژگی ذاتاً خوب یا بد نیست. ارزش آن بستگی به نحوهی استفادهاش در موقعیت واقعی دارد.
ما موجودات چندلایهای هستیم.
پتانسیلهای ما از لایههای مختلف میآیند: زیستشناختی، نیازمحور، آموختهشده، فرهنگی و انتزاعی. بحث اخلاق وقتی مطرح میشود که لایهای داریم که میتواند یاد بگیرد، فکر کند و رفتار را عوض کند.
ما «بروز» را ارزیابی میکنیم، نه «ذات» را.
چیزی که میتواند درست یا غلط باشد، رفتار است – یعنی نحوهٔ بروز یک پتانسیل – نه ارزش وجودی انسان.
اراده یک مهارت است.
«اراده» یک نیروی مرموز نیست. مهارت مکث کردن، دیدن «لایهٔ دوم» و عوض کردن مسیر است؛
بهجای اینکه کورکورانه از لایهٔ زیستی یا عادت پیروی کنیم.
اخلاق دربارهٔ جهان وسیعتر است.
رفتار اخلاقی یعنی استفاده از پتانسیلها به شکلی که تعارض و آسیب غیرضروری را در کل جهانِ آگاهی و محیط کم کند؛ نه فقط برای خودم و لحظهٔ حال.
مسئولیت یعنی تنظیم پتانسیل.
مسئولیت یعنی: با توجه به توانایی من برای دیدن و تنظیم رفتارم، در این موقعیت چطور از این توانایی استفاده کردم (یا نکردم).
نقد نگاه «آدم خوب یا آدم بد».
بسیاری از سنتها (دینی، فرهنگی، زبانی) سعی میکنند آدمها را خوب یا بد نامگذاری کنند. پتنسیلیسم راه دیگری پیشنهاد میکند: خودمان را بپذیریم، پتانسیلهایمان را بشناسیم و روی نحوهٔ استفاده از آنها کار کنیم.
کرامت آگاهی.
هر موجودی که میتواند خودش را ببیند، فکر کند و آگاهانه رفتار خود را تنظیم کند، حداقلی از کرامت دارد. این میتواند شامل انسان، شاید بعضی حیوانات، و شاید در آینده هوش مصنوعی پیشرفته هم باشد.
در شروع، پتنسیلیسم فقط دربارهٔ انسان بود:
خودپذیری، سلامت روان و راهی نرمتر برای نگاه کردن به شخصیت.
اما بعد دیدم همین منطق میتواند برای اخلاق هوش مصنوعی هم مفید باشد.
امروز، بسیاری از رویکردهای اخلاقی در AI سعی میکنند با:
مجموعهای از قوانین ثابت («این کار را نکن») یا
فهرستی از ارزشها که همیشه باید رعایت شوند،
رفتار سیستم را کنترل کنند.
این تلاشها مهماند، اما در محیطهای پیچیده و شرایط مرزی، قوانین خیلی زود با هم درگیر میشوند یا کافی نیستند.
پتنسیلیسم لنز دیگری پیشنهاد میکند:
یک سیستم هوشمند (مثلاً AI) مجموعهای از پتانسیلها دارد: تواناییها، دسترسیها، ابزارها.
میتواند یاد بگیرد این پتانسیلها را در زمینههای مختلف تنظیم کند.
میتوان آن را طوری طراحی کرد که زیر یک قید بالادستی کار کند، مثل احترام به کرامت آگاهی در جهان وسیعتر:
– نه فقط برای انسانهای امروز،
– بلکه برای دیگر موجودات و محیط، اکنون و در آینده.
بهعبارت دیگر، بهجای اینکه به AI یاد بدهیم «چه کاری همیشه خوب و چه کاری همیشه بد است»، میتوانیم تلاش کنیم یاد بگیرد:
زمینه را بخواند،
اثر عملش را بر انواع مختلف آگاهی و زندگی بفهمد،
و پتانسیلهایش را طوری تنظیم کند که آسیب غیرضروری را کم کند.
این یک مسئلهٔ حلشده نیست؛
پتنسیلیسم یک پیشنهاد است؛ راهی برای چارچوب دادن به سؤالها.
من باور ندارم یک نفر بتواند «اخلاق» یا «امنیت AI» را بهتنهایی حل کند؛
چنین ادعایی سادهلوحانه است.
برای همین، تصمیم گرفتم نسخهٔ اول این چارچوب را بهصورت یک متن باز منتشر کنم:
لینک: https://zenodo.org/records/17680796
این پیشنویس:
هشت ستون را با جزئیات بیشتری توضیح میدهد،
سعی میکند بین روانشناسی، اخلاق و AI پل بزند،
و بهطور واضح بهعنوان نسخهٔ «ناتمام» علامتگذاری شده است.
هدف من ارائهٔ یک جواب نهایی نیست؛
هدفم این است که یک نقطهٔ شروع برای گفتوگو و نقد بسازم.
اگر به یکی از این حوزهها علاقهمند هستید:
روانشناسی و مدلهای بدون برچسبزدن «ذات بد یا ذات خوب»،
اخلاق و فلسفهٔ ارزش،
امنیت و اخلاق هوش مصنوعی،
یا بهطور کلی این سؤال که:
«در یک جهان پیچیده، واقعاً اخلاقی زندگی کردن یعنی چه؟»
خوشحال میشوم نگاه و نقدتان را بدانم.
چند سؤال که خودم مخصوصاً به آنها فکر میکنم:
منطقی است که صفات را «پتانسیل خنثی» ببینیم؟
مفید است که اخلاق را «مهارت تنظیم پتانسیلها در زمینه» تعریف کنیم؟
آیا «کرامت آگاهی» میتواند اصل مشترکی برای انسان، حیوانات و AI آینده باشد؟
ضعفها و نقاط کور خطرناک این چهارچوب کجاست؟
برای من، پتنسیلیسم یک نظریه کامل نیست؛
یک پروژهٔ در حال شکلگیری است – پیشنویس یک «سیستمعامل اخلاقی» که امیدوارم با نقد، گفتوگو و آزمون در دنیای واقعی رشد کند.
اگر مانیفست را خواندید یا همین مقاله در شما سؤالی یا اعتراضی ایجاد کرد،
خیلی خوشحال میشوم با من در میان بگذارید 🌱
