شیوه ساخت هوش مصنوعی در حال حاضر توسط گروه کوچکی از متخصصان فناوری تصمیم گیری میشود. از آنجایی که این فناوری زندگی ما را متحول میکند، باید همه ما اشتیاق داشته باشیم که نسبت به موضوعات آن آگاه و درگیر بشویم. در این مقاله به پیامدهای چنین رویکردی در تحول دیجیتال پرداخته میشود.
این مقاله برگردان مقاله اصلی با عنوان «هوش مصنوعی در حال تغییر دنیای ماست – این دیگر به ما بستگی دارد که مطمئن بشویم آیا به درستی پیش میرود یا خیر» به قلم مکس روزر ـ بنیانگذار و سردبیر دنیای ما در دیتا ـ میباشد.
چرا باید به توسعه هوش مصنوعی اهمیت داد؟ به این فکر کنید که فناوری ها و دستاوردهای جایگزین شده با AI چگونه خواهند بود؟ اگر ما مردم نسبت به جنبههای آن آگاه نشده و درگیر نشویم، در واقع تصمیم گیری در مورد اینکه چگونه این فناوری دنیای ما را متحول خواهد کرد را به چندیت کارآفرین و مهندس و متخصص واگذار میکنیم. وضع موجود ما الان به همین صورت است. تنها تعداد کمی از افراد در چندین شرکت فناوری، که مستقیماً روی هوش مصنوعی (AI) کار می کنند، درک می کنند که این فناوری چقدر قدرتمند شده است. اگر بقیه افراد جامعه پای کار نیایند نشوند و به وضعیت فعلی خود به عنوان تماشاگر بسنده کنند، این جمع کوچکی از نخبگان هستند که تصمیم میگیرند چگونه این فناوری زندگی ما را تغییر دهد. برای تغییر وضعیت فعلی، میخواهم به سه سئوال در این مقاله پاسخ دهم:
چرا جدی گرفتن چشمانداز دنیایی که توسط هوش مصنوعی متحول شده است دشوار است؟چگونه میتوانیم چنین دنیایی را تصور کنیم؟با قدرتمندتر شدن این فناوری چه چیزی به خطر میافتد؟
چرا جدی گرفتن چشمانداز دنیایی که توسط هوش مصنوعی متحول شده است دشوار است؟
به شیوهای باید آشکار باشد که چگونه فناوری میتواند جهان را به طور اساسی متحول کند. به نظر فقط کافی است که بتوانیم ببینیم که تا این لحظه دنیا چقدر تغییر کرده است. اگر بتوانید خانوادهای از اجداد انسان شکارچی بیست هزار سال پیش را در پرواز بعدی خود دعوت کنید، آنها بسیار شگفت زده خواهند شد. فناوری در حال حاضر دنیای ما را تغییر داده است، بنابراین باید انتظار داشته باشیم که دوباره هم بتواند اتفاق بیفتد.
اما در حالی که قبلا هم شاهد تغییر جهان بودیم، شاهد این بودیم که این دگرگونیها به صورت تدریجی و در طول نسلهای مختلف به وقوع پیوسته است. آنچه اکنون متفاوت است این است که این تغییرات تکنولوژیکی بسیار سریعتر شدهاند. در گذشته، فناوریهایی که اجداد ما در دوران کودکی خود استفاده میکردند، هنوز در دوران پیری در زندگی آنها نقش اساسی داشت. این مورد دیگر برای نسل های اخیر عملا وجود ندارد. به جای آن، خیلی بیشتر با فناوریهایی مواجه هستیم که در دوران جوانی بسیار بعید و دور از تصور بودهاند و در زندگی نسل بعدی بسیار عادی میشوند.
این اولین دلیلی است که ممکن است به خاطر آن آینده را چندان جدی نگیریم: به راحتی میتوان سرعتی را که فناوری میتواند جهان را تغییر دهد دست کم گرفت.
دلیل دوم جدی نگرفتن هوش مصنوعی متحول کننده - به طور بالقوه حتی هوش مصنوعی به اندازه انسانها - این است که بسیاری از آنها از ایدههایی آغاز شدهاند که نخستین بار در سینما با آنها مواجه شدهایم. به همین دلیل برای بسیاری از ما تعجب آور نیست که اولین واکنش به سناریویی که در آن ماشینها قابلیتهای انسانمانندی دارند، مانند این است که از ما خواسته باشید آیندهای را جدی بگیریم که در آن خونآشامها، گرگنماها یا زامبیها در کره زمین پرسه میزنند! اما این چیزهای فانتزی و اغلب علمی ـ تخیلی می توانند در زندگی ما یا فرزندانمان به وقوع بپیوندند.
سومین دلیل برای جدی نگرفتن این چشمانداز احتمالا بعید، عدم درک این نکته است که هوش مصنوعی قدرتمند میتواند منجر به تغییرات بسیار بزرگ ش.د. این هم قابل درک است. ایجاد ایدهای در مورد آیندهای که بسیار متفاوت از زمان خودمان باشد برای ما انسانها دشوار است. دو مفهوم وجود دارد که به نظر من در تصور آیندهای بسیار متفاوت با هوش مصنوعی مفید است. بیایید به هر دوی آنها نگاهی بیاندازیم.
چگونه میتوان ایدهای در مورد اینکه هوش مصنوعی در آینده به چه شکلی ظاهر میشود ایجاد کرد؟
زمانی که به آینده هوش مصنوعی فکر میکنم، توجه به دو مفهوم مختلف به ویژه مفید است: هوش مصنوعی در سطح انسان و هوش مصنوعی متحول کننده. اولی قابلیتهای هوش مصنوعی را برجسته میکند و آنها را به معیاری آشنا متصل میکند، در حالی که هوش مصنوعی متحول کننده بر تأثیری که این فناوری بر جهان خواهد داشت تأکید میکند.
در موقعیت امروزیمان، بسیاری از اینها ممکن است علمی ـ تخیلی به نظر برسند. بنابراین، شایان ذکر است که اکثر کارشناسان هوش مصنوعی که مورد بررسی قرار گرفتهاند، معتقدند که شانس واقعی برای توسعه هوش مصنوعی در سطح انسان در دهههای آینده وجود دارد و برخی هم معتقدند که این هوش مصنوعی بسیار زودتر وجود خواهد داشت.
مزایا و معایب مقایسه هوش ماشین و انسان
یکی از راههای فکر کردن به هوش مصنوعی در سطح انسان، مقایسه آن با وضعیت فعلی فناوری هوش مصنوعی است. در حالی که سیستمهای هوش مصنوعی امروزی اغلب دارای قابلیتهایی شبیه به بخش خاص و محدود ذهن انسان هستند، یک هوش مصنوعی در سطح انسانی، ماشینی است که قادر به انجام همان طیفی از وظایف فکری است که ما انسانها قادر به انجام آن هستیم. همانطور که نوریگ و راسل در کتاب درسی خود در مورد هوش مصنوعی بیان کردهاند، این هوش ماشینی آن است که "میتواند انجام هر کاری را که انسان میتواند انجام دهد را بیاموزد."
در مجموع، طیف تواناییهایی که هوش را مشخص میکند، به انسان توانایی حل مشکلات و دستیابی به اهداف مختلف را میدهد. بنابراین یک هوش مصنوعی در سطح انسانی، سیستمی است که میتواند تمام مشکلاتی را که ما انسانها میتوانیم حل کنیم را حل کند و وظایفی را که انسان امروزی انجام میدهد، انجام دهد. چنین ماشینی، یا مجموعهای از ماشینها، میتواند کار یک مترجم، یک حسابدار، یک تصویرگر، یک معلم، یک درمانگر، یک راننده کامیون یا کار یک تاجر در بازارهای مالی جهان را انجام دهد. همچنین مانند انسانها قادر به انجام تحقیقات علمی و توسعه فناوریهای جدید بر اساس آنها خواهد بود.
مفهوم هوش مصنوعی در سطح انسان دارای مزایای واضحی است. استفاده از آشنایی با هوش خودمان به عنوان مرجع، راهنماییهای روشنی را در مورد چگونگی تصور قابلیتهای این فناوری به ما ارائه میدهد. با این حال، معایب آشکاری نیز دارد. تثبیت تخیل سیستمهای هوش مصنوعی آینده به واقعیت آشنای هوش انسانی این خطر را به همراه دارد که تفاوتهای واقعی بین آنها را پنهان میسازد. برخی از این تفاوت ها آشکار است. به عنوان مثال، سیستمهای هوش مصنوعی حافظه عظیمی از سیستمهای رایانهای خواهند داشت که ظرفیت ذخیرهسازی اطلاعات در برابر آن کمرنگ میشود. تفاوت آشکار دیگر سرعتی است که ماشین میتواند اطلاعات را جذب و پردازش کند. اما ذخیرهسازی اطلاعات و سرعت پردازش تنها تفاوت ها نیستند. حوزههایی که ماشینها از قبل از انسانها بهتر عمل میکنند، بهطور پیوسته در حال افزایش است: در شطرنج، پس از تطابق با سطح بهترین بازیکنان انسانی در اواخر دهه 1990، سیستمهای هوش مصنوعی بیش از یک دهه پیش به سطوح فوقانسانی هم رسیدند. در بازی های دیگری مانند بازیهای استراتژیک پیچیده، اخیراً این اتفاق افتاده است.
این تفاوت ها به این معناست که هوش مصنوعی که حداقل به خوبی انسانها در هر حوزهای که به کار گرفته شود، در کل بسیار قدرتمندتر از ذهن انسان خواهد بود. بنابراین حتی اولین "هوش مصنوعی در سطح انسانی" از بسیاری جهات کاملاً فوق بشری خواهند بود. هوش انسانی از جهات دیگر نیز استعاره بدی برای هوش ماشینی است. طرز فکر ما اغلب با ماشینها بسیار متفاوت است و در نتیجه خروجی ماشینهای متفکر میتواند برای ما بسیار بیگانه و غیرقابل درک باشد.
گیجکنندهترین و نگرانکنندهترین آنها راهحلهای عجیب و غیرمنتظرهای است که هوش ماشینی با دنبال کردنشان میتواند از کار بیفتد. تصویر تولید شده توسط هوش مصنوعی از اسب در زیر مثالی را ارائه میکند: از یک طرف، هوش مصنوعی میتواند کاری را انجام دهد که هیچ انسانی نمیتواند انجام دهد - تصویری از هر چیزی، به هر سبکی (در اینجا فوتورئالیستی)، در عرض چند ثانیه - اما از سوی دیگر. میتواند به گونهای شکست بخورد که هیچ انسانی شکست نمیخورد. هیچ انسانی این اشتباه را مرتکب نمیشود که یک اسب را با پنج پا بکشد.
بنابراین تصور یک هوش مصنوعی قدرتمند در آینده به عنوان موجودی با توانایی برابر با یک انسان دیگر احتمالاً اشتباه خواهد بود. تفاوتها ممکن است آنقدر زیاد باشد که نامیدن آنها به عنوان سیستمهایی در «سطح انسانی» اشتباه به نظر برسد.
هوش مصنوعی متحول کننده با تأثیری که این فناوری بر جهان خواهد داشت تعریف میشود
در مقابل، مفهوم هوش مصنوعی متحول کننده مبتنی بر مقایسه با هوش انسانی نیست. این مزیت را دارد که مشکلاتی را که مقایسه با ذهن خود ما ایجاد میکند، کنار بگذارد. اما این عیب را دارد که تصور اینکه چنین سیستمی چگونه به نظر میرسد و چه سطحی از تواناییها را دارد دشوارتر است. این امر مستلزم آن است که ما بتوانیم دنیایی را با بازیگران باهوشی تصور کنیم که به طور بالقوه بسیار متفاوت از خودمان هستند. هوش مصنوعی متحول کننده با هیچ قابلیت خاصی تعریف نمیشود، بلکه با تاثیری که در دنیای واقعی خواهد داشت، قابل درک کردن است. برای واجد شرایط بودن به عنوان یک مقوله تحول آفرین، محققان آن را به صورت هوش مصنوعی در نظر می گیرند که "به اندازه کافی قدرتمند است تا ما را به آیندهای جدید و از نظر کیفی متفاوت ببرد".
در تاریخ بشریت، دو مورد از این تحولات بزرگ وجود داشته است: انقلاب کشاورزی و انقلاب صنعتی. تبدیل شدن به هوش مصنوعی یک واقعیت در این مقیاس خواهد بود. مانند ظهور کشاورزی در ده هزار سال پیش، یا گذار از تولید دستی به ماشینی در دوقرن پیش. رویدادی که جهان را برای میلیاردها نفر در سراسر جهان و کل مسیر آینده بشریت تغییر خواهد داد.
فناوریهایی که اساساً نحوه تولید طیف وسیعی از کالاها یا خدمات را تغییر میدهند، فناوریهای «همه منظوره» نامیده میشوند. دو رویداد دگرگونکننده قبلی ناشی از کشف دو فناوری همهمنظوره بهویژه مهم بود: تغییر در تولید مواد غذایی با گذار بشر از شکار و جمعآوری به کشاورزی، و ظهور ماشینسازی در انقلاب صنعتی. بر اساس شواهد و استدلال های ارائه شده در این مجموعه در مورد توسعه هوش مصنوعی، من معتقدم که این امر قابل قبول است که هوش مصنوعی قدرتمند میتواند معرفی یک فناوری همه منظوره قابل توجه مشابه باشد.
آینده هوش مصنوعی در سطح انسانی یا متحول کننده
این دو مفهوم ارتباط نزدیکی با هم دارند، اما یکسان نیستند. ایجاد یک هوش مصنوعی در سطح انسانی مطمئناً تأثیر متحول کنندهای بر دنیای ما خواهد داشت. اگر کار بیشتر انسانها بتواند توسط یک هوش مصنوعی انجام شود، زندگی میلیونها نفر تغییر میکند. با این حال، برعکس این موضوع صادق نیست. ممکن است بدون توسعه هوش مصنوعی در سطح انسانی شاهد هوش مصنوعی متحول شده باشیم. از آنجایی که ذهن انسان از بسیاری جهات یک استعاره ضعیف برای هوش ماشینها است، ممکن است قبل از توسعه هوش مصنوعی در سطح انسانی، هوش مصنوعی متحول کننده را توسعه دهیم. بسته به اینکه چگونه این اتفاق میافتد، این ممکن است به این معنی باشد که ما هرگز هیچ هوش ماشینی را نخواهیم دید که هوش انسانی برای آن قابل مقایسه باشد.
پیشبینی اینکه چه زمانی و به چه صورتی سیستمهای هوش مصنوعی ممکن است به هر یک از این سطوح برسند، البته دشوار است. در مقاله دیگری در مورد این پرسش، مروری بر آنچه محققان در این زمینه در حال حاضر معتقدند ارائه دادهام. بسیاری از کارشناسان هوش مصنوعی بر این باورند که شانس واقعی برای توسعه چنین سیستمهایی در دهههای آینده وجود دارد و برخی معتقدند که این سیستمها خیلی زودتر وجود خواهند داشت.
با قدرتمندتر شدن هوش مصنوعی چه چیزی به خطر میافتد؟
تمام نوآوریهای تکنولوژیکی منجر به طیفی از پیامدهای مثبت و منفی میشوند. برای هوش مصنوعی، طیف نتایج ممکن - از منفیترین تا مثبتترین - فوق العاده گسترده باشد. اینکه استفاده از فناوری هوش مصنوعی میتواند باعث آسیب شود واضح است، زیرا در حال حاضر اتفاق افتاده است. سیستمهای هوش مصنوعی زمانی که افراد به طور مخرب از آنها استفاده میکنند میتوانند باعث آسیب شوند. به عنوان مثال، هنگامی که از آنها در کمپینهای انتخاباتی با انگیزه سیاسی برای نشر اطلاعات نادرست استفاده میشود یا در جایی که برای فعالسازی نظارت و کنترل به صورت گسترده استفاده میشود.
اما سیستمهای هوش مصنوعی زمانی که متفاوت از آنچه در نظر گرفته شده عمل میکنند یا شکست میخورند و یا میتوانند باعث آسیب ناخواسته شوند. به عنوان مثال، در هلند، مقامات از یک سیستم هوش مصنوعی استفاده کردند که به دروغ ادعا می کرد که حدود 26 هزار تن والدین ادعاهای تقلبی برای دریافت مزایای مالی مراقبت از کودکان داشتهاند. اتهامات نادرستی که سختی بسیاری از خانوادههای فقیرتر و نارضایتی آنها را به همراه داشت و متعاقب آن منجر به استعفای دولت هلند در سال 2021 شد.
با قدرتمندتر شدن هوش مصنوعی، تأثیرات منفی احتمالی میتواند بسیار بزرگتر شود. بسیاری از این خطرات به درستی مورد توجه عموم قرار گرفتهاند: هوش مصنوعی قویتر میتواند به جابجایی انبوه نیروی کار یا تمرکز شدید قدرت و ثروت منجر شود. همچنین اگر آنها در خدمت حکومتهای دیکتاتوری خودکامه باشند، میتوانند به توتالیتاریسم از طریق مناسب بودن برای نظارت و کنترل تودهای قدرت بخشند.
انچه که اصطلاحا مشکل همسویی (alignment problem) هوش مصنوعی نامیده میشود یک خطر شدید دیگر است. اینکه هیچ کس نتواند یک سیستم هوش مصنوعی قدرتمند را کنترل کند، در وضعیتی که هوش مصنوعی اقداماتی را انجام دهد که به ما انسانها و یا به کل بشریت آسیب برساند. متأسفانه این خطر کمتر مورد توجه عموم قرار گرفته است، اما توسط بسیاری از محققان برجسته هوش مصنوعی به عنوان یک خطر بسیار بزرگ تلقی میشود.
چگونه ممکن است یک هوش مصنوعی از کنترل انسان فرار کند و در نهایت به انسان آسیب برساند؟
ریسکی که اینجا وجود دارد این نیست که یک هوش مصنوعی خودآگاه شود، نیت بدی ایجاد و عملی شدن آن را دنبال کند. خطر اصلی این است که ما سعی می کنیم به هوش مصنوعی دستور دهیم که هدف خاصی را دنبال کند - حتی یک هدف بسیار ارزشمند - اما در مسیر تحقق آن هدف به انسانها آسیب برسد. این سناریو در مورد پیامدهای ناخواسته است. هوش مصنوعی آنچه را که ما به او گفته بودیم انجام میدهد، اما نه آنچه را که ما میخواستیم انجام شوند.
آیا نمیتوانیم به هوش مصنوعی بگوییم که این کارها را انجام ندهد؟ قطعا ساختن یک هوش مصنوعی امکان پذیر است که از هر مشکل خاصی که پیش بینی می کنیم جلوگیری کند، اما پیشبینی همه پیامدهای ناخواسته مضر احتمالی دشوار است. همانطور که استوارت راسل، محقق هوش مصنوعی می گوید، مشکل هم ترازی یا همسویی به دلیل «عدم امکان تعریف اهداف واقعی انسان به طور صحیح و کامل» به وجود میآید.
آیا نمیتوانیم در چنین وضعیت با دنبال کردن نتایج کار به طریقی فقط هوش مصنوعی را خاموش کنیم؟ این نیز ممکن است امکان پذیر نباشد. این به این دلیل است که یک هوش مصنوعی قدرتمند دو چیز را میداند: با خطر خاموش کردن آن توسط انسانها روبرو میشود و پس از خاموش شدن نمیتواند به اهداف خود دست یابد. در نتیجه، هوش مصنوعی یک هدف بسیار اساسی را دنبال خواهد کرد که اطمینان حاصل شود که خاموش نخواهد شد. به همین دلیل است که وقتی متوجه میشویم یک هوش مصنوعی بسیار هوشمند در تعقیب یک هدف خاص باعث آسیب ناخواسته میشود، ممکن است خاموش کردن آن یا تغییر عملکرد سیستم امکانپذیر نباشد.
این خطر - که بشریت ممکن است نتواند پس از قدرتمند شدن هوش مصنوعی در کنترل خود باقی بماند و این ممکن است منجر به یک فاجعه شدید شود - درست از روزهای اولیه تحقیقات هوش مصنوعی بیش از 70 سال پیش شناخته شده است. توسعه بسیار سریع هوش مصنوعی در سالهای اخیر، یافتن راهحلی برای این مشکل را بسیار ضروریتر کرده است.
من سعی کردم برخی از خطرات هوش مصنوعی را خلاصه کنم، اما یک مقاله کوتاه فضای کافی برای پرداختن به همه سئوالات ممکن نیست. به خصوص در مورد بدترین خطرات سیستمهای هوش مصنوعی، و آنچه که اکنون میتوانیم برای کاهش آنها انجام دهیم، توصیه میکنم کتاب «مشکل همسویی» نوشته برایان کریستین و بنجامین هیلتون «جلوگیری از فاجعه مرتبط با هوش مصنوعی» را بخوانید.
اگر بتوانیم از این خطرات اجتناب کنیم، هوش مصنوعی متحول کننده نیز میتواند به پیامدهای بسیار مثبتی منجر شود. پیشرفت در علم و فناوری برای بسیاری از تحولات مثبت در تاریخ بشریت بسیار مهم بوده است. اگر نبوغ مصنوعی بتواند نبوغ ما را تقویت کند، میتواند به ما کمک کند تا در بسیاری از مشکلات بزرگی که با آن روبرو هستیم پیشرفت کنیم: از انرژی پاکتر، تا جایگزینی کارهای ناخوشایند و حتی مراقبتهای بهداشتی و درمانی بسیار بهتر.
این تضاد بسیار بزرگ بین پیامدهای مثبت و منفی احتمالی، روشن میکند که خطرات با این فناوری بهطور غیرعادی زیاد است. کاهش خطرات منفی و حل مشکل همسویی می تواند به معنای تفاوت بین آینده ای سالم، شکوفا و ثروتمند برای بشریت – (و یا نابودی آن) باشد.
چگونه میتوانیم مطمئن شویم که توسعه هوش مصنوعی به خوبی پیش میرود؟
اطمینان از اینکه توسعه هوش مصنوعی به خوبی پیش میرود نه تنها یکی از حیاتیترین پرسشهای عصر ما، بلکه احتمالاً یکی از حیاتیترین پرسشهای تاریخ بشریت است و به منابع عمومی (بودجه عمومی، توجه عمومی و مشارکت عمومی) نیاز دارد. در حال حاضر، تقریباً تمام منابعی که به هوش مصنوعی اختصاص داده شده اند، با هدف سرعت بخشیدن به توسعه این فناوری هستند. از سوی دیگر، تلاشهایی که با هدف افزایش ایمنی سیستمهای هوش مصنوعی انجام میشوند، منابع مورد نیاز خود را دریافت نمیکنند. در یک تحقیق انجام گرفته توسط Toby Ord در سال 2020 بین 10 تا 50 میلیون دلار برای کار برای رفع مشکل هم ترازی هزینه شدهاس. سرمایه گذاری هوش مصنوعی در شرکتها در همان سال بیش از 2000 برابر بیشتر بود و به 125 میلیارد دلار رسیده بود. این فقط در مورد مشکل هم سویی هوش مصنوعی صدق نمیکند. کار بر روی طیف وسیعی از پیامدهای اجتماعی منفی ناشی از هوش مصنوعی در مقایسه با سرمایهگذاریهای کلان برای افزایش قدرت و استفاده از سیستمهای هوش مصنوعی، منابع کمتری به خود اختصاص داده است.
برای کل جامعه ناامید کننده و نگران کننده است که کار ایمنی هوش مصنوعی به شدت نادیده گرفته شده و بودجه عمومی اندکی به این زمینه تحقیقاتی حیاتی اختصاص می یابد. از سوی دیگر، برای هر فردی این غفلت به این معنی است که اگر اکنون خود را وقف این مشکل کنند، شانس خوبی برای ایجاد یک تفاوت مثبت دارند و در حالی که حوزه ایمنی هوش مصنوعی کوچک است، منابع خوبی را در مورد آنچه که میتوانید انجام دهید اگر میخواهید روی این مشکل کار کنید، ارائه میکند.
وقتی فرزندان ما به امروز ما نگاه خواهند کرد، تصور میکنم درک اینکه چقدر توجه و منابع کمی به توسعه هوش مصنوعی ایمن اختصاص دادهایم برایشان دشوار خواهد بود. امیدوارم در سالهای آینده این تغییر کند و ما شروع به تخصیص منابع بیشتری برای اطمینان از توسعه هوش مصنوعی قدرتمند بهگونهای کنیم که به نفع ما و نسلهای بعدی باشد. اگر نتوانیم این درک گسترده را توسعه دهیم، آنگاه این نخبگان کوچک باقی خواهند ماند که این فناوری را تأمین مالی و ایجاد می کنند که تعیین خواهد کرد چگونه یکی از - یا به طور قابل قبول - قدرتمندترین فناوری در تاریخ بشر، جهان ما را متحول خواهد کرد.
این پست با همین عنوان پیشتر در اجایل ورس هم منتشر شده است:
مقاله اصلی: