خواندن ۵ دقیقه·۱ سال پیش

"پدرخوانده" هوش مصنوعی، یوشوا بنجیو، در کار زندگی احساس "گم شدن" می کند

یکی از به اصطلاح "پدرخوانده" هوش مصنوعی (AI) گفته است که اگر متوجه سرعت تکامل آن می شد، ایمنی را بر سودمندی اولویت می داد.
پروفسور یوشوا بنجیو به بی‌بی‌سی گفت که به خاطر کار در زندگی‌اش احساس «گمشده» می‌کند.
اظهارات این دانشمند کامپیوتر پس از آن بیان شد که کارشناسان هوش مصنوعی گفتند که این می تواند به انقراض بشریت منجر شود.

پروفسور بنجیو که به فراخوان‌ها برای تنظیم مقررات هوش مصنوعی پیوسته است، گفت که فکر نمی‌کند باید به ارتش اختیارات هوش مصنوعی اعطا شود.
او دومین نفر از به اصطلاح سه "پدرخوانده" هوش مصنوعی است که به خاطر کار پیشگامانه خود در این زمینه شناخته شده است که نگرانی های خود را در مورد جهت و سرعت توسعه آن بیان می کند

هوش مصنوعی توانایی رایانه‌ها را برای انجام وظایف بسیار پیچیده توصیف می‌کند که قبلاً برای تکمیل آنها به هوش انسانی نیاز داشتند.

یک مثال اخیر توسعه چت ربات‌های مبتنی بر هوش مصنوعی، مانند ChatGPT است که به نظر می‌رسد به سوالات پاسخ‌هایی شبیه به انسان می‌دهد.

اما برخی نگران هستند که توانایی محاسباتی پیشرفته ممکن است برای اهداف مضر، مانند ساخت سلاح های شیمیایی مرگبار جدید مورد استفاده قرار گیرد.

پروفسور بنجیو به بی‌بی‌سی گفت که نگران دستیابی «بازیگران بد» به هوش مصنوعی است، به خصوص که این هوش مصنوعی پیچیده‌تر و قدرتمندتر شده است.

"ممکن است نظامی باشد، ممکن است تروریست باشد، ممکن است شخصی بسیار عصبانی باشد، روانی. بنابراین اگر برنامه ریزی این سیستم های هوش مصنوعی برای درخواست از آنها برای انجام کار بسیار بد آسان باشد، این می تواند بسیار خطرناک باشد.

او افزود: «اگر آنها باهوش‌تر از ما هستند، پس متوقف کردن این سیستم‌ها یا جلوگیری از آسیب برای ما سخت است.»

پروفسور Bengio اعتراف کرد که این نگرانی‌ها برای او تلفات شخصی داشت، زیرا کار زندگی‌اش که به او جهت و احساس هویت بخشیده بود، دیگر برایش واضح نبود.

او گفت: «از نظر احساسی، برای افرادی که در [بخش هوش مصنوعی] هستند، چالش برانگیز است.

می‌توان گفت که من احساس گمراهی می‌کنم. اما باید به راه خود ادامه دهید و باید درگیر شوید، بحث کنید، دیگران را تشویق کنید تا با شما فکر کنند.»

این کانادایی دو بیانیه اخیر را امضا کرده است که در آن خواستار احتیاط در مورد خطرات آینده هوش مصنوعی شده است. برخی از دانشگاهیان و کارشناسان صنعت هشدار داده‌اند که سرعت توسعه می‌تواند منجر به استفاده از هوش مصنوعی مخرب توسط "بازیگران بد" شود تا به طور فعال آسیب وارد کنند - یا اینکه خود به خود آسیب وارد کنند.

کارشناسان هشدار می دهند که هوش مصنوعی می تواند منجر به انقراض شود
چت ربات‌های هوش مصنوعی «ممکن است به زودی از ما باهوش‌تر شوند»
آیا هوش مصنوعی ایده خوبی است؟
همکار "پدرخوانده" دکتر جفری هینتون نیز همان اخطارهای پروفسور بنجیو را امضا کرده است و اخیراً از گوگل بازنشسته شد و گفت از کار خود پشیمان است.

سومین "پدرخوانده"، پروفسور یان لیکان، که به همراه پروفسور بنجیو و دکتر هینتون جایزه معتبر تورینگ را برای کارهای پیشگامانه خود دریافت کردند، گفته است که هشدارهای آخرالزمانی بیش از حد است.

ایلان ماسک، مالک توییتر و تسلا نیز نگرانی های خود را ابراز کرده است.

او اخیراً در رویدادی که توسط وال استریت ژورنال برگزار شد، گفت: «فکر نمی‌کنم هوش مصنوعی تلاش کند بشریت را نابود کند، اما ممکن است ما را تحت کنترل‌های شدید قرار دهد».

"احتمال کمی وجود دارد که بشریت را نابود کند. نزدیک به صفر اما غیرممکن نیست."

پروفسور Bengio به بی بی سی گفت که تمام شرکت هایی که محصولات قدرتمند هوش مصنوعی می سازند باید ثبت شوند.

او گفت: «دولت‌ها باید کارهایی را که انجام می‌دهند پیگیری کنند، باید بتوانند آنها را ممیزی کنند، و این حداقل کاری است که ما برای هر بخش دیگری مانند ساخت هواپیما، خودرو یا داروسازی انجام می‌دهیم.»

ما همچنین به افرادی که به این سیستم‌ها نزدیک هستند نیاز داریم که نوعی گواهینامه داشته باشند... ما در اینجا به آموزش اخلاقی نیاز داریم. اتفاقاً دانشمندان رایانه معمولاً چنین چیزی را دریافت نمی‌کنند.

اما همه افراد در این زمینه معتقد نیستند که هوش مصنوعی نابودی انسان ها خواهد بود - دیگران استدلال می کنند که مشکلات قریب الوقوع تری وجود دارد که نیاز به رسیدگی دارد.

دکتر ساشا لوچونی، دانشمند تحقیقاتی در شرکت هوش مصنوعی Huggingface، گفت که جامعه باید روی موضوعاتی مانند تعصب هوش مصنوعی، پلیس پیش‌بینی‌کننده و انتشار اطلاعات نادرست توسط چت‌بات‌ها که به گفته او «مضرات بسیار ملموس» هستند، تمرکز کند.

او افزود: «ما باید به جای خطر فرضی که هوش مصنوعی بشریت را نابود می کند، روی آن تمرکز کنیم.

در حال حاضر نمونه های زیادی از هوش مصنوعی وجود دارد که مزایایی را برای جامعه به ارمغان می آورد. هفته گذشته یک ابزار هوش مصنوعی آنتی بیوتیک جدیدی را کشف کرد و یک مرد فلج به لطف یک ریزتراشه که با استفاده از هوش مصنوعی ساخته شده بود، تنها با فکر کردن به آن توانست دوباره راه برود.

تماشا کنید: جفری هینتون، پدرخوانده هوش مصنوعی، خطرات هوش مصنوعی را با خروج از گوگل به بی بی سی گفت.

هوش مصنوعی پدر هوش مصنوعی هوش

سیداحمد

امیدوارم به بهتر شدن کمک کنم. در تلگرام و اینستاگرام پیام بفرست، SeyedAhmaddv - ارشد نرم افزار، توسعه دهنده ری اکت و نکست

شاید از این پست‌ها خوشتان بیاید