یکی از بنیانگذاران OpenAI که تا ماه گذشته نیز به عنوان دانشمند ارشد آن خدمت می کرد، یک شرکت جدید را تنها با هدف ایجاد “ابر هوش ایمن” راه اندازی کرده است.
Ilya Sutskever یکی از مهم ترین چهره ها در دنیای هوش مصنوعی مولد است، از جمله در توسعه مدل هایی که منجر به ChatGPT شد.
📷
در سال‌های اخیر تمرکز او بر روی همسویی فوق‌العاده بوده است ، به‌ویژه تلاش می‌کند اطمینان حاصل کند که هوش مصنوعی فوق‌هوشمند خواسته ما را انجام نمی‌دهد. او یکی از اعضای هیئت مدیره ای بود که در اوایل سال جاری سم آلتمن را اخراج کرد و پس از بازگشت آلتمن از سمت خود استعفا داد.
این همان چیزی است که او امیدوار است با شرکت جدید خود SSI Inc ادامه دهد. این اولین آزمایشگاه هوش مصنوعی است که هوش مصنوعی عمومی (AGI) را نادیده می گیرد و مستقیماً به سراغ ابر مغز الهام گرفته از علمی تخیلی می رود. این شرکت در X نوشت: «تیم، سرمایه‌گذاران و مدل کسب‌وکار ما همگی برای دستیابی به SSI هماهنگ هستند.
بنیانگذاران این پروژه Sutskever، Daniel Gross، سرمایه‌گذار سابق هوش مصنوعی اپل در محصولات هوش مصنوعی و Daniel Levy، رهبر سابق بهینه‌سازی OpenAI و متخصص در حریم خصوصی هوش مصنوعی هستند.
ابر هوش در دسترس است. ساخت ابرهوش ایمن (SSI) مهمترین مشکل فنی زمان ما است. ما اولین آزمایشگاه SSI را با یک هدف و یک محصول راه اندازی کرده ایم: یک ابرهوش ایمن. نام آن ایمن است. ابراطلاعات… 19 ژوئن 2024
ابرهوش مصنوعی (ASI) هوش مصنوعی با سطح هوشی فراتر از انسان است. به گفته IBM، در اساسی ترین سطح، این هوش مصنوعی فوق هوشمند دارای عملکردهای شناختی پیشرفته و مهارت های تفکر بسیار پیشرفته تر از هر انسانی است.
برخلاف AGI که عموماً هوشمندتر از انسان‌ها است، ASI باید در همه زمینه‌ها از جمله استدلال و شناخت بسیار باهوش‌تر باشد.
یکی از جنبه‌های ابر هوش، هوش مصنوعی است که می‌تواند هوش و قابلیت‌های خود را بهبود بخشد و به فاصله بیشتر بین توانایی‌های انسان و هوش مصنوعی منجر شود.
مشکل ایجاد یک مدل هوش مصنوعی باهوش تر از بشریت این است که کنترل آن یا جلوگیری از پیشی گرفتن آن از ما دشوار است. اگر به درستی با ارزش ها و منافع انسانی هماهنگ نباشد، می تواند نابودی بشریت را انتخاب کند.
برای حل این مشکل، هر شرکتی که روی هوش مصنوعی پیشرفته کار می کند، تکنیک های هم ترازی را نیز توسعه می دهد. این رویکردها از سیستم‌هایی که بر روی مدل هوش مصنوعی کار می‌کنند و سایر روش‌هایی که در کنار آن آموزش دیده‌اند، متفاوت هستند. این رویکرد SSI Inc است.
SSI می گوید تمرکز انحصاری بر روی ابر هوش به آنها اجازه می دهد تا از توسعه آن در کنار همسویی و ایمنی اطمینان حاصل کنند. آنها در X نوشتند: “SSI ماموریت ما، نام ما و کل نقشه راه محصول ما است، زیرا تنها تمرکز ما بر آن است.”
این شرکت افزود: «ما به ایمنی و قابلیت‌ها به عنوان مشکلات فنی که باید از طریق مهندسی انقلابی و پیشرفت‌های علمی حل شوند، در کنار هم نگاه می‌کنیم». ما قصد داریم قابلیت‌ها را در سریع‌ترین زمان ممکن پیش ببریم و در عین حال مطمئن شویم که ایمنی ما همیشه در پیش است.»
