هشدار یک محقق: هوش مصنوعی می‌تواند به سرعت سلاح‌های شیمیایی کشنده تولید کند

بسیاری از بحث‌های عمومی در مورد خطرات هوش مصنوعی، «تسلط بر هوش مصنوعی» را تغییر می‌دهد. این به سختی خطر جدی ای است که ما با آن روبرو هستیم

گاهی اوقات خطرات هوش مصنوعی خارج از کنترل (AI) به اشتباه ارائه می شود. نسخه علمی تخیلی این است که هوش مصنوعی تصمیم می گیرد مانند HAL 9000 نمادین در فیلم A Space Odyssey از انسان ها استفاده کند.

یک خطر محتمل تر، بازیگران بدی است که از قدرت محاسباتی عظیم استفاده می کنند تا آسیب هایی را ایجاد کنند که به تنهایی قادر به مدیریت آن نبودند. در اینجا یک مثال تکان دهنده آورده شده است:

"کمتر از شش ساعت طول کشید تا هوش مصنوعی که در حال توسعه دارو بود، 40000 مولکول بالقوه کشنده را اختراع کند. محققان، ،هوش مصنوعی را که معمولاً برای جستجوی داروهای مفید استفاده می‌شود، در حالت «بازیگر بد» قرار می‌دهند تا نشان دهند که چقدر راحت می‌توان از آن در کنفرانس کنترل تسلیحات بیولوژیکی سوء استفاده کرد.

تنها کاری که محققان باید انجام می‌دادند این بود که روش‌شناسی خود را به‌جای از بین بردن سمیت، جستجو کنند. هوش مصنوعی ده ها هزار ماده جدید را ارائه کرد که برخی از آنها شبیه به VX هستند، قوی ترین عامل عصبی که تا به حال ساخته شده است. آنها یافته های خود را در این ماه در یک ژورنال منتشر کردند"

وقتی The Verge با نویسنده اصلی مقاله، فابیو اوربینا، مصاحبه کرد، او خاطرنشان کرد:

" برای من، نگرانی این بود که انجام آن چقدر آسان است. بسیاری از چیزهایی که ما استفاده کردیم رایگان هستند. می توانید بروید و مجموعه داده سمیت را از هر کجا دانلود کنید. اگر کسی را دارید که می داند چگونه در پایتون کدنویسی کند و برخی از قابلیت های یادگیری ماشین را دارد، احتمالاً در یک آخر هفته خوب، آنها می توانند چیزی شبیه به این مدل تولیدی را که توسط مجموعه داده های سمی هدایت می شود، بسازند. بنابراین این چیزی بود که ما را وادار به فکر کردن در مورد انتشار این مقاله در آنجا کرد. این یک مانع ساده برای ورود این نوع سوء استفاده بود."

هوش مصنوعی موادی شبیه به VX، قوی‌ترین عامل عصبی شناخته شده را ارائه کرد:

نگه داشتن درپوش کار آسانی نیست. اما شاید بتوانیم با تشخیص اینکه این انسان ها هستند که انگیزه را تامین می کنند شروع کنیم. هوش مصنوعی تسلط ندارد. این فقط به آنها کمک می کند تا کاری را که می خواهند انجام دهند بسیار سریعتر انجام دهند.