نوشته های هوش سامان

The big idea: Should we worry about artificial intelligence?

هوش سامان — Sun, 12 Feb 2023 14:56:59 +0330

Ever since Garry Kasparov lost his second chess match against IBM’s Deep Blue in 1997, the writing has been on the wall for humanity. Or so some like to think. Advances in artificial intelligence will lead – by some estimates, in only a few decades – to the development of superintelligent, sentient machines. Movies from The Terminator to The Matrix have portrayed this prospect as rather undesirable. But is this anything more than yet another sci-fi “Project Fear”?Sign up to our Inside Saturday newsletter for an exclusive behind the scenes look at the making of the magazine’s biggest features, as well as a curated list of our weekly highlights.Some confusion is caused by two very different uses of the phrase artificial intelligence. The first sense is, essentially, a marketing one: anything computer software does that seems clever or usefully responsive – like Siri – is said to use “AI”. The second sense, from which the first borrows its glamour, points to a future that does not yet exist, of machines with superhuman intellects. That is sometimes called AGI, for artificial general intelligence.How do we get there from here, assuming we want to? Modern AI employs machine learning (or deep learning): rather than programming rules into the machine directly we allow it to learn by itself. In this way, AlphaZero, the chess-playing entity created by the British firm Deepmind (now part of Google), played millions of training matches against itself and then trounced its top competitor. More recently, Deepmind’s AlphaFold 2 was greeted as an important milestone in the biological field of “protein-folding”, or predicting the exact shapes of molecular structures, which might help to design better drugs.Machine learning works by training the machine on vast quantities of data – pictures for image-recognition systems, or terabytes of prose taken from the internet for bots that generate semi-plausible essays, such as GPT2. But datasets are not simply neutral repositories of information; they often encode human biases in unforeseen ways. Recently, Facebook’s news feed algorithm asked users who saw a news video featuring black men if they wanted to “keep seeing videos about primates”. So-called “AI” is already being used in several US states to predict whether candidates for parole will reoffend, with critics claiming that the data the algorithms are trained on reflects historical bias in policing.A real AI, Nick Bostrom suggests, might manufacture nerve gas to destroy its inferior, meat-based makersComputerised systems (as in aircraft autopilots) can be a boon to humans, so the flaws of existing “AI” aren’t in themselves arguments against the principle of designing intelligent systems to help us in fields such as medical diagnosis. The more challenging sociological problem is that adoption of algorithm-driven judgments is a tempting means of passing the buck, so that no blame attaches to the humans in charge – be they judges, doctors or tech entrepreneurs. Will robots take all the jobs? That very framing passes the buck because the real question is whether managers will fire all the humans.The existential problem, meanwhile, is this: if computers do eventually acquire some kind of god‑level self-aware intelligence – something that is explicitly in Deepmind’s mission statement, for one (“our long-term aim is to solve intelligence” and build an AGI) – will they still be as keen to be of service? If we build something so powerful, we had better be confident it will not turn on us. For the people seriously concerned about this, the argument goes that since this is a potentially extinction-level problem, we should devote resources now to combating it. The philosopher Nick Bostrom, who heads the Future of Humanity Institute at the University of Oxford, says that humans trying to build AI are “like children playing with a bomb”, and that the prospect of machine sentience is a greater threat to humanity than global heating. His 2014 book Superintelligence is seminal. A real AI, it suggests, might secretly manufacture nerve gas or nanobots to destroy its inferior, meat-based makers. Or it might just keep us in a planetary zoo while it gets on with whatever its real business is.AI wouldn’t have to be actively malicious to cause catastrophe. This is illustrated by Bostrom’s famous “paperclip problem”. Suppose you tell the AI to make paperclips. What could be more boring? Unfortunately, you forgot to tell it when to stop making paperclips. So it turns all the matter on Earth into paperclips, having first disabled its off switch because allowing itself to be turned off would stop it pursuing its noble goal of making paperclips.

آمریکا در هوش مصنوعی از چین عقب ماند!

هوش سامان — Mon, 06 Feb 2023 13:58:34 +0330

نبرد بین چین و آمریکا در AI به نفع چه کسی تمام می‌شود؟ در حال حاضر آمریکا و چین در حوزه‌های امنیتی و نظامی در حال رقابت‌اند. بر اساس گفته‌های نیکلاس چایلان، رئیس سابق نرم‌افزار پنتاگون چین از آمریکا در هوش مصنوعی جلو زده است و هدف اصلی آن‌ها این است که آمریکا همیشه در ریسک باشد. بااین‌حال راج ایر، فرمانده ارتش ایالات متحده معتقد است این حرف‌ها صحت ندارد. راج ایر می‌گوید اطلاعات زیادی در مورد هوش مصنوعی وجود دارد که در اختیار ارتش و شرکت‌های هوشمند است. این داده‌ها بسیار زیاد است و بر اساس استراتژی پیش می‌رود که با چینی‌ها قابل‌ مقایسه نیست.چینی‌ها آب در هاون می‌کوبند!تنها راهی که می‌توان تکه‌هایی از این نوع اطلاعات را به دست آورد، جرایم سایبری، جاسوسی و سایر روش‌های پلید است. درست است که چین در به‌کارگیری AI قوی‌تر عمل کرده است ولی هزینه‌ی این کار، نادیده‌ گرفتن آزادی افراد و حقوق انسانی است. دولت چین از هوش مصنوعی برای کنترل زندگی مردم و کاهش جمعیت استفاده می‌کند.درحالی‌که داده‌های ایالات‌متحده در گذشته از مرزها عبور کرده است، این تخلفات در مقایسه با سیستم اعتبار اجتماعی چین در آمریکا بسیار کمرنگ شده است. در چین روش‌های شناسایی دیجیتال و سایر ابزارهای سرکوب توسط حزب کمونیست اجرا می‌شود.آیا آمریکا در هوش مصنوعی عقب‌نشینی می‌کند؟چالیان چنین فکر می‌کند که حقوق بشر و آزادی شخصی فراموش ‌شده است. بر اساس مقاله رویترز، او می‌گوید بی‌میلی شرکت‌های آمریکایی مانند آلفبت گود -1.41 برای همکاری با دولت در زمینه هوش مصنوعیو بحث‌های اخلاقی گسترده در مورد این فناوری نشان‌دهنده رعایت نشدن حقوق مردم است. درحالی‌که شرکت‌های چینی موظف به همکاری با دولت خود هستند و متأسفانه چینی‌ها در این نبرد سرمایه‌گذاری‌های هنگفتی را بدون رعایت اصول اخلاقی انجام می‌دهند.همه‌ی این مشکلات به دلیل یک آموزش اشتباه است. در قرن نوزدهم سرگئی نچایف، رویکرد «هدف وسیله را توجیه می‌کند» را در انقلاب روسیه ابداع کرد. این طرز تفکر به دولت‌مردان اجازه می‌دهد که با خودرأی بودن از هر روشی برای پیشرفت و رقابت با سایر کشورها استفاده کنند. همان‌طور که در حال حاضر ابرقدرت‌ها، به این بهانه که در حال تقویت قدرت خود هستند و به ابزارهای خاصی نیاز دارند از کشورهای جهان سوم سواستفاده می‌کنند.حال سوال اصلی اینجاست. آمریکا تا کجا پیش رفته است؟در اوایل سال جاری، گزارشی با حمایت دفتر معاون رئیس ستاد ارتش ایالات‌متحده منتشر شد. این سند تأکید می‌کند که آخرین اتحاد چین و روسیه که در سال ۲۰۱۴ آغاز شده است، هنوز در سال ۲۰۲۱ وجود دارد و به‌احتمال زیاد در آینده هم ادامه خواهد داشت. این گزارش نشان می‌دهد آمریکا باید عملکرد متفاوتی را برای چین در نظر بگیرد. بر طبق این گزارش این دو کشور توافق کرده‌اند که اطلاعات مهم در حوزه‌ی تکنولوژی را به اشتراک بگذارند، اطلاعاتی مانند وسایل نقلیه مافوق صوت، سیستم‌های ضد فضایی و هوش مصنوعی. البته باید اشاره‌کرده که این ائتلاف شریک قدرتمندی را برای چین فراهم کرده است، ولی این همکاری در صورتی ضروری بوده که هر دو کشور شانس کمی در برابر آمریکا، کشوری با بیشترین هزینه نظامی در جهان، داشته باشند.البته باید به یاد داشته باشیم که چین کشوری است که باید در آینده با بحران جوان‌سازی جمعیت دست‌وپنجه نرم کند و استفاده از هوش مصنوعی می‌تواند یک شمشیر دو لبه تیز باشد که چین را به نابودی بکشاند. برای همین است که چین به متحدهای دیگر نیاز دارد. برای بررسی فرضیه‌ای که توسط رئیس سابق نرم‌افزار پنتاگون ارائه شده است هنوز زود است و باید منتظر اتفاقات آینده باشیم.همیشه باید گوش‌به‌زنگ بودآیا این هشدار وحشتناک در ایالات‌متحده باید تبدیل به یک‌ فوریت نظامی شود؟ آیا این احساس خطر این اجازه را به آمریکا می‌دهد که سیاست‌های خود را تغییر دهد؟ برای این نتیجه‌گیری هنوز زود است ولی همه می‌دانیم که این‌چنین درگیری‌ها و احساس خطرها برای اولین بار نبوده و آخرین بار هم نیست. در جهان اکنون، ما با مشکلات متفاوتی روبه‌رو هستیم. از گرمای جهانی گرفته تا بهداشت عمومی و این خطرات بهانه‌های خوبی برای کشورهای قدرتمند هستند تا نفوذ خود را در سایر کشورها بیشتر کنند.هوش مصنوعی یک علم اصلی و پایه‌ای است که می‌تواند در سایر علوم به کار گرفته شود. همچنین، AI یک حامی عالی برای پیشرفت سایر علوم از صنایع و کارخانه‌ها گرفته تا ارتش است. اینکه آمریکا برای بهبود عملکرد از AI استفاده کند ایده‌ی بدی نیست. ما باید به سمت آینده حرکت کنیم و برای این حرکت باید حقوق شخصی انسان‌ها را رعایت کنیم. اگر آمریکا قوانین انسانی را زیر پا بگذارد تا بتواند خود را به چین برساند فرقی با سایر کشورهای متجاوز نخواهد داشت.باید امید داشت دولت آمریکا با وجود این فشارها و مخالفت‌ها راه درستی را انتخاب کند و نه‌تنها به متحدهای خود احترام بگذارد بلکه به مردم آمریکا نیز خدمت کند.https://hooshsaman.com/

هوش مصنوعی نژادپرست است؟

هوش سامان — Wed, 10 Aug 2022 19:01:11 +0430

دستیارهای هوشمندی مثل Siri اپل، هوش مصنوعی را به زندگی ما وارد کردند. اما این هوش مصنوعی که تقلیدی از هوش و رفتارهای انسانی است تا چه حد می‌تواند زندگی بهتری برای بشر ایجاد کند؟ از مقاله‌ای که فیلسوف بزرگ هایدگر درباره تکنولوژی نوشته است تا کتاب‌ها و فیلم‌های علمی-تخیلی و حتی همین الان و در میان گفتگوهای میان دانشمندان و علاقمندان تکنولوژی این انتقاد همیشه مطرح بوده است که تکنولوژی چه سویه‌های منفی دارد و چطور ممکن است زندگی انسان را با آسیب‌ها و خطرات جدید روبرو کند. حالا در یک تحقیق جدید سوگیری نژادپرستانه هوش مصنوعی این انتقادها را پر رنگ‌تر کرده و ضرورت توجه به آن را گوشزد می‌کند.پژوهشی که هوش مصنوعی را نژادپرست می‌داندبر اساس تحقیقات بولاموینی، سه برنامه تحلیلی صورت تجاری منتشر شده از شرکت‌های بزرگ فناوری آمریکایی، سوگیری‌هایی نسبت به نوع پوست و جنسیت را نشان می‌دهند. بر اساس مقاله‌ای که در MIT News منتشر شد، نتایج تحقیقاتش این بود که درصد خطا در تعیین جنسیت مردان با پوست روشن، از 0.8٪ بیشتر نیست. اما این عدد در یکی از سه برنامه به بیش از 20٪ می‌رسد و در دو مورد دیگر برای زنان با پوست تیره‌تر به ۳۴ درصد می‌رسد. محققان یک شرکت فناوری بزرگ ادعا کردند که سیستم تشخیص چهره آنها بیش از ۹۷ درصد دقیق است. بااین‌حال، مشخص شد که شرکت‌کنندگانی که به‌عنوان مجموعه‌داده برای آزمایش سیستم فوق‌الذکر انتخاب شده‌اند، شامل یک نمونه نامتعادل و ناهمگن، با تعداد مردان بیشتر از زنان، همچنین بیشتر و صرفاً از یک قومیت خاص است تا قومیت‌های دیگر.هوش مصنوعی صلاحیت اجرای قانون را داردهمان‌طور که می‌دانید هوش مصنوعی در اجرای قانون نیز استفاده می‌شود که بهAlgocracy معروف است. در ایالات متحده، مقامات از هوش مصنوعی برای پیش‌بینی میزان تکرار جرم استفاده کرده‌اند که احتمال ارتکاب مجدد همان جرم جنایی توسط یک مجرم را در نظر می‌گیرد. یکی از این نرم‌افزارهای مورداستفاده برای هدف ذکر شده (COMPAS) نام دارد.اما مشخص شد که COMPAS عملکردی مغرضانه دارد چرا که نرخ بالایی در ارائه آمار تکرار جرم برای افراد سیاه‌پوست دارد و متأسفانه این تبعیض نژادی در برابر قانون و دادگاه عدالت، جایی که همه چیز باید حول محور انصاف و درستی بچرخد، فقط نام عدالت را تضعیف می‌کند.جنسیت‌گرایی هوش مصنوعی از آمریکا تا چیناما این موضوع فقط در ایالات متحده وجود ندارد! در چین، گزارشی توسط، یک بنیاد رفاه عمومی مستقر در شانگهای و زنان سازمان ملل منتشر شد که تبعیض جنسی سامانمند، به‌ویژه علیه زنان، در موتورهای جستجوی شرکت‌های فناوری بزرگ چینی مانند Baidu، Sogou و 360 را نشان داد. کلماتی مانند مدیرعامل '، 'مهندس' یا 'دانشمند' بیشتر تصاویر مردان را نشان می‌داد، درحالی‌که جستجوی کلمات کلیدی مانند 'زن' یا 'زنانه' اغلب مطالب مستهجن و اطلاعات جنسی مرتبط با زنان را نشان می‌داد!به‌این‌ترتیب، مسائل اجتماعی که در حال حاضر جوامع ما را تحت‌تأثیر قرار می‌دهد، ممکن است با استفاده از هوش مصنوعی تداوم یابد، اول از همه به این دلیل که هوش مصنوعی تقلیدی از رفتار و تفکر انسان است که به طرزی باورنکردنی همچنان رفتارهای و نگرش‌های جنسیت‌زده و نژادپرستانه داد، بنابراین اگر سوگیری جنسیتی و نوع پوست در هوش مصنوعی موردتوجه قرار نگیرد و حل نشود، می‌تواند بر درک آنها تأثیر گذاشته و باعث بروز مشکلات بزرگی شود. چطور هوش مصنوعی بدون تبعیض داشته باشیمهوش مصنوعی را انسان‌ها توسعه می‌دهند، مادامیکه انسان‌ها نگرشی برابر به افراد با جنسیت‌ها و نژادهای مختلف نداشته باشند به هوش مصنوعی نیز این نگرش را می‌آموزند که همه نژادها و جنسیت‌ها جایگاه برابری ندارند. هوش مصنوعی از داده‌ها تغذیه می‌شود و مادامیکه داده‌ها در وب‌سایت‌ها و دیتاست‌ها تبعیض‌آمیز باشد هوش مصنوعی نیز رفتار تبعیض‌آمیزی از خود نشان خواهد داد. برای آنکه هوش مصنوعی نتایج تبعیض‌آمیزی نداشته باشد لازم است که افرادی که این فناوری را توسعه می‌دهند نگرش تبعیض‌آمیزی نداشته باشند.

اشتیاق به پیشرفت و علاقه به تکنولوژی، تجربه حضور در نمایشگاه شهر هوشمند

هوش سامان — Wed, 13 Jul 2022 15:33:55 +0430

هوش‌سامان از ۱۲ تا ۱۴ تیرماه ۱۴۰۱ در سومین نمایشگاه شهر هوشمند حضور داشت. ما بر روی ویدئووالی که در ورودی نمایشگاه مستقر بود چهره افرادی که به سالن نمایشگاه وارد می‌شدند را مشخص می‌کردیم و سامانه تشخیص چهره هوش‌سامان به صورت آنلاین تعداد افراد و حالت چهره آن‌ها را نمایش می‌داد. برخی با ایموجی خوشحال و خندان، برخی ناراحت، بعضی بی احساس و بعضی افراد عصبانی بودند. علاقه‌ بازدیدکنندگان نمایشگاه به دموی محصول تشخیص چهره هوش‌سامان نشان‌دهنده اشتیاقی فراگیر به تکنولوژی و فناوری‌های جدید بود. برخی برای مدت طولانی جلوی ویدئو وال یا صفحه مانیتور غرفه می‌ایستادند و به چهره خود که توسط موتور هوش مصنوعی شناسایی شده و سن و جنسیتی که سامانه تشخیص چهره تخمین زده است نگاه می‌کردند.علاقمندی به این محصولات هوش‌سامان در میان کسب‌وکارها بیشتر بود، ارتباط برقرار کردن بین کسب‌وکارهای مختلف با هوش مصنوعی و درخواست و سفارش برای شناسایی اشیا، افراد خاص، چهره حیوانات و ... مطرح می‌شد چون افراد زیادی به توان هوش مصنوعی پی برده بودند و می‌دانستند این قابلیت‌ها تا چه حد می‌تواند کارهای آن‌ها را سرعت ببخشد و یا خطاهای انسانی را کاهش دهد. چراکه بی تردید کسب‌وکاری که امروز به فکر استفاده از هوش مصنوعی باشد آینده‌ای روشن دارد و پیشگام حوزه صنعت و خدمت خود خواهد بود.تشخیص چهره