در دنیای امروز، هوش مصنوعی (AI) و کلانداده (Big Data) نقش بیبدیلی در فرآیندهای تصمیمگیری ایفا میکنند. سازمانها و نهادهای مختلف، از بازارهای مالی و شرکتهای بزرگ گرفته تا بیمارستانها و دولتها، برای تحلیل اطلاعات و انتخاب استراتژیهای کلان، به این فناوریها متکی شدهاند. دلیل این موضوع روشن است: حجم عظیم دادهها و سرعت تغییرات محیطی باعث شده است که تصمیمگیری سنتی دیگر پاسخگوی نیازها نباشد. الگوریتمها میتوانند در چند ثانیه الگوهایی را شناسایی کنند که شاید حتی یک تیم متخصص انسانی طی سالها متوجه آن نشود.
با وجود این مزایا، یک مسئله مهم همچنان حلنشده باقی مانده است: شفافیت و اعتماد. بسیاری از الگوریتمهای هوش مصنوعی مانند یک جعبه سیاه عمل میکنند؛ نتیجه را به ما میگویند، اما نمیتوانیم دقیقاً بفهمیم چرا به آن نتیجه رسیدهاند. این عدم شفافیت میتواند تبعات سنگینی به همراه داشته باشد؛ از ایجاد بیاعتمادی عمومی گرفته تا بروز تبعیض و نقض اصول اخلاقی. بنابراین، اگرچه فناوری هوش مصنوعی آینده تصمیمگیری را دگرگون کرده است، اما بدون چارچوبهای اخلاقی و حکمرانی مشخص، این آینده با خطرات جدی روبهرو خواهد بود.
در واکنش به همین چالشها، مفهوم هوش ترکیبی (Hybrid Intelligence) مطرح شده است. برخلاف تصور رایج که ماشینها بهتنهایی میتوانند جایگزین انسان شوند، هوش ترکیبی بر این باور استوار است که بهترین تصمیمها زمانی شکل میگیرند که تواناییهای پردازشی ماشین و قضاوت انسانی در کنار یکدیگر قرار گیرند.
ماشینها با قدرت بینظیر خود در پردازش دادههای عظیم و شناسایی الگوهای پیچیده، ابزارهای قدرتمندی برای تصمیمگیری هستند. اما آنها فاقد توانایی درک زمینههای فرهنگی، اجتماعی و اخلاقی هستند. در مقابل، انسانها میتوانند با بهرهگیری از تجربه، شهود و ارزشهای اخلاقی، جنبههایی را وارد تصمیمگیری کنند که برای الگوریتمها قابلدسترس نیست. هوش ترکیبی در واقع پلی میان این دو جهان است؛ پلی که اجازه میدهد نهتنها تصمیمات سریعتر و دقیقتر گرفته شوند، بلکه ارزشهای انسانی نیز در آن لحاظ شوند.
با این حال، ترکیب انسان و ماشین بهتنهایی کافی نیست. اگر چارچوب مشخصی برای حکمرانی (Governance) وجود نداشته باشد، همچنان خطر تصمیمهای ناعادلانه، ناقص یا حتی مخرب باقی خواهد ماند. حکمرانی به معنای مجموعهای از قوانین، اصول و سازوکارهایی است که تضمین میکنند تصمیمگیریهای هوشمندانه، شفاف، مسئولانه و منطبق با ارزشهای اجتماعی باشند.
نبود حکمرانی میتواند پیامدهای متعددی داشته باشد. برای مثال، الگوریتمهای یادگیری ماشینی اگر بدون نظارت رها شوند، ممکن است سوگیریهای پنهان در دادهها را بازتولید کنند و حتی آنها را تشدید نمایند. همین مسئله میتواند به تصمیماتی منجر شود که برخلاف عدالت اجتماعی یا اصول اخلاقی هستند. افزون بر این، کلاندادهها همواره خطر نقض حریم خصوصی و استفاده نادرست از اطلاعات شخصی را به همراه دارند. بنابراین حکمرانی، نه بهعنوان یک مرحلهی تکمیلی، بلکه بهعنوان یک بخش جداییناپذیر از طراحی سیستمهای هوش ترکیبی مطرح میشود.
در این میان، چارچوبی با نام Governance-Embedded Hybrid Intelligence (GHI) ارائه شده است که بهطور مشخص تلاش میکند حکمرانی را در قلب سیستمهای هوش ترکیبی جای دهد. این مدل بر سه رکن اصلی بنا شده است:
انسان: تصمیمگیرنده نهایی که وظیفه دارد قضاوت اخلاقی و تجربهی انسانی را وارد فرایند کند.
ماشین: پردازشگر سریع و دقیق دادهها که توانایی تحلیل حجم عظیمی از اطلاعات را دارد.
حکمرانی: چارچوبی از قوانین و استانداردها که شفافیت، مسئولیتپذیری و انطباق با اصول اخلاقی و حقوقی را تضمین میکند.
در این مدل، الگوریتمها باید توضیحپذیر (Explainable AI – XAI) باشند، به این معنا که تصمیمات آنها قابلتفسیر و قابلپیگیری باشد. همچنین، دادهها باید تحت یک نظام مدیریت کلانداده (Data Governance) نگهداری شوند تا کیفیت، امنیت و عدالت در استفاده از آنها تضمین شود. نهایتاً، این سیستم باید با چارچوبهای قانونی بینالمللی مانند GDPR همسو باشد تا اعتماد عمومی تقویت گردد.
پیادهسازی مدل GHI مزایای متعددی دارد. نخستین و شاید مهمترین مزیت آن ایجاد اعتماد است. وقتی کاربران بدانند که تصمیمات هوشمندانه نهتنها بر اساس دادههای دقیق، بلکه در چارچوب اصول اخلاقی و قانونی گرفته میشوند، اعتمادشان به این سیستمها افزایش مییابد.
علاوه بر این، چنین مدلی میتواند به کاهش خطرات ناشی از سوگیریهای الگوریتمی و تبعیضهای پنهان کمک کند. برای مثال، در حوزهی استخدام یا اعطای وام، الگوریتمها بدون نظارت ممکن است به نفع یک گروه خاص عمل کنند. اما با وجود حکمرانی، این خطر به حداقل میرسد. در بخش سلامت نیز، ترکیب تحلیلهای دقیق الگوریتمی با قضاوت انسانی پزشکان، میتواند منجر به تشخیصهای سریعتر و دقیقتر شود، در حالی که رعایت اصول اخلاق پزشکی هم تضمین میگردد.
البته پیادهسازی چنین مدلی خالی از چالش نیست. یکی از مهمترین چالشها، پیچیدگی بالای الگوریتمهای یادگیری عمیق است که توضیحپذیر کردن آنها کار آسانی نیست. همچنین، هماهنگسازی حکمرانی در سطح جهانی دشوار است، چرا که قوانین و مقررات در کشورهای مختلف تفاوتهای چشمگیری دارند. در نهایت، سازمانها باید سرمایهگذاری قابل توجهی برای طراحی، آموزش و نظارت بر این سیستمها انجام دهند که ممکن است برای برخی از آنها دشوار باشد.
جهان امروز بیش از هر زمان دیگری به تصمیمگیریهای سریع، دقیق و در عین حال منصفانه نیاز دارد. هوش مصنوعی و کلانداده ابزارهایی قدرتمند برای رسیدن به این هدف هستند، اما بدون نظارت و چارچوبهای اخلاقی میتوانند خطرناک باشند. هوش ترکیبی حکمرانیمحور (GHI) مدلی است که تلاش میکند این تعادل را برقرار کند؛ مدلی که در آن انسان و ماشین در کنار هم کار میکنند و حکمرانی بهعنوان ستون اصلی اعتماد، شفافیت و مسئولیتپذیری عمل میکند.
به بیان ساده، آیندهی تصمیمگیری نه در حذف انسان به نفع ماشین است و نه در چشمپوشی از تواناییهای هوش مصنوعی. آینده در همکاری این دو و در تعبیهی حکمرانی شفاف در قلب سیستمها نهفته است.
