چه کسی واقعا پشت تلفن است؟ همسرم یا دستیار شخصی همسرم؟

در خانه نشسته اید و مشغول خوردن یک لیوان قهوه داغ هستید. تلفن زنگ می زند. گوشی را بر می دارید:

• - سلام
• - سلام بفرمایید
• - اینترنت پرسرعت در منطقه شما عرضه شده است. کافی است …

با اخم و تخم گوشی را می گذارید. اگر بخواهیم صادق باشیم شما فریب سلام این اپراتور مصنوعی را خوردید. آیا ممکن است در آینده فریب چند جمله بعدی اپراتور را نیز بخورید و مدتی مشغول گپ و گفت با یک هوش مصنوعی شوید؟

نیازی نیست تا خیلی منتظر آینده بمانید. گوگل در بهار 97 از سرویس جدیدی برای دستیار شخصی خود پرده برداری کرد که می تواند به نیابت از شما به آرایشگاه زنگ بزند و برای شما وقت بگیرد. آرایشگر ممکن است بگوید که زمان مد نظر پر است و دستیار صوتی شما زمان دیگری را بر اساس تقویم شما پیشنهاد می دهد. وقت آرایشگاه شما تنظیم شده است بدون آن که آرایشگر لحظه ای شک کرده باشد که مشغول صحبت با یک هوش مصنوعی است.

در سالن پر از جمعیت، تست این سرویس آنقدر حیرت انگیز بود که صدای تحسین و تعجب تماشاگران را برانگیخت. این هوش مصنوعی قادر است با قراردادن اصواتی چون «اوممممم» و «به نظر» در میان جملاتش کلامش را کاملا شبیه یک انسان واقعی کند. صد البته این برنامه هیچ نیازی به این طبیعی سازی ندارد، این مخاطبان هستند که قرار است تحت تاثیر میزان طبیعی بودن این هوش مصنوعی قرار گیرند.

گوگل دوپلکس هم اکنون در زمینه خیلی محدودی عمل می کند، مانند رزرو وقت برای رستوران و آرایشگاه. برای این که این سرویس بتواند کارآمد باشد بایستی زمینه کاملا مشخص و محدود باشد ولی با این وجود موفقیت آن در این زمینه‌های مشخص غیر قابل انکار است.

وقتی که ذوق و حیرت مخاطبان از این سرویس بی نظیر گوگل اندکی فروکش کرد، بلافاصله سوالاتی اخلاقی به ذهن بسیاری از مخاطبان خطور کرد؛

آیا کاری که این سرویس انجام می دهد مصداقی از فریب کاری نیست؟

آیا شخص پشت تلفن حق ندارد که بداند دارد با یک هوش مصنوعی صحبت می کند؟

مسائل اخلاقی زمانی چالش برانگیز تر می‌شوند که می فهمیم رعایت اخلاق ممکن است منافعمان را به خطر بیندازد. آیا اگر شما بدانید که دارید با یک هوش مصنوعی صحبت می کنید همان واکنشی را خواهید داشت که با یک انسان واقعی صحبت می کنید؟ آیا مانند ماجرای ابتدای مقاله بلافاصله گوشی را نمی گذارید؟ به نظر این طبیعی سازی (با اندکی چاشنی فریب) لازمه موفقیت این مکالمه و رسیدن آن به هدفش و کسب درآمد بیشتر است. در طرف مقابل، آیا این طبیعی بودن نمی تواند در آینده ابزاری برای کلاهبرداری از افراد شود؟

جالب است بدانید که دامنه کاربرد این سرویس بسته به جوابی است که به این سوال اخلاقی داده می شود. فرض کنید که تصمیم گرفته شود که این سرویس گوگل در آغاز مکالمه خودش را یک بات معرفی بکند:

سلام! من بات گوگل هستم و از طرف آقای ایکس تماس می گیریم، آیا می شود اممم... یک وقت آرایش برای عه... سه شنبه برای من رزرو کنید؟

به نظر کل جذابیت این پروژه اینگونه از بین می رود. اگر داریم با یک هوش مصنوعی صحبت می کنیم ترجیح می دهیم مثل یک هوش مصنوعی با ما صحبت شود. به علاوه با افزودن این جمله در ابتدای مکالمه دیگر باید قید بسیاری از تماس هایی که گوگل می تواند برایتان بگیرد را بزنید. فرض کنید که می خواهید تولد عزیزی را تبریک بگویید ولی به خاطر مشغله و این که همیشه در به یاد داشتن تولدها افتضاح هستید این مسئولیت خطیر را به دستیار گوگل سپرده اید! حال اگر قرار باشد در اول تماس دستیار گوگل خود را معرفی کند، شاید سبب شود که آرزو کنید که تولد یادتان رفته بود. فراموشی کردن تولد از سپردن تبریک تولد به دستیار گوگل بهتر نیست؟ یا فرض کنید یکی از دوستانتان پیامک تبریک تولد برای شما ارسال کرده اما این پیامک به صورت خودکار توسط دستیار شخصی گوگل وی برایتان ارسال شده! آیا هم‌چنان این پیام تبریک حائز ارزش اخلاقی است؟

زمانی این فناوری می تواند برای آشنایان و نزدیکان فریبکارانه تر شود که با فناوری تقلید صدا ترکیب شود. سامسونگ بیکسبی هم اکنون مشغول کار روی فناوری‌ای است که دستیار صوتی صدای شخص را تقلید می کند. این شرکت هم اکنون این فناوری را به صورت محدود روی بیماران MND/ALS که به تدریج مهارت تکلم را از دست می دهند پیاده سازی کرده است تا صدای آن ها برای نزدیکانشان باقی بماند. ترکیب این فناوری با طبیعی ساز گوگل دوپلکس می تواند حتی نزدیکترین افراد به شما را هم فریب دهد. شاید مجبور شویم در آینده نزدیک به فکر راه های پیچیده ای باشیم که مطمئن شویم کسی که پشت تلفن است واقعا همسر ماست!

اگر هم اکنون به این مسائل فکر نکنیم ممکن است خیلی زود دیر شود. در ذیل این سوالات است که مدیر عامل گوگل، سوندار پیچای، پس از این معرفی جذاب نوشت که ما در سال آینده این سرویس را همگانی نمی کنیم. ما می خواهیم تا آهسته آهسته و با چشم باز جلو رویم تا از مشکلات و دغدغه های احتمال در امان باشیم.