یک دستیار شخصی قرار است برخی از کارهایی که من میخواهم انجام دهم را بعهده بگیرد. از این رو به خدمت گرفتن یک دستیار شخصی در واقع برون سپاری بخشی از کارهای من است. دستیار شخصی من برایم تاکسی آنلاین می گیرد، بلیط هواپیما رزرو میکند، قرارهایم را به من یادآوری می کند و نزدیکترین پمپبنزین را به من نشان میدهد. دستیار شخصی من همچنین می تواند بخشی از ارتباطات میان فردی من را انجام دهد. می تواند از طرف من پیام ارسال کند و با دیگران ارتباط بگیرد. دستیارهای شخصی می توانند پیام هایی را که ما مدت ها پیش برایشان نوشتهایم در زمان های مناسب از طرف ما ارسال کنند، یا این که خودشان پیام های مناسب را یافته و بسته به مناسبت ارسال کنند.
اما دغدغهای که امروز به یک چالش جدی تبدیل شده است این است که در برخی زمینههای ارتباطات بین فردی، چنین برون سپاریای اساساً در تضاد با شاکله این روابط است. قوام یک رابطه صمیمی در تعهد و زمانی است که طرفین به یکدیگر اختصاص می دهند. به بیان سِلینگر (2014) فناوری هایی که برای مثال اقدام به ارسال خودکار پیامهای احساسی به نزدیکان میکنند، مشکل دارند چرا که در ذات آن ها یک فریب نهفته است. «این سرویس ها در زمینه هایی کار میکنند که تعهد به صداقت پیش فرض گرفته میشود ولی این سرویسها، این ارزش های اخلاقی را کنار می زنند یا موانعی میبینند که بایستی بر آنها غلبه کرد». در مثال دستیارهای شخصی، فرض کنید پیامک تبریک تولدی که از دوستتان به شما میرسد به صورت خودکار ارسال شده و رفیقتان هیچ نقشی در آن نداشته جز آنکه ۶ ماه پیش به دستیار شخصیاش گفته است هنگام تولد دوستانم چنین پیامی را ارسال کن! آیا همچنان چنین پیام تبریکی برای شما دارای ارزش است؟
در مقاله ای که اخیرا در مجله فلسفه و فناوری به چاپ رسیده است، داناهِر (2018) می نویسد:
وقتی که از دستیاران هوشمصنوعی در روابط شخصی استفاده میکنیم، بایستی دقت کنیم که ارزش اولیه برخی از چنین تعاملاتی از درگیری آگاهانه و بی واسطه شخص نشات می گیرد. تا جایی که دستیاران هوش مصنوعی در پی جایگزینی این درگیری آگاهانه و بی واسطه هستند، بایستی از آنها اجتناب کرد. با این وجود، در بسیاری از موارد دیگر ارزش این تعاملات محدود به محتوا و اثری است که می گذارند، در این موارد استفاده از دستیاران هوش مصنوعی می تواند مفید باشد به این شرط که به صورت فریبکارانه استفاده نشوند.
نکته جالبی که سلینگر روی آن دست می گذارد این است که در برخی از زمینه ها یک سری ارزش های نهفته و ضمنی وجود دارد. در واقع این ارزش های نهفته و ضمنی است که این زمینه ها را می سازد و آن ها را از دیگر فعالیت ها متمایز می سازد. حال برون سپاری کار من به یک هوش مصنوعی در این زمینهها، ناقض چیزی است که این زمینه ها را ساخته است. چیزی که روابط صمیمی بین فردی را از دیگر تعاملات انسانی متفاوت میکند یک تعهد بیغل و غش و مستقیم و بیواسطه است. اگر پای یک هوش مصنوعی به مدیریت این روابط کشیده شود، از اهمیت و ارزش این امور سوء استفاده کردهایم. قوام روابط خانوادگی و عاطفی به تعهد مستقیم و آگاهانه ای است که افراد درگیر این روابط نسبت به همدیگر دارند. چیزی که پدر من را از یک همکار تازه وارد متمایز می کند، یک تعهد دو طرفه است که سالیان سال نهادینه شده است، استفاده از ابزاری که نمی تواند ارزشی برای این رابطه قائل شود در چنین رابطهای خالی از مشکل نیست.