ویرگول
ورودثبت نام
میثم
میثمهک و امنیت وب | هوش مصنوعی و پرامپت‌نویسی | مقاله و کپشن تخصصی | لینوکس و طراحی سایت |مشاوره امنیت و تولید محتوا https://rubika.ir/meisammir6
میثم
میثم
خواندن ۲ دقیقه·۶ روز پیش

وقتی به چت‌بات هوش مصنوعی رازهایتان را می‌گویید

رضا یک برنامه‌نویس ساده بود. دیشب داشت روی یک پروژه سخت کار می‌کرد و به مشکل خورده بود. کدهای پیچیده را داخل چت‌بات معروفی کپی کرد و نوشت: «این کد مشکل دارد، بهم بگو چکار کنم». چت‌بات جواب داد، رضا مشکلش را حل کرد و رفت بخوابد. چیزی که نمیدانست این بود که آن کد، شامل کلید امنیتی دیتابیس شرکتش هم بود.

دو هفته بعد، سرورهای شرکت هک شد. تیم امنیتی آمد و بررسی کرد. نه، هیچ ایمیل فیشینگی باز نشده بود، هیچ رمز ضعیفی وجود نداشت. بالاخره رد را پیدا کردند. رضا، بی‌آنکه بداند، کلید امنیتی را به یک چت‌بات داده بود. حالا آن داده در سرورهای یک شرکت دیگر ذخیره بود و معلوم نبود چه کسانی به آن دسترسی دارند.

این داستان واقعی است. خیلی از ما فکر می‌کنیم چت‌بات‌ها مثل یک دوست صمیمی هستند که میتوانیم هر چیزی را بهشان بگوییم. اما حقیقت این است که این ابزارها گفتگوهای ما را ذخیره می‌کنند، گاهی برای آموزش مدل‌های بعدی استفاده می‌کنند و در برخی موارد، کارمندان همان شرکت هم میتوانند آنها را ببینند.

حالا تصور کنید یک نفر، شماره کارت بانکیاش را داخل چت‌بات می‌نویسد تا مشکل پرداختش را حل کند. یکی دیگر، رمز وایفای شرکت را می‌دهد تا چت‌بات به او کمک کند متصل شود. یکی دیگر، آدرس دقیق منزل و زمان خالی بودن خانه را تایپ می‌کند تا برنامه سفرش را هماهنگ کند.

تمام این اطلاعات، در جایی ذخیره می‌شوند که شما کنترلش را ندارید. نه فقط خودتان، بلکه هر کسی که به آن حساب دسترسی پیدا کند، شاید سال‌ها بعد، بتواند این مکالمات را بخواند.

راهکار پیشنهادی چیست؟ خیلی ساده است. قبل از اینکه متنی را در چت‌بات پیست کنید، از خودتان بپرسید: حاضرید این حرف را توی خیابان بلند بگویید؟ اگر جوابتان نه است، پس آن را به چت‌بات هم نگویید. رضا این سوال را از خودش نپرسید. شما میتوانید بپرسید.

هوش مصنوعیبرنامه نویسیامنیتهک و امنیتاعتماد
۳
۱
میثم
میثم
هک و امنیت وب | هوش مصنوعی و پرامپت‌نویسی | مقاله و کپشن تخصصی | لینوکس و طراحی سایت |مشاوره امنیت و تولید محتوا https://rubika.ir/meisammir6
شاید از این پست‌ها خوشتان بیاید