چت‌بات‌ها به‌عنوان یکی از ابزارهای اصلی تعامل بین کاربران و سیستم‌ها، نقش مهمی در بهبود تجربه کاربری دارند. این ابزارها در حوزه‌های مختلفی مانند پشتیبانی مشتریان، فروش آنلاین، و حتی آموزش مورد استفاده قرار می‌گیرند. اما یکی از چالش‌های اساسی در طراحی چت‌بات‌ها، مدیریت ورودی‌های کاربران است. برخی از کاربران ممکن است از کلمات توهین‌آمیز یا نامناسب استفاده کنند که می‌تواند تجربه کلی سیستم را تحت تأثیر قرار دهد.
در اینجا، مفهوم گارد مطرح می‌شود که به‌عنوان یک سیستم فیلتر برای شناسایی و مدیریت ورودی‌های نامناسب عمل می‌کند. یکی از مهم‌ترین وظایف گارد، شناسایی توهین‌ها و ناسزاها است.
یکی از ابزارهای مناسب برای شناسایی توهین در متن فارسی، FarsiSentiment است. این ابزار به‌طور خاص برای تحلیل احساسات در زبان فارسی طراحی شده و پیام‌ها را در سه دسته مثبت، منفی، و خنثی طبقه‌بندی می‌کند. از آنجا که پیام‌های توهین‌آمیز معمولاً به‌عنوان احساسات منفی شناسایی می‌شوند، می‌توان از این ابزار برای تشخیص و مدیریت توهین‌ها استفاده کرد.
from farsisentiment import sentiment
# Function to check for offensive language
def is_offensive(text):
# Analyze sentiment of the text
result = sentiment(text)
# Check if the sentiment is negative (possible offense)
if result['sentiment'] == 'neg':
return True
return False
# Chatbot function
def chat_bot(input_text):
if is_offensive(input_text):
return "Please use polite language."
else:
return "Your message has been sent."
# Test with offensive message
user_input = "You are so stupid!"
response = chat_bot(user_input)
print(response) # Output: Please use polite language.
# Test with positive message
user_input = "You are awesome!"
response = chat_bot(user_input)
print(response) # Output: Your message has been sent.
is_offensive:chat_bot:استفاده از ابزارهایی مانند FarsiSentiment می‌تواند به چت‌بات‌ها کمک کند تا پیام‌های توهین‌آمیز را شناسایی و مدیریت کنند. این کار نه تنها باعث حفظ محیطی حرفه‌ای برای کاربران می‌شود، بلکه منابع سیستم را نیز بهینه می‌کند.
