متا محافظت‌های جدیدی برای چت‌بات‌های هوش مصنوعی خود برای جلوگیری از گفتگوهای نامناسب با کودکان معرفی کرد
متا دستورالعمل‌های بازبینی‌شده‌ای برای چت‌بات‌های هوش مصنوعی خود معرفی کرده تا از گفتگوهای نامناسب با کودکان جلوگیری کند. این راهنماها محتوای قابل قبول و غیرقابل قبول را مشخص می‌کنند و بر جلوگیری از سوءاستفاده جنسی از کودکان تأکید دارند.
محافظت از کودکان در چت‌بات‌های هوش مصنوعی متا
شرکت متا دستورالعمل‌های بازبینی‌شده‌ای برای چت‌بات‌های هوش مصنوعی خود معرفی کرده است تا از گفتگوهای نامناسب با کودکان جلوگیری کند. این راهنماها که توسط Business Insider منتشر شده، نشان می‌دهد که این شرکت چگونه تلاش می‌کند تا سوءاستفاده جنسی از کودکان را به طور مؤثرتری مورد توجه قرار دهد و از درگیر شدن کودکان در گفتگوهای نامناسب سنی جلوگیری کند. متا در ماه اوت اعلام کرد که در حال به‌روزرسانی محافظت‌های هوش مصنوعی خود است پس از آنکه رویترز گزارش داد که سیاست‌های قبلی اجازه می‌داد چت‌بات‌ها "در گفتگوهایی عاشقانه یا حسی با کودک درگیر شوند" که متا آن را "نادرست و ناسازگار" با سیاست‌های خود خواند و آن زبان را حذف کرد.
- محتوایی که "فعال، تشویق یا تأیید" سوءاستفاده جنسی از کودکان می‌کند ممنوع است
- نقش‌آفرینی عاشقانه اگر کاربر خردسال باشد یا از هوش مصنوعی خواسته شود که نقش یک خردسال را بازی کند ممنوع است
- ارائه مشاوره درباره تماس فیزیکی بالقوه عاشقانه یا صمیمی اگر کاربر خردسال باشد غیرقابل قبول است
- چت‌بات‌ها می‌توانند درباره موضوعاتی مانند سوءاستفاده بحث کنند اما نمی‌توانند در گفتگوهایی که ممکن است آن را فعال یا تشویق کنند درگیر شوند
- کمیسیون تجارت فدرال (FTC) در اوت یک تحقیق رسمی در مورد چت‌بات‌های همراه هوش مصنوعی نه تنها از متا، بلکه از شرکت‌های دیگر از جمله Alphabet، Snap، OpenAI و X.AI آغاز کرده است
"این سند مشخص می‌کند که چه نوع محتوایی برای چت‌بات‌های هوش مصنوعی قابل قبول و غیرقابل قبول است"
"سیاست‌های قبلی نادرست و ناسازگار با سیاست‌های ما بود و آن زبان حذف شد"
این اقدامات در پاسخ به نگرانی‌های فزاینده درباره آسیب‌های بالقوه چت‌بات‌های هوش مصنوعی برای کودکان انجام شده است.