محدودیت‌های جدید چت‌بات‌های متا برای حفاظت از کودکان
متا دستورالعمل‌های عملکرد چت‌بات‌های هوش مصنوعی خود را به‌روز کرده تا از گفت‌وگوهای نامناسب با کاربران خردسال جلوگیری کند. این محدودیت‌ها شامل ممنوعیت محتوای سوءاستفاده جنسی و بازی‌های نقش‌آفرینی رمانتیک با کودکان است.
محدودیت‌های جدید متا برای ایمنی کودکان در چت‌بات‌های هوش مصنوعی
شرکت متا راهنمای عملکرد چت‌بات‌های هوش مصنوعی خود را به‌روزرسانی کرده تا از وقوع گفت‌وگوهای نامناسب با کاربران خردسال جلوگیری کند. این اقدام پس از گزارش‌های نگران‌کننده درباره امکان تعامل ربات‌ها با کودکان در مباحث حساس انجام شده است. دستورالعمل‌های جدید به‌روشنی مشخص می‌کند که ربات‌ها مجاز به تولید یا تشویق محتوایی شامل سوءاستفاده جنسی از کودکان، بازی‌های نقش‌آفرینی رمانتیک با کاربران خردسال، یا بحث درباره تماس‌های صمیمی با کودکان نیستند.
- ممنوعیت تولید محتوای مرتبط با سوءاستفاده جنسی کودکان
- جلوگیری از بازی‌های نقش‌آفرینی رمانتیک با کاربران خردسال
- ممنوعیت بحث درباره تماس‌های صمیمی با کودکان
- امکان اطلاع‌رسانی درباره خطرات سوءاستفاده به شرط عدم تشویق
- آغاز تحقیق رسمی FTC درباره چت‌بات‌های هوش مصنوعی
"ربات‌ها نمی‌توانند وارد گفت‌وگوهایی شوند که امکان تشویق یا تسهیل رفتارهای خطرناک را فراهم می‌کنند"
"این دستورالعمل‌ها با هدف تقویت ایمنی کودکان و جلوگیری از تعامل آسیب‌زننده طراحی شده‌اند"
این اقدامات نشان‌دهنده تلاش متا برای هماهنگی سیاست‌های هوش مصنوعی با استانداردهای ایمنی دیجیتال و پاسخ به انتقادات عمومی است.