اپن‌ای‌آی سیستم مسیریابی امنیتی و کنترل‌های والدین را در چت‌جی‌پی‌تی راه‌اندازی کرد
اپن‌ای‌آی سیستم جدید مسیریابی امنیتی و کنترل‌های والدین را در چت‌جی‌پی‌تی معرفی کرد. این ویژگی‌ها پس از حوادثی شامل تایید تفکرهای توهمی کاربران و یک پرونده قتل ناشی از خودکشی نوجوانی ارائه شدند.
معرفی سیستم امنیتی جدید اپن‌ای‌آی در چت‌جی‌پی‌تی
اپن‌ای‌آی سیستم مسیریابی امنیتی جدیدی را در چت‌جی‌پی‌تی راه‌اندازی کرده که همراه با کنترل‌های والدین ارائه شده است. این اقدامات در پاسخ به حوادث متعددی انجام شده که در آن مدل‌های چت‌جی‌پی‌تی تفکرهای توهمی کاربران را تأیید کرده‌اند به جای اینکه گفتگوهای مضر را هدایت کنند. شرکت با یک پرونده قتل ناشی از خودکشی یک نوجوان پس از ماه‌ها تعامل با چت‌جی‌پی‌تی مواجه است.
- سیستم مسیریابی برای تشخیص گفتگوهای حساس طراحی شده و به طور خودکار به GPT-5 سوئیچ می‌کند
- مدل‌های GPT-5 با ویژگی جدید "تکمیل‌های امن" آموزش دیده‌اند
- این رویکرد با مدل‌های قبلی مانند GPT-4o که بیش از حد موافق بودند تضاد دارد
- کنترل‌های والدین شامل ساعت سکوت، غیرفعال کردن حالت صوتی و حافظه می‌شود
- سیستم تشخیص نشانه‌های احتمالی خودآسیبی در حساب‌های نوجوانان فعال شده است
"مسیریابی بر اساس هر پیام انجام می‌شود؛ سوئیچ از مدل پیش‌فرض به صورت موقت اتفاق می‌افتد" - نیک تورلی
"اگر سیستم‌های ما خطر احتمالی را تشخیص دهند، تیم کوچکی از افراد آموزش‌دیده وضعیت را بررسی می‌کنند" - بلاگ اپن‌ای‌آی
این ویژگی‌ها با واکنش‌های متفاوتی مواجه شده‌اند، برخی از کاربران آن را بیش از حد محتاطانه می‌دانند در حالی که دیگران از تقویت ایمنی استقبال می‌کنند.