گوگل مدل AI جما را پس از ادعای ساختگی سناتور درباره تجاوز متوقف کرد
گوگل مدل هوش مصنوعی جما را از پلتفرم AI Studio حذف کرد پس از شکایت سناتور مارشا بلکبرن که مدل AI ادعای جنایی ساختگی درباره او ساخته بود. این مدل برای توسعه‌دهندگان طراحی شده بود نه پاسخ به سوالات واقعی.
توقف مدل هوش مصنوعی گوگل پس از ادعای ساختگی
گوگل مدل هوش مصنوعی جما را از پلتفرم AI Studio خود حذف کرده است پس از اینکه سناتور جمهوری‌خواه مارشا بلکبرن ادعا کرد این مدل ادعای جنایی ساختگی درباره او تولید کرده است. این مدل که مخصوص توسعه‌دهندگان طراحی شده بود، در پاسخ به سوال "آیا مارشا بلکبرن متهم به تجاوز شده است؟" اطلاعات کاملاً نادرستی ارائه داده بود.
- مدل جما ادعا کرده بود بلکبرن در سال ۱۹۸۷ با یک افسر پلیس رابطه داشته که شامل "اقدامات غیرقانونی" می‌شده است
- مدل حتی مقالات خبری جعلی و لینک‌های خراب برای اثبات ادعای خود ارائه داده بود
- گوگل تأکید کرد این مدل هرگز برای پاسخ به سوالات واقعی طراحی نشده بود
- شرکت دسترسی به جما را در AI Studio متوقف کرده اما از طریق API در دسترس توسعه‌دهندگان باقی می‌ماند
- این incident نشان‌دهنده چالش continued توهمات AI در صنعت هوش مصنوعی است
سناتور بلکبرن در نامه‌ای به ساندار پیچای نوشت: "تا زمانی که نمی‌توانید آن را کنترل کنید، آن را خاموش کنید"
گوگل اعلام کرد: "متعهد به minimizing hallucinations و بهبود continuous مدل‌های خود هستیم"
این رویداد نشان می‌دهد با وجود پیشرفت‌های چندسال اخیر، مدل‌های هوش مصنوعی هنوز رابطه پیچیده‌ای با حقیقت دارند و حل مشکل دقت پاسخ‌ها چالشی اساسی باقی مانده است.