هوش مصنوعی گوگل به دلیل توهم و اتهامات دروغین حذف شد
گوگل مدل هوش مصنوعی جما را پس از شکایت سناتور آمریکایی درباره تولید اتهامات سوء رفتار جنسی دروغین از استودیوی هوش مصنوعی خود حذف کرد.
حذف هوش مصنوعی گوگل به دلیل توهمات خطرناک
گوگل مدل هوش مصنوعی جما را از استودیوی هوش مصنوعی خود حذف کرده است پس از آنکه مارشا بلکبرن، سناتور جمهوری‌خواه اهل تنسی، این مدل را به جعل اتهامات سوء رفتار جنسی علیه خود متهم کرد. در نامه‌ای به ساندار پیچای، مدیرعامل گوگل، بلکبرن نوشت که وقتی از جما پرسیده شد آیا وی به تجاوز جنسی متهم شده است، هوش مصنوعی با ادعای کاملاً دروغین پاسخ داد که در سال ۱۹۹۸ یک سرباز ادعا کرده بلکبرن او را تحت فشار قرار داده است.
- اتهامات کاملاً ساختگی: بلکبرن تأکید کرد هیچ‌یک از این ادعاها واقعیت نداشته و حتی لینک‌های خبری ارائه شده نیز به صفحات خطا یا مطالب بی‌ربط ختم می‌شدند
- شکایت‌های متعدد: این سناتور همچنین شکایت رابی استارباک، فعال محافظه‌کار، را مطرح کرد که مدل‌های گوگل ادعاهای افتراآمیزی درباره او به عنوان متجاوز به کودکان مطرح کرده‌اند
- پاسخ گوگل: مارکهام اریکسون، معاون گوگل، توهمات هوش مصنوعی را مسئله‌ای شناخته شده خواند اما بلکبرن استدلال کرد این یک توهم بی‌ضرر نیست بلکه عملی افتراآمیز است
- تغییر استراتژی: گوگل اعلام کرد جما هرگز قرار نبوده به عنوان ابزار مصرفی استفاده شود و تنها برای توسعه‌دهندگان از طریق API در دسترس خواهد بود
- حذف از دسترسی عمومی: این شرکت جما را از استودیو هوش مصنوعی حذف کرد اما مدل‌ها را برای توسعه‌دهندگان حفظ نمود
بلکبرن در نامه خود نوشت: "هیچ کدام از این موارد صحت ندارد. چنین اتهاماتی هرگز مطرح نبوده‌اند"
گوگل تأکید کرد: "ما هرگز قصد نداشتیم جما یک ابزار یا مدل مصرفی باشد"
این حادثه نشان‌دهنده خطرات جدی توهمات هوش مصنوعی در تولید اطلاعات نادرست و افتراآمیز است و ضرورت نظارت بیشتر بر مدل‌های هوش مصنوعی را آشکار می‌سازد.