محققان: تشخیص صدای هوش مصنوعی از صدای انسان غیرممکن شده است
تحقیق جدید نشان می‌دهد کلون‌های صوتی هوش مصنوعی به حدی پیشرفته شده‌اند که شنوندگان عادی قادر به تشخیص آنها از صدای واقعی انسان نیستند. این فناوری تهدیدات امنیتی جدی ایجاد کرده است.
تشخیص صدای هوش مصنوعی از انسان غیرممکن شده است
تحقیق دانشگاه کوئین مری لندن نشان می‌دهد که کلون‌های صوتی هوش مصنوعی به حدی پیشرفته شده‌اند که شنوندگان عادی دیگر نمی‌توانند آنها را از صدای واقعی انسان تشخیص دهند. در این مطالعه، شرکت‌کنندگان در ۵۸ درصد موارد صدای جعلی هوش مصنوعی را به عنوان صدای واقعی انسان اشتباه گرفتند. این فناوری که با استفاده از نرم‌افزارهای تجاری در دسترس و تنها با چند دقیقه فایل صوتی ساخته می‌شود، تهدیدات امنیتی جدی ایجاد کرده است.
- کلاهبرداری‌های صوتی: شبیه‌سازی صدای افراد برای دور زدن احراز هویت بانکی
- اخاذی‌های خانوادگی: ساخت صحنه‌های اضطراری جعلی با استفاده از صدای کلون شده
- جعل بیانیه‌های سیاسی: ایجاد مصاحبه‌های جعلی برای بی‌اعتبار کردن افراد مشهور
محققان تأکید می‌کنند: "این ابزار قدرتمند اکنون در دسترس هر کسی قرار دارد" نمونه‌ای از سوءاستفاده: زنی ۱۵ هزار دلار با شنیدن صدای گریه جعلی دخترش از دست داد
این پژوهش که در ژورنال PLoS One منتشر شده، هشدار می‌دهد که پیشرفت هوش مصنوعی صوتی نیازمند قوانین جدید امنیتی و آگاهی‌بخشی عمومی است.