اپلیکیشن اجتماعی جدید OpenAI پر از دیپ‌فیک‌های ترسناک سام آلتمن است
اپلیکیشن Sora شرکت OpenAI ایجاد محتوای AI گمراه‌کننده را بیش از حد آسان کرده است. این برنامه با قابلیت تولید دیپ‌فیک‌های واقع‌گرایانه، نگرانی‌های جدی در مورد سوءاستفاده و انتشار اطلاعات نادرست ایجاد کرده است.
اپلیکیشن Sora: تولید دیپ‌فیک‌های واقع‌گرایانه
اپلیکیشن جدید اجتماعی OpenAI به نام Sora که شبیه به TikTok عمل می‌کند، تنها ۲۴ ساعت پس از راه‌اندازی، با محتوای دیپ‌فیک ترسناک از سام آلتمن مدیرعامل این شرکت پر شده است. در ویدیوهای تولید شده توسط هوش مصنوعی، آلتمن در صحنه‌های غیرواقعی مانند مزرعه‌ای از خوک‌های صورتی یا میان پوکمون‌ها ظاهر می‌شود و با بیننده ارتباط چشمی برقرار می‌کند.
- قابلیت "کامیو" امکان ایجاد دیپ‌فیک از کاربران با داده‌های بیومتریک
- تنظیمات کنترل دسترسی برای تولید ویدیو با likeness کاربران
- نگرانی‌های جدی درباره نقض قوانین کپی‌رایت و امنیت
- امکان سوءاستفاده برای اطلاعات نادرست و محتوای مخرب
"این محتوا ممکن است خط‌قرمزهای مربوط به شباهت اشخاص ثالث را نقض کند" - دیپ‌فیک آلتمن
"هر روز با وحشت‌های جدیدی بیدار می‌شوم که فراتر از درک من هستند" - کاربر تیک‌تاک
با واقعی‌تر شدن ویدیوهای تولید شده، خطر انتشار محتوای synthetic در فضای وب و تبدیل شدن به ابزاری برای اطلاعات نادرست افزایش می‌یابد.