سورا نشان می‌دهد که تشخیص دیپ‌فیک چقدر شکسته است
مدل ویدیویی سورا OpenAI نشان می‌دهد که سیستم‌های برچسب‌گذاری دیپ‌فیک مانند C2PA در عمل کارایی چندانی ندارند و پلتفرم‌های اجتماعی از این فناوری به طور مؤثر استفاده نمی‌کنند.
شکست سیستم‌های تشخیص دیپ‌فیک
مدل تولید ویدیوی سورا OpenAI نشان داده است که فناوری‌های فعلی تشخیص محتوای جعلی به شدت ناقص هستند. با وجود اینکه سورا از استاندارد C2PA (معروف به Content Credentials) پشتیبانی می‌کند، این برچسب‌ها در پلتفرم‌هایی مانند اینستاگرام، تیک‌تاک و یوتیوب به ندرت قابل مشاهده هستند. این سیستم که باید اطلاعات تولید محتوا را به صورت متادیتای قابل تأیید ضبط کند، تنها زمانی کار می‌کند که در تمام مراحل تولید و انتشار به طور کامل پیاده‌سازی شود.
- سورا ۲ قادر به تولید ویدیوهای متقاعدکننده از افراد مشهور مانند مارتین لوتر کینگ و شخصیت‌های دارای حق تکثیر است
- برچسب‌های AI در پلتفرم‌های اجتماعی یا بسیار کوچک هستند یا اصلاً وجود ندارند
- متادیتای C2PA به راحتی حذف می‌شود و واترمارک‌های سورا به سادگی قابل حذف هستند
- پلتفرم‌ها به جای مسئولیت‌پذیری، بار تشخیص را بر دوش کاربران گذاشته‌اند
- سیستم‌های مبتنی بر استنتاج مانند Reality Defender می‌توانند مکمل C2PA باشند
بن کالمن، مدیرعامل Reality Defender می‌گوید: "C2PA یک راه‌حل مناسب است، اما به تنهایی کافی نیست"
اندی پارسونز از ادوبی اعتراف می‌کند: "ما موافقیم که متکی بودن صرف به متادیتای C2PA ممکن است برای جلوگیری از انتشار اطلاعات غلط کافی نباشد"