برنامه پاداش باگ‌یابی هوش مصنوعی گوگل تا ۳۰ هزار دلار پرداخت می‌کند
گوگل برنامه جدیدی برای کشف باگ‌های محصولات هوش مصنوعی راه‌اندازی کرده که تا ۳۰ هزار دلار پاداش ارائه می‌دهد. این برنامه بر شناسایی اقدامات مخرب مانند تزریق دستورات غیرمستقیم تمرکز دارد.
برنامه پاداش باگ‌یابی هوش مصنوعی گوگل
گوگل برنامه جدیدی برای کشف باگ‌های امنیتی در محصولات هوش مصنوعی خود راه‌اندازی کرده است که تا ۳۰,۰۰۰ دلار پاداش ارائه می‌دهد. این برنامه به طور خاص بر شناسایی اقدامات مخرب (rogue actions) متمرکز است که می‌توانند از طریق سیستم‌های هوش مصنوعی باعث آسیب شوند. نمونه‌هایی از این باگ‌ها شامل تزریق دستوراتی است که می‌تواند قفل درهای هوشمند را باز کند یا اطلاعات حساس را به حساب مهاجمان ارسال نماید.
- پاداش‌های مالی: تا ۲۰,۰۰۰ دلار برای محصولات اصلی مانند جستجو، Gemini و Workspace
- اقدامات مخرب: تغییر حساب‌های کاربری، دسترسی غیرمجاز به داده‌ها
- استثناها: خطاهای تولید محتوا مانند هیت اسپیچ تحت پوشش این برنامه نیستند
- ابزار جدید: CodeMender برای اصلاح خودکار کدهای آسیب‌پذیر
"این برنامه راه‌های سوءاستفاده از قابلیت‌های هوش مصنوعی را مشخص می‌کند"
گوگل در دو سال گذشته بیش از ۴۳۰,۰۰۰ دلار به محققان امنیتی پرداخت کرده و این برنامه جدید شفافیت بیشتری در تعریف باگ‌های هوش مصنوعی ایجاد می‌کند.