سیستم امنیتی هوش مصنوعی کیسه چیپس را با اسلحه اشتباه گرفت
یک دانش‌آموز دبیرستانی در مریلند پس از اینکه سیستم امنیتی هوش مصنوعی کیسه چیپس او را به عنوان اسلحه شناسایی کرد، دستبند زده و تفتیش شد.
حادثه شناسایی اشتباه اسلحه توسط هوش مصنوعی
یک سیستم امنیتی هوش مصنوعی در دبیرستان کنوود در مریلند باعث ایجاد حادثه‌ای نگران‌کننده شد. این سیستم کیسه چیپس «دوریتوس» یک دانش‌آموز به نام تاکی آلن را به عنوان اسلحه شناسایی کرد. به گفته آلن: «من فقط یک کیسه دوریتوس در دست داشتم - با دو دست و یک انگشت بیرون، و آنها گفتند که شبیه اسلحه به نظر می‌رسد». در نتیجه این شناسایی اشتباه، دانش‌آموز مجبور به زانو زدن، گذاشتن دست‌ها پشت کمر و دستبند زدن شد.
- سیستم شرکت Omnilert مسئول این شناسایی بود
- مدیر مدرسه ابتدا بدون اطلاع از لغو هشدار، به پلیس گزارش داد
- شرکت اعلام کرد فرآیند «طبق طراحی عمل کرده» اما از حادثه ابراز تأسف کرد
- این اتفاق سوالاتی درباره دقت فناوری‌های نظارتی ایجاد می‌کند
- پیامدهای استفاده از هوش مصنوعی در محیط‌های آموزشی نیاز به بررسی دارد
«آنها مرا مجبور کردند روی زانوهایم بنشینم، دست‌هایم را پشت کمرم بگذارم و دستبند بزنم» - تاکی آلن
«ما از این حادثه متأسفیم و نگرانی خود را به دانش‌آموز و جامعه ابراز می‌کنیم» - Omnilert
این اتفاق نشان‌دهنده چالش‌های فناوری‌های شناسایی خودکار و نیاز به استانداردهای دقیق‌تر برای جلوگیری از خطاهای مشابه است.