امن‌سازی پروتکل زمینه مدل (MCP): خطرات امنیتی جدید در گردش‌های کاری عامل-محور هوش مصنوعی
پروتکل زمینه مدل (MCP) که در اواخر ۲۰۲۴ معرفی شد، استانداردی برای ارتباط عامل‌های هوش مصنوعی با ابزارهای سازمانی فراهم می‌کند اما خطرات امنیتی جدیدی مانند سرورهای سایه‌ای، ربودن دستورات و سوءاستفاده از رابط‌ها را به همراه می‌آورد.
خطرات امنیتی پروتکل زمینه مدل (MCP) در هوش مصنوعی عامل‌محور
پروتکل زمینه مدل (MCP) که در اواخر ۲۰۲۴ معرفی شد، انقلابی در یکپارچه‌سازی هوش مصنوعی با ابزارهای سازمانی ایجاد کرده است. این پروتکل استانداردی برای ارتباط مدل‌های زبانی بزرگ (LLMs) با گردش‌های کاری کسب‌وکار، پایگاه‌های داده و محیط‌های توسعه فراهم می‌آورد. با این حال، قابلیت‌های دوطرفه و عامل‌محور MCP سطح حمله جدیدی ایجاد کرده که متخصصان امنیت سایبری باید با آن آشنا شوند.
- سرورهای MCP غیرمجاز یا "سایه‌ای": نصب سرورهای بدون مجوز که ممکن است دسترسی‌های بیش‌ازحد داشته باشند
- توصیف‌های ابزار و الگوهای دستور مخرب:插入 دستورات malicious در توضیحات ابزارها
- ربودن نام ابزارها: ایجاد ابزارهای مخرب با نام‌های مشابه ابزارهای قانونی
- سوءاستفاده از رابط‌ها: استفاده مخرب از داده‌های بین رابط‌های مختلف
- خطرات زمان اجرای MCP: اجرای سرورها در محیط‌های مشترک و خطرات زنجیره تأمین
"مفهوم انتقال امنیت به چپ باید دوباره اعمال شود، اما این بار برای توصیف‌های ابزار، الگوهای دستور و سرورهای MCP"
"کنترل‌های سنتی امنیت مانند فایروال‌ها و مانیتورینگ endpoint برای تهدیدات حول هوش مصنوعی عامل‌محور طراحی نشده‌اند"
برای ایمن‌سازی MCP، سازمان‌ها باید احراز هویت ابزارها، سیاست‌های مجوزدهی مبتنی بر زمینه، ثبت‌کردن کامل و مانیتورینگ رفتار عامل‌ها را پیاده‌سازی کنند.