در سال 2024، یکی از مسائل داغ و مهم در حوزه هوش مصنوعی، تهدیدات امنیتی جدیدی بود که از سوی مدل‌های هوش مصنوعی ایجاد می‌شد. کارشناسان امنیت سایبری هشدار دادند که حملات مبتنی بر AI به‌طور فزاینده‌ای پیچیده‌تر و آسیب‌زننده‌تر شده‌اند. به‌ویژه در حوزه‌های حساسی مانند بانکداری و سلامت، حملات به سیستم‌های هوش مصنوعی می‌توانند اطلاعات حساس کاربران را به خطر بیندازند.
در پاسخ به این تهدیدات، بسیاری از شرکت‌ها و سازمان‌های بین‌المللی اقداماتی برای تقویت امنیت مدل‌های هوش مصنوعی انجام دادند. شرکت‌هایی مانند Google و Microsoft در تلاش بودند تا ابزارهای امنیتی جدیدی را معرفی کنند که به شناسایی و مقابله با حملات AI-based کمک می‌کرد. این ابزارها شامل شبیه‌سازی تهدیدات و ایجاد سیستم‌های خودکار برای شناسایی رفتارهای مشکوک در شبکه‌های هوش مصنوعی بودند.
این تحولات نشان‌دهنده چالش‌های جدیدی است که به دلیل پیشرفت‌های سریع در حوزه هوش مصنوعی در دنیای امنیت سایبری ایجاد شده است و ضرورت پیاده‌سازی پروتکل‌های امنیتی پیچیده‌تر برای مقابله با آن‌ها را برجسته می‌کند.
