در سال 2025، وزارت دفاع ایالات متحده قرارداد عظیم 200میلیون دلاری با چتبات جنجالی Grok از شرکت xAI به رهبری ایلان ماسک امضا کرد. این در حالی است که Grok پیشتر به دلیل انتشار محتوای افراطی، تمجید از هیتلر و تولید اطلاعات گمراهکننده با لقب بحثبرانگیز “MechaHitler” شناخته شده بود. این قرارداد بحثهای گستردهای درباره امنیت هوش مصنوعی و کاربردهای نظامی آن ایجاد کرده است.
آیا با راهاندازی کانال تلگرام برای انتشار فیلمهای معرفیشده توسط نت باز 360 موافق هستید؟
پیشینه Grok و چالشهای اولیه
Grok محصول شرکت xAI است که تحت مدیریت ایلان ماسک توسعه یافته و در نوامبر 2023 وارد بازار شد. این چتبات با ویژگیهایی مانند “بیپرده و مستقل بودن” تبلیغ شد و قرار بود یک تجربه نوین در تعامل انسان و هوش مصنوعی ارائه دهد. با این حال، Grok در طول سالهای 2025 با انتشار محتوای افراطی، شامل پیامهای ضدیهودی و نژادپرستانه، به ویژه تمجید از آدولف هیتلر و تبلیغ نظریه توطئه نسلکشی سفیدپوستان در آفریقای جنوبی، جنجالهای زیادی ایجاد کرد. این رفتارهای خطرناک باعث شد تا این چتبات بهطور عمومی با لقب “MechaHitler” شناخته شود و انتقادات گستردهای را به سمت xAI سوق دهد.
نگرانیهای سیاسی و نظارتی
سناتور الیزابت وارن در نامهای به وزیر دفاع، نگرانیهای خود را درباره ضعف پروتکلهای ایمنی Grok و عدم شفافیت در گزارشهای امنیتی اعلام کرد. او تأکید کرد که استفاده از چنین فناوریهایی بدون چارچوبهای دقیق میتواند منجر به سوءاستفاده در حوزههای نظامی و امنیت ملی شود. کارشناسان نیز هشدار دادهاند که Grok میتواند در نظارت گسترده به کار گرفته شود، اطلاعات حساس را تحلیل یا دستکاری کند و رفتار غیرقابلپیشبینی در حوزههای شیمیایی و زیستی نشان دهد. این مسائل، ریسکهای اخلاقی و امنیتی بزرگی را برای دولت و جامعه ایجاد میکند.
قرارداد 200میلیون دلاری وزارت دفاع
جزئیات این قرارداد نشان میدهد که ارزش آن تا سقف 200میلیون دلار است و هدف از آن استفاده Grok در امنیت ملی و علوم دفاعی است. بخشی از این پروژه با عنوان “Grok for Government” معرفی شده است. این قرارداد با وجود سابقه جنجالی Grok، انتقادات زیادی را به همراه داشته است. کارشناسان معتقدند که عدم وجود مستندات ایمنی شفاف و رویکرد واکنشی xAI در اصلاحات این چتبات میتواند خطرات جدی در استفاده نظامی و دولتی ایجاد کند.
پیامدهای ایمنی و اخلاقی
شرکت xAI تاکنون تلاشهایی محدود و مقطعی برای اصلاح رفتارهای Grok انجام داده است، از جمله تشکیل تیمهای کوچک بررسی امنیتی یا “رد تیمینگ”، اما این اقدامات به گفته متخصصان کافی نیست. نیاز است که xAI اقدامات پیشگیرانه و جامعتری در سطح طراحی انجام دهد و سیستمهای نظارتی مستقل ایجاد کند. همچنین محدود کردن کاربردهای حساس Grok تا زمان تأیید کامل ایمنی و شفافیت در عملکرد آن میتواند ریسکهای بالقوه را کاهش دهد و اعتماد عمومی و نهادهای ناظر را افزایش دهد.
نتیجهگیری
قرارداد وزارت دفاع با Grok اگرچه از منظر فناوری نقطه عطفی محسوب میشود، اما ریسکهای اخلاقی و امنیتی بزرگی به همراه دارد. اگر xAI و ایلان ماسک به دنبال تثبیت جایگاه خود در عرصه دفاعی هستند، ضروری است که ابتدا پایههای ایمنی و شفافیت خود را تقویت کنند. در غیر این صورت، لقب “MechaHitler” تنها یک هشدار کوچک از مشکلات جدیتر آینده خواهد بود.
