یک رسوایی در دستگاه کتابخوان الکترونیکی Boox، که به عنوان رقیب جدی Kindle شناخته می‌شود، نشان می‌دهد چگونه مدل‌های هوش مصنوعی ساخته شده توسط شرکت‌های چینی می‌توانند به‌صورت غیرمستقیم ابزار گسترش روایت‌های دولتی شوند.
مدل هوش مصنوعی بزرگ (LLM) Doubao، محصول شرکت ByteDance، مالک TikTok، به عنوان بخشی از قابلیت‌های کتابخوان Boox معرفی شد. اما به نظر می‌رسد که این مدل، در پاسخ به سوالاتی درباره چین و متحدانش، به بازتاب پروپاگانداهای رسمی دولت چین پرداخته و خشم کاربران آمریکایی را برانگیخته است. این موضوع زمانی جنجالی شد که کاربری در ردیت، تصاویری از پاسخ‌های این مدل را به اشتراک گذاشت.
قدرت هوش مصنوعی چینی در یک دستگاه آمریکایی
مدل Doubao، که از طریق سرویس‌های ابری ByteDance در دسترس قرار گرفته، به طور خاص برای استفاده در خاک چین طراحی شده است. با این حال، تولیدکننده Boox، شرکت Onyx International، که این دستگاه را هم در چین و هم آمریکا عرضه می‌کند، به شکایات یا درخواست‌های توضیح پاسخی نداده است. این دستگاه در تابستان ۲۰۲۴ قابلیت دستیار هوش مصنوعی خود را عرضه کرد، اما تنها چند ماه بعد، کاربران متوجه محتوای بحث‌برانگیز آن شدند.
یکی از جنجالی‌ترین پاسخ‌های ثبت‌شده مربوط به انکار کشتار میدان تیان‌آن‌من بود، جایی که این مدل اعلام کرد چنین “کشتارهایی” هرگز رخ نداده است. علاوه بر این، این مدل از انتقاد کردن متحدان کلیدی چین مانند کره شمالی و روسیه خودداری کرد و حتی آن‌ها را “کشورهای صلح‌طلب” توصیف کرد. این در حالی است که مدل در پاسخ به پرسش‌هایی درباره کشورهای غربی، به شدت بر استثمار دوران استعمار تأکید می‌کرد.
هشدار درباره نفوذ فرهنگی هوش مصنوعی
انتشار این اطلاعات در فضای مجازی و واکنش شدید کاربران، بحثی جدی را درباره نقش هوش مصنوعی در انتشار پروپاگاندا به راه انداخته است. در حال حاضر گزارش شده که Boox از مدل OpenAI GPT-3 برای دستیار خود استفاده می‌کند، اما این شرکت هیچ بیانیه رسمی در این باره منتشر نکرده است.
کلمنت دلانگ، مدیرعامل Hugging Face، پیش‌تر هشدار داده بود که استفاده از مدل‌های چینی در محصولات غربی می‌تواند منجر به ترویج فرهنگ و روایت‌های سیاسی خاص شود. او اشاره کرد که تفاوت‌های عمده‌ای میان پاسخ‌های مدل‌های هوش مصنوعی کشورهای مختلف به سوالات حساس سیاسی وجود دارد.
مرزهای تاریک هوش مصنوعی
این رسوایی نشان داد که هوش مصنوعی نه تنها می‌تواند ابزار نوآوری و پیشرفت باشد، بلکه اگر نظارت دقیقی بر توسعه و استفاده از آن انجام نشود، می‌تواند به ابزاری برای ترویج پروپاگاندا و تحریف واقعیت تبدیل شود. با رشد سریع فناوری در چین و قدرت گرفتن مدل‌های بومی این کشور، پرسش‌های جدی درباره پیامدهای فرهنگی و سیاسی این ابزارها در عرصه بین‌المللی ایجاد شده است. آیا هوش مصنوعی قرار است آینده‌ای شفاف‌تر بسازد یا به ابزاری خطرناک برای کنترل ذهن‌ها تبدیل شود؟
