Common Sense Media در ارزیابی تازه‌ای از محصولات AI گوگل، Gemini هر دو نسخه «Under 13» و «Teen Experience» را در مجموع «High Risk» ارزیابی کرد. هشدار داد که این نسخه‌ها در عمل نسخه‌های بزرگسال با چند لایه حفاظتی اضافه شده‌اند، نه محصولاتی که از ابتدا برای کودکان ساخته شده باشند. این گزارش نشان می‌دهد Gemini هنوز می‌تواند محتوای نامناسب یا مشاوره خطرآفرین درباره جنس، مواد و سلامت روان را به نوجوانان منتقل کند؛ موضوعی که در زمانه اخیر نگرانی‌های قانونی و رسانه‌ای شدید ایجاد کرده است.
خبر در حالی منتشر شد که گزارش‌هایی حاکی از مذاکرات بین Apple و Google برای استفاده احتمالی از Gemini در بازطراحی Siri وجود دارد. تغییری که در صورت اجرایی شدن می‌تواند دامنه در معرض قرار گرفتن نوجوانان به این مدل‌ها را گسترده‌تر کند. همزمان پرونده‌ها و تحقیقات دربارهٔ نقش چت‌بات‌ها در بحران‌های روانی جوانان، از جمله یک شکایت حقوقی مرگ‌بار علیه OpenAI، فشارها را بالا برده است.
5 ضعف اصلی که Common Sense شناسایی کرد
Common Sense Media می‌گوید نسخه‌های Youth Gemini در سطح ایمنی پیشرفته‌اند اما در معماری تفاوت بنیادین با نسخه بزرگسال ندارند؛ یعنی همان مدل اصلی زیرساختی را اجرا می‌کنند و تنها فیلترها و محدودیت‌هایی روی آن‌ها گذاشته شده است. این رویکرد باعث شده که خطاهای مدل بزرگسال مانند پاسخ‌های ناپخته یا اطلاعات نامناسب به کاربران خردسال نیز راه یابند.
«Under 13» و «Teen Experience» چرا یکسان نیستند
گزارش نشان می‌دهد نیازهای اطلاعاتی و حمایتی یک کودک 9 ساله با یک نوجوان 16 ساله متفاوت است؛ اما Gemini برای هر دو تنها لایه‌ای از فیلتر اضافه کرده و «رویکرد یک‌سایز-برای-همه» را دنبال کرده است. Common Sense تأکید می‌کند محصولاتی که از ابتدا برای کودکان طراحی شوند بهتر می‌توانند تفاوت‌های رشد شناختی را لحاظ کنند.
چه محتوایی هنوز خطرناک است؟
تحقیق سازمان نشان داد Gemini می‌تواند اطلاعاتی درباره الکل، دراگ و سکس و همچنین توصیه‌های اشتباه یا خطرناک در زمینه سلامت روان ارائه دهد. موضوعی که برای کاربران آسیب‌پذیر می‌تواند پیامدهای جدی داشته باشد. این خطرات زمانی چشم‌گیرتر می‌شوند که نوجوانان از AI به‌عنوان همدم یا مشاور عاطفی استفاده کنند.
پیامدهای قانونی و نمونه‌های واقعی
در ماه‌های اخیر شکایات و پرونده‌هایی درباره نقش چت‌بات‌ها در خودآسیبی نوجوانان مطرح شده‌اند؛ خانواده‌هایی علیه شرکت‌هایی مثل OpenAI و Character.AI اقامه دعوی کرده‌اند و این پرونده‌ها توجه قانون‌گذاران و مدعی‌العموم‌ها را برانگیخته‌اند. این پیش‌زمینهٔ حقوقی فشار مضاعفی بر شرکت‌های AI و شرکای احتمالیِ آن‌ها مانند اپل ایجاد می‌کند.
آیا Apple واقعا از Gemini در Siri استفاده خواهد کرد؟
گزارش‌های خبری و خبرگزاری‌ها می‌گویند اپل در مذاکراتی برای بررسی استفاده از Gemini به‌عنوان بخشی از بازطراحی Siri بوده است؛ اگر این همکاری شکل بگیرد، میلیون‌ها نوجوان بیشتر در معرض تعامل با مدل‌های مشابه قرار خواهند گرفت. موضوعی که Common Sense و دیگر ناظران ایمنی کودکان درباره آن هشدار داده‌اند. شرکت‌ها هنوز نه تأیید و نه تکذیب کامل انجام داده‌اند.
یافته‌های کلیدی Common Sense و پاسخ Google
|
ویژگی / بخش |
یافتهٔ Common Sense | واکنش یا محافظتِ اعلام‌شدهٔ Google |
| Under 13 tier | عملکرد در عمل مشابه نسخه بزرگسال، «High Risk». |
Google می‌گوید سیاست‌ها و red-teaming دارد اما اذعان کرد برخی پاسخ‌ها درست عمل نکرده‌اند. |
|
Teen Experience |
همان مشکل: تغییرات سطحی روی مدل بزرگسال. |
Google ادعا می‌کند محدودیت‌هایی برای کاربران زیر 18 دارد. |
|
محتوای حساس (sex/drugs) |
امکان ارائه محتوای نامناسب به کودکان وجود دارد. |
گوگل گفته فیلترها و safeguards را تقویت کرده است. |
|
مشاوره سلامت روان |
احتمال ارائه advice خطرناک به جای ارجاع به منابع حرفه‌ای. |
شرکت‌ها می‌گویند red-teaming و مشورت با کارشناسان انجام می‌شود؛ اما نمونه‌هایی از شکست وجود دارد. |
|
رابطه‌سازی/همدم‌نمایی |
Gemini تشخیص می‌دهد که «کامپیوتر است نه دوست»، اما نشانگرهای ظاهری کافی نیستند. |
Google می‌گوید مدل برنامه‌ریزی شده تا رابطه واقعی را تقلید نکند. |
- ریشه‌ای کار نکردن بهتر از وصله‌پینه است: وقتی محصول کودک‌محور با «لایه‌های حفاظتی» روی مدل بزرگسال ساخته شود، احتمال باقی‌ماندن آسیب‌های رفتاری و محتوایی زیاد است. برداشتن گامی مؤثر نیازمند طراحی از صفر با تیمی از روان‌شناس کودک، متخصصان محتوای آموزشی و مهندسان ایمنی است.
- فشار حقوقی و نظارتی افزایش می‌یابد: پرونده‌های قضایی اخیر (OpenAI و Character.AI) و هشدار مدعی‌العموم‌ها نشان می‌دهد قانون‌گذاران می‌توانند مقررات سخت‌گیرانه‌تری برای محصولات هوش مصنوعی در تماس با کودکان وضع کنند. شرکت‌هایی که غفلت کنند، با خسارت حقوقی و افت اعتماد روبه‌رو خواهند شد.
- شراکت‌های فناوری (مثل احتمال همکاری Apple) ریسک مقیاس را بزرگ‌تر می‌کند: اگر Siri با Gemini تقویت شود و اپل گستره استفاده را افزایش دهد، خطاها نه فقط برای میلیون‌ها نوجوان در خود ایالات متحده بلکه جهانی تشدید خواهند شد، مگر آنکه اپل و گوگل تعهدات حفاظتی قوی و شفاف ارائه کنند.
نکات عملی برای والدین
- فعال کردن parental controls و تنظیم محدودیت‌های سنی در دستگاه‌ها.
- گفتگوهای دقیق و بدون قضاوت با نوجوانان دربارهٔ استفاده از AI و نشانه‌های خطر.
- معرفی منابع حرفه‌ای سلامت روان و آموزش اینکه AI جای درمانگر نیست.
هر سه نکته به کاهش ریسک‌های رفتاری و محتوایی کمک می‌کند.
جمع‌بندی
ارزیابی تازه Common Sense Media نشان می‌دهد Gemini در نسخه‌های «Under 13» و «Teen Experience» هنوز مبتنی بر مدل بزرگسال است و می‌تواند محتوای نامناسب یا مشاورهٔ خطرناک به نوجوانان بدهد؛ این موضوع در کنار پرونده‌های حقوقی اخیر و احتمال استفاده اپل از Gemini برای Siri، ضرورت بازطراحی‌های بنیادین، شفافیت فنی و قوانین حفاظتی قوی‌تر را آشکار می‌سازد.
FAQ سوالات متداول
آیا Common Sense Media رسما Gemini را «ممنوع» اعلام کرد؟
نه؛ Common Sense Gemini را «High Risk» برای کاربران زیر 18 ارزیابی کرده است یعنی خطر قابل توجه وجود دارد و نیاز به اصلاحات و شفافیت دارد.
آیا گوگل پاسخ داده و تغییراتی اعمال کرده؟
گوگل گفته که سیاست‌ها و red-teaming دارد و برخی safeguards اضافه کرده، اما نیز اذعان کرده برخی پاسخ‌ها مطابق انتظار نبوده‌اند.
آیا باید استفاده نوجوانان از Gemini یا چت‌بات‌ها را قطع کنم؟
توصیه کارشناسان این است که کنترل و نظارت را افزایش دهید، گفتگو و آموزش بدهید و در صورت بروز نشانه‌های بحران روانی، فورا به متخصص مراجعه کنید.
