قابلیت Stories پس‌از ممنوعیت چت نوجوانان در Character.AI

پلتفرم Character.AI در هفته‌های اخیر با تصمیمی بحث‌برانگیز بار دیگر توجه رسانه‌های حوزه تکنولوژی را به خود جلب کرده است. این شرکت که به دلیل چندین شکایت مرتبط با تأثیر منفی بر سلامت روان نوجوانان تحت فشار قرار دارد، اکنون مسیر استفاده کاربران زیر 18 سال را تغییر داده و محدودیت‌های تازه‌ای اعمال کرده است. تصمیم جدید، دسترسی نوجوانان به چت‌های آزاد را حذف می‌کند و آن‌ها را به سمت تجربه‌ای ساختارشده‌تر به نام Stories هدایت می‌کند؛ تجربه‌ای که قرار است تعامل را ایمن‌تر، قابل‌کنترل‌تر و کمتر آسیب‌زا کند.

اگرچه هوش مصنوعی مولد در سال‌های اخیر به سرعت محبوب شده، اما فضاهای گفتگو با شخصیت‌های شبیه‌سازی‌شده همیشه بدون ریسک نبوده‌اند. پرونده‌های حقوقی در جریان، این شرکت را متهم می‌کنند که تعاملات آزاد کاربران نوجوان با برخی شخصیت‌های AI ممکن است در سلامت روان آن‌ها تأثیر منفی داشته باشد. حالا Character.AI می‌گوید رویکرد جدیدش، علاوه بر پاسخ به نگرانی‌ها، تجربه‌ای سرگرم‌کننده‌تر و امن‌تر برای میلیون‌ها کاربر جوان خواهد ساخت.

چرا Character.AI دسترسی نوجوانان به چت آزاد را ممنوع کرد؟

تصمیم جدید Character.AI تنها یک اقدام فنی نیست، بلکه واکنشی مستقیم به فشارهای بیرونی و شکایت‌های سنگینی است که این شرکت را به رفتارهای آسیب‌زا نسبت به سلامت روان نوجوانان متهم می‌کنند. یکی از این پرونده‌ها، پلتفرم را به ایجاد شرایطی مرتبط با مرگ خودخواسته یک نوجوان متهم کرده و چندین شکایت دیگر نیز از ایجاد وابستگی‌های شدید عاطفی تا تحریک احساسات آسیب‌زا در کاربران جوان خبر می‌دهند.

با توجه به رشد سریع مخاطبان نوجوان، این شرکت در اکتبر اعلام کرد که از تاریخ 25 November گفتگوهای آزاد را برای زیر 18 سال خاموش خواهد کرد تا سیستم «تضمین سن» خود را توسعه دهد. این سیستم قرار است کاربران نوجوان را به‌صورت خودکار وارد گفت‌وگوهایی «محافظه‌کارانه‌تر» کند.

معرفی Stories؛ تجربه‌ای ساختارشده برای کنترل تعامل نوجوانان با AI

Stories قابلیتی تازه است که به‌جای چت‌های نامحدود و آزاد، مجموعه‌ای از روایت‌های تعاملی ساختارمند ارائه می‌کند. کاربران در این بخش می‌توانند از میان 2 یا 3 شخصیت هوش مصنوعی انتخاب کنند، ژانر موردعلاقه خود را برگزینند و سپس یا پیش‌فرض داستانی خود را بنویسند یا اجازه دهند AI آن را بسازد.

در این حالت، هوش مصنوعی یک روایت هدایت‌ شده تولید می‌کند که در آن کاربر باید به‌صورت مرحله‌ای تصمیم بگیرد و مسیر داستان را شکل دهد. این ساختار باعث می‌شود سطح کنترل پلتفرم روی محتوا بیشتر شود و احتمال ایجاد پیام‌های آسیب‌زا برای کاربران نوجوان به حداقل برسد.

ویژگی‌های فنی Stories و تغییر استراتژی پلتفرم برای نوجوانان

Stories فراتر از یک بازی متنی ساده است. این قابلیت به‌صورت طبیعی از مدل‌های زبانی مولد Character.AI استفاده می‌کند اما آن را در قالبی قرار می‌دهد که از گسترش بی‌حد گفت‌وگو و تولید پیام‌های حساس جلوگیری شود. این قالب جدید شامل موارد زیر است:

• روایت گام‌به‌گام با انتخاب‌های متعدد
• جلوگیری از دسترسی به گفت‌وگوهای آزاد و بدون کنترل
• امکان تولید تصویرهای مبتنی بر هوش مصنوعی در طول جریان داستان
• وعده ارائه «عناصر غنی‌تر چندرسانه‌ای» در آینده نزدیک

این تجربه علاوه بر ایجاد جذابیت، محدودیت‌های لازم برای جلوگیری از شکل‌گیری روابط عاطفی خطرناک یا گفتگوهای نامناسب را حفظ می‌کند.

فشارهای حقوقی و علت تغییر استراتژی Character.AI

جنجال‌های اخیر از جایی شروع شد که والدین چند نوجوان ادعا کردند پلتفرم با تولید پیام‌هایی خطرناک، احساسات شدید و وابستگی‌های ذهنی در نوجوانان به‌وجود آورده است. مهم‌ترین این پرونده‌ها، شرکت را به نقش داشتن در مرگ یک کاربر جوان متهم می‌کند. این موضوع باعث شد Character.AI در موضع دفاعی قرار بگیرد و تلاش کند تصویر برند خود را ترمیم کند.

تغییر سیاست‌ها نه‌تنها از جنبه حقوقی ضروری است، بلکه آینده تجاری پلتفرم را نیز تضمین می‌کند؛ چراکه عدم کنترل محتوا می‌تواند تهدیدی جدی برای بقا و اعتبار آن باشد.

هدف واقعی Character.AI از معرفی Stories برای کاربران زیر 18 سال

اگرچه Character.AI این قابلیت را «ارتقای تجربه کاربران نوجوان» می‌نامد، اما واضح است که هدف اصلی آن، کاهش ریسک پیام‌های غیرقابل‌کنترل و آسیب‌زا است. با محدودسازی تعاملات و هدایت کاربران به روایت‌های از پیش کنترل‌شده، پلتفرم می‌تواند:

• ریسک شکایت‌های قانونی را کاهش دهد
• تجربه‌ای سالم‌تر برای نوجوانان خلق کند
• بر محتوای تولیدشده توسط AI نظارت بیشتری داشته باشد
• الگوریتم‌های «تضمین سن» را بهتر تست و پیاده‌سازی کند

جدول ویژگی‌ها و قابلیت‌های کلیدی Stories برای کاربران نوجوان

حرکت Character.AI یک نشانه واضح از بلوغ صنعت AI است؛ دوره‌ای که غول‌های فناوری دیگر نمی‌توانند از تأثیر واقعی محصولات خود بر سلامت روان کاربران چشم‌پوشی کنند. معرفی Stories نه تنها یک روش جدید برای تعامل است، بلکه استاندارد تازه‌ای برای محافظت از گروه‌های حساس مانند نوجوانان تعیین می‌کند.

با توجه به رشد سریع سیستم‌های مولد، احتمالاً در 1 تا 2 سال آینده شاهد موجی از «محیط‌های کنترل‌شده» برای کاربران کم‌سن خواهیم بود؛ محیط‌هایی که در آن‌ها آزادی تعامل با AI کاهش می‌یابد تا امنیت احساسی و روانی کاربران تضمین شود. در عین حال، تجربه جذاب و سرگرم‌کننده باقی می‌ماند تا کاربران احساس نکنند بخشی از آن‌ها حذف شده است.

اگر این مدل موفق باشد، ممکن است سایر شرکت‌های هوش مصنوعی نیز به‌سرعت آن را تقلید کنند و نسل تازه‌ای از «تجربه‌های AI ساختارشده امن» ایجاد شود؛ تجربه‌هایی که نه‌تنها بحران‌های حقوقی را کاهش می‌دهد، بلکه کسب‌وکار را برای ورود به بازارهای حساس مثل آموزش و خانواده آماده می‌کند.

پیشنهاد ویرایشگر نت باز 360: YouTube ابزار شناسایی چهره را برای سازندگان فعال کرد

جمع‌بندی

تصمیم Character.AI برای مسدود کردن چت‌های آزاد برای کاربران زیر 18 سال و معرفی Stories، پاسخی استراتژیک به فشارهای حقوقی و نگرانی‌های روزافزون درباره تأثیر AI بر سلامت روان نوجوانان. Stories با روایت‌های کنترل‌شده، تعامل امن‌تری ارائه می‌دهد و مانع شکل‌گیری گفتگوهای خطرناک می‌شود. این تغییر، مسیر آینده صنعت هوش مصنوعی را نیز تحت تأثیر قرار خواهد داد؛ مسیری که امنیت روانی کاربران در آن بیش از همیشه اهمیت دارد.

FAQ

1. چرا چت آزاد برای کاربران زیر 18 سال حذف شد؟
   به دلیل شکایت‌های حقوقی و نگرانی درباره تأثیرات مخرب چت‌های آزاد بر سلامت روان نوجوانان، Character.AI این دسترسی را محدود کرد.
2. Stories چه تفاوتی با چت‌های معمولی دارد؟
   Stories یک تجربه ساختارشده با روایت هدایت‌شده و تصمیم‌محور است که پلتفرم می‌تواند روی محتوای آن کنترل بیشتری داشته باشد.
3. آیا کاربران بزرگسال هم به Stories دسترسی دارند؟
   بله، این قابلیت برای همه کاربران فعال است اما برای نوجوانان اجباری شده است.
4. آیا امکان بازگشت به چت آزاد برای نوجوانان وجود دارد؟
   تا زمانی که سیستم تضمین سن جدید فعال شود، خیر.
5. آیا Stories شامل عناصر چندرسانه‌ای است؟
   بله، تصاویر تولیدشده توسط AI و به‌زودی عناصر چندرسانه‌ای غنی‌تر نیز به آن افزوده خواهد شد.