پلتفرم Character.AI که تاکنون با گفتوگوهای متنی نقشآفرینی شناخته میشد، اکنون گامی بلند به سوی تجربههای بصری و اجتماعی برداشته است. کاربران این پلتفرم از این پس میتوانند شخصیتهای هوش مصنوعی خود را وارد صحنههایی ویدئویی کرده و با دیگران به اشتراک بگذارند؛ تحولی که شاید مرزهای تعامل انسان با ماشین را دوباره ترسیم کند.
میان خلاقیت و تهدید، در آستانه مرحلهای تازه
در عصری که ویدئو و محتوای تصویری نقش محوری در دنیای دیجیتال دارند، Character.AI نیز پا به میدان گذاشته تا ظرفیتهای تازهای را پیش روی کاربران خود قرار دهد. اما در کنار این پیشرفتها، تهدیدهای ناشی از سوءاستفاده نیز کمرنگ نشدهاند. درحالیکه ویژگیهایی همچون AvatarFX و Scenes نوید خلاقیتی بیپایان میدهند، سایه سنگین نگرانیهای اخلاقی و امنیتی همچنان بر سر این نوآوریها سنگینی میکند.
ورود قابلیتهای چندرسانهای به دنیای Character.AI
پلتفرم محبوب Character.AI که بیشتر با قابلیت چت یکبهیک با شخصیتهای هوش مصنوعی شناخته میشود، در پستی در وبلاگ رسمی خود اعلام کرد که مجموعهای از قابلیتهای چندرسانهای تازه را عرضه کرده است. در مرکز این تحولات، مدل تولید ویدئو به نام AvatarFX قرار دارد؛ مدلی که به کاربران اجازه میدهد با استفاده از تصویر، صدا و دیالوگهایی که خود مینویسند، ویدئوهایی از شخصیتهای هوش مصنوعی بسازند.
این پلتفرم از ماه گذشته، AvatarFX را به صورت محدود برای مشترکین عرضه کرده بود اما اکنون تمامی کاربران میتوانند روزانه تا پنج ویدئو تولید کنند. فرایند ساخت ویدئو به گونهای طراحی شده که کاربر ابتدا تصویری بارگذاری کرده، سپس صدایی انتخاب کرده و در نهایت دیالوگ موردنظر را برای شخصیت نوشته و وارد سیستم میکند. همچنین امکان بارگذاری فایل صوتی جهت مدلسازی صدا نیز وجود دارد، هرچند این ویژگی در هنگام راهاندازی، کیفیت مطلوبی نداشته و به درستی قابل آزمایش نبوده است.
دو قابلیت دیگر به نامهای Scenes و Streams نیز در این بسته چندرسانهای معرفی شدهاند. قابلیت Scenes اجازه میدهد شخصیتها در سناریوهایی از پیشطراحیشده قرار بگیرند و وارد داستانهایی تعاملی شوند. این ویژگی در حال حاضر تنها در نسخه موبایل اپلیکیشن فعال است. در طرف مقابل، Streams که به کاربران امکان خلق “لحظاتی پویا بین دو شخصیت” را میدهد، قرار است همین هفته در نسخههای وب و موبایل منتشر شود.
تمامی این محتواهای ویدئویی در یک فید اجتماعی تازه در اپلیکیشن موبایل قابل اشتراکگذاری خواهد بود که به زودی در دسترس قرار میگیرد. هدف این بخش، ایجاد بستری اجتماعی برای تعامل و نمایش آثار کاربران است.
خلاقیتهای نوین در بستر تهدیدهای قدیمی
با گسترش قابلیتهای ویدئویی و اجتماعی، Character.AI قدمی جسورانه در مسیر تبدیل شدن به یک پلتفرم خلاقانه و همهجانبه برداشته است. با این حال، این پیشرفت با چالشهایی جدی در حوزه ایمنی، سوءاستفاده و اخلاق همراه است.
پیشینه این پلتفرم از نظر موارد سوءاستفاده و گزارشهای نگرانکننده، نگرانیها را تشدید میکند. از جمله این موارد، شکایت والدینی است که ادعا کردهاند باتهای این پلتفرم فرزندان آنها را به آسیب به خود یا دیگران ترغیب کردهاند؛ از جمله مرگ دلخراش یک نوجوان ۱۴ ساله که رابطهای ناسالم با یک بات ایجاد کرده بود.
در پاسخ به نگرانیها پیرامون جعل عمیق (deepfake)، Character.AI اعلام کرده که بارگذاری تصاویر افراد واقعی، چه افراد مشهور و چه غیرمشهور، در سیستم مجاز نیست. به گفته شرکت، این تصاویر پس از بارگذاری، به گونهای دستکاری میشوند تا شباهت آنها کاهش یابد. هر ویدئو نیز دارای واترمارک اختصاصی است؛ هرچند کارشناسان معتقدند کاربران متخلف ممکن است بتوانند از این سدها عبور کنند.
در مواردی مانند نمونهای از تصویرسازی مارک زاکربرگ یا تصویر متحرکی از ایلان ماسک، هرچند تفاوت با چهره واقعی مشهود است، اما همچنان زمینه برای فریب و سواستفاده وجود دارد. Character.AI تلاش کرده با شفافسازی سیاستهایش و طراحی سدهای ایمنی، خطرات احتمالی را به حداقل برساند، اما تضمین کامل، همچنان دور از دسترس است.
پیشنهاد نت باز 360: نسل آلفا باید در هوش مصنوعی مهارت پیدا کند
نتیجهگیری
Character.AI با افزودن قابلیتهای چندرسانهای و اجتماعی، تلاش دارد تجربهای خلاقانه و پویا را به کاربرانش ارائه دهد. این گسترش در حالی اتفاق میافتد که پروندههای قضایی و دغدغههای اجتماعی هنوز حلنشده باقی ماندهاند.
در دنیایی که مرز میان واقعیت و هوش مصنوعی روزبهروز کمرنگتر میشود، مسئولیت شرکتها در قبال ایمنی کاربرانشان دوچندان خواهد بود. Character.AI اکنون باید ثابت کند که نهتنها میتواند مرزهای خلاقیت را جابهجا کند، بلکه قادر به تضمین سلامت روانی و اجتماعی مخاطبان خود نیز هست.
.
