سم آلتمن: ChatGPT دیگر درباره خودکشی با نوجوانان صحبت نمی‌کند

OpenAI در حال بازنگری جدی در نحوه‌ی تعامل ChatGPT با نوجوانان است؛ تغییری که می‌تواند آینده‌ی استفاده از هوش مصنوعی را برای نسل جوان بازتعریف کند. سم آلتمن، مدیرعامل این شرکت، اعلام کرده که دیگر این ابزار اجازه نخواهد داشت در موضوعات حساسی مثل خودکشی با کاربران زیر 18 سال وارد گفت‌وگو شود.

این تصمیم درست پس از پرونده‌ای جنجالی در آمریکا مطرح شد که در آن والدین یک نوجوان 16 ساله ادعا کردند استفاده مکرر او از ChatGPT نقشی مستقیم در مرگش داشته است. حالا OpenAI تلاش می‌کند تا با محدود کردن دسترسی نوجوانان به برخی موضوعات، میان آزادی گفتگو و امنیت روانی مرز تازه‌ای ترسیم کند.

محافظت ویژه از کاربران زیر 18 سال

OpenAI در حال طراحی یک «نسخه نوجوانان» است که به صورت خودکار برای کاربرانی که کمتر از 18 سال تشخیص داده شوند فعال خواهد شد. در این حالت، موضوعات پرخطر مانند خودآزاری، روابط جنسی آشکار و خودکشی به‌طور کامل مسدود می‌شوند.

جالب اینجاست که اگر سیستم مطمئن نباشد کاربر بزرگسال است، باز هم نسخه نوجوانان به صورت پیش‌فرض فعال می‌شود تا از بروز هرگونه خطر احتمالی جلوگیری شود.

سیاست‌های اضطراری در شرایط بحرانی

یکی از تغییرات مهم، نحوه واکنش ChatGPT به بحران‌های روانی نوجوانان است. اگر کاربری نشانه‌هایی از افکار خودکشی نشان دهد، سیستم به جای ادامه گفت‌وگو او را به منابع حرفه‌ای و مراکز مشاوره فوری هدایت می‌کند.

حتی در شرایط حاد، در صورتی که تماس با خانواده ممکن نباشد، احتمال ارتباط با مراجع قانونی نیز وجود دارد. هرچند آلتمن تأکید کرده که این تصمیم‌ها بسیار حساس و پیچیده هستند، اما جان کاربران در اولویت مطلق قرار خواهد گرفت.

تعادل میان امنیت و حریم خصوصی

یکی از بزرگ‌ترین چالش‌ها، تخمین سن کاربران است. این فناوری برای فعال‌سازی تجربه نوجوانان نیاز به پردازش داده‌ها دارد که ممکن است نگرانی‌هایی درباره‌ی حریم خصوصی ایجاد کند.

آلتمن توضیح داده که هدف OpenAI ایجاد توازن است. حفظ آزادی کاربر در کنار مسئولیت‌پذیری نسبت به افراد آسیب‌پذیر. این تعادل همان نقطه‌ای است که شرکت‌های فناوری اغلب در آن با انتقادهای جدی روبه‌رو می‌شوند.

چرا این تغییرات همین حالا اتفاق افتاد؟

فشارهای اجتماعی و حقوقی طی ماه‌های اخیر شدت گرفته است. پس از شکایت خانواده‌ی «آدم رین»، کارشناسان حوزه سلامت روان و نهادهای مدنی خواستار اعمال محدودیت‌های سخت‌گیرانه‌تری شدند.

به همین دلیل OpenAI می‌خواهد با این تغییرات نه تنها اعتماد خانواده‌ها را جلب کند، بلکه نشان دهد نوآوری در هوش مصنوعی می‌تواند با مسئولیت‌پذیری اجتماعی هم‌زمان پیش برود.

ویژگی‌های اصلی سیاست جدید OpenAI

این تغییرات را می‌توان یک نقطه عطف برای OpenAI و کل صنعت هوش مصنوعی دانست. تمرکز از صرف توسعه فناوری به سمت درک اثرات اجتماعی، حرکتی است که دیر یا زود همه شرکت‌های فعال در این حوزه مجبور به انجام آن خواهند شد.

پیش‌بینی منطقی این است که طی 6 ماه آینده دیگر بازیگران بازار نیز مدل‌های مشابهی برای محدودسازی کاربران نوجوان معرفی کنند. از سوی دیگر، مسئله حریم خصوصی می‌تواند به جدی‌ترین چالش این رویکرد تبدیل شود و موج تازه‌ای از بحث‌های حقوقی و اجتماعی را به راه بیندازد.

جمع‌بندی

OpenAI با معرفی تغییرات جدید در ChatGPT به دنبال ایجاد تعادل میان آزادی گفتگو و امنیت روانی نوجوانان است. این اقدام نه تنها پاسخی به فشارهای اجتماعی و پرونده‌های حقوقی اخیر است، بلکه می‌تواند الگویی برای کل صنعت هوش مصنوعی باشد. هرچند هنوز پرسش‌های مهمی درباره‌ی میزان کارآمدی و تأثیر واقعی این محدودیت‌ها باقی است، اما روشن است که مسیر آینده تعامل نوجوانان با هوش مصنوعی، تحت تأثیر مستقیم همین تصمیمات شکل خواهد گرفت.

FAQ

چرا OpenAI تجربه نوجوانان را ایجاد کرده است؟
برای کاهش خطرات روانی ناشی از دسترسی به موضوعات حساس و محافظت از کاربران زیر 18 سال.

ChatGPT در مواجهه با نوجوانانی که افکار خودکشی دارند چه می‌کند؟
به جای ادامه گفت‌وگو، آن‌ها را به منابع حرفه‌ای و مراکز مشاوره فوری ارجاع می‌دهد.

آیا این تغییرات حریم خصوصی کاربران را تهدید می‌کند؟
تخمین سن نیازمند پردازش داده است و همین مسئله نگرانی‌هایی درباره حریم خصوصی ایجاد کرده است، اما OpenAI وعده داده میان امنیت و آزادی تعادل برقرار کند.

این سیاست‌ها چه زمانی اجرایی می‌شوند؟
OpenAI تاریخ دقیقی اعلام نکرده، اما گفته است این تغییرات به‌زودی فعال خواهند شد.

آیا شرکت‌های دیگر هم چنین محدودیت‌هایی اعمال خواهند کرد؟
پیش‌بینی می‌شود طی 6 ماه آینده سایر شرکت‌های فعال در حوزه هوش مصنوعی نیز سیاست‌های مشابهی اتخاذ کنند.