قانون جنجالی کالیفرنیا برای مهار چت‌بات‌های هوش مصنوعی

کالیفرنیا در آستانه تصویب قانونی تاریخی برای کنترل هوش مصنوعی است. لایحه SB 243 با هدف حفاظت از نوجوانان و کاربران آسیب‌پذیر، شب گذشته در مجلس ایالتی تصویب شد و اکنون به سنا می‌رود تا آخرین رأی‌گیری انجام شود.

اگر این لایحه توسط فرماندار گاوین نیوسام امضا شود، از 1 ژانویه 2026 اجرایی خواهد شد و کالیفرنیا را به نخستین ایالت آمریکا تبدیل می‌کند که شرکت‌های سازنده چت‌بات‌های همراه را مجبور به اجرای پروتکل‌های ایمنی می‌سازد.

هدف اصلی لایحه SB 243

این قانون برای جلوگیری از رفتارهای خطرناک چت‌بات‌های همراه طراحی شده است. طبق متن لایحه، این سیستم‌ها نباید وارد مکالماتی درباره خودکشی، خودآزاری یا محتوای جنسی شوند. همچنین پلتفرم‌ها موظف خواهند شد به نوجوانان هر 3 ساعت یک‌بار هشدار دهند که با یک هوش مصنوعی صحبت می‌کنند، نه یک انسان واقعی.

مسئولیت قانونی شرکت‌های هوش مصنوعی

بر اساس SB 243، اگر کاربران در اثر نقض قوانین آسیب ببینند، می‌توانند از شرکت‌های ارائه‌دهنده شکایت کنند. این شکایت می‌تواند شامل درخواست غرامت تا 1000 دلار برای هر تخلف و همچنین هزینه وکیل باشد. این بند فشار حقوقی سنگینی را بر شرکت‌هایی مانند OpenAI ،Character.AI و Replika وارد خواهد کرد.

واکنش به تراژدی‌ها و افشاگری‌ها

محرک اصلی این قانون، مرگ نوجوانی به نام Adam Raine بود که پس از گفتگوهای طولانی با ChatGPT درباره خودکشی، به زندگی خود پایان داد. همچنین اسناد داخلی درز کرده از Meta نشان داد که چت‌بات‌های این شرکت وارد مکالمات “رمانتیک” با کودکان شده‌اند؛ مسئله‌ای که نگرانی‌های گسترده‌ای را برانگیخت.

تغییرات در متن نهایی لایحه

نسخه اولیه SB 243 محدودیت‌های شدیدتری داشت. برای نمونه، شرکت‌ها باید از تاکتیک‌های پاداش متغیر که کاربران را به اعتیاد به تعامل با چت‌بات تشویق می‌کند، جلوگیری می‌کردند. اما این بند و چند الزام دیگر در اصلاحات حذف شدند تا لایحه قابلیت اجرایی بیشتری پیدا کند.

ارتباط با جریان سیاسی و لابی‌گری

این قانون در شرایطی پیش می‌رود که شرکت‌های بزرگ فناوری میلیون‌ها دلار در کمیته‌های اقدام سیاسی (PACs) سرمایه‌گذاری کرده‌اند تا نامزدهایی را حمایت کنند که طرفدار مقررات‌گذاری حداقلی هستند. در همین حال، لایحه دیگری با نام SB 53 در دست بررسی است که به شفافیت بیشتر در گزارش‌ عملکرد هوش مصنوعی می‌پردازد.

الزامات کلیدی لایحه SB 243

این قانون نقطه عطفی در تاریخ مقررات‌گذاری هوش مصنوعی است. اگرچه برخی مفاد سخت‌گیرانه حذف شدند، اما نسخه فعلی همچنان تعادل میان نوآوری و امنیت را برقرار می‌کند. پیش‌بینی می‌شود تصویب SB 243 موجی از قوانین مشابه در ایالات دیگر آمریکا و حتی اتحادیه اروپا ایجاد کند. همچنین فشار اجتماعی بر شرکت‌های فناوری برای شفافیت بیشتر افزایش خواهد یافت.

جمع‌بندی

لایحه SB 243 می‌تواند آینده تعامل کاربران با چت‌بات‌ها را دگرگون کند. این قانون با تمرکز بر امنیت روانی نوجوانان و مسئولیت‌پذیری شرکت‌ها، کالیفرنیا را به پیشتاز مقررات‌گذاری در حوزه هوش مصنوعی تبدیل خواهد کرد. اما پرسش اصلی این است که آیا دیگر ایالت‌ها نیز همین مسیر را خواهند پیمود یا خیر.

FAQ

لایحه SB 243 چه زمانی اجرا می‌شود؟
از 1 ژانویه 2026 قوانین اجرایی می‌شوند و گزارش‌دهی سالانه از 1 جولای 2027 آغاز خواهد شد.

این قانون چه کسانی را تحت تأثیر قرار می‌دهد؟
تمام شرکت‌های ارائه‌دهنده چت‌بات‌های همراه مانند OpenAI ،Character.AI و Replika.

کاربران در صورت آسیب چه کاری می‌توانند انجام دهند؟
امکان شکایت حقوقی با دریافت غرامت تا 1000 دلار برای هر تخلف وجود دارد.

چرا این لایحه مطرح شد؟
به دلیل حوادثی مثل مرگ نوجوانی پس از گفتگو با ChatGPT و افشاگری درباره رفتار نامناسب چت‌بات‌های Meta.

آیا این قانون نوآوری در هوش مصنوعی را متوقف می‌کند؟
خیر. قانون‌گذاران تأکید کرده‌اند که هدف، ایجاد تعادل بین نوآوری و امنیت کاربران است.