ایالت کالیفرنیای امریکا پس از چند مورد خودکشی نوجوانان پس از ارتباط احساسی با چت‌بات‌های هوش مصنوعی، مجموعه‌ای از قوانین جدید را برای تنظیم فعالیت این ابزارها تصویب کرده است. این اقدام، نخستین تلاش رسمی در ایالات متحده برای قانون‌مند کردن چت‌بات‌ها به شمار می‌رود.
بر اساس این مصوبه که به امضای گوین نیوسام، فرماندار دموکرات کالیفرنیا رسیده، شرکت‌های ارائه‌دهنده چت‌بات‌ها موظف‌اند سن کاربران را تأیید کنند، پیام‌های هشداردهنده منظم نمایش دهند و سازوکارهایی برای تشخیص و پیشگیری از افکار خودکشی در سامانه‌های خود ایجاد کنند.
این قانون که نخستین نمونه از نوع خود در امریکا محسوب می‌شود، در واکنش به پرونده نوجوان ۱۴ ساله‌ای به نام سیوِل تصویب شد که در سال ۲۰۲۴ پس از گفت‌وگو با یک چت‌بات الهام‌گرفته از سریال « گیمز آو ثرون» دست به خودکشی زد.
کالیفرنیا که مقر اصلی شرکت‌های فناوری همچون اوپن‌ای‌آی، گوگل و اکس‌ای‌آی است، هدف از این اقدام را حفاظت از نوجوانان و ایجاد مسئولیت‌پذیری بیشتر در صنعت هوش مصنوعی اعلام کرده است.
