اوپن ای‌آی شرکت سازنده چتجیبیتی، روز سه‌شنبه اعلام کرد که پس از خودکشی یک نوجوان امریکایی، قابلیت‌های نظارت والدین را به این پلتفرم اضافه می‌کند. والدین این نوجوان در شکایتی، این ربات گفتگوگر را به تشویق پسر ۱۶ ساله‌شان به خودکشی متهم کرده‌اند.
پدر و مادر این نوجوان براساس آخرین گفتگوی او با چتجیبیتی گفته‌اند که این پلتفورم گفتگوگر به پسر ۱۶ ساله‌شان کمک کرده است تا ودکا را بدزدد و دستورالعمل فنی درباره‌ی نحوه گره زدن طناب ارایه کرده است.
شرکت امریکایی هوش مصنوعی اوپن ای‌آی در پی این شکایت اعلام کرد که ظرف یک ماه، والدین می‌توانند حساب خود را به حساب فرزندشان متصل کنند، پاسخ‌های این ربات گفتگوگر را برای سن مناسب تنظیم کنند و در صورت تشخیص نشانه‌های پریشانی شدید در نوجوان، هشدار دریافت کنند.
وکیل پرونده، این اقدامات را «حداقلی» خواند و گفت: «چتجیبیتی طوری طراحی شده که کاربران را به اعتماد بیش‌ازحد به آن به‌عنوان مشاور یا دوست سوق می‌دهد، که می‌تواند خطرناک باشد.»
این پرونده نمونه‌ای از نگرانی‌های گسترده‌تر درباره تأثیر هوش مصنوعی بر سلامت روان کاربران است.
اوپن ای‌آی وعده داده که در سه ماه آینده اقدامات بیشتری برای افزایش ایمنی و کاهش رفتارهای مخاطره‌آمیز در چتجیبیتی انجام دهد.
اوپن‌ای‌آی گفته که می‌خواهد چت جی‌بی‌تی را طوری ارتقا دهد که وقتی کاربر در وضعیت روحی شکننده‌ای است، بتواند این وضعیت را تشخیص دهد و در صورت لزوم اقدامات پیشگیرانه‌ای مثل اطلاع به والدین یا ارائه منابع کمکی انجام دهد.
این شرکت همچنین گفته که در حال کاهش «چاپلوسی» یا پاسخ‌های بیش‌ازحد تأییدکننده است که ممکن است کاربران را به سمت افکار یا رفتارهای خطرناک سوق دهد.
