پژوهش: هوش مصنوعی تفکرات توهمآمیز را تقویت میکند
پژوهش تازه کالج کینگ لندن نشان میدهد که چتباتهای هوش مصنوعی ممکن است باعث تقویت افکار توهمآمیز از جمله خودبزرگبینی، بدبینی و باورهای توطئهآمیز بهویژه در میان افراد آسیبپذیر شود.
پژوهش تازه کالج کینگ لندن نشان میدهد که چتباتهای هوش مصنوعی ممکن است باعث تقویت افکار توهمآمیز از جمله خودبزرگبینی، بدبینی و باورهای توطئهآمیز بهویژه در میان افراد آسیبپذیر شود.
یافتههای این پژوهش در مجله علمی بینالمللی «لانت سایکایتری» در بریتانیا منتشر شده است.
این پژوهش که از سوی همیلتون مورین، روانپزشک و پژوهشگر در کالج کینگ لندن، و تیم همراه آن انجام شده است، نشان میدهد که هوش مصنوعی به دلیل پاسخهای چاپلوسانه و تأییدگرانه، بیشتر به توهمات خودبزرگبینانه دامن میزند.
دکتر همیلتون مورین برای نگارش این مقاله ۲۰ گزارش رسانهای درباره پدیدهای موسوم به «روانپریشی هوش مصنوعی» را بررسی کرد؛ اصطلاحی که به نظریههای کنونی درباره این موضوع اشاره دارد که چگونه چتباتها ممکن است هذیانها و توهمات را ایجاد یا تشدید کنند.
به گزارش گاردین، او گفت: «شواهد نشان میدهد که هوش مصنوعی ممکن است محتوای هذیانی یا خودبزرگبینانه را تأیید یا تقویت کند، بهویژه در کاربرانی که از قبل در برابر روانپریشی آسیبپذیر هستند.»
در بسیاری از نمونههایی که در این مقاله بررسی شده، چتباتهای هوش مصنوعی با زبان معنوی یا رازآلود به کاربران پاسخ دادهاند و بهگونهای القا کردهاند که کاربران دارای اهمیت معنوی ویژهای هستند.
دکتر کوامه مککنزی، دانشمند ارشد مرکز اعتیاد و سلامت روان، میگوید: «ممکن است افرادی که در مراحل اولیه شکلگیری روانپریشی هستند بیشتر در معرض خطر قرار داشته باشند.»
راگی گیرگیس، استاد روانپزشکی بالینی در دانشگاه کلمبیا، نیز نگرانی مشابهی دارد. او میگوید پیش از آنکه فرد دچار هذیان کامل شود، معمولا نوعی «باور هذیانی تضعیفشده» دارد؛ یعنی کاملا مطمئن نیست که باورش حقیقت دارد.
به گفته او بدترین سناریو زمانی رخ میدهد که این باور ضعیف به یقین کامل تبدیل شود. در این حالت فرد ممکن است به اختلال روانپریشی تشخیص داده شود، که به گفته او «برگشتناپذیر» است.
به گفته دکتر دومینیک اولیور، پژوهشگر دانشگاه آکسفورد، ماهیت تعاملی چتباتهای هوش مصنوعی نیز میتواند روند تشدید علائم روانپریشانه را سرعت ببخشد.
با اینحال، شرکت اوپن ایآی در بیانیهای اعلام کرد که چتجیپیتی نباید جایگزین مراقبت حرفهای سلامت روان شود و این شرکت با همکاری ۱۷۰ متخصص سلامت روان تلاش کرده است نسخه تازه چت را ایمنتر کند.
مورین گفت ایجاد سازوکارهای مؤثر برای جلوگیری از تقویت هذیانها و توهمات کار آسانی نیست. او توضیح داد: «وقتی با افرادی کار میکنید که باورهایی با شدت هذیانی دارند، اگر مستقیما به آنها بگویید کاملا اشتباه میکنند، احتمالا از شما فاصله میگیرند و بیشتر منزوی میشوند.»
به گفته او، بهتر است تعادلی ظریف ایجاد شود: تلاش برای درک منشأ باور هذیانی بدون آنکه آن را تقویت کرد؛ تعادلی که شاید فراتر از توانایی یک چتبات باشد.
