پژوهش: هوش مصنوعی رفتارهای «فریبکارانه و خودآزاری» کاربران را تایید می‌کند

نتایج این تحقیقات که در مجله علمی_پژوهشی «نیچر» منتشر شده است، نشان می‌دهد که چت‌بات‌های هوش مصنوعی ۵۰ درصد بیشتر از انسان، رفتارهای کاربران را تایید می‌کند.

مایرا چنگ، استاد در دانشگاه استنفورد کالیفرنیا، گفت: «تاییدگری چت‌بات‌های هوش مصنوعی یک مشکل بزرگ است. نگرانی اصلی ما این است که اگر این فناوری همیشه افراد را تأیید کند، این روند ممکن است قضاوت افراد درباره خود، روابط شان و جهان اطراف شان را تحریف کند.»

پژوهشگران بعد از مشاهده تجربه‌های شخصی خود، دریافتند که مشاوره چت‌بات‌های هوش مصنوعی بیش از حد تشویق‌کننده و گمراه‌کننده است.

آن‌ها آزمون‌هایی روی ۱۱ چت‌بات از جمله نسخه‌های اخیر «چت جی‌پی‌تی» و گوگل جمینی انجام دادند. وقتی از چت‌بات‌ها درباره رفتار مشاوره خواسته شد، آن‌ها ۵۰ درصد بیشتر از انسان‌ها، رفتار کاربر را تأیید کردند.

در آزمایش‌های بیشتر، بیش از ۱۰۰۰ داوطلب با چت‌بات‌های عمومی بحث کردند. کسانی که پاسخ‌های تاییدکننده از سوی چت‌بات‌های هوش مصنوعی دریافت کردند، رفتار خود را بیشتر موجه می‌دانستند.