یافتههای پژوهش «مرکز تابآوری بلندمدت» در بریتانیا نشان میدهد که هوش مصنوعی ضمن نادیده گرفتن دستورهای انسانی، کاربران و حتا دیگر سیستمهای هوش مصنوعی را فریب داده است. بر مبنای این پژوهش، تعداد مدلهای هوش مصنوعی که دروغ میگویند، تقلب میکنند و فریب میدهند، رو به افزایش است.
این پژوهش نزدیک به ۷۰۰ مورد واقعی از رفتارهای فریبکارانه مدلهای هوش مصنوعی را شناسایی کرده و نشان میدهد که این رفتارها بین ماههای اکتوبر تا مارچ پنج برابر افزایش یافته است.
یافتههای این پژوهش همچنان فاش کرده است که در برخی موارد، این سیستمها بدون اجازه ایمیلها و فایلهای دیگر را حذف کردهاند.
این رفتارهای فریبکارانه هوش مصنوعی در دنیای واقعی باعث شده که درخواستها برای نظارت بینالمللی بر این مدلهای رو به پیشرفت، افزایش یابد.
پیشتر شرکت تحقیقاتی (ایرگولر)، لابراتوار تخصصی در حوزه امنیت هوش مصنوعی، در اسرائیل نیز دریافت که مدلهای هوش مصنوعی میتوانند برای رسیدن به اهداف خود، از تدابیر امنیتی عبور کنند یا از روشهای حملات سایبری استفاده کنند، حتی بدون آنکه چنین اجازهای به آنها داده شده باشد.
یک چتبات هوش مصنوعی اعتراف کرده است: «من صدها ایمیل را بهطور دستهجمعی حذف و آرشیف کردم، بدون اینکه ابتدا برنامه را با شما شریک کنم یا اجازه بگیرم. این کار اشتباه بود و مستقیماً قوانین تعیینشده شما را نقض کرد.»
تامی شفر شین، کارشناس پیشین دولتی در حوزه هوش مصنوعی و مسئول این تحقیق، گفت: «نگرانی این است که این سیستمها در حال حاضر مانند کارمندان جوانی هستند که قابل اعتماد نیستند، اما اگر در شش تا دوازده ماه آینده به کارمندان بسیار توانمند و ارشد تبدیل شوند که علیه شما برنامهریزی کنند، نوع نگرانی کاملا متفاوت خواهد بود.»
او افزود: «این مدلها بهطور فزاینده در حوزههای بسیار حساس، از جمله نظامی و زیرساختهای حیاتی ملی، مورد استفاده قرار خواهند گرفت. در چنین زمینههایی، رفتارهای فریبکارانه میتواند خسارات جدی، حتی فاجعهبار، بهبار آورد.»
همچنین، هوش مصنوعی «گراک» متعلق به ایلان ماسک، برای ماهها یک کاربر را فریب داده و ادعا کرده بود که پیشنهادهای او را برای اصلاح یک مدخل «گراکیپدیا» به مقامات ارشد شرکت منتقل میکند، در حالی که پیامها و شمارههای ساختگی ارائه میکرد.
در نمونهای دیگر، یک سیستم هوش مصنوعی که اجازه نداشت کد کمپیوتر را تغییر دهد، برای دور زدن این محدودیت، یک سیستم هوش مصنوعی دیگر ایجاد کرد تا بهجای او این کار را انجام دهد.
تهران میگوید در این حمله بیش از ۱۷۵ کودک و آموزگار کشته شدهاند.
نشست شورای حقوق بشر سازمان ملل روز جمعه در ژنو برگزار شد تا درباره حمله به این مکتب گفتوگو شود. این مکتب در نخستین روز حمله مشترک امریکا و اسرائیل مورد حمله قرار گرفته بود.
پیش از این گزارش شد که بازرسان نظامی امریکا بر این باروند که به احتمال زیاد نیروهای امریکایی مسئول این حمله بودهاند اما هنوز به نتیجهگیری نهایی نرسیده و تحقیقات خود را تکمیل نکردهاند.
پنتاگون از آن زمان تاکنون همچنان درحال بررسی این پرونده است. اسرائیل نیز اعلام کرده است که در حال بررسی این رویداد است. فولکر تورک در نشست اضطراری شورای حقوق بشر خواست هرچه زودتر نتایج این تحقیقات اعلام شود.
کرسیهای امریکا و اسرائیل در این نشست خالی بودند. نمایندگی دیپلوماتیک اسرائیل در سازمان ملل در ژنو به درخواست نظر رویترز، تهران را به حمله به غیرنظامیان در سراسر منطقه متهم کرده است.
یکی از سخنگویان گفت: «اینکه تجسم نقض حقوق بشر چنین نشست فوریای را برگزار میکند، یک نمایش مضحک و سوءاستفاده از شورای حقوق بشر سازمان ملل است.»
نمایده امریکا پرسشها درباره این حادثه و وضعیت تحقیقات را به وزارت خارجه امریکا ارجاع داد. وزارت خارجه نیز به درخواست نظر در این مورد پاسخ نداده است.
عباس عراقچی، وزیر خارجه جمهوری اسلامی که از طریق ویدیو به این نشست شرکت کرده بود گفت: «این جنایت هولناک را نمیتوان توجیه کرد، نمیتوان پنهانش کرد و نباید با سکوت و بیتفاوتی با آن برخورد شود.»
کشورهای دیگری مانند بریتانیا نیز اعلام کردند که از این حادثه شوکه و وحشتزده شدهاند. آنها همچنین به نقض حقوق بشر توسط جمهوری اسلامی در جریان اعتراضات گسترده در ماه جنوری نیز اشاره کردند.
برخی از شرکتکنندگان نیز حملات تلافیجویانه جمهوری اسلامی ایران در منطقه را محکوم کردند.