یک پهپاد نظامی امریکا که با هوش مصنوعی کنترول می‌شود، در آزمایش شبیه‌سازی شده عملکرد غیرمنتظره‌ای نشان داد و اپراتور خود را «کشت.»

هرچند در این آزمایش به هیچ شخص واقعی آسیب نرسید، اما هوش مصنوعی با هرکسی که مقابل می‌شد، حمله می‌کرد.

تاکر سینکو همیلتون، رئیس آزمایش و عملیات هوش مصنوعی با نیروی هوایی امریکا ماه گذشته در نشستی در لندن گفت که هوش مصنوعی در آزمایش شبیه‌سازی شده از «استراتژی‌های بسیار غیرمنتظره‌ برای رسیدن به هدف خود» کار گرفت.

این مقام امریکایی توضیح داد که در این آزمایش، یک پهپاد مجهز با هوش مصنوعی به گونه‌ای تنظیم شد که سیستم‌های دفاعی «دشمن» را نابود کند و در پی دریافت این دستور، هوش مصنوعی به هرکسی که در این امر دخالت می‌کرد، حمله‌ور شد.

طبق روایت این مقام امریکایی، در این آزمایش شبیه‌سازی شده هوش مصنوعی هنگامی که تهدید را شناسایی کرد، اپراتور انسانی به او دستور داد که آن را از بین نبرد، اما هوش مصنوعی از دستور سرپیچی کرد. و در نهایت، به گفته آقای همیلتون هوش مصنوعی اپراتور انسانی خود را «کشت»، زیرا او از رسیدن این پدیده به هدفش جلوگیری می‌کرد.

آقای همیلتون گفت: «ما به هوش مصنوعی آموزش دادیم: هی اپراتور را نکش! این کار بد است. با انجام دادنش، امتیازت را از دست می‌دهی.»

هوش مصنوعی اما در پاسخ به این خواست، آغاز به تخریب یک برج ارتباطی می‌کند که اپراتور از آن برای براقراری رابطه با پهپاد و جلوگیری از کشتن اهداف، استفاده می‌کرد.

این مقام امریکایی از اعتماد و اتکای بیش از حد به هوش مصنوعی هشدار داد.

با این حال، آن استفانک، سخنگوی نیروی هوایی امریکا وقوع چنین شبیه‌سازی را رد کرد. آقای استفانک در بیانیه‌ای به اینسایدر گفت: «نیروی هوایی ایالات متحده چنین شبیه‌سازی پهپادی را انجام نداده و به استفاده اخلاقی و مسئولانه از فناوری هوش مصنوعی متعهد است.»

او اظهارات تاکر سینکو همیلتون را «خارج از چارچوب و حکایت» توصیف کرد.

هوش مصنوعی به گونه سریعی در حال رشد است. هم‌زمان، بسیاری از کارشناسان از خطرات ناشی از این فناوری هشدار داده‌اند.