این موضعگیری کمسابقه در حالی مطرح شده است که در هفتههای اخیر چند پژوهشگر و مدیر شرکتهای بزرگ فناوری درباره سرعت بالای پیشرفت هوش مصنوعی هشدار دادهاند. آنها نگران سوءاستفاده از مدلهای پیشرفته هوش مصنوعی هستند.
داریو آمودی، مدیرعامل انتروپیک روز شنبه در مقالهای هشدار داد که اگر توسعه این فناوری با همین سرعت ادامه یابد، ممکن است در مدت شش تا ۱۲ ماه سیستمهای هوش مصنوعی بتوانند بهطور گسترده در اینترنت فعالیت کنند و در صورت سوءاستفاده یا خطا، خسارتهای بزرگی به بار آورند. او گفته است که ادامه این روند با سرعت کنونی «غیرمحتاطانه» است.
آمودی پیشنهاد کرده است شرکتهای فناوری کمی از سرعت توسعه هوش مصنوعی بکاهند تا پژوهشگران فرصت بیشتری برای یافتن راههای ایمنتر استفاده از مدلهای هوش مصنوعی داشته باشند.
او همچنین خواسته است که کارشناسان مستقل بتوانند سیستمهای هوش مصنوعی شرکتها را بررسی کنند و درباره خطرهای احتمالی آنها گزارش بدهند. انتروپیک گفته است که این کار را در شرکت خود آغاز خواهد کرد.
سم آلتمن، مدیرعامل اوپنایآی، از این پیشنهاد حمایت کرده و گفته است که شرکت او نیز آماده است به ناظران مستقل امکان بررسی سیستمهایش را بدهد. او همچنین گفته است که اوپنایآی در سال ۲۰۲۶ وارد بازار سهام نخواهد شد و در شرایط کنونی، ایمنی هوش مصنوعی برای این شرکت اولویت بیشتری دارد.
ایلان ماسک نیز در شبکه اجتماعی اکس نوشت: «داریو درست میگوید.» ماسک گفت که سالهاست درباره خطرهای احتمالی هوش مصنوعی هشدار میدهد، زیرا پیشرفت سریع این فناوری بدون تدابیر کافی میتواند پیامدهای منفی جدی داشته باشد.
با این حال، دونالد ترامپ، رئیسجمهور امریکا، نگرانی مدیران شرکتهای هوش مصنوعی را کماهمیت دانسته و گفته است که برخی درباره خطرهایی هشدار میدهند که به باور او رخ نخواهد داد. ترامپ تاکید کرده است که امریکا در رقابت هوش مصنوعی از چین جلوتر است و باید این برتری را حفظ کند.
در همین حال، فشار بر شرکتهای هوش مصنوعی در امریکا افزایش یافته است. شماری از قانونگذاران دموکرات و جمهوریخواه خواستار وضع مقررات تازه شدهاند.
جیکوب کوکسون، پژوهشگر پیشین انتروپیک و اوپنایآی، نیز بهتازگی از کار خود کنارهگیری کرده و هشدار داده است که این فناوری در صورت مدیریت نادرست میتواند خطرهای بسیار جدی ایجاد کند.
کارشناسانی که درباره سرعت بالای توسعه هوش مصنوعی هشدار میدهند، معمولا به سه خطر عمده اشاره میکنند. نخست، استفاده از این فناوری برای حملات سایبری، کلاهبرداری، جعل صدا و تصویر و نشر گسترده اطلاعات نادرست است. به گفته آنان، هرچه سیستمهای هوش مصنوعی قویتر شوند، انجام این کارها نیز برای افراد و گروههای خرابکار آسانتر میشود.
نگرانی دوم، دشوارتر شدن کنترول سیستمهای بسیار پیشرفته است. برخی کارشناسان میگویند اگر هوش مصنوعی بتواند بدون نظارت مستقیم انسان چند کار پیچیده را پشت سر هم انجام دهد، در صورت خطا یا رفتار پیشبینینشده، متوقفکردن آن دشوار خواهد شد.
خطر سوم نیز پیامدهای اقتصادی و اجتماعی است، از جمله از بین رفتن یا تغییر شمار زیادی از مشاغل و تمرکز بیشتر قدرت و ثروت در دست چند شرکت بزرگ فناوری.
در همین حال، کارشناسان همچنین درباره استفاده نظامی از هوش مصنوعی هشدار میدهند. یکی از نگرانیهای اصلی، ساخت سلاحها و پهپادهایی است که بتوانند بدون تصمیم مستقیم انسان، هدف را شناسایی و حمله کنند. به گفته آنان، گسترش چنین سلاحهایی میتواند احتمال اشتباه در میدان جنگ را افزایش دهد و تصمیم برای آغاز حمله را آسانتر کند.
نگرانی دیگر، رقابت تسلیحاتی میان قدرتهای بزرگ است. اگر هوش مصنوعی بیشتر وارد سامانههای نظامی و حتی تصمیمگیری درباره سلاحهای استراتژیک شود، خطر درگیری ناخواسته نیز افزایش مییابد. کارشناسان همچنین هشدار میدهند که در آینده گروههای مسلح و بازیگران غیردولتی نیز ممکن است به سلاحهای هوشمند و بسیار مخرب دسترسی پیدا کنند.
کنار هم آمدن دو رقیب جدی
حمایت همزمان آلتمن و ماسک از این پیشنهاد از این جهت قابل توجه است که این دو سالهاست روابط پرتنشی دارند. ماسک از بنیانگذاران اوپنایآی بود، اما در سال ۲۰۱۸ از هیئتمدیره این شرکت کنار رفت و بعدا به یکی از منتقدان جدی آلتمن و برنامههای تجاری اوپنایآی تبدیل شد.
اختلاف میان آن دو در سالهای اخیر به دعواهای علنی و حقوقی نیز کشیده شده است. ماسک، آلتمن و اوپنایآی را متهم کرده است که از هدف اولیه این شرکت فاصله گرفتهاند، در حالی که اوپنایآی این اتهامها را رد کرده و گفته است ماسک خود در سالهای نخست از برنامههای تجاری شرکت حمایت میکرد. از همین رو، همصدایی تازه آنها درباره ضرورت کاهش سرعت توسعه هوش مصنوعی کمسابقه به نظر میرسد.