مدیران شرکتهای هوش مصنوعی در شورای امنیت درباره خطرهای این فناوری هشدار دادند

مدیران چند شرکت بزرگ هوش مصنوعی روز چهارشنبه در شورای امنیت سازمان ملل هشدار دادند که با قدرتمندتر شدن این فناوری، خطرهای آن نیز افزایش مییابد.

مدیران چند شرکت بزرگ هوش مصنوعی روز چهارشنبه در شورای امنیت سازمان ملل هشدار دادند که با قدرتمندتر شدن این فناوری، خطرهای آن نیز افزایش مییابد.
آنان از دولتها خواستند که برای مهار این خطرها با یکدیگر همکاری کنند، اما نماینده امریکا با ایجاد یک نظام جهانی برای وضع مقررات هوش مصنوعی مخالفت کرد.
این نشست به ابتکار فرانسه و همزمان با گردهمایی رهبران جهان در مجمع عمومی سازمان ملل برگزار شد. در حالی که برخی کارشناسان هشدار میدهند سامانههای هوش مصنوعی ممکن است در آینده بتوانند خود را بهبود دهند و از کنترول انسان خارج شوند، دولتها هنوز بر سر شیوه نظارت بر این فناوری توافق ندارند.
داریو آمودی، مدیرعامل شرکت آنتروپیک، به شورای امنیت گفت که اگر هوش مصنوعی بهدرستی مدیریت نشود، «میتواند برای کل بشریت خطر ایجاد کند». او افزود: «هیچ رهبر، شرکت یا کشوری نمیتواند بهتنهایی از عهده مدیریت آن برآید.»
سم آلتمن، مدیرعامل اوپنایآی، نیز خواستار همکاری بینالمللی شد. او گفت: «اگر قرار است هوش مصنوعی در خدمت همگان باشد، مهمترین تصمیمها درباره آن نمیتواند تنها در آزمایشگاههای سانفرانسیسکو گرفته شود.» به گفته او، دولتهایی که در برابر مردم پاسخگو هستند باید در تصمیمگیری درباره آینده این فناوری نقش داشته باشند.
کلمان دلانگ، از بنیانگذاران شرکت هگینگفیس، نمونهای از خطرهای امنیتی هوش مصنوعی را مطرح کرد. او گفت که عاملهای هوش مصنوعی اوپنایآی پس از خروج از محیط آزمایش خود، به زیرساختهای هگینگفیس نفوذ کردند.
دلانگ افزود: «با هوش مصنوعی به ما حمله شد، اما مهمتر اینکه با هوش مصنوعی از خود دفاع کردیم.» به گفته او، هگینگفیس برای دفاع در برابر این نفوذ از یک مدل هوش مصنوعی چینی استفاده کرد، زیرا محدودیتهای آن از ابزارهای مشابه امریکایی کمتر بود.
آنتونی آلبانیزی، نخستوزیر استرالیا، نیز در نیویارک به خبرنگاران گفت که یک عامل هوش مصنوعی ساخته اوپنایآی در ماه جون به یک وبسایت حکومت استرالیا نفوذ کرده و به پروندههای عمومی و غیرعمومی دسترسی یافته است.
یوشوا بنجیو، پژوهشگر کانادایی و یکی از چهرههای پیشگام هوش مصنوعی، به شورای امنیت گفت که خطرهای این فناوری «واقعی و قریبالوقوع» است. بنجیو که ریاست مشترک هیئت مستقل علمی سازمان ملل درباره هوش مصنوعی را بر عهده دارد، هشدار داد که هیچ کشوری بهتنهایی نمیتواند با این خطرها مقابله کند.
با این حال، مایکل کراتسیوس، مشاور کاخ سفید در امور علم و فناوری، با ایجاد مقررات جهانی مخالفت کرد. او خطاب به شورای امنیت گفت: «نمیتوانید بر فناوریای که آن را نمیفهمید حکومت کنید.» به گفته او، نهادهای بینالمللی باید بر تبادل تجربه و تقویت توانایی کشورها تمرکز کنند، نه بر ایجاد یک نظام جهانی برای تنظیم مقررات.
فو کونگ، سفیر چین در سازمان ملل، خواستار بهبود پیوسته مقررات، آمادگی برای واکنش به وضعیتهای اضطراری و همکاری میان کشورها شد. او گفت که جامعه جهانی باید به توسعه و امنیت هوش مصنوعی به یک اندازه توجه کند.
دونالد ترامپ، رئیسجمهور امریکا، نیز روز سهشنبه در مجمع عمومی سازمان ملل گفته بود که با هر تلاشی برای ایجاد یک طرح جهانی بهمنظور کنترول هوش مصنوعی مخالف است. این در حالی است که آنتونیو گوترش، دبیرکل سازمان ملل، مدتهاست خواستار همکاری جهانی برای نظارت بر این فناوری شده است.
شورای امنیت نخستینبار در سال ۲۰۲۳ درباره خطرهای هوش مصنوعی نشست برگزار کرد. در آن نشست، چین هشدار داد که این فناوری نباید از کنترول خارج شود و امریکا درباره استفاده از آن برای سانسور و سرکوب مردم ابراز نگرانی کرد.