صندوق کودکان ملل متحد چهارشنبه، ۱۵ دلو در بیانیهای از سوءاستفاده تصاویر کودکان توسط برنامههای هوش مصنوعی ابراز نگرانی کرد. این سازمان از توسعهدهندگان هوش مصنوعی خواست رویکردهای نظارتی بر تولید این دسته از محتوای تصویری را افزایش دهند.
یونیسف گفت که شرکتهای دیجیتال باید با تقویت نظارت بر محتوا و سرمایهگذاری در فناوریهای شناسایی، از انتشار تصاویر دستکاری شده کودکان جلوگیری کنند.
در بیانیهای یونیسف آمده است: «آسیب ناشی از سوءاستفاده از دیپفیک واقعی و فوری است. کودکان نمیتوانند منتظر بمانند تا قانون به آن رسیدگی کند.»
دیپفیکها تصاویر، ویدیوها و صداهای تولید شده توسط هوش مصنوعیاند که بهطور قانعکنندهای تصویر افراد واقعی را جعل میکنند.
صندوق کودکان ملل متحد نوشت در یک سال گذشته تصاویر ۱.۲ میلیون کودک در ۱۱ کشور جهان توسط هوش مصنوعی دستکاری شده و این روند امنیت آنها را به خطر مواجه کرده است.
بریتانیا پیشتر اعلام کرد که قصد دارد استفاده از ابزارهای هوش مصنوعی برای ایجاد تصاویر سوءاستفاده جنسی از کودکان را غیرقانونی اعلام کند. بریتانیا نخستین کشوری است که در این راستا اقدام قانونی میکند.
اخیراً نگرانیها در مورد استفاده از هوش مصنوعی برای تولید محتوای سوءاستفاده از کودکان، به ویژه توسط توسعهدهندگانی مانند «گروک» و «اکسایآی»، متعلق به ایلان ماسک، میلیاردر امریکایی افزایش یافته است.
خبرگزاری رویترز نوشت که بررسیها نشان میدهد این توسعهدهندگان هوش مصنوعی حتی در مواردی که کاربران هشدار دادهاند رضایت ندارند، نیز به تولید این تصاویر ادامه داده است.
آنتونیو گوترش، دبیرکل سازمان ملل پیشتر گفت ۴۰ نفر را برای عضویت در یک هیئت علمی بینالمللی مستقل در زمینه هوش مصنوعی پیشنهاد کرده است. به گفته او، قرار است این هیئت فعالیتهای هوش مصنوعی را در راستای منافع بشر تنظیم کند.