شرکت فن‌آوری الون لبز اعلام کرد که برای جلوگیری از جعل صدای افراد سرشناس برای نرم‌افراز ساخت این شرکت، تدابیر امنیتی را وضع می‌کند.
به گزارش اسکای‌نیوز، برخی افراد از این فن‌آوری هوش مصنوعی برای بدنام کردن و نشر پیام‌های توهین‌آمیز، زن‌ستیزانه و نژادپرستانه استفاده کرده‌اند.
این نرم‌افزار به افراد اجازه می‌دهد تا کلیپ‌هایی دیگران را بارگذاری کنند و از آن برای تولید صدای مصنوعی استفاده کنند.
این نرم‌افراز قادر است پس از انتخاب نمونه صدا، یک متن را با استفاده از فهرستی از صداها با لهجه‌های مختلف با ظرفیت ۲۵۰۰ کرکتر به گفتار تبدیل کند.
کاربران از این نرم‌افراز کلیپ‌های جعلی از افراد مشهور مانند اما واتسون در حال خواندن «نبرد من» هیتلر و اعلام جو بایدن مبنی بر اعزام سربازان امریکایی برای جنگ در اوکراین، استفاده کرده‌اند.
افراد سرشناس دیگری نیز مثل جیمز کامرون، تام کروز و شخصیت‌های فیلم جنگ ستارگان نیز هدف قرار گرفته‌اند و همچنین کاربران کلیپ‌هایی از شخصیت‌های تخیلی ساخته‌اند که اغلب پیام‌های بسیار توهین‌آمیز، نژادپرستانه یا زن‌ستیزانه را می‌خوانند.
شرکت تولید کننده این فناوری با نشر توییتی اعلام کرد:"در حالی که ما می‌بینیم که فناوری ما به طور گسترده‌ای برای استفاده مثبت به کار می‌رود، همچنین شاهد تعداد فزاینده‌ای از موارد سوء استفاده از شبیه سازی صوتی هستیم. ما می‌خواهیم برای افکار و بازخورد با جامعه توییتر ارتباط برقرار کنیم!"
این شرکت گفت در حالی که می‌تواند "هر صدای تولید شده" را به کاربر سازنده آن ردیابی کند، همچنین می‌خواهد "ضمانت‌های حفاظتی اضافی" را نیز معرفی کند.
تایید حق نسخه‌برداری شخصی برای کلیپ‌هایی که بارگذاری می‌شوند و یا تایید هر درخواست شبیه سازی صوتی، از تدابیر امنیتی هستند که این شرکت قصد دارد تا با وضع آنها از سوء استفاده از این فناوری جدید جلوگیری کند.
شرکت الون لبز می‌گوید که روزی می‌توان از فناوری آن برای ارائه صدا به مقالات، خبرنامه ها، کتاب‌ها، مطالب آموزشی، بازی‌های ویدیویی و فیلم ها استفاده کرد.