افزایش ۲۶۰ برابری ویدئوهای کودکآزاری توسط هوش مصنوعی
میزان محتوای سوءاستفاده جنسی از کودکان تولیدشده توسط هوش مصنوعی در اینترنت در ۱۴۰۴ بهطور نگرانکنندهای افزایش یافته است.
به گزارش گروه علم و پیشرفت خبرگزاری فارس به نقل از گاردین، میزان محتوای سوءاستفاده جنسی از کودکان تولیدشده توسط هوش مصنوعی در اینترنت در سال ۱۴۰۴ با ۱۴ درصد افزایش روبهرو شد، بهطوری که بخش عمده ویدئوها شدیدترین نوع محتوا را نشان میدادند. بنیاد نظارت بر اینترنت (آی دبلیو اف) اعلام کرده که در سال گذشته ۸,۰۲۹ تصویر و ویدئوی تولیدشده توسط هوش مصنوعی از سوءاستفاده جنسی واقعی از کودکان را شناسایی کرده است و تعداد ویدئوها بیش از ۲۶۰ برابر افزایش یافته است.از میان ۳,۴۴۳ ویدئو، ۶۵ درصد در دسته «A» قرار داشتند؛ دستهای که شدیدترین نوع محتوا طبق قوانین بریتانیا محسوب میشود. این نسبت برای ویدئوهای غیرهوشمصنوعی ۴۳ درصد بود، که نشان میدهد فناوری هوش مصنوعی در تولید محتوای خشونتآمیزتر به کار گرفته میشود. کری اسمیت، مدیرعامل بنیاد نظارت بر اینترنت، گفته است: «پیشرفت فناوری نباید به قیمت امنیت و سلامت کودکان تمام شود. هوش مصنوعی میتواند فواید زیادی داشته باشد، اما استفاده آن برای آسیب رساندن به کودکان وحشتناک است.»
تحلیلگران بنیاد نظارت بر اینترنت گزارش دادهاند که گفتگوهای پدوفیلها در دارک وب نشان میدهد که این گروه از پیشرفتهای هوش مصنوعی «با خوشحالی» استقبال میکنند. این بحثها بیشتر حول واقعیتر شدن خروجیهای هوش مصنوعی و توانایی آنها برای افزودن صدا به ویدئوها یا دستکاری تصاویر کودکان واقعی میچرخد. این بنیاد همچنین گفته است که مجرمان درباره استفاده از سیستمهای «خودکار» یا «عاملدار» که میتوانند وظایف را مستقل انجام دهند نیز صحبت میکنند.دولت بریتانیا اخیراً مجوز داده تا شرکتهای هوش مصنوعی و سازمانهای حمایت از کودکان بررسی کنند که آیا ابزارهای هوش مصنوعی میتوانند چنین محتوایی تولید کنند یا خیر، و اطمینان حاصل شود که این سیستمها دارای مکانیزمهای ایمنی برای جلوگیری از ایجاد چنین محتوایی هستند. بنیاد نظارت بر اینترنت اعلام کرده که با افزایش مهارت و دسترسی به این سیستمها، میزان محتوای سوءاستفاده جنسی از کودکان نیز بهویژه در قالب ویدئوها افزایش یافته است و نظرسنجیها نشان میدهد ۸۰ درصد بزرگسالان بریتانیایی خواستار تصویب قوانینی هستند که توسعه سیستمهای هوش مصنوعی را با رعایت امنیت و جلوگیری از آسیب تضمین کند.#کودکان #محتوا_جنسی #هوش_مصنوعی------------------آخرین رویدادهای مهم فناوری را در صفحه اصلی علم و پیشرفت بخوانید.
15:29 - 4 فروردین 1405