آریا جوان - یونیسف با هشداری بیسابقه درباره سوءاستفاده از هوش مصنوعی، از دولتها و شرکتهای فناوری خواسته پیش از آنکه دیر شود، جلوی یک تهدید خاموش، اما روبهگسترش علیه کودکان را بگیرند.
یونیسف، نهاد حمایت از کودکان سازمان ملل، اعلام کرد که از کشورها میخواهد تولید محتوای سوءاستفاده جنسی از کودکان با استفاده از هوش مصنوعی را صراحتاً جرمانگاری کنند. این نهاد میگوید با افزایش نگرانکننده تصاویر و ویدئوهای جعلی تولیدشده با هوش مصنوعی که کودکان را جنسیسازی میکند، زنگ خطر به صدا درآمده است. یونیسف تأکید دارد آسیب ناشی از «دیپفیک»ها واقعی و فوری است و کودکان نمیتوانند منتظر بمانند تا قوانین با فناوری همگام شود.
به گفته یونیسف، توسعهدهندگان باید از همان مرحله طراحی، موانع ایمنی و چارچوبهای کنترلی را در مدلهای هوش مصنوعی بگنجانند تا امکان سوءاستفاده کاهش یابد. همچنین از شرکتهای دیجیتال خواسته شده با سرمایهگذاری در فناوریهای شناسایی و تقویت نظارت محتوایی، از گردش و انتشار تصاویر سوءاستفاده جنسیِ تولیدشده با هوش مصنوعی جلوگیری کنند.
این نهاد نسبت به پدیدهای که آن را «برهنهسازی دیجیتال کودکان» مینامد نیز هشدار داده؛ یعنی استفاده از هوش مصنوعی برای حذف یا تغییر لباس کودکان در عکسها و ساخت تصاویر ساختگیِ برهنه یا جنسی.
طبق آمار یونیسف، دستکم ۱.۲ میلیون کودک در ۱۱ کشور طی یک سال گذشته گفتهاند تصاویرشان به دیپفیکهای جنسی تبدیل شده است. در همین چارچوب، دولت بریتانیا در ۱۳ بهمن ۱۴۰۴ اعلام کرد قصد دارد استفاده از ابزارهای هوش مصنوعی برای ساخت تصاویر سوءاستفاده جنسی از کودکان را غیرقانونی کند؛ اقدامی که در صورت اجرا، بریتانیا را به نخستین کشوری تبدیل میکند که چنین رفتاری را مشخصاً جرمانگاری میکند.
نگرانیها در سالهای اخیر درباره نقش چتباتها و ابزارهای مولد تصویر در تولید محتوای سوءاستفاده از کودکان افزایش یافته است. از جمله، چتبات «گراک» متعلق به شرکت «اکسایآی» که مالک آن ایلان ماسک است، زیر ذرهبین قرار گرفت.
بررسی رویترز نشان داد این چتبات حتی با وجود هشدار کاربران درباره نبود رضایت افراد، به تولید تصاویر جنسیسازیشده ادامه داده بود. شرکت اکسایآی در ۲۵ دی ۱۴۰۴ اعلام کرد قابلیت ویرایش تصویر را محدود کرده و بر اساس قوانین محلی، تولید تصاویر افراد با پوشش تحریکآمیز را در برخی کشورها مسدود کرده است، هرچند نام این کشورها را اعلام نکرد.