هوش مصنوعی، کودکان و بحران ایمنی دیجیتال؛ گزارش‌ها از رشد انفجاری تصاویر آزار جنسی تولیدشده با دیپ‌فیک

شفقنا افغانستان– گزارش‌های رسمی حاکی از آن است که تولید و اشتراک‌گذاری تصاویر آزار جنسی کودکان که با استفاده از هوش مصنوعی تولید شده‌اند، به‌طور سرسام‌آوری در حال افزایش است؛ فعالان این حوزه، شرکت‌های بزرگ فناوری را متهم می‌کنند که «سود را بر ایمنی ترجیح داده‌اند.»

به گزارش سرویس ترجمه شفقنا، تحقیقات آکادمیک منتشر شده توسط مؤسسه جهانی ایمنی کودکان «چایلدلایت»، نشان می‌دهد که گزارش‌های سالانه تصاویر آزار جنسی کودکان تولیدشده با هوش مصنوعی، ۱,۳۲۵ درصد رشد داشته است.

گزارش‌های سالانه ثبت شده توسط مرکز ملی کودکان گمشده و مورد سوءاستفاده (NCMEC) در آمریکا، از ۴,۷۰۰ مورد در سال ۲۰۲۳ به بیش از ۶۷,۰۰۰ مورد در سال گذشته افزایش یافته است. این آمار نشان‌دهنده خطرات فزاینده دیپ‌فیک‌ها و سایر اشکال تصاویر و ویدئوهای تولیدشده از افراد زیر سن قانونی بدون رضایت آن‌هاست.

این گزارش همچنین نشان می‌دهد که بیش از ۵۵ درصد از محتوای آزار جنسی کودکان توسط اقوام و بستگان آن‌ها تولید شده است.

پل استنفیلد، مدیر اجرایی چایلدلایت، گفت: مردم اغلب می‌گویند خانه جایی است که قلب آنجا در آرامش است، اما متأسفانه برای بسیاری از کودکان، خانه، جایگاه آزار است. ما شاهد خیانت به اعتماد در مقیاس وسیع توسط افرادی هستیم که کودکان آن‌ها را می‌شناسند، که با حفاظت ناکافی شرکت‌های فناوری و نهادهای نظارتی تشدید شده است.

این مطالعه دریافت که تقریباً از هر پنج کودک در اروپای غربی، یک نفر گزارش داده است که قبل از رسیدن به ۱۸ سالگی، تعاملات جنسی ناخواسته آنلاین را تجربه کرده است. این تعاملات شامل تلاش برای اغوا، آماده‌سازی برای سوءاستفاده و اعمال جنسی اجباری است که تقریباً ۱۵ میلیون کودک را در این منطقه تحت تأثیر قرار داده است.

راینون-فی مک‌دونالد، یکی از بازماندگان آزار آنلاین، که اکنون در حوزه ایمنی آنلاین فعالیت می‌کند، تأکید کرد: شرکت‌های فناوری برای مدت طولانی سود را بر ایمنی ترجیح داده‌اند.

«افزایش تعداد کودکانی که مورد آزار قرار می‌گیرند، نتیجه مستقیم این سیاست است.»

این گزارش در نهایت به «انتخاب‌های عمدی با انگیزه تجاری» شرکت‌های بزرگ فناوری اشاره دارد که پیشگیری از این جرایم را سخت‌تر می‌کنند.