سيول، كوريا الجنوبية (سي إن إن) — سُجن رجل كوري جنوبي لاستخدامه الذكاء الاصطناعي لإنشاء صور للاستغلال الجنسي للأطفال، وهي أول قضية من نوعها في البلاد، حيث تستخدم المحاكم في جميع أنحاء العالم تقنيات جديدة لإنشاء محتوى جنسي مسيء.
وحُكم على الرجل المجهول، وهو في الأربعينيات من عمره، بالسجن لمدة عامين ونصف في سبتمبر، وفقًا لمحكمة منطقة بوسان ومكتب المدعي العام بالمنطقة.
وقال ممثلو الادعاء لشبكة CNN إن الرجل أنشأ حوالي 360 صورة تم إنشاؤها بواسطة الذكاء الاصطناعي في أبريل. ولم يتم توزيع الصور وصادرتها الشرطة.
وقال ممثلو الادعاء خلال الدعوى القضائية إن تعريف المواد الاستغلالية جنسيًا يجب أن يشمل تصوير السلوك الجنسي من قبل “بشر افتراضيين” وليس فقط صور أطفال حقيقيين.
ووفقا لمكتب المدعي العام، يظهر الحكم أن المحتوى المسيء جنسيا يتضمن صورا مصنوعة بتكنولوجيا “متقدمة” واقعية بما يكفي لتشبه أطفالا وقاصرين حقيقيين.
وبينما تتصارع الحكومات في جميع أنحاء العالم مع انفجار صناعة الذكاء الاصطناعي، تأتي هذه القضية مع آثار بعيدة المدى على كل شيء بدءًا من حقوق النشر وحقوق الملكية الفكرية إلى الأمن القومي والخصوصية والخصوصية والمحتوى الشفاف.
وفي حين تسلط أحداث مثل الحكم الصادر في كوريا الجنوبية الضوء على كيفية استخدام الذكاء الاصطناعي لانتهاك الاستقلال الجسدي والسلامة للأشخاص، وخاصة النساء والقصر، فإن الكثيرين يسارعون الآن إلى تنظيم هذه التكنولوجيا.
وفي وقت سابق من هذا الشهر، بدأت الشرطة الإسبانية تحقيقا سيتم استبدال صور النساء القاصرات بالذكاء الاصطناعي خذ ملابسهم وأرسلهم عبر المدينة. وفي إحدى الحالات، قالت والدة الفتاة لقناة كانال إكستريمادورا التلفزيونية، إن صبياً حاول ابتزاز المال باستخدام الصورة العارية لإحدى الفتيات.
لسنوات، تم استخدام التزييف العميق – مقاطع فيديو مزيفة مقنعة للغاية تم إنشاؤها بواسطة الذكاء الاصطناعي – لوضع وجوه النساء في مقاطع فيديو إباحية، غالبًا ما تكون عدوانية، دون موافقتهن. تبدو مقاطع الفيديو حقيقية جدًا لدرجة أن الضحايا يجدون صعوبة في إنكار أنهم ليسوا هم.
وفي فبراير من هذا العام، ظهرت المشكلة إلى النور عندما تم اكتشاف حقيقة معروفة غاسل تمكن مشغل لعبة الفيديو من الوصول إلى مقاطع الفيديو المزيفة العميقة من بعض أقرانه المتدفقين.
وقالت سامانثا كول، الصحفية في Vice’s Motherboard، والتي اتبعت مسار التزييف العميق منذ إنشائها، لشبكة CNN: “منذ البداية، استخدمها الشخص الذي ابتكر التزييف العميق لإنشاء مواد إباحية دون موافقة المرأة”.
استجابت منصة البث Twitch للجدل تشديد سياساتهاووصف مقاطع الفيديو الجنسية Deepfake بأنها “منتهكة ومزعجة شخصيًا”. تعمل المنصات الرئيسية الأخرى أيضًا على تحديث قواعدها بطريقة مماثلة مع TikTok يضيف المزيد من القيود أثناء مشاركة الصور المزيَّفة بتقنية الذكاء الاصطناعي في شهر مارس.
فى يونيو، الاتحاد الأوروبي وأصبحت من أوائل الدول في العالم التي وضعت معايير لاستخدام الذكاء الاصطناعي من قبل الشركات الصين في يوليو. في أوائل سبتمبر، شارك بعض من أكبر قادة التكنولوجيا في أمريكا، بما في ذلك بيل جيتس وإيلون ماسك ومارك زوكربيرج التقيا في واشنطن مجلس الشيوخ يستعد لصياغة تشريع بشأن الذكاء الاصطناعي
