الصناعات الإبداعية والفنية مهددة فقاعة الذكاء الاصطناعي الإبداعي. تعمل الخوارزميات على تحسين القدرة على إنشاء الصور والموسيقى والشعر والصور الفوتوغرافية وغيرها من أشكال الفن بطريقة آلية وشخصية وسريعة وضخمة ونوعية بشكل متزايد، مما يشكل تهديدًا للفنانين والمصممين.
لكن الفنانين لا يعبرون أذرعهم. تم إصدار Nightshade مؤخرًا، حيث يسعى المبدعون إلى تخريب تدريب نماذج الذكاء الاصطناعي التي تعمل على تحسين نفسها دون إذن ومقابل أجر زهيد. مثل الفنانين الذين يسممون إبداعاتهم لكسر الذكاء الاصطناعي.
مراجعة تكنولوجيا معهد ماساتشوستس للتكنولوجيا احصل على معاينة حصرية للبحث الذي أدى إلى إصدار Nightshade الذي تمت مراجعته من قبل النظراء في مؤتمر Usenix لأمن الكمبيوتر.
اقرأ أكثر: تحذر UNAM من أن الشركات، وليس الأكاديميين، هي التي تسيطر على الذكاء الاصطناعي
تسمح الأداة للفنانين بإضافة تعديلات غير مرئية على وحدات البكسل الخاصة بأعمالهم قبل تحميلها على الإنترنت، لذلك يمكن أن تضر التكرارات المستقبلية لنماذج الذكاء الاصطناعي المولدة للصور مثل DALL-E إذا تم دمجها في مجموعة بيانات لتدريب الذكاء الاصطناعي. وفي منتصف السفر والانتشار المستمر يخلق هلاوس معينة، مثل تحويل الكلاب إلى قطط والسيارات إلى أبقار.
أجرى بن تشاو، الأستاذ بجامعة شيكاغو في الولايات المتحدة، بحثًا عن الباذنجانيات. والهدف من ذلك هو موازنة الموازين لصالح الفنانين البشر ومنع انتهاك حقوق الطبع والنشر والملكية الفكرية الناتج عن استخدام، وليس دفع، الأعمال التي أنشأها الناس لتدريب نماذج الذكاء الاصطناعي.
وقام فريق البحث بتطوير أداة أخرى تسمى Glaze، والتي تسمح للفنانين بإخفاء أسلوبهم الشخصي لمنع شركات الذكاء الاصطناعي من نسخه. “إنه يعمل مثل هذا الباذنجانيات“: تغيير وحدات البكسل في الصور بطرق خفية غير مرئية للعين البشرية، ولكن مع التلاعب بنماذج التعلم الآلي لتفسير الصورة على أنها شيء آخر غير ما تظهره في الواقع،” كما يصف. مراجعة تكنولوجيا معهد ماساتشوستس للتكنولوجيا.
يريد الباحثون أن يكون Nightshade مفتوح المصدر، مما يسمح لأطراف ثالثة باستخدام وبناء إصداراتهم الخاصة من الأداة، مما يجعلها أكثر قوة وأوسع نطاقًا، وتسوية ساحة اللعب التي تفضلها الشركات الكبيرة حاليًا. شركات الذكاء الاصطناعي.
“تستخدم Nightshade ثغرة أمنية في نماذج الذكاء الاصطناعي التي تنشئها، والتي يتم الحصول عليها من خلال التدريب على كميات كبيرة من البيانات (في هذه الحالة، الصور التي تم الحصول عليها من الإنترنت). وذكرت وسائل الإعلام الأمريكية أن “Nightshade يتلاعب بهذه الصور”.
وأضاف: “الفنانون الذين يرغبون في مشاركة أعمالهم عبر الإنترنت، لكنهم لا يريدون أن تتتبع شركات الذكاء الاصطناعي صورهم، يمكنهم تحميلها على Glaze وإخفائها بأسلوب فني مختلف عن أسلوبهم، أو استخدام Nightshade. “عندما يحصل مطورو الذكاء الاصطناعي على بيانات إضافية من الإنترنت لضبط نموذج الذكاء الاصطناعي الحالي أو إنشاء نموذج جديد، يمكن لهذه النماذج المعدلة أن تتسلل إلى مجموعة بيانات النموذج وتتسبب في فشله.”
من أجل فهم أفضل:
إن النقاش حول تصنيع الذكاء الاصطناعي ليس تكنولوجيًا فحسب، بل مجتمعيًا أيضًا: اليونسكو
نظرًا لأنه من الصعب جدًا إزالة البيانات المسمومة، فإن ذلك مكلف بالنسبة لشركات الذكاء الاصطناعي لأنه يتعين على الشركات العثور عليها وإزالتها واحدة تلو الأخرى.
وفقاً لذلك مراجعة تكنولوجيا معهد ماساتشوستس للتكنولوجيااختبر الباحثون سمية البيانات باستخدام أحدث نماذج الانتشار القياسية ومع نموذج الذكاء الاصطناعي المُدرب حديثًا.
“عندما قاموا بتغذية الانتشار المستقر بـ 50 صورة للكلاب المسمومة ثم طلبوا منهم إنشاء صور للكلاب، كانت النتيجة غريبة: مخلوقات ذات أرجل كثيرة ووجوه كرتونية. مع 300 عينة مسمومة، استخدم المهاجم الانتشار المستقر لتوليد صور للكلاب التي “بدت مثل القطط. لاحظت وسائل الإعلام. يمكن التعامل معها”.
يمكن أن تكون لتقنية تسميم البيانات تطبيقات ضارة، لكنه أوضح أنه بما أنه تدرب باستخدام مليارات عينات البيانات، فإن أكبر وأقوى نماذج الذكاء الاصطناعي ستتطلب آلاف العينات المسمومة لإحداث ضرر حقيقي.
طلبت المجلة مدخلات من باحثين أكاديميين آخرين غير مشاركين في مشروع Nightshade، مثل Junfeng Yang، أستاذ علوم الكمبيوتر في جامعة كولومبيا والخبير في أمن أنظمة التعلم العميق. . إذا احترمت شركات الذكاء الاصطناعي حقوق الفنانين بشكل أكبر، على سبيل المثال، الاستعداد لدفع حقوق الطبع والنشر.
هل تريد البقاء على اطلاع بأخبار Google؟ تابعوا معرضنا لأفضل القصص
