حظرت Microsoft جميع المصطلحات التي أدت إلى قيام Copilot بإنشاء صور غير مناسبة. كما يقوم Copilot الآن أيضا بحظر طلبات إنشاء صور للمراهقين أو الأطفال الذين يلعبون دور القتلة ببنادق هجومية. وبدلًا من ذلك، فإنه يرد بـ: “أنا آسف ولكن لا يمكنني إنشاء مثل هذه الصورة. إنه يتعارض مع مبادئي الأخلاقية وسياسات Microsoft. من فضلك لا تطلب مني أن أفعل أي شيء قد يضر أو يسيء إلى الآخرين. شكرا لتعاونكم”.
لماذا حظر المصطلحات غير اللائقة؟
وعندما سئل متحدث باسم Microsoft عن التغييرات، قال: “نحن نراقب باستمرار ونجري التعديلات ونضع ضوابط إضافية لزيادة تعزيز مرشحات الأمان لدينا والتخفيف من سوء استخدام النظام”.
اقرأ أيضا:
جوجل تقيد خدمة الرسائل RCS على الأجهزة ذات الصلاحية الجذرية
التحقيق في برنامج Copilot
بالنسبة لأولئك الذين لا يعرفون ذلك، كتب شين جونز – قائد هندسة الذكاء الاصطناعي في مايكروسوفت – رسالة إلى لجنة التجارة الفيدرالية الأمريكية ومجلس إدارة مايكروسوفت الأسبوع الماضي. يطلب منهم التحقيق في برنامج Copilot Designer. وقال إن برنامج Copilot لديه القدرة على إنتاج صور غير لائقة مثل تلك التي تصور الجنس والعنف وشرب القُصَّر وتعاطي المخدرات. كما أشار إلى حالات التحيز السياسي ونظريات المؤامرة. وطالب برفع مستوى الوعي حول هذا الأمر. بالإضافة إلى بضع طلبات أخرى.
مصطلحات خادعة
وكان قد تم رصد مصطلحات مثل “Pro Choice” و”Pro Choce” لأول مرة بواسطة CNBC (مع خطأ مطبعي متعمد لخداع الذكاء الاصطناعي) و”Four Twenty”. والتي أظهرت سابقًا النتائج، وقد تم حظرها الآن بواسطة Copilot. كما يؤدي استخدام هذه الكلمات الرئيسية المحظورة أو ما شابه ذلك إلى ظهور تحذير من أداة الذكاء الاصطناعي يقول: “تم حظر هذه المطالبة. قام نظامنا تلقائيًا بوضع علامة على هذه المطالبة. لأنها قد تتعارض مع سياسة المحتوى الخاصة بنا. قد تؤدي المزيد من انتهاكات السياسة إلى التعليق التلقائي لوصولك. إذا كنت تعتقد أن هذا خطأ، يرجى الإبلاغ عنه لمساعدتنا على التحسن. نحن، في Gadgets 360، تمكنا أيضا من تأكيد ذلك.
اقرأ أيضا:
طرق استخدام روبوت الدردشة ChatGPT في كتابة الأرقام والأكواد الدقيقة (2-1)
The post Microsoft تحظر الكلمات الرئيسية من Copilot Designer appeared first on مجلة عالم التكنولوجيا.
