منعت عملاق التكنولوجيا أمازون الشرطة من استخدام برنامج التعرف على الوجه لمدة عام.
يأتي ذلك بعد أن أثار المدافعون عن الحقوق المدنية مخاوف بشأن التفاوت العرقي المحتمل في تكنولوجيا المراقبة.
هذا الأسبوع ، قالت شركةIBM أيضًا إنها ستتوقف عن تقديم برنامج التعرف على الوجه الخاص بها من أجل "المراقبة الجماعية أو التمييز العرقي".
وتأتي هذه القرارات عقب ضغوط متزايدة على الشركات للرد على وفاة جورج فلويد في حجز الشرطة.
وقالت أمازون إن تعليق استخدام تطبيق برامج Rekognition في تطبيق القانون هو إعطاء المُشرّعين الأمريكيين الفرصة لسن تشريعات لتنظيم كيفية استخدام التكنولوجيا.
وقالت أمازون في بيان لها: "لقد دافعنا عن ضرورة أن تضع الحكومات أنظمة أقوى تحكم الاستخدام الأخلاقي لتقنية التعرف على الوجه ، وفي الأيام الأخيرة ، يبدو الكونجرس مستعدًا للقيام بذلك ونأمل أن يمنح توقيف هذه التقنية لمدة عام، الكونجرس الوقت الكافي لتطبيق القواعد المناسبة ، ونحن مستعدون لتقديم المساعدة متى طلب منا ذلك".
ومع ذلك ، قالت الشركة إنها ستظل تسمح للمنظمات التي تتعامل مع التجار بالبشر باستخدام هذه التقنية.
مثل منتجات التعرف على الوجه الأخرى ، يمكن لـ Amazon Rekognition استخدام الذكاء الاصطناعي (AI) لمقارنة صورة بسرعة كبيرة ، على سبيل المثال ، من كاميرا هاتف الضابط ومحاولة مطابقتها مع اللقطات المحفوظة في قواعد بيانات الشرطة التي يمكن أن تحمل مئات الآلاف من الصور.
تم انتقاد تقنية التعرف على الوجه لبعض الوقت بسبب التحيز المحتمل ، حيث أظهرت الدراسات أن معظم الخوارزميات من المرجح أن تحدد بشكل خاطئ وجوه السود والأقليات الأخرى من تلك التي يواجهها البيض.
في الماضي ، دافعت أمازون عن Rekognition ضد اتهامات التمييز ، مع الاستمرار في تقديمها إلى وكالات إنفاذ القانون.
أعاد وفاة الرجل الأمريكي ذو الأصل الأفريقي جورج فلويد ، في حجز الشرطة ، تلك المخاوف ، لأن تكتيكات الشرطة واستخدام التكنولوجيا لتطبيق القانون خضعت لتدقيق مكثف.
في وقت سابق من هذا الأسبوع ، قالت شركة IBM أنها لن تقدم بعد الآن تقنية التعرف على الوجه لأن أنظمة الذكاء الاصطناعي المستخدمة في تطبيق القانون تحتاج إلى اختبار "للتحيز".
في رسالة إلى الكونجرس ، قال الرئيس التنفيذي لشركة IBM آرفيند كريشنا إن "مكافحة العنصرية أمر ملح مثل أي وقت مضى" ، وحدد ثلاثة مجالات حيث أرادت الشركة العمل مع الكونغرس: إصلاح الشرطة ، والاستخدام المسؤول للتكنولوجيا ، وتوسيع المهارات و فرص تعليمية.
يدعو إلى التشريع
في الأشهر الأخيرة ، كان الكونغرس يزن التشريعات المحتملة للتكنولوجيا حيث دعا المشرعون والشركات ونشطاء الحريات المدنية إلى تنظيم أقوى لبرامج المراقبة.
قدم الديمقراطيون في مجلس النواب مشروع قانون لإصلاح الشرطة يوم الاثنين من شأنه أن يحظر استخدام تطبيق القانون الفيدرالي للتعرف على الوجه في الوقت الحقيقي ، لكن بعض النشطاء قالوا إن الإجراء لم يذهب إلى حد بعيد.
قال الاتحاد الأمريكي للحريات المدنية إنه يجب حظر كل استخدام للتعرف على الوجوه على لقطات كاميرات هيئة الشرطة ، وأنه يجب تقييد التمويل الفيدرالي لوكالات إنفاذ القانون المحلية التي لم تقيد استخدام التكنولوجيا بنفس الطريقة.
التعليقات
تعليقات