Black Lives Matter, نیروهای IBM U-نوبه خود در صورت به رسمیت شناختن

Facial recognition technology analyses the structure of faces to allow identification of individuals.

تشخیص چهره, تکنولوژی, تجزیه و تحلیل ساختار چهره ها اجازه می دهد تا شناسایی افراد است. تصویر با اجازه استفاده می شود. منبع: Pikrepo

در میان اخیر Black Lives Matter تظاهرات که مطرح شده سوال در مورد پلیس و نژادپرستی در ایالات متحده و جاهای دیگر فناوری شرکت IBM اعلام خروج خود از general-purpose صورت شناخت بازار است. این می تواند یک نقطه عطف در استفاده از چنین فن آوری—مملو از اشکالاتی توسط سرویس های امنیتی?

اخبار رفته تقریبا خسته شده اید.

در یک طرف این داستان نهفته است bungled COVID-19 بحران بهداشتی. از سوی دیگر اعتراضات و خشم مشتعل توسط تکان دهنده خشونت های پلیس که احیا Black Lives Matter جنبش در سراسر جهان است. گرفتار بین دو IBM اعلام کرد در ژوئن 8, تصمیم خود برای کنار گذاشتن بازاریابی نرم افزار تشخیص چهره, داشتن رانده شده توسط این اقدامات اعتراض به ارج نهادن به آن منشور اخلاقی.

“فن آوری می تواند به افزایش شفافیت و کمک به پلیس برای حفاظت از جوامع اما نباید ترویج تبعیض و یا نژادی و بی عدالتی” Arving کریشنا مدیر عامل شرکت ویژه اظهار نظر.

اعلام کرده است به دست آورد چند واکنش به جز از چند اقتصاد سیاسی و تحلیل گران technophiles و فعالان است. و در عین حال از آن می تواند نشان دهنده تغییرات عمده ای در نفوذ که تکنولوژی اعمال در زندگی ما است.

بحث تکنولوژی

نرم افزار تشخیص چهره مجوز به افراد برای شناسایی شود از عکس ها و یا فیلم ها در یک راه کاملا خودکار. برای رسیدن به این هدف آن متکی بر دو ستون: یک مرجع مجموعه داده از قبل ضبط شده و تصاویر و بزرگ ظرفیت پردازش. هر دو مناطق بوده که فوق العاده پیشرفت اخیرا با توجه به نوآوری در داده های بزرگ و در هوش مصنوعی (AI). پوسته پوسته شدن تا تشخیص صورت انبوه تا به این ترتیب امکان تبدیل شدن به یک.

برای چندین سال نمونه های قارچ در سراسر جهان است. به عنوان دور برگشت به عنوان فوریه سال 2005 اداره پلیس لس آنجلس با استفاده از یک سیستم توسعه یافته توسط جنرال الکتریک و همیلتون اقیانوس آرام. این یک تمرین است که پس از تبدیل شدن به کلی و شتاب. در سال 2019 چین تا به حال در مجموع 200 میلیون دوربین های نظارت تصویری در خاک آن است. حتی یک شبکه متراکم تر است و در دست آماده سازی در روسیه است. نه به ذکر است این طرح از شهرستانها مانند خوب است که در حال حاضر در حال تست [fr] تکنولوژی یا لندن که در آن دوربین های دیجیتال تجزیه و تحلیل چهره رهگذران (بدون اطلاع آنها) با هدف جانمایی مردم که در پی توسط مقامات.

مقامات توجیه چنین خودکار نظارت امنیتی ضرورت: در اواخر سال 2016 کیفری بین المللی سازمان اینترپل اعلام کرد شناسایی “بیش از 650 felons, فراریان افراد مورد علاقه و یا از دست رفته افراد […]”. آن است که همه انجام می شود به نام مبارزه با جرم و جنایت تروریسم و یا اخیرا از شیوع کروناویروس.

اما همانطور که با دیگر فن آوری های پیشرفته تشخیص صورت یک شمشیر دو لبه است. پیشرفت آن را به ارمغان می آورد همراه با تهدیدات به ویژه به آزادی های مدنی.

چندین دیجیتال سازمان های حقوق شده اند هشدار افکار عمومی به تهدیدات بالقوه و سوء استفاده فعال با تشخیص چهره. در میان آنها, Electronic Frontier Foundation (EFF) و لا تربیع du Net. دومی هماهنگ کننده کمپین به نام Technopolice [fr] ابتکار که سیاهههای مربوط و در معرض خودکار نظارت برنامه در فرانسه و خواستار سیستماتیک مقاومت است.

محدود قابلیت اطمینان

برجسته ترین آسیب با استفاده از تشخیص چهره ابزار تعصب. این ابزار شناسایی و تایید مردم بر اساس قرار گرفتن در معرض داده های نمونه: اصطلاح آموزش مجموعه داده. اگر اینها ناقص و یا فاقد ارتباط این ابزار را فقیر تفسیر است. آن را به نام یادگیری تعصب.

برای نشان دادن چنین تعصب ماه گذشته کاربران توییتر تست هوش مصنوعی است که بازسازی پرتره از pixelated تصاویر منتشر شده را غیر عادی نتایج آنلاین. وجود دارد به طور قابل توجهی بیشتر شکست های آفریقایی-آمریکایی یا اسپانیایی افراد مانند باراک اوباما و اسکندریه Ocasio-کورتز. این مجموعه که شامل تقریبا تنها از پرتره از مردم سفید تا به حال به اشتباه درآورده بازسازی در جهت به احتمال زیاد معمولی پروفایل.

هنگامی که با استفاده از هوش مصنوعی برای شناسایی افراد از تصاویر به جای آنها را افزایش تحلیلی روند احتمالا نشان می دهد یک شبیه تعصب.

Imaginons que vous décidiez d’évaluer لا dangerosité لو risque de criminalité d’une personne, à partir de paramètres tels que l’âge, le lieu de résidence, la couleur de peau, لو diplôme le plus élevé… et que pour entraîner votre logiciel, vous utilisiez les données fournies par les مراکز د détention, les زندان.

Alors il est فورت احتمالی que votre logiciel حداقل رساندن fortement les risques pour les personnes شب سفید et l’augmente pour les autres.

فرض کنید شما تصمیم به ارزیابی سطح خطر یک فرد جنایتکاری بر اساس پارامترهای مانند سن, آدرس منزل, رنگ پوست, بالاترین تحصیلی و… به شما آموزش نرم افزار شما با استفاده از اطلاعات عرضه شده توسط بازداشتگاه یا زندان.
سپس آن را بسیار به احتمال زیاد شما نرم افزار را به طور جدی تطهیر خطرات برای مردم و بالا بردن آنها را برای دیگران.
منبع: https://intelligence-artificielle.agency/les-biais/ [fr]

حقایق برای خود صحبت می کنند. در لندن در زمان واقعی تشخیص صورت را نشان می دهد 81 درصد خطا رای; در دیترویت یک آفریقایی-آمریکایی صحبت کرد تا در مورد بازداشت غیر قانونی به دلیل معیوب شناسایی.

اختلاف مشروعیت

نه تنها تشخیص صورت خطاپذیر آن بدتر تبعیض که تایید استعلام توسط تحقیقی سایت ProPublica در سال 2016.

گوگل عکس برچسب گذاشته شده توسط دو آمریکایی های آفریقایی تبار به عنوان “گوریل” […] استخدام کمک ابزار مورد استفاده توسط آمازون محروم زنان

منبع: “IA : لا شناسایی faciale est-elle raciste ? “نارنجی دیجیتال جامعه فروم [fr]

ببینید
برای نیروهای پلیس اغلب هدف از اتهام تبعیض تشخیص صورت اضافی و بسیار قابل اشتعال عنصر.

مرگ جورج فلوید در یک حادثه خشونت پلیس در 25 مه در مینیاپولیس برانگیخته و موجی از تظاهرات در ایالات متحده آمریکا در ابتدا و سپس در سراسر جهان است. آنها شروع به محکوم کردن تبعیض هدف قرار دادن اقلیت های قومی. اما تشدید خشونت منجر تظاهرکنندگان به تقاضای de-militarisation از سازمان های اجرای قانون مناجات با شعار “پال خواستار قطع بودجه دولت پلیس”. با گسترش ابزارهای گسترده نظارت نیز تحت بررسی و همچنین شرکت های خصوصی که به آنها ارائه شده است. بنابراین در حال حاضر تحت فشار از زندگی توجه فعالان شرکت آی بی ام اعلام کرد که عقب نشینی جزئی از صورت به رسمیت شناختن بازار است.

آن است که هیچ حادثه ای است که آبی [آی بی ام نام مستعار] شده است اولین واکنش نشان می دهند. این شرکت یک مدت طولانی و گاهی اوقات شرم آور تاریخ است که آن را تا به حال به یاد بگیرند که برای آمدن به شرایط با. در سال 1934 آن همکاری با رژیم نازی از طریق آن آلمانی و شرکت تابعه. بعدا در سال 2013 آن را دخیل در مورد منشور نظارت برنامه در معرض توسط ادوارد اسنودن. شاید به این دلیل است قادر به ظرافت نقش خود را در جریان درگیری بین امنیت محور دولت و فعالان حقوق بشر. البته ممکن است به آمده تا با یک دور بیشتر بحث منطقی برای IBM استراتژی مشتاق به محافظت از خود را از آینده قضایی و مالی خود را هزینه.

با این حال جهت گیری مجدد فعالیت خود را واقعی است به اندازه کافی و آن را برانگیخته ابتکار است که در حال دنبال شدن توسط دیگر غول صنعت. مایکروسافت اعلام کرد در 12 ژوئن که این امر حاضر به فروش آن تشخیص چهره تکنولوژی برای سازمان های پلیس; آمازون تحت فشار همسالان به پایان رسید تا اعلام یک مهلت قانونی برای آن Rekognition ابزار.

یک گام به سوی اصلاحات ؟

نیاز به یک چارچوب قانونی تبدیل شده است آشکار است. در اطلاعیه Arvind کریشنا آی بی ام مدیر عامل شرکت به نام در کنگره آمریکا به “باز کردن یک گفتگوی ملی برای دیدن اینکه آیا و چگونه, تشخیص صورت, فن آوری استفاده می شود توسط سازمان های اجرای قانون.”

این ندا شنیده شده است. اعضای کنگره معرفی شده در ژوئن 25 لایحه ای را برای ممنوعیت استفاده از تشخیص چهره توسط پلیس است. یک روز قبل بان تایید شد در شهر بوستون توسط آن شورای شهر است.

بدون شک این فقط شروع یک مدت طولانی سیاسی و حقوقی نبرد برای اتصال استفاده از تشخیص چهره به روش محترمانه از شهروندان است. اما برای اولین بار حقوق بشر دفاع حرکات به نظر می رسد در یک موقعیت برای تاثیر گذاری بزرگ شرکت های فن آوری و سیاسی در جهت آرمان مشترک از یک تکنولوژی سودآور برای همه.

tinyurlis.gdclck.ruulvis.netshrtco.detny.im

Leave a reply

You may use these HTML tags and attributes: <a href="" title=""> <abbr title=""> <acronym title=""> <b> <blockquote cite=""> <cite> <code> <del datetime=""> <em> <i> <q cite=""> <s> <strike> <strong>