زنان نوابغ گرفتن نژادی و تعصب های جنسیتی در هوش مصنوعی—و آمازون

تیاو در برابر جنبش معیوب هوش مصنوعی آغاز شد و با کشف شده توسط MIT Media Lab دانشمند کامپیوتر و نامزد دکترا شادی Buolamwini. Buolamwini که ویروسی رفت و پس از شهادت در مقابل کنگره ایالات متحده در سال 2019 (که شامل جلو و عقب با تشکر. Alexandria Ocasio-کورتز) به طور تصادفی تصادفا در نژادی و جنسیتی تعصبات پخته شده را به صورت انبوه به بازار عرضه هوش مصنوعی نرم افزار در حالی که تکمیل یک پروژه هنری به صورت یک کلاس در دانشگاه MIT. تنها زمانی که Buolamwini که سیاه و سفید است را بر روی یک ماسک سفید خواهد عمده نرم افزار تشخیص چهره او با استفاده از را انتخاب کنید تا بر روی صورت خود. او در ادامه به تست چند صورت دیگر تشخیص سیستم برای پیدا کردن که این موضوع نه قطعی اما استاندارد است. از آنجا ایده الگوریتمی عدالت و یا توانایی مراجعه کرده اند در برابر الگوریتمی تبعیض فنر جلو.

کد تعصب, یک مستند جدید توسط مدیر Shalini Kantayya آهنگ در درجه اول زن-رهبری جنبش در برابر این عجیب و غریب شکل جدید از تبعیض و خوشبختانه هر دو Buolamwini و Kantayya قادر به دیدن چگونه این مشکل با هوش مصنوعی نیست در مورد نمایندگی در واقعیت بودن "به رسمیت شناخته شده" توسط این نرم افزار است که معمولا بدتر از نادیده گرفته شده توسط آن است. چرا که همه چیز از Facebook را به گوگل به آمازون را به اف بی آی و پلیس انگلیس نرم افزار است كه به دروغ ID مردم به عنوان نامطلوب مصرف کنندگان متخلف مستاجر و فاقد شغل نامزدها به احتمال زیاد recidivists یا جنایتکاران می خواستم. اغلب این صورت به رسمیت شناختن سیستم های شناسایی با تعصب در برابر مردم سیاه و سفید از همه مردان و زنان در تمام نژادها و جنسيت غیر منطبق با مردم است. آشکار می شود که این نرم افزار ساخته شده است در درجه اول و برای مردان سفید پوست.

که در آن کد تعصب به نظر می رسد به زمین نیاز برای قوی مقررات فدرال برای هوش مصنوعی به خصوص نرم افزار تشخیص چهره. اما معلوم نیست اگر نظارتی مدل کافی خواهد بود پس آن را باید به شدت اجرا توسط یک نهاد مستقل است که نمی ایستادگی برای به دست آوردن اجازه از سایه محصولات اسلاید. در این مستند غذا و دارو است که به ارمغان آورد تا به عنوان یک مطلوب آنالوگ اما FDA به معروف اجازه مضر مواد مخدر و مواد غذایی از طریق عبور (مانند دیابت مواد مخدر Troglitazone که تنظیم کننده در انگلستان در زمان خاموش بازار در سال 1997 اما FDA تنها حذف شده در سال 2000) در حالی که تاخیر در تصویب مهم زندگی-صرفه جویی در مداخلات مانند ایدز/HIV دارو.

کد تعصب نیز به شرح زیر Buolamwini به عنوان او در دیدار با مستاجران سازماندهی گروه در براونزویل بروکلین ساخته شده بیشتر از زنان که در حال مبارزه با خود صاحبخانه' حرکت برای قرار دادن در یک صورت به رسمیت شناختن ساختمان دسترسی به سیستم در کنار کلید-fob سیستم که در حال حاضر در محل. در این ساختمان عمدتا سیاه و قهوه ای مستاجران در حال حاضر در حال پیگیری توسط سیستم های نظارت هنگامی که آنها در داخل و ذکر شده برای هر رفتاری که مدیریت ساختمان ندارد. این براونزویل برادر بزرگ وضعیت به ارمغان می آورد تا این پدیده چه بیشتر آزادی-انکار فن آوری آمده به بسیاری از جوامع به حاشیه رانده شده اولین جایی که فقیر مردم سیاه و سفید به عنوان خوکچه هندی—شما حتی می توانید می گویند نهادهای نظارتی به معنای واقعی کلمه—برای فن آوری های جدید. مستاجران مبارزه با هر دو بزرگان و جوان ساکنان آینده هم با Buolamwini به چالش تهاجم خود را در حفظ حریم خصوصی و آزادی است.

اما به عنوان مستند روشن می سازد حتی با مقیاس کوچک جامعه مداخلات مانند این ایالات متحده است که هیچ بهتر از چین که معروف درگیر تقریبا در همه جا نظارت شهروندان خود را با "اعتبار اجتماعی" است که از سیستم نمرات—و در نتیجه پاداش و یا مجازات شهروندان بر اساس اقدامات عمومی. در واقع یک محقق امتیاز تنها تفاوت بین چین و ایالات متحده در نظارت این است که چین در واقع شفاف در مورد آن سیستم به ثمر رساند. در ایالات متحده ما همچنین به شهروندان و ساکنان "اعتبار اجتماعی" نمرات این درست است که کسانی که نمرات به طور معمول از ما پنهان. اگر شما دچار مشکل گرفتن یک وام مسکن یا ماشین بیمه است که چگونه شرکت های مختلف خصوصی و حتی دولت را دنبال کرده و به گل شما. اگر شما نمی توانید موفق به گرفتن مصاحبه برای شغل است که شما به وضوح واجد شرایط برای آن ممکن است به دلیل منابع انسانی بخش با استفاده از گرایش هوش مصنوعی به صفحه نمایش résumés (زمانی که آمازون شاغل آن زنان حذف شدند و تنها مردان استخدام شده بودند). اگر شما در یک فهرست پیگیریهای حتی اگر شما هرگز محکوم شده است از هر گونه جرم و جنایت و یا درگیر در هر رفتارهای خشونت آمیز که به دلیل برخی از الگوریتم ها و یا سیستم ردیابی به شما نمره.

این آیات که آن را کنجکاو که چرا رمزی تعصب سرزمین ما بسیار ناقص سیستم قضایی به عنوان مراجعه برای نظارت سرمایهداری. دانشکده کسب و کار هاروارد استاد Shoshana Zuboff نوشت که بسیار قوی سن نظارت سرمایهداریو منشأ عبارت خود ذکر شده است و یا مصاحبه در فیلم مستند است. اما او این ایده را از "رفتاری آتی بازار" با دقت نشان می دهد راهی که در آن پیش بینی پلیس و در نتیجه گسترش قدرت پلیس حتی در پلیس اصلاحات در چارچوب تضمین شده است توسط هوش مصنوعی یادگیری ماشین و داده های بزرگ است که تغذیه به آن است که همه به نوبه خود در تقویت سرمایهداری خود را. کد تعصب بهره مند ممکن است از تزریق Buolamwini دیدگاه های الگوریتمی عدالت با Zuboff را در نظارت سرمایهداری.

کد تعصب است بیش از حد متمرکز بر Buolamwini به عنوان یک رهبر و مبلغ در الگوریتمی عدالت فضایی و به عنوان یک نتیجه, ندارد سوال رویکردی که ریشه در بهبود شرکت انجام به جای به چالش کشیدن پایه و اساس خیلی از گوگل و IBMs جهان (و به خصوص در ایالات متحده). Buolamwini می کند دریافت واکنش از آمازون هنگامی که یک معاونت incompetently به دنبال بی اعتبار کردن کار او در پاسخ به نقد او اهرم در برابر شرکت اما IBM از سوی دیگر جذب می شود برخی از انتقادات و بسته بندی آنها به تنوع و شمول تلاش. جذب و همکاری با شرکت های بزرگ شرکت های فن آوری ، ما می دانیم که هرگز چون مدیر Shalini Kantayya هرگز می پرسد Buolamwini به طور مستقیم در مورد آن.

Kantayya ممکن است همچنین با توجه به فضای بیشتری برای ایده ها در لمس توسط برخی از کارشناسان دیگر در این فیلم از جمله ریاضیدان کتی اونیل داده نگار مردیت بروسارد و اطلاعات مطالعات و آفریقایی-آمریکایی مطالعات محقق دکتر صفیه Umoja شریف. به جای رمزی تعصب به نظر می رسد نسبتا آموزش دیده در شکل دادن به Buolamwini به عنوان یک جنبش رهبر flanked توسط دیگر درخشان زنان است. این نام تجاری که تحت الشعاع هسته Buolamwini و بسیاری دیگر' ماموریت برای نگه داشتن شرکت از تصمیم گیری آینده ما را.