انتقدت Google على نطاق واسع بعد فصلها  لرائده في أخلاقيات الذكاء الاصطناعي

يشعر العديد من موظفي Google وغيرهم في الأوساط التقنية والأكاديمية بالغضب بسبب الخروج المفاجئ من Google لأحد رواد دراسة أخلاقيات الذكاء الاصطناعي - وهو خروج يرون أنه فشل من قبل عملاق الصناعة في تعزيز بيئة داعمة للتنوع.

تشتهر Timnit Gebru بأبحاثها حول التحيز وعدم المساواة في الذكاء الاصطناعي ، وعلى وجه الخصوص ورقة 2018 التي شاركت في تأليفها مع Joy Buolamwini والتي سلطت الضوء على مدى ضعف برامج التعرف على الوجه التجارية عند محاولة تصنيف النساء والأشخاص ذوي البشرة الملونة. 

أثار عملهم وعيًا واسع النطاق بالقضايا الشائعة في الذكاء الاصطناعي اليوم ، لا سيما عندما يتم تكليف التكنولوجيا بتحديد أي شيء عن البشر.

في Google ، كانت Gebru القائد المشارك لفريق AI الأخلاقي للشركة ، وواحدًا من عدد قليل جدًا من الموظفين السود في الشركة بشكل عام (3.7 ٪ من موظفي Google هم من السود وفقًا لتقرير التنوع السنوي للشركة لعام 2020) - ناهيك عن الذكاء الاصطناعي الخاص بها قطاع. 

عالمة البحث هي أيضًا أحد مؤسسي مجموعة Black in AI. في ليلة الأربعاء ، غردت جبرو بأنها "طُردت على الفور" بسبب رسالة بريد إلكتروني أرسلتها مؤخرًا إلى القائمة البريدية الداخلية لـ Brain Women and Allies في Google.

في تغريدات لاحقة ، أوضحت جبرو أنه لم يخبرها أحد في Google صراحة أنها طُردت. بدلاً من ذلك ، قالت shhe إن Google لن تستوفي عددًا من شروط عودتها وقبلت استقالتها على الفور لأنها شعرت أن بريدها الإلكتروني يعكس "سلوكًا لا يتوافق مع توقعات أحد مديري Google".

في الرسالة الإلكترونية ، التي نُشرت لأول مرة في النشرة الإخبارية Platformer يوم الخميس ، كتبت جبرو أنها شعرت "باستمرار التجرد من الإنسانية" في Google وأعربت عن استيائها من الافتقار المستمر للتنوع في الشركة.

"لأنه لا يوجد أي مساءلة. لا يوجد حافز لتوظيف 39٪ من النساء: تزداد حياتك سوءًا عندما تبدأ في الدفاع عن الأشخاص ناقصي التمثيل ، وتبدأ في إثارة غضب القادة الآخرين عندما لا يريدون منحك تقييمات جيدة أثناء المعايرة. وكتبت "لا توجد وسيلة لتحقيق المزيد من الوثائق أو المزيد من المحادثات أي شيء".

كما أعربت جبرو عن إحباطها من عملية داخلية تتعلق بمراجعة ورقة بحثية شاركت في تأليفها مع آخرين في Google وخارج الشركة ولم يتم نشرها بعد.

ورقة البحث في السؤال

قالت جيبرو ، الذي انضم إلى Google في أواخر عام أن الورقة البحثية المعنية كانت تدور حول مخاطر نماذج اللغة الكبيرة - وهو اتجاه متزايد في الذكاء الاصطناعي مع إصدار أنظمة قادرة بشكل متزايد يمكنها إنشاء نص يبدو مثيرًا للإعجاب مثل الوصفات ، الشعر وحتى المقالات الإخبارية. هذا أيضًا مجال من مجالات الذكاء الاصطناعي أظهرت Google أنها تشعر أنها مفتاح لمستقبل البحث.

قالت جيبرو إنه تم تقديم الورقة إلى مؤتمر العدالة والمساءلة والشفافية ، الذي سيعقد في مارس ، وأنه لا يوجد شيء غير عادي حول كيفية تقديم الورقة للمراجعة الداخلية في Google. قالت إنها كتبت البريد الإلكتروني مساء الثلاثاء بعد فترة طويلة مع قيادة جوجل للذكاء الاصطناعي ، حيث طُلب منها مرارًا وتكرارًا سحب الورقة من النظر في عرضها في المؤتمر أو إزالة اسمها منها.

وقالت جبرو إنها أُبلغت يوم الأربعاء بأنها لم تعد تعمل في الشركة. قالت جيبرو: "لم يكن من الضروري أن يكون الأمر كذلك على الإطلاق".

تم إرسال بريد إلكتروني إلى موظفي Google Research

وقالت متحدثة باسم جوجل إن الشركة ليس لديها تعليق.

في رسالة بريد إلكتروني أُرسلت إلى موظفي Google Research يوم الخميس ونشرها علنًا يوم الجمعة ، أخبر جيف دين ، رئيس الذكاء الاصطناعي في Google ، الموظفين وجهة نظره: أن Gebru شاركت في تأليف ورقة ولكنه لم يمنح الشركة الأسبوعين المطلوبين لمراجعتها من قبل. الموعد النهائي. كتب أنه تمت مراجعة الورقة داخليًا ، لكنها "لم تتوافق مع معاييرنا للنشر".

وأضاف دين: "لسوء الحظ ، تمت مشاركة هذه الورقة المعينة فقط مع إشعار مدته يوم واحد قبل الموعد النهائي - نحتاج إلى أسبوعين لهذا النوع من المراجعة - وبعد ذلك بدلاً من انتظار ملاحظات المراجع ، تمت الموافقة على إرسالها وتقديمها."

وقال إن جبرو استجابت بالمطالب التي كان لابد من تلبيتها إذا كانت ستبقى في Google. وكتب دين: "كتبت Timnit أنه إذا لم نلبي هذه المطالب ، فإنها ستترك Google وتعمل في تاريخ انتهاء".

قالت جيبرو إن شروطها تضمنت الشفافية حول الطريقة التي أُمر بها بسحب الورقة ، بالإضافة إلى اجتماعات مع دين ومدير تنفيذي آخر لمنظمة العفو الدولية في Google للحديث عن معاملة الباحثين.

كتب دين: "نحن نقبل ونحترم قرارها بالاستقالة من Google". كما أوضح أيضًا بعض عمليات البحث والمراجعة للشركة ، وقال إنه سيتحدث مع فرق البحث في Google ، بما في ذلك تلك الموجودة في فريق الذكاء الاصطناعي الأخلاقي "حتى يعلموا أننا نؤيد بشدة تيارات البحث الهامة هذه ".

عرض سريع للدعم

بعد تغريدة Gebru الأولية يوم الأربعاء مباشرة ، شارك زملاء العمل وغيرهم دعمها بسرعة عبر الإنترنت ، بما في ذلك مارجريت ميتشل ، التي كانت قائدة فريق Gebru المشارك في Google.

وكتب ميتشل على موقع تويتر يوم الخميس "اليوم تظهر خسارة جديدة مروعة غيرت الحياة في عام من الخسائر المروعة التي غيرت الحياة". "لا يمكنني التعبير بشكل جيد عن ألم فقدانtimnitgebru كقائد مساعد لي. لقد تمكنت من التفوق بسببها - مثل كثيرين آخرين. أشعر بالصدمة في الغالب."

غرد Buolamwini ، الذي بالإضافة إلى المشاركة في تأليف ورقة 2018 مع Gebru ، مؤسس Algorithmic League: "أنا أؤيدك كما كنت دائمًا ما كنت دائمًا". "أنت بارع ومحترم. تستمع إلى أولئك الآخرين الذين يتجاهلونهم بسهولة. أنت تطرح أسئلة صعبة ليس لتطوير نفسك ولكن لرفع مستوى المجتمعات التي ندين بأسسها."

غردت شيرين إيفيل ، رئيسة ومديرة صندوق الدفاع القانوني والتعليم التابع لـ NAACP ، "لقد تعلمت الكثير منها حول تحيز الذكاء الاصطناعي. يا لها من كارثة".

بحلول منتصف نهار الجمعة ، حصلت إحدى المشاركات على موقع Medium ، التي شجبت رحيلها وطالبت بالشفافية بشأن قرار Google بشأن ورقة البحث ، على توقيعات أكثر من 1300 موظف في Google وأكثر من 1600 مؤيد في المجال الأكاديمي ومجال الذكاء الاصطناعي. من بين أولئك الذين يشاركون دعمهم العديد من النساء اللواتي كافحن عدم المساواة في صناعة التكنولوجيا ، مثل إلين باو ، الرئيس التنفيذي لشركة Project Include والرئيس التنفيذي السابق لشركة Reddit ؛ Ifeoma Ozoma ، موظف سابق في Google أسس شركة Earthseed ؛ وميريديث ويتاكر ، مديرة هيئة التدريس في معهد AI Now والمنظم الأساسي لـ Google Walkout 2018 ، والتي احتجت على التحرش الجنسي وسوء السلوك في الشركة. من بين الآخرين Buolomwini ، بالإضافة إلى Danielle Citron ، أستاذة القانون المتخصصة في دراسة التحرش عبر الإنترنت في جامعة بوسطن وزميلة MacArthur لعام 2019.

صرحت Citron  بأنها ترى Gebru على أنه "ضوء رائد" عندما يتعلق الأمر بكشف وتوضيح ودراسة العنصرية والتفاوتات المتأصلة في الأنظمة الخوارزمية. وأوضحت جيبرو مدى أهمية إعادة التفكير في كيفية جمع البيانات ، كما قالت ، وطرح أسئلة حول ما إذا كان ينبغي لنا حتى استخدام هذه الأنظمة.

"WTF ، Google؟" قالت. "آسف ، لكنك كنت محظوظًا جدًا لدرجة أنها جاءت للعمل لديك.