هل يمكن لنماذج التعلم الآلي للذكاء الاصطناعي التغلب على مجموعات البيانات المتحيزة؟

أفاد الباحثون أن قدرة النموذج على التعميم تتأثر بكل من تنوع البيانات وطريقة تدريب النموذج.

قد تكون أنظمة الذكاء الاصطناعي قادرة على إكمال المهام بسرعة ، لكن هذا لا يعني أنها تقوم بذلك دائمًا بشكل عادل. إذا كانت مجموعات البيانات المستخدمة لتدريب نماذج التعلم الآلي تحتوي على بيانات متحيزة ، فمن المحتمل أن يظهر النظام نفس التحيز عند اتخاذ القرارات في الممارسة العملية.

على سبيل المثال ، إذا كانت مجموعة البيانات تحتوي في الغالب على صور لرجال بيض ، فقد يكون نموذج التعرف على الوجه الذي تم تدريبه باستخدام هذه البيانات أقل دقة بالنسبة للنساء أو الأشخاص ذوي درجات البشرة المختلفة.

سعت مجموعة من الباحثين في معهد ماساتشوستس للتكنولوجيا ، بالتعاون مع باحثين في جامعة هارفارد وشركة فوجيتسو المحدودة ، إلى فهم متى وكيف يكون نموذج التعلم الآلي قادرًا على التغلب على هذا النوع من تحيز مجموعة البيانات. استخدموا نهجًا من علم الأعصاب لدراسة كيفية تأثير بيانات التدريب على ما إذا كانت الشبكة العصبية الاصطناعية يمكن أن تتعلم التعرف على الأشياء التي لم ترها من قبل. الشبكة العصبية هي نموذج للتعلم الآلي يحاكي الدماغ البشري بالطريقة التي يحتوي بها طبقات من العقد المترابطة ، أو “الخلايا العصبية” ، التي تعالج البيانات.

تظهر النتائج الجديدة أن التنوع في بيانات التدريب له تأثير كبير على ما إذا كانت الشبكة العصبية قادرة على التغلب على التحيز ، ولكن في نفس الوقت يمكن أن يؤدي تنوع مجموعة البيانات إلى تدهور أداء الشبكة. كما يوضحون أيضًا أن كيفية تدريب الشبكة العصبية ، وأنواع معينة من الخلايا العصبية التي تظهر أثناء عملية التدريب ، يمكن أن تلعب دورًا رئيسيًا في ما إذا كانت قادرة على التغلب على مجموعة البيانات المتحيزة.

“يمكن للشبكة العصبية التغلب على تحيز مجموعة البيانات ، وهو أمر مشجع. لكن الخلاصة الرئيسية هنا هي أننا بحاجة إلى مراعاة تنوع البيانات. نحن بحاجة إلى التوقف عن التفكير في أنه إذا قمت فقط بجمع الكثير من البيانات الأولية ، فإن ذلك سيوصلك إلى مكان ما. نحن بحاجة إلى توخي الحذر الشديد بشأن كيفية تصميم مجموعات البيانات في المقام الأول ، “كما يقول Xavier Boix ، عالم الأبحاث في قسم علوم الدماغ والمعرفة (BCS) ومركز العقول والعقول والآلات (CBMM) ، و مؤلف أول من الورقة.

يشمل المؤلفون المشاركون طلاب الدراسات العليا السابقين في معهد ماساتشوستس للتكنولوجيا ، تيموثي هنري ، وجميل دوزير ، وهيلين هو ، ونيشال بهانداري ، وسباندان مادان ، وهو مؤلف مناظر يسعى حاليًا للحصول على درجة الدكتوراه في جامعة هارفارد. Tomotake Sasaki ، عالم زائر سابق يعمل الآن كباحث رئيسي في Fujitsu Research ؛ فريدو دوراند ، أستاذ الهندسة الكهربائية وعلوم الكمبيوتر في معهد ماساتشوستس للتكنولوجيا وعضو في مختبر علوم الكمبيوتر والذكاء الاصطناعي ؛ وهانسبيتر فيستر ، أستاذ An Wang لعلوم الكمبيوتر في كلية هارفارد للهندسة والعلوم التطبيقية. يظهر البحث اليوم في Nature Machine Intelligence .

يفكر مثل عالم الأعصاب

تعامل بويكس وزملاؤه مع مشكلة تحيز مجموعة البيانات بالتفكير مثل علماء الأعصاب. يوضح بويكس أنه في علم الأعصاب ، من الشائع استخدام مجموعات البيانات الخاضعة للرقابة في التجارب ، مما يعني مجموعة البيانات التي يعرف الباحثون فيها قدر الإمكان عن المعلومات التي تحتوي عليها.

قام الفريق ببناء مجموعات بيانات تحتوي على صور لأجسام مختلفة في أوضاع مختلفة ، وتحكم بعناية في التركيبات ، لذا فإن بعض مجموعات البيانات لديها تنوع أكبر من غيرها. في هذه الحالة ، كانت مجموعة البيانات أقل تنوعًا إذا كانت تحتوي على المزيد من الصور التي تُظهر الكائنات من وجهة نظر واحدة فقط. تحتوي مجموعة البيانات الأكثر تنوعًا على المزيد من الصور التي تعرض كائنات من وجهات نظر متعددة. احتوت كل مجموعة بيانات على نفس عدد الصور.

اختبار طرق التدريب

كما درس الباحثون طرق تدريب الشبكة العصبية.

في التعلم الآلي ، من الشائع تدريب شبكة لأداء مهام متعددة في نفس الوقت. الفكرة هي أنه في حالة وجود علاقة بين المهام ، ستتعلم الشبكة أداء كل مهمة بشكل أفضل إذا تعلمتها معًا.

لكن الباحثين وجدوا أن العكس هو الصحيح – فالنموذج الذي تم تدريبه بشكل منفصل لكل مهمة كان قادرًا على التغلب على التحيز بشكل أفضل بكثير من النموذج الذي تم تدريبه على كلتا المهمتين معًا.

“كانت النتائج مذهلة حقًا. في الواقع ، في المرة الأولى التي أجرينا فيها هذه التجربة ، اعتقدنا أنها كانت خطأ. لقد استغرق الأمر منا عدة أسابيع لندرك أنها كانت نتيجة حقيقية لأنها كانت غير متوقعة “.

لقد تعمقوا في عمق الشبكات العصبية لفهم سبب حدوث ذلك.

وجدوا أن تخصص الخلايا العصبية يبدو أنه يلعب دورًا رئيسيًا. عندما يتم تدريب الشبكة العصبية على التعرف على الأشياء في الصور ، يبدو أن نوعين من الخلايا العصبية يظهران – أحدهما متخصص في التعرف على فئة الكائن والآخر متخصص في التعرف على وجهة النظر.