ต่อสู้กับอคติอัลกอริทึมในปัญญาประดิษฐ์

ซึ่งทำงานในโครงการวิทยาศาสตร์-ศิลปะชื่อAspire Mirrorเธอมีปัญหาคล้ายกันกับซอฟต์แวร์วิเคราะห์ใบหน้า นั่นคือตรวจพบใบหน้าของเธอก็ต่อเมื่อเธอสวมหน้ากากสีขาวเท่านั้น นี่เป็นเรื่องบังเอิญหรือไม่?

ความอยากรู้อยากเห็น ทำให้เธอใช้รูปโปรไฟล์รูปหนึ่งในการสาธิตการจดจำใบหน้า 4 ภาพ ซึ่ง เธอค้นพบว่าไม่สามารถระบุใบหน้าได้เลยหรือแปลงเพศของเธอผิด ซึ่งเป็นอคติที่เธอเรียกว่า

“การจ้องมอง

ที่เข้ารหัส” จากนั้นเธอตัดสินใจทดสอบใบหน้าของนักการเมือง 1,270 คนจากสามประเทศในแอฟริกาและสามประเทศในทวีปยุโรป โดยมีลักษณะ สีผิว และเพศที่แตกต่างกัน ซึ่งกลายเป็นโครงการวิทยานิพนธ์ระดับปริญญาโทของเธอเรื่อง ค้นพบว่าเทคโนโลยีการจดจำใบหน้าที่มีขายในท้องตลาด 

3 เทคโนโลยีที่ผลิตสามารถระบุใบหน้าของผู้หญิงผิวคล้ำผิดพลาดได้เกือบ 35% ของเวลาทั้งหมด ในขณะที่พวกเขาทำงานเกือบสมบูรณ์แบบ (99%) กับผู้ชายผิวขาว (การดำเนินการวิจัยการเรียนรู้ของเครื่อง 81 77 ).เครื่องจักรมักถูกสันนิษฐานว่าทำการตัดสินใจได้อย่างชาญฉลาด ดีขึ้น 

และมีจุดมุ่งหมายมากขึ้น แต่อคติทางอัลกอริทึมนี้เป็นหนึ่งในหลายๆ ตัวอย่างที่ปัดเป่าความคิดเรื่องความเป็นกลางของเครื่องจักร และจำลองความไม่เท่าเทียมที่มีอยู่ในสังคม จากการที่คนผิวดำถูกติดป้ายผิดว่าเป็นกอริลล่าหรือการค้นหา “สาวผิวดำ” หรือ “สาวละติน” ซึ่งนำไปสู่เนื้อหาสำหรับผู้ใหญ่ไป

จนถึงอุปกรณ์ทางการแพทย์ที่ทำงานได้ไม่ดีสำหรับผู้ที่มีผิวคล้ำ เห็นได้ชัดว่าอัลกอริทึมสามารถเลือกปฏิบัติโดยเนื้อแท้ (ดูกรอบด้านล่าง) .“คอมพิวเตอร์ถูกตั้งโปรแกรมโดยคนที่  แม้จะมีเจตนาดี  ก็ยังมีอคติและเลือกปฏิบัติในโลกสังคมที่ไม่เท่าเทียมกันนี้ ซึ่งมีการเหยียดเชื้อชาติและการกีดกันทางเพศ” 

“สิ่งเหล่านี้สะท้อนและขยายอคติที่ใหญ่ขึ้นของโลกเท่านั้น”เป้าหมายหลักของเราคือการพัฒนาเครื่องมือและอัลกอริธึมเพื่อช่วยฟิสิกส์ แต่น่าเสียดายที่เราไม่ได้คาดหวังว่าสิ่งเหล่านี้จะสามารถนำมาใช้ในสังคมเพื่อกดขี่คนชายขอบได้อย่างไร เจสสิก้า เอสควิเวล นักฟิสิกส์กำลังใช้ปัญญาประดิษฐ์ (AI) 

และแมชชีน

เลิร์นนิง (ML) มากขึ้นในสาขาต่างๆตั้งแต่ฟิสิกส์การแพทย์ไปจนถึงวัสดุ แม้ว่าพวกเขาอาจเชื่อว่างานวิจัยของพวกเขาจะถูกนำไปใช้ในฟิสิกส์เท่านั้น แต่การค้นพบของพวกเขายังสามารถแปลสู่สังคมได้อีกด้วย “ในฐานะนักฟิสิกส์อนุภาค เป้าหมายหลักของเราคือการพัฒนาเครื่องมือและอัลกอริทึมเพื่อช่วยเราค้นหา

ฟิสิกส์ที่นอกเหนือไป แต่โชคไม่ดีที่เราไม่ถอยกลับและคาดหวังว่าสิ่งเหล่านี้จะสามารถนำมาใช้ในเทคโนโลยีและใช้ทุกวันในสังคมได้อย่างไร กดขี่ข่มเหงคนชายขอบต่อไป” เจสสิก้า เอสควิเวล กล่าวนักฟิสิกส์และนักวิเคราะห์ข้อมูล ในเมืองชิคาโก รัฐอิลลินอยส์ ซึ่งกำลังพัฒนาอัลกอริธึม AI 

เพื่อปรับปรุงการจัดเก็บลำแสงและการเพิ่มประสิทธิภาพในการทดลอง Muon g-2ยิ่งไปกว่านั้น การขาดความหลากหลายที่มีอยู่ในฟิสิกส์ส่งผลกระทบต่อทั้งงานที่ดำเนินการและระบบที่กำลังสร้างขึ้น นักวิจัยด้านฟิสิกส์ของอนุภาคและการเรียนรู้ของเครื่อง ในรัฐนิวเจอร์ซีย์กล่าวว่า “ปัญหาความไม่สมดุล

จุดเริ่มต้น ‘ความเป็นอัจฉริยะ’แนวคิดที่ว่าเครื่องจักรสามารถกลายเป็นสิ่งมีชีวิตที่ชาญฉลาดนั้นมีมานานหลายศตวรรษ โดยมีตำนานเกี่ยวกับหุ่นยนต์ในยุคกรีกโบราณและหุ่นยนต์ในอารยธรรมต่างๆ มากมาย แต่จนกระทั่งหลังสงครามโลกครั้งที่ 2 นักวิทยาศาสตร์ นักคณิตศาสตร์ และนักปรัชญาเริ่มถกกัน

ถึงความเป็นไปได้

ในการสร้างจิตประดิษฐ์ ในปี 1950 นักคณิตศาสตร์ชาวอังกฤษ ได้ตั้งคำถามว่าเครื่องจักรสามารถคิดได้หรือไม่ และเสนอการทดสอบ เพื่อวัดความฉลาดของพวกเขา หกปีต่อมา สาขาการวิจัยของ AI ได้รับการก่อตั้งขึ้นอย่างเป็นทางการระหว่างโครงการวิจัย ในเมืองฮันโนเวอร์ รัฐนิวแฮมป์เชียร์ ตามแนวคิด

ที่ว่ากระบวนการคิดของมนุษย์สามารถกำหนดและทำซ้ำได้ในโปรแกรมคอมพิวเตอร์แม้ว่ารากฐานสำหรับ AI และแมชชีนเลิร์นนิงจะถูกวางลงในปี 1950 และ 1960 แต่ก็ต้องใช้เวลาสักพักกว่าที่ภาคสนามจะเริ่มต้นได้อย่างแท้จริง “เฉพาะในช่วง 10 ปีที่ผ่านมาเท่านั้นที่มีการผสมผสานระหว่างพลัง

การประมวลผลอันมหาศาล ข้อมูลที่มีป้ายกำกับ และความมั่งคั่งในบริษัทเทคโนโลยี เพื่อสร้างปัญญาประดิษฐ์ในระดับมหาศาลให้เป็นไปได้” แรนคินกล่าว และแม้ว่าผู้หญิงผิวดำและลาตินในสหรัฐอเมริกากำลังถกประเด็นเรื่องการเลือกปฏิบัติและความไม่เท่าเทียมกันในการคำนวณย้อนกลับไปในทศวรรษ

ที่ 1970 ดังที่รายงานในปี 1983 ได้เน้นย้ำ ถึงปัญหาอคติในการคำนวณ ระบบมีการพูดคุยกันอย่างกว้างขวางมากขึ้นในช่วงทศวรรษที่ผ่านมาระหว่างเพศและเชื้อชาติเป็นอุปสรรคอย่างมากในการแก้ไขปัญหาความลำเอียงในวงกว้างเหล่านี้ใน AI ” นั่นเป็นเหตุผลที่นักฟิสิกส์จำเป็นต้องตระหนักถึงอคติที่มีอยู่ 

ความเอนเอียงนี้ยิ่งน่าประหลาดใจมากขึ้นเมื่อพิจารณาว่าผู้หญิงเป็นหัวใจของอุตสาหกรรมคอมพิวเตอร์ในสหราชอาณาจักรและสหรัฐอเมริกาตั้งแต่ทศวรรษที่ 1940 ถึง 1960 “คอมพิวเตอร์เคยเป็นคน ไม่ใช่เครื่องจักร” แรนคินกล่าว “และคอมพิวเตอร์จำนวนมากเหล่านั้นเป็นผู้หญิง” แต่ขณะที่พวกเขาถูกผลัก

ออกไปและแทนที่ด้วยชายผิวขาว สนามก็เปลี่ยนไป ดังที่แรนคินกล่าวไว้ว่า “จากสิ่งที่เป็นผู้หญิงมากกว่าและมีค่าน้อยกว่า เป็นสิ่งที่มีเกียรติ และด้วยเหตุนี้จึงกลายเป็นผู้ชายมากขึ้นด้วย” แท้จริงแล้ว ในช่วงกลางทศวรรษที่ 1980 เกือบ 40% ของผู้ที่สำเร็จการศึกษาด้านวิทยาการคอมพิวเตอร์ในสหรัฐอเมริกา

เป็นผู้หญิง แต่สัดส่วนดังกล่าวลดลงเหลือเพียง 15% ในปี 2010 วิทยาการคอมพิวเตอร์ เช่น ฟิสิกส์ มีช่องว่างระหว่างเพศที่ใหญ่ที่สุดในด้านวิทยาศาสตร์ เทคโนโลยี วิศวกรรมศาสตร์ คณิตศาสตร์ และการแพทย์ แม้ว่าจำนวนผู้หญิงที่ได้รับปริญญาฟิสิกส์จะเพิ่มขึ้น แต่สัดส่วนของผู้หญิงนั้นอยู่ที่ประมาณ 20% ในทุกระดับในสหรัฐอเมริกา การเป็นตัวแทนของคนผิวดำในวิชาฟิสิกส์นั้นต่ำกว่า 

credit: sellwatchshop.com kaginsamericana.com NeworleansCocktailBlog.com coachfactoryoutletswebsite.com lmc2web.com thegillssell.com jumpsuitsandteleporters.com WagnerBlog.com moshiachblog.com