บิ๊กดาต้ามหาประลัย: บิ๊กดาต้าเพิ่มความเหลื่อมล้ำและคุกคามประชาธิปไตยอย่างไร

เคยสงสัยไหมว่าทำไมคนรวยถึงยิ่งรวยขึ้น ในขณะที่คนอื่นๆ ดูเหมือนต้องดิ้นรนอยู่กับฝันร้ายของระบบขั้นตอนที่มองไม่เห็น Cathy O’Neil เปิดม่านแฉเบื้องหลังอัลกอริทึมเอารัดเอาเปรียบที่คอยบงการชีวิตเรา ตั้งแต่เรื่องที่ว่าใครจะกู้ซื้อบ้านผ่าน ไปจนถึงว่าย่านไหนจะมีตำรวจตรวจตราเกินความจำเป็น ส่วนตัวรู้สึกว่าบทที่พูดถึงการประเมินครูนั้นสะเทือนใจเป็นพิเศษ เพราะมันแสดงให้เห็นว่าข้อมูลที่บกพร่องสามารถพังอาชีพการงานได้โดยไม่มีช่องทางให้อุทธรณ์เลย สำนวนการเขียนกระชับมีพลังสุดๆ และเดินเรื่องเร็ว ทำให้แนวคิดทางสถิติที่ซับซ้อนกลายเป็นเรื่องที่เข้าถึงได้แม้ว่าคุณจะไม่ใช่เซียนคณิตศาสตร์ก็ตาม มันคือการเดินทางที่ช่วยเปิดหูเปิดตาสู่สิ่งที่ผู้เขียนเรียกว่า 'ความคิดเห็นที่ฝังอยู่ในโค้ด' เรามักจะทึกทักเอาเองว่าคอมพิวเตอร์นั้นเป็นกลาง แต่หนังสือเล่มนี้พิสูจน์ให้เห็นว่ามันก็มีอคติไม่ต่างจากคนที่เขียนโปรแกรมขึ้นมา ถ้าคุณแคร์เรื่องความยุติธรรมทางสังคมในยุคดิจิทัล คุณต้องอ่านเล่มนี้เลย เป็นสัญญาณเตือนภัยที่น่ากลัวแต่สำคัญอย่างยิ่งสำหรับโลกยุคใหม่

ว้าว เล่มนี้ควรเป็นหนังสือบังคับอ่านสำหรับผู้กำหนดนโยบายและผู้บริหารด้านเทคโนโลยีทุกคนที่กำลังวางรากฐานโครงสร้างดิจิทัลของเราอยู่ในตอนนี้ Cathy O’Neil มีพรสวรรค์ในการหยิบเอาเรื่องที่อัดแน่นและดูน่ากลัวมาเปลี่ยนให้เป็นเรื่องเล่าที่ทั้งน่าติดตามและสะเทือนอารมณ์อย่างลึกซึ้ง ประทับใจเป็นพิเศษกับวิธีที่เธอบรรยายถึงการลงโทษที่ 'มองไม่เห็น' อย่างใบสมัครงานที่ถูกบอทปัดตกไปก่อนที่มนุษย์จะได้เห็นเสียอีก มันเป็นมุมมองที่น่าขนลุกมากเกี่ยวกับการที่เรากำลังสร้างเศรษฐกิจแบบ 'ผู้ชนะกินรวบ' ผ่านระบบที่คลุมเครือซึ่งไม่มีใครได้รับอนุญาตให้โต้แย้ง หนังสือเขียนออกมาได้งดงามและยังคงยึดโยงกับเรื่องราวของมนุษย์ไว้ได้แม้เนื้อหาจะเป็นเชิงเทคนิคก็ตาม อ่านรวดเดียวสองครั้งก็จบเล่มเพราะรู้สึกว่าเดิมพันของเรื่องนี้มันสูงมาก นานๆ ทีจะเจอหนังสือที่ทั้งสำคัญขนาดนี้และอ่านง่ายขนาดนี้ในเวลาเดียวกัน นี่คืองานเขียนแนววิทยาศาสตร์ที่ทรงพลังและจำเป็นที่สุด

นานๆ ทีจะเจอหนังสือเกี่ยวกับคณิตศาสตร์ที่อ่านสนุกเหมือนนิยายระทึกขวัญที่เดินเรื่องเร็ว แต่ Cathy O’Neil กลับทำให้เรื่องสถิติกลายเป็นเรื่องที่ดูเร่งด่วนและอันตรายได้ วิธีที่เธอชำแหละ 'ความเป็นกลาง' ของการจัดอันดับมหาวิทยาลัยโดย U.S. News นั้นเป็นระดับปรมาจารย์ในการชี้ให้เห็นว่าโมเดลธรรมดาๆ อันเดียวสามารถพังทั้งอุตสาหกรรมได้อย่างไร แนะนำเล่มนี้ให้ทุกคนที่รู้จักอ่านมาตลอด เพราะมันอธิบายความรู้สึกกระอักกระอ่วนใจที่พวกเราหลายคนมีต่อโลกยุคใหม่ได้อย่างชัดเจน ความจริงก็คือ เรากำลังถูกคัดแยกออกเป็น 'ผู้ชนะ' และ 'ผู้แพ้' โดยเครื่องจักรที่เราไม่เข้าใจและเถียงกลับไม่ได้ น้ำเสียงของ Cathy O’Neil ดูน่าเชื่อถือแต่ก็เปี่ยมด้วยความเห็นอกเห็นใจ โดยมุ่งเน้นไปที่ผู้คนที่ถูกระบบอันไร้หัวใจเหล่านี้บดขยี้ เป็นผลงานที่ยอดเยี่ยม น่ากลัว และจำเป็นอย่างลึกซึ้ง ต่อให้คุณเกลียดคณิตศาสตร์ คุณก็จะพบว่าหนังสือเล่มนี้น่าทึ่งและตามทันได้ไม่ยาก เป็นผลงานระดับ 5 ดาวที่ทุกคนควรมีไว้ในครอบครอง

ในฐานะนักวิเคราะห์ข้อมูลที่ขลุกอยู่กับสเปรดชีตทั้งวัน หนังสือเล่มนี้เหมือนมาช่วยดึงสติและลดอีโก้ในวิชาชีพของตัวเองได้ดีมาก Cathy O’Neil โต้แย้งได้อย่างน่าเชื่อถือว่าการพึ่งพา 'บิ๊กดาต้า' ของเรามักสร้างความรู้สึกปลอดภัยจอมปลอม ซึ่งนำไปสู่ความเหลื่อมล้ำเชิงโครงสร้าง ความจริงก็คือ เรามักใช้ข้อมูลตัวแทนที่ไม่ได้วัดสิ่งที่เราคิดว่าจะวัดได้จริงๆ อย่างการใช้คะแนนเครดิตมาตัดสินประสิทธิภาพการทำงาน หนังสือเล่มนี้น่าติดตามและเรื่องเล่าเกี่ยวกับสินเชื่อเงินด่วนที่เอารัดเอาเปรียบก็น่าตกใจจริงๆ อย่างไรก็ตาม แอบหวังว่าผู้เขียนจะลงลึกในด้านเทคนิคของโมเดลต่างๆ มากกว่านี้อีกสักหน่อย แทนที่จะเล่าแค่ในระดับภาพรวมทั้งหมด พอถึงช่วงกลางเล่มจะรู้สึกว่าเนื้อหาแอบซ้ำไปบ้าง แต่สาระสำคัญหลักๆ ยังคงเป็นสิ่งที่ขาดไม่ได้สำหรับใครก็ตามที่ทำงานในวงการเทคโนโลยีทุกวันนี้ เป็นหนังสือที่อ่านจบได้เร็วและจะเปลี่ยนมุมมองที่คุณมีต่อชุดข้อมูลที่คิดว่า 'เป็นกลาง' ของตัวเองอย่างแน่นอน แนะนำอย่างยิ่งสำหรับคนที่ตั้งใจจะเป็นนักวิทยาศาสตร์ข้อมูล

บทที่ว่าด้วยคะแนนแนวโน้มการกระทำผิดซ้ำเปิดตาให้เห็นเลยว่าอคติถูกฝังเข้าไปในระบบกฎหมายของเราอย่างไรภายใต้ฉากหน้าที่เรียกว่า 'ประสิทธิภาพ' Cathy O’Neil อธิบายว่าโมเดลกล่องดำเหล่านี้สร้างวงจรสะท้อนกลับที่ลงโทษคนจนเพียงเพราะพวกเขาจนได้อย่างไร เป็นบทวิพากษ์ที่เหมาะกับยุคสมัยมากเกี่ยวกับการที่เรายกเรื่องศีลธรรมไปให้เครื่องจักรที่ไม่มีมโนธรรมเป็นตัวตัดสิน ชอบที่ผู้เขียนมีพื้นฐานการเป็น 'ควอนต์' มาก่อน เพราะมันทำให้เธอมีน้ำหนักและความน่าเชื่อถือที่จะออกมาแฉความลับของวงการนี้ แต่ว่ากันตามตรง แนวทางแก้ไขบางอย่างที่เธอเสนอไว้ในหน้าท้ายๆ รู้สึกว่าจะดูอุดมคติไปหน่อยและนำมาใช้จริงได้ยากในสภาพการเมืองปัจจุบัน ถึงอย่างนั้น หนังสือเล่มนี้ก็ประสบความสำเร็จในการทำให้คุณตั้งคำถามกับทุกการตัดสินใจอัตโนมัติที่เจอในชีวิต ตั้งแต่เบี้ยประกันภัยไปจนถึงโฆษณาบน Facebook สำนวนการเขียนชัดเจน เร่งเร้า และเข้าถึงคนอ่านได้ในวงกว้าง เป็นจุดเริ่มต้นที่ยอดเยี่ยมสำหรับการทำความเข้าใจด้านมืดของสังคมที่ขับเคลื่อนด้วยข้อมูลของเรา

หยิบเล่มนี้มาอ่านหลังจากได้ฟังสัมภาษณ์ผู้เขียนในพอดแคสต์ และก็ไม่ผิดหวังเลยกับความหลากหลายของกรณีศึกษา ตั้งแต่โมเดลการตรวจตราของตำรวจตามทฤษฎี 'หน้าต่างแตก' ไปจนถึงการตลาดที่เอารัดเอาเปรียบของวิทยาลัยที่แสวงหาผลกำไร ตัวอย่างมีความหลากหลายและคัดเลือกมาอย่างดี คือหนังสือไม่ได้ให้คำตอบที่ง่ายดายหรอกนะ แต่ชี้ให้เห็นปัญหาด้วยมุมมองการวิเคราะห์ที่เฉียบคมจนยากจะเพิกเฉย ชอบวิธีที่ผู้เขียนเชื่อมโยงประสบการณ์ในแวดวงการเงินของตัวเองเข้ากับโลกของข้อมูลผู้บริโภคในภาพรวม สไตล์การเขียนเป็นกันเองเหมือนนั่งคุยกัน ซึ่งช่วยได้มากเวลาที่เนื้อหาเริ่มจะหดหู่ไปบ้าง บางคนอาจจะรู้สึกว่าน้ำเสียงดูตื่นตูมไปนิด แต่เมื่อพิจารณาจากขนาดของปัญหาแล้ว การตื่นตูมสักหน่อยก็คงจะสมเหตุสมผลอยู่ เป็นหนังสือระดับ 4 ดาวเนื้อหาแน่นที่จะช่วยจุดประเด็นพูดคุยได้เพียบในงานปาร์ตี้มื้อค่ำครั้งต่อไปของคุณ ทำให้คุณต้องคิดซ้ำสองแน่นอนก่อนจะคลิก 'ยอมรับ' ในข้อกำหนดและเงื่อนไขพวกนั้น

หลังจากได้ยินเรื่องอัลกอริทึมที่ 'เป็นกลาง' มาหลายปี การได้เห็นมันถูกชำแหละว่าเป็น 'ความคิดเห็นที่ฝังอยู่ในโค้ด' นั้นให้ความรู้สึกสดชื่นและช่วยยืนยันสิ่งที่คิดไว้ได้เป็นอย่างดีสุดๆ Cathy O’Neil ทำได้ยอดเยี่ยมมากในการชี้ให้เห็นว่าโมเดลเหล่านี้พุ่งเป้าไปที่กลุ่มเปราะบางอย่างไร โดยเฉพาะผ่านมุมมองเรื่องการให้คะแนนเครดิตและการประกันภัย ชอบการใช้ความยาวประโยคที่หลากหลายและวิธีที่เธอค่อยๆ สร้างข้อโต้แย้งผ่านขั้นตอนที่ชัดเจนและมีเหตุผล ข้อติเล็กๆ น้อยๆ เพียงอย่างเดียวของฉันคือจังหวะการดำเนินเรื่องอาจจะรู้สึกอืดไปนิดในบทช่วงกลางๆ ตอนที่เธอเล่าเนื้อหาทำนองเดียวกันแต่เปลี่ยนอุตสาหกรรมไปเรื่อยๆ อย่างไรก็ตาม ส่วนสุดท้ายที่พูดถึงเรื่องที่ว่าอัลกอริทึมส่งผลกระทบต่อประชาธิปไตยและรูปแบบการลงคะแนนเสียงของเราอย่างไรนั้นน่าขนลุกและสำคัญมาก เป็นหนังสือที่ชวนให้ขบคิดซึ่งช่วยให้คุณมองเห็นพลังที่ซ่อนอยู่ที่กำลังกำหนดรูปแบบชีวิตดิจิทัลของคุณ หากคุณเคยรู้สึกว่าระบบถูกตั้งค่ามาให้เอาเปรียบคุณ หนังสือเล่มนี้จะอธิบายให้ฟังอย่างชัดเจนเลยว่ามันทำแบบนั้นได้อย่างไร คุ้มค่ากับเวลาของคุณแน่นอน

แม้จะเห็นด้วยกับแนวคิดหลักของ Cathy O’Neil เรื่องอันตรายของบิ๊กดาต้า แต่รู้สึกว่าหนังสือแอบซ้ำซากไปนิดและบางช่วงก็ออกทะเลไปบ้างในช่วงท้าย เธอร่ายยาวถึงรายการอัลกอริทึม 'แย่ๆ' แต่พอผ่านไปได้สักสองสามตัวอย่าง รูปแบบมันก็เดาทางได้ง่ายมาก พูดตรงๆ คือคาดหวังว่าจะได้เห็นการเจาะลึกในแง่คณิตศาสตร์จริงๆ มากกว่านี้เมื่อดูจากดีกรีอันน่าทึ่งของเธอ แต่มันกลับเป็นบทวิพากษ์สังคมที่พึ่งพารายงานข่าวที่เราน่าจะเคยผ่านตากันมาแล้วเสียเป็นส่วนใหญ่ จังหวะการดำเนินเรื่องค่อนข้างไม่สม่ำเสมอ บางบทก็ยืดเยื้อในขณะที่บทสรุปกลับดูเร่งรัด ถึงอย่างนั้น ส่วนที่พูดถึงเรื่องที่ว่าการจัดอันดับมหาวิทยาลัยได้บิดเบือนการศึกษาระดับอุดมศึกษาไปอย่างไรนั้นยอดเยี่ยมมาก แค่อ่านส่วนนี้ก็คุ้มค่าหนังสือแล้ว เป็นหนังสือปูพื้นฐานที่ใช้ได้สำหรับคนที่ไม่คุ้นเคยกับเรื่องอคติของอัลกอริทึม แต่อาจจะรู้สึกว่าเนื้อหาเบาไปหน่อยสำหรับคนที่ทำงานในสายนี้อยู่แล้ว ไม่ใช่หนังสือที่แย่ แค่มีมุมมองใหม่ๆ น้อยไปนิด

จากประสบการณ์ที่ผ่านมา หนังสือที่พยายามครอบคลุมเนื้อหากว้างขนาดนี้มักจะลงเอยด้วยความรู้สึกเหมือนเอาบทความนิตยสารมารวมกัน มากกว่าจะเป็นข้อโต้แย้งที่ร้อยเรียงเป็นหนึ่งเดียวกัน Cathy O’Neil เป็นนักเขียนที่เก่งมาก แต่กรอบแนวคิดเรื่อง 'Weapons of Math Destruction' ในบางครั้งก็ดูจะฝืนๆ ไปหน่อย ตัวอย่างบางอันที่เธอยกมา อย่างแบบทดสอบบุคลิกภาพสำหรับงานที่ได้ค่าแรงขั้นต่ำ มันไม่ยุติธรรมแน่ๆ ล่ะ แต่ถึงขั้นเป็น 'อาวุธทำลายล้าง' ในระดับโลกเลยเหรอ อ่านแล้วแอบรู้สึกเหมือนหนังสือของ Malcolm Gladwell นิดๆ คืออัดแน่นไปด้วยเรื่องเล่าที่น่าสนใจแต่บางทีก็ขาดรายละเอียดเชิงลึกที่รอบด้านไป นอกจากนี้ยังรู้สึกหงุดหงิดนิดหน่อยที่ไม่มีตัวอย่างในมุมกลับบ้างเลย มันก็น่าจะมีอัลกอริทึมที่ทำเรื่องดีๆ อยู่บ้างแน่ๆ ไม่ใช่เหรอ ถึงอย่างนั้น หนังสือเล่มนี้ก็ทำหน้าที่เป็นคำเตือนที่สำคัญอย่างยิ่งเกี่ยวกับการขาดความโปร่งใสในระบบปัจจุบันของเรา เป็นหนังสือที่คุ้มค่าแก่การอ่าน แต่ควรฟังหูไว้หูกับข้อกล่าวอ้างที่ดูดราม่าเกินจริงไปบ้าง เหมาะที่จะใช้เป็นจุดเริ่มต้นในการชวนคุยมากกว่าจะเป็นตำราอ้างอิงที่สมบูรณ์แบบ

บอกตามตรงว่าไม่ใช่อย่างที่คาดหวังไว้จากคนจบปริญญาเอกด้านคณิตศาสตร์จาก Harvard เลย ตั้งใจมองหาการวิเคราะห์ที่เข้มข้นรัดกุมเรื่องอคติของอัลกอริทึม แต่สิ่งที่ได้กลับมาเป็นชุดเรื่องเล่าและการแสดงความเห็นทางการเมืองแทน ผู้เขียนดูเหมือนจะมีอคติส่วนตัวและจ้องจะเล่นงานทุกระบบที่ใช้ตัวเลขในการตัดสินใจ โดยมักจะมองข้ามอคติของมนุษย์ที่มีอยู่ก่อนที่จะนำโมเดลเหล่านี้มาใช้เสียอีก ข้อเสนอแนะของเธอเรื่องการ 'ใส่คุณค่าลงไปในโค้ด' นั้นคลุมเครือและมองข้ามความเป็นจริงในทางปฏิบัติของวิศวกรรมซอฟต์แวร์ไปโดยสิ้นเชิง อ่านแล้วให้ความรู้สึกเหมือนแถลงการณ์ของกลุ่ม Occupy Wall Street มากกว่าจะเป็นการพิจารณาเรื่องวิทยาศาสตร์ข้อมูลอย่างจริงจัง ถ้าคุณกำลังมองหาการเจาะลึกเชิงเทคนิค คุณจะผิดหวัง สำนวนการเขียนถือว่าโอเค แต่การขาดความสมดุลทำให้ยากที่จะเชื่อถือข้อสรุปในภาพรวมอย่างจริงจังได้ เป็นมุมมองด้านเดียวมากๆ ต่อประเด็นที่ซับซ้อนซึ่งสมควรได้รับความละเอียดรอบคอบมากกว่านี้