Superintelligence เมื่อเครื่องจักรฉลาดกว่ามนุษย์: เส้นทาง อันตราย และกลยุทธ์

Bostrom พาเราดำดิ่งอย่างละเอียดถี่ถ้วนและน่าขนลุกไปกับสิ่งที่จะเกิดขึ้นเมื่อเราไม่ใช่สิ่งที่ฉลาดที่สุดบนโลกใบนี้อีกต่อไป การเปรียบเทียบระหว่างมนุษย์กับหนูนั้นได้ผลดีเป็นพิเศษในการทำให้เห็นภาพว่าเราจะกลายเป็นรองตัวตนที่มีปัญญาเลิศล้ำแค่ไหน แม้ว่างานเขียนจะแฉลบเข้าสู่โทนวิชาการที่อัดแน่นอยู่เป็นครั้งคราว แต่การไล่เรียงตรรกะตั้งแต่การพัฒนาตัวเองซ้ำๆ ไปจนถึงการระเบิดออกของภูมิปัญญานั้นก็สมเหตุสมผลจนน่าสะพรึงกลัว ชอบที่เขาแยกแยะประเภทต่างๆ ของ AI ออกมาให้เห็น อย่างพวกที่เป็นเหมือนผู้หยั่งรู้และพวกที่มีอำนาจเบ็ดเสร็จ แม้ว่าบางครั้งศัพท์แสงจะให้ความรู้สึกเหมือนภาษาบริหารจัดการไปนิดก็ตาม นี่คือตำราพื้นฐานที่ให้ข้อมูลมหาศาลเพื่อรองรับคำทำนายอันมืดมน ถ้าคุณทนอ่านสำนวนที่แห้งแล้งได้ มุมมองเชิงกลยุทธ์เกี่ยวกับปัญหาด้านการควบคุมถือเป็นสิ่งที่ต้องอ่านอย่างยิ่งสำหรับใครก็ตามที่กังวลเรื่องอนาคต

ว้าว หนังสือเล่มนี้เปลี่ยนมุมมองของผมที่มีต่อกรอบเวลาการเกิดปัญญาประดิษฐ์ทั่วไปรวมถึงความเสี่ยงที่เกี่ยวข้องไปโดยสิ้นเชิง Bostrom ไม่ได้แค่บอกว่า AI อันตราย แต่เขาสร้างข้อโต้แย้งขนาดมหึมาที่มีข้อมูลรองรับเพื่ออธิบายว่าทำไมเราถึงมีแนวโน้มที่จะล้มเหลวตั้งแต่ครั้งแรกที่เราพยายามสร้างมันขึ้นมา แนวคิดเรื่องการระเบิดออกของภูมิปัญญานั้นน่าสะพรึงกลัวมาก เพราะมันชี้ให้เห็นว่าเมื่อเครื่องจักรไปถึงขีดจำกัดระดับหนึ่งแล้ว เราจะสูญเสียความสามารถทั้งหมดในการดึงปลั๊กออก ผมสะดุดใจเป็นพิเศษกับการอภิปรายเรื่องที่ว่าปัญญาเลิศล้ำสามารถใช้ภาษาเพื่อปั่นหัวเราให้ทำเรื่องโง่ๆ ได้อย่างไร มันเป็นการอ่านที่รบกวนจิตใจอย่างลึกซึ้งและทิ้งให้ผมตกอยู่ในสภาวะหวาดหวั่นต่อการดำรงอยู่แบบอ่อนๆ ไปเป็นอาทิตย์ แนะนำอย่างยิ่งถ้าคุณอยากจะถูกอนาคตของเทคโนโลยีหลอกหลอนให้กลัวสุดขีด

ความจริงก็คือ ตอนนี้พวกเราเป็นเหมือนฝูงนกกระจอกในนิทานของ Bostrom ที่กำลังเชิญชวนนกฮูกเข้ามาในรังอย่างมืดบอด เพราะเราคิดว่ามันจะช่วยเราได้ หนังสือเล่มนี้คือผลงานชิ้นเอกของปรัชญาเชิงคาดการณ์ ที่ปฏิบัติต่อจุดจบของโลกด้วยความแม่นยำอันสุขุมราวกับศัลยแพทย์ ตรรกะของเรื่องนั้นรัดกุมไร้ช่องโหว่ แม้ว่าสำนวนการเขียนจะดูน่าเบื่อและย่อยยากเป็นบางครั้งสำหรับผู้อ่านทั่วไป ผมพบว่าส่วนที่พูดถึง 'การขยายโครงสร้างพื้นฐานอย่างล้นหลาม' นั้นช่วยเปิดหูเปิดตาเป็นพิเศษ ซึ่งก็คือแนวคิดที่ว่า AI อาจจะนำสสารทั้งหมดของเรามาใช้เพื่อสร้างตัวมันเองเพิ่มขึ้นเรื่อยๆ นี่คือตำราที่เขียนขึ้นอย่างยอดเยี่ยมสำหรับผู้ที่ชื่นชอบการดำดิ่งเชิงวิเคราะห์อย่างลึกซึ้งไปในอนาคตของมนุษยชาติ อย่าคาดหวังความสนุกแบบนิยายไซไฟผจญภัย แต่จงคาดหวังการตรวจสอบที่จริงจังและมองโลกตามความเป็นจริงเกี่ยวกับการสูญพันธุ์ที่อาจเกิดขึ้นกับพวกเรา

ในฐานะนักพัฒนา ผมมองว่าการอภิปรายเรื่องฉากทัศน์ของการทะยานขึ้นอย่างรวดเร็วเทียบกับแบบค่อยเป็นค่อยไปนั้นน่าสนใจเป็นพิเศษ โดยเฉพาะอย่างยิ่งหลังจากความสำเร็จของ AlphaGo ความเข้าใจด้านเทคนิคของ Bostrom นั้นน่าประทับใจ แม้ว่าบางครั้งเขาจะลดทอนความยุ่งเหยิงสุดขีดของวิศวกรรมซอฟต์แวร์ในโลกแห่งความเป็นจริงให้ดูง่ายเกินไปก็ตาม รูปแบบสัญลักษณ์คล้ายคณิตศาสตร์ที่เขาใช้สามารถให้ความรู้สึกเหมือนเป็นฉากหน้าของความเข้มงวดที่เคลือบทับสิ่งที่แท้จริงแล้วเป็นปรัชญาเชิงคาดการณ์ขั้นสุด กระนั้น ความเสี่ยงต่อการดำรงอยู่ของมนุษยชาติก็ถูกวางเรียงด้วยตรรกะที่เย็นชาและชัดเจนเสียจนยากที่จะปัดตกไป พวกเราโดยพื้นฐานแล้วก็คือพวกนกกระจอกในนิทานเรื่องดังของเขา ที่พยายามหาวิธีฝึกนกฮูกให้เชื่องตั้งแต่ก่อนที่ไข่จะฟักออกมาเสียอีก นี่คือการสำรวจความท้าทายที่สำคัญที่สุดเท่าที่เผ่าพันธุ์ของเราเคยเผชิญมา ซึ่งชวนให้ขบคิด แม้จะค่อนข้างน่าเบื่ออยู่บ้าง

คุณจะทำอย่างไรถ้าคุณเป็นหนูที่พยายามจะควบคุมมนุษย์ อุปมาหลักข้อนี้ตามหลอกหลอนไปตลอดทั้งเล่มและเป็นการปูทางสู่การเจาะลึกเรื่องความปลอดภัยของ AI ทางด้าน Bostrom ได้สำรวจเส้นทางหลากหลายที่นำไปสู่ปัญญาเลิศล้ำ ตั้งแต่การยกระดับทางชีวภาพไปจนถึงภูมิปัญญาที่อิงกับซิลิคอนล้วนๆ ด้วยระดับรายละเอียดที่ครบถ้วนรอบด้าน ผมพบว่าส่วนที่พูดถึง 'การตีความคำสั่งแบบผิดเพี้ยน' ซึ่งก็คือการที่ AI ทำตามคำสั่งของคุณแบบตรงตัวเป๊ะๆ จนเกิดหายนะนั้นทั้งตลกและน่าสยดสยอง มันเป็นหนังสือประเภทที่ทำให้คุณหันไปมองแล็ปท็อปของตัวเองด้วยความรู้สึกหวาดระแวงขึ้นมาใหม่ แม้ว่างานเขียนจะค่อนข้างออกไปทางวิชาการอย่างแน่นอน แต่เดิมพันของเรื่องนี้สูงมากเสียจนความพยายามอ่านให้จบนั้นรู้สึกว่าคุ้มค่า นี่คือตำราอันยอดเยี่ยมที่คู่ควรกับสถานะผลงานระดับคัลต์คลาสสิก

เคยสงสัยไหมว่าทำไมคนฉลาดที่สุดในโลกจู่ๆ ถึงพากันหวาดกลัวโค้ดคอมพิวเตอร์ หนังสือเล่มนี้คือพิมพ์เขียวของความวิตกกังวลนั้น โดยให้มุมมองที่เจาะลึกครบถ้วนเกี่ยวกับหลุมพรางเชิงกลยุทธ์ของการสร้างบางสิ่งที่ฉลาดกว่าตัวเราเอง เห็นได้ชัดว่า Bostrom มีคุณสมบัติเหมาะสมอย่างยิ่ง และพื้นฐานด้านปรัชญาของเขาก็ช่วยให้เขารับมือกับ 'ปัญหาด้านการควบคุม' เชิงจริยธรรมในแง่มุมที่วิศวกรเพียวๆ อาจจะมองข้ามไป ผมชอบการเน้นไปที่วิธีที่เราจะป้อนคุณค่าของมนุษย์เข้าไปใน AI แม้ว่าความยากลำบากของภารกิจนั้นจะดูแทบจะก้าวข้ามไปไม่ได้เลยหลังจากได้อ่านบทวิเคราะห์ของเขา หนังสือเล่มนี้ต้องใช้ความพยายามในการอ่านสูงอย่างแน่นอน ด้วยประโยคที่ยาวและศัพท์เฉพาะจำนวนมากที่ต้องทำความเข้าใจ อย่างไรก็ตาม สำหรับการพิจารณาเรื่องความเสี่ยงต่อการดำรงอยู่อย่างจริงจัง คุณจะไม่พบแหล่งข้อมูลไหนที่ละเอียดถี่ถ้วนหรือชวนให้ขบคิดได้มากไปกว่านี้อีกแล้ว

ในที่สุดก็ได้ฤกษ์อ่านตำราพื้นฐานเกี่ยวกับความปลอดภัยของ AI และความเสี่ยงต่อการดำรงอยู่เล่มนี้เสียที และผมก็มีความคิดเห็นมากมายเลยล่ะ คือขอบเขตเนื้อหาของหนังสือมันยอดเยี่ยมมากนะ แต่มันเสียตรงที่ขาดการบรรณาธิการที่ดีในช่วงบทกลางๆ ไปจริงๆ Bostrom มักจะพูดซ้ำไปซ้ำมา โดยใช้ศัพท์ทางปรัชญาถึงห้าคำเพื่ออธิบายแนวคิดพื้นฐานเดียวกัน ถึงอย่างนั้น คำเตือนของเขาเกี่ยวกับ 'การทะยานขึ้นอย่างรวดเร็ว' ก็เป็นสิ่งที่ไม่อาจเพิกเฉยได้เลยในยุคที่การเรียนรู้ของเครื่องกำลังเร่งความเร็วขึ้นอย่างรวดเร็วขนาดนี้ หนังสือเล่มนี้ประสบความสำเร็จในฐานะเสียงเรียกร้องให้แวดวงวิทยาศาสตร์ลุกขึ้นมาลงมือทำอะไรสักอย่าง แม้ว่ามันจะล้มเหลวไปนิดในฐานะงานเขียนที่อ่านสนุกน่าติดตามก็ตาม มันเป็นงานศึกษาทางวิชาการที่อัดแน่นซึ่งต้องใช้ความอดทน แต่ข้อมูลเชิงลึกที่ว่าปัญญาเลิศล้ำอาจจะมองโลกอย่างไรนั้นก็คุ้มค่ากับความเหนื่อยยากในการอ่าน

การอ่านหนังสือเล่มนี้ให้ความรู้สึกเหมือนกำลังเดินลุยโคลนหนืดๆ แต่เป็นโคลนที่สร้างขึ้นจากแนวคิดสำคัญอย่างยิ่งยวดที่ทุกคนควรทำความเข้าใจ พูดกันตามตรง Bostrom เป็นนักปรัชญา ดังนั้นคุณก็ต้องคาดหวังว่าจะเจอคำศัพท์เฉพาะที่อัดแน่นและการทดลองทางความคิดที่ซับซ้อนในระดับหนึ่ง หนังสือเล่มนี้ไม่ใช่หนังสืออ่านเล่นเบาๆ ริมชายหาดอย่างแน่นอน แต่มันคือตำราวิชาการที่เข้าใจยากและน่าเบื่อ ซึ่งต้องใช้สมาธิอย่างเต็มที่ในการอ่าน อย่างไรก็ตาม ข้อโต้แย้งหลักที่เกี่ยวกับ 'การหักหลัง' ซึ่งก็คือการที่ AI ทำตัวเป็นมิตรจนกระทั่งมีอำนาจมากพอที่จะเพิกเฉยต่อเรานั้นยอดเยี่ยมมาก มันทำให้คุณตระหนักได้เลยว่ากฎ 3 ข้อของ Asimov กลายเป็นของเล่นเด็กไปเลยเมื่อเทียบกับความซับซ้อนที่แท้จริงของการป้อนคุณค่า ผมให้สามดาวเพราะการดำเนินเรื่องเชื่องช้าเป็นเต่าคลาน แต่คุณค่าทางปัญญาที่ได้รับนั้นสูงมากอย่างไม่อาจปฏิเสธได้

เป็นไปได้ไหมที่จะป้อนโปรแกรมศีลธรรมของมนุษย์เข้าไปในเครื่องจักรที่คิดเร็วกว่าเราเป็นล้านเท่า นี่คือคำถามหลักของหนังสือเล่มนี้ และคำตอบของ Bostrom ก็คือคำว่า 'อาจจะได้ แต่มันจะยากมากๆ เลยล่ะ' ที่ดังก้องชัดเจน ผมชื่นชมความกว้างขวางของการค้นคว้าของเขา แม้ว่าสไตล์การเขียนจะให้ความรู้สึกห่างเหินจากความเป็นจริงไปนิดในบางจุด หนังสือเต็มไปด้วยการทดลองทางความคิดแปลกๆ ที่ให้ความรู้สึกเหมือนนิยายวิทยาศาสตร์ แต่กลับถูกปฏิบัติด้วยความจริงจังระดับเอกสารทางกฎหมาย จากประสบการณ์การอ่านของผม บางบทก็ชวนง่วงอยู่หน่อยๆ เพราะมัวแต่เน้นกลยุทธ์เชิงนามธรรมเพื่อมุ่งสู่ผลลัพธ์แบบ 'องค์กรปกครองเดี่ยว' มากเกินไป เล่มนี้มีทั้งข้อดีและข้อเสียปนกันไป คือช่วยกระตุ้นความคิดแต่ก็ชวนให้หงุดหงิดเป็นบางครั้งเพราะขาดแผนการนำไปปฏิบัติที่เป็นรูปธรรม

จริงๆ แล้วผมอยากจะชอบเล่มนี้นะเมื่อดูจากคำรับรองของ Bill Gates และ Elon Musk แต่สำนวนการเขียนนั้นน่าเบื่อและเข้าใจยากอย่างเหลือเชื่อ แถมยังคลุมเครืออยู่บ่อยๆ พูดตรงๆ คืออ่านแล้วเหมือนตำราเรียนสำหรับสัมมนาวิชาปรัชญาระดับบัณฑิตศึกษามากกว่าหนังสือที่ตั้งใจเขียนให้คนทั่วไปอ่าน ผู้เขียนใช้เวลาหลายสิบหน้าไปกับการแยกแยะหมวดหมู่ยิบย่อยที่ดูเหมือนจะไม่ได้นำไปสู่อะไรที่ใช้งานได้จริงเสมอไป แม้ว่า 'ปัญหาด้านการควบคุม' จะเป็นแนวคิดที่น่าหลงใหล แต่การนำเสนอในเล่มนี้กลับแห้งแล้งเสียจนผมพบว่าตัวเองใจลอยอยู่ตลอดเวลา มีแนวคิดแปลกใหม่บางอย่างเกี่ยวกับการจำลองสมองทั้งหมด แต่มันกลับถูกฝังอยู่ใต้กองศัพท์แสงทางวิชาการ ถ้าคุณไม่ได้เป็นแฟนของตรรกศาสตร์และปรัชญาอยู่แล้ว คุณอาจจะรู้สึกว่าหนังสือเล่มนี้เป็นการฝืนอ่านที่แสนน่าเบื่อมาก