ชีวิต 3.0: ความเป็นมนุษย์ในยุคปัญญาประดิษฐ์

หนังสือเล่มนี้ปรับเปลี่ยนมุมมองของฉันที่มีต่อภาพของมนุษยชาติในอีกไม่กี่ศตวรรษข้างหน้าไปโดยสิ้นเชิง Tegmark ใช้พื้นฐานด้านฟิสิกส์ของเขาดึงบทสนทนาให้อยู่บนพื้นฐานของความเป็นจริง แม้ในยามที่พูดถึงแนวคิดสุดล้ำอย่างวงแหวนไดสันหรือการดึงพลังงานจากหลุมดำ ฉันชอบนิยามชีวิต 3 ระดับเป็นพิเศษ มันเป็นกรอบแนวคิดที่ยอดเยี่ยมมากสำหรับการทำความเข้าใจว่าเราอยู่ตรงจุดไหนในเส้นเวลาของวิวัฒนาการ สำนวนการเขียนกระชับ ตรงประเด็น เรียบเรียงมาอย่างดี และหลีกเลี่ยงน้ำเสียงทางวิชาการที่แห้งแล้งซึ่งมักเจอในหนังสือเกี่ยวกับ AI ส่วนใหญ่ ต่างจากผู้เขียนคนอื่นๆ ที่มุ่งเน้นแต่ฉากทัศน์วันสิ้นโลกเพียงอย่างเดียว Tegmark สำรวจผลลัพธ์ที่หลากหลาย ตั้งแต่ฉากทัศน์ 'พระเจ้าผู้ตกเป็นทาส' ไปจนถึง 'พระเจ้าผู้พิทักษ์' นานๆ ทีจะได้เจอหนังสือที่ท้าทายความเชื่อหลักของเราเกี่ยวกับจิตสำนึก ในขณะที่ยังอ่านง่ายได้ขนาดนี้ ถ้าคุณอยากเข้าใจ 'ปัญหาที่ยากของจิตสำนึก' และเข้าใจว่าทำไมประเด็นเรื่องการปรับให้สอดคล้องกันจึงเป็นเรื่องที่ต้องพูดคุยกันมากที่สุดในยุคสมัยของเรา เริ่มต้นที่เล่มนี้เลย

Life 3.0 น่าจะเป็นหนังสือปูพื้นฐานที่จำเป็นต้องอ่านมากที่สุดแล้วสำหรับใครก็ตามที่พยายามทำความเข้าใจจุดตัดระหว่างฟิสิกส์กับปัญญาประดิษฐ์ วิธีที่ Tegmark วางโครงสร้างข้อถกเถียง โดยไล่ตั้งแต่ผลกระทบระยะใกล้ของ AI ต่อเรื่องงาน ไปจนถึงความเป็นไปได้อันไกลโพ้นของการตั้งอาณานิคมในอวกาศนั้น ทำได้อย่างเชี่ยวชาญมาก ผมประทับใจเป็นพิเศษกับวิธีที่เขาหลีกเลี่ยงภาพจำเดิมๆ แบบในหนัง 'Terminator' แล้วหันมาเจาะจงที่ 'ปัญหาการปรับให้สอดคล้องกัน' แทน แนวคิดที่ว่าปัญญาประดิษฐ์ขั้นสูงไม่จำเป็นต้อง 'ชั่วร้าย' ก็ทำลายล้างเราได้ เป็นประเด็นที่มีเหตุผลรองรับจนน่าขนลุก เขาอธิบายแนวคิดที่ซับซ้อนอย่างการปรับเป้าหมายให้สอดคล้องกันและปฏิทรรศน์ของแฟร์มีได้อย่างชัดเจนเสียจนผมไม่รู้สึกหลงทางเลยแม้แต่วินาทีเดียว บางคนอาจจะมองว่าเป็นการคาดเดา แต่ในยุคที่เทคโนโลยีเติบโตอย่างก้าวกระโดด เราจำเป็นต้องมีการมองการณ์ไกลที่เปี่ยมด้วยจินตนาการแบบนี้ แผนภูมิและแผนภาพต่างๆ ถูกจัดวางแทรกไว้เป็นอย่างดี และช่วยให้เห็นภาพสเกลขนาดมหึมาที่เขากำลังพูดถึงได้จริงๆ เป็นหนังสือที่ช่วยเปิดโลกทัศน์อย่างแท้จริงและจะตราตรึงอยู่ในใจคุณไปอีกนาน

หยิบเล่มนี้ขึ้นมาแบบไม่ได้คิดอะไรมากหลังจากได้ดู TED talk ของ Tegmark และก็ไม่ผิดหวังเลย นานๆ ทีจะเจอหนังสือที่พูดถึงจุดจบของจักรวาลจากความร้อนและจริยธรรมของรถยนต์ไร้คนขับไปพร้อมๆ กันได้โดยไม่รู้สึกว่าเนื้อหาขาดตอน ความกระตือรือร้นของ Tegmark นั้นส่งต่อถึงคนอ่านได้จริงๆ เขาทำให้คุณรู้สึกเหมือนได้เป็นส่วนหนึ่งของเครือข่ายลับระดับนานาชาติของกลุ่มคนหัวกะทิที่กำลังพยายามกอบกู้โลก รายละเอียดที่เขาเจาะลึกลงไปเกี่ยวกับ 'AI ที่เป็นมิตร' และวิธีการต่างๆ ที่เราอาจนำมาใช้เพื่อควบคุมปัญญาประดิษฐ์ขั้นสูงนั้นทั้งเฉียบคมและน่ากลัวไปพร้อมกัน ฉันชอบที่เขานำเสนอมุมมองที่หลากหลาย เขาไม่ได้ยัดเยียดวาระใดวาระหนึ่งเพียงอย่างเดียว แต่ชี้ให้เห็นถึงข้อดีและข้อเสียของฉากทัศน์แบบ 'ยูโทเปียเสรีนิยม' เทียบกับแบบ 'เผด็จการผู้ทรงธรรม' เป็นการมองหัวข้อที่มืดมนมากๆ ได้อย่างน่าติดตาม เข้าถึงง่าย และท้ายที่สุดก็ยังเปี่ยมไปด้วยความหวัง นี่คือหนึ่งในหนังสือเกี่ยวกับ AI ที่ดีที่สุดในท้องตลาดตอนนี้อย่างไม่ต้องสงสัย

ในฐานะคนที่ทำงานในสายเทคโนโลยี ผมพบว่าการพูดคุยเรื่อง 'การปรับให้สอดคล้องกัน' และการตั้งเป้าหมายให้กับระบบปัญญาประดิษฐ์ขั้นสูงคือส่วนที่ชวนให้ขนลุกที่สุด เรามักจะคิดว่า AI ที่ 'ไม่ดี' คือบั๊กของซอฟต์แวร์ แต่ Tegmark ชี้ให้เห็นว่ามันคือวิกฤตทางปรัชญา หนังสือเขียนออกมาได้ดีและทำหน้าที่เป็นการสำรวจความเป็นไปได้ในอนาคตที่ยอดเยี่ยมมาก แม้ว่าบางฉากทัศน์จะฟังดูเหลือเชื่อไปสักหน่อยก็ตาม ผมชอบวิธีที่เขาสร้างสมดุลระหว่างแง่มุมทางเทคนิคกับคำถามที่มีมนุษย์เป็นศูนย์กลางเกี่ยวกับความหมายและเป้าหมายของชีวิต บอกตามตรงว่าเนื้อหาฟิสิกส์บางส่วนในช่วงท้ายเรื่องนั้นเกินความเข้าใจของผมไปมาก แต่ใจความสำคัญโดยรวมก็ยังคงชัดเจน เนื้อหาค่อนข้างมองโลกในแง่ดีมากกว่า Superintelligence ของ Bostrom อยู่สักหน่อย ซึ่งเอาเข้าจริงผมชอบนะ มันดีที่ได้เห็นภาพอนาคตที่ไม่ใช่แค่ฤดูหนาวนิวเคลียร์ เป็นหนังสือที่น่าติดตามอย่างยิ่ง และจะจุดประกายให้เกิดการถกเถียงอย่างเข้มข้นบนโต๊ะอาหารค่ำได้อย่างแน่นอน

หลังจากได้ยินคนพูดถึงบทนำเรื่อง 'ทีมโอเมก้า' มานาน ในที่สุดก็ได้ฤกษ์หยิบมาอ่านสักที Tegmark สามารถย่อยหัวข้อที่เนื้อหาอัดแน่นสุดๆ อย่างเรื่องความเป็นอิสระจากสสารพื้นฐานและการขยายตัวในระดับจักรวาล ให้กลายเป็นเรื่องที่อ่านได้เกือบจะเหมือนบทสนทนาทั่วไป นับเป็นความแตกต่างที่ช่วยให้หายใจหายคอได้โล่งขึ้นเมื่อเทียบกับ Superintelligence ของ Bostrom ซึ่งให้ความรู้สึกเหมือนกำลังอ่านตำราเรียนของวิชาที่ตัวเองยังไม่ได้เตรียมตัวมาเลย แม้จะชื่นชมมุมมองเชิงบวกและพันธกิจของ Future of Life Institute แต่บางบทในช่วงหลังกลับให้ความรู้สึกเหมือนนิยายวิทยาศาสตร์ล้วนๆ พูดก็พูดเถอะ เขาเองก็ยอมรับว่าเป็นการคาดการณ์ แต่การวางฉากทัศน์ล่วงหน้าไปถึงพันล้านปีข้างหน้าก็ดูจะตามใจตัวเองมากไปหน่อย ในเมื่อเรายังคาดเดาอนาคตของ LLM ในอีกสิบปีข้างหน้าไม่ได้ด้วยซ้ำ ถึงอย่างนั้น การแจกแจงว่า AI อาจเข้ามายึดครองโลกได้อย่างไร ซึ่งไม่ใช่ด้วยความมุ่งร้าย แต่ด้วยความสามารถที่เหนือกว่า ก็นับเป็นสัญญาณเตือนภัยที่ปลุกให้ตื่นได้จริงๆ เป็นการสำรวจความเป็นไปได้ในอนาคตที่ทั้งน่าติดตามและชวนให้ขบคิด ซึ่งอ่านจบแล้วทำเอาทั้งตื่นเต้นและแอบหวั่นใจนิดๆ กับสิ่งที่พวกเรากำลังสร้างขึ้นมา

เคยสงสัยไหมว่าพวกเราอาจเป็นเพียงสิ่งมีชีวิตพื้นฐานคาร์บอนที่ทำหน้าที่เป็นแค่บรรพบุรุษยุคบุกเบิกให้กับบางสิ่งที่ทรงประสิทธิภาพกว่ามาก นี่คือคำถามหลักที่ Tegmark ตั้งไว้ และการสำรวจประเด็นนี้ของเขาก็ทั้งน่าทึ่งและชวนให้ใจคอไม่ดี ลีลาการเขียนน่าติดตาม ผสมผสานเรื่องราวส่วนตัวเข้ากับฟิสิกส์ระดับสูงได้อย่างเป็นธรรมชาติ ชอบตรงที่เขาหยิบยกข้อกังวลในระยะสั้นอย่างเรื่องอาวุธสังหารอัตโนมัติขึ้นมาพูดถึงก่อนจะเข้าสู่เนื้อหาแนว 'วันสิ้นโลก' อย่างไรก็ตาม ผมรู้สึกว่าบางบทในช่วงกลางเรื่องเนื้อหาค่อนข้างอัดแน่นและซ้ำซากไปหน่อย เขามักติดนิสัยชอบสรุปประเด็นของตัวเองซ้ำหลายครั้ง ซึ่งทำให้ความลื่นไหลของการเล่าเรื่องช้าลง แต่บทสนทนาเรื่อง 'ความเป็นอิสระจากสสารพื้นฐาน' เป็นจุดที่ทำให้ผมตาสว่างขึ้นมาเลย มันเป็นการวิเคราะห์ที่น่าสนใจเกี่ยวกับทางเลือกที่เผ่าพันธุ์ของเรากำลังเผชิญ เราจะเป็นเจ้านายของผู้สืบทอดที่สร้างจากซิลิคอน หรือเป็นได้แค่เชิงอรรถในหน้าประวัติศาสตร์ของพวกมัน หนังสือเล่มนี้ไม่ได้ให้คำตอบแก่คุณ แต่สอนให้คุณรู้จักตั้งคำถามที่ถูกต้อง

วิธีที่ Tegmark แบ่งชีวิตออกเป็น 3 ช่วงวัยที่ชัดเจน ได้แก่ ชีวภาพ วัฒนธรรม และเทคโนโลยี ถือเป็นไอเดียที่อัจฉริยะมากในความเรียบง่ายของมัน มันช่วยวางแผนที่นำทางที่ชัดเจนว่าเราผ่านจุดไหนมาแล้วบ้างและกำลังจะมุ่งหน้าไปทางไหน ตอนหยิบเล่มนี้ขึ้นมา ฉันคาดว่าจะต้องเจอการบรรยายที่แห้งแล้งแน่ๆ แต่น้ำเสียงกลับดูตื่นตัวและเป็นกันเองอย่างน่าประหลาดใจ ให้ความรู้สึกเหมือนกำลังนั่งร่วมวงระดมสมองยามดึกกับอัจฉริยะสักคน ว่ากันตามตรง ฉากทัศน์บางอย่างที่เขาวาดภาพไว้ อย่างการดูดซับพลังงานจากหลุมดำมาใช้ ก็ให้ความรู้สึกเหมือนเรื่อง Star Trek มากกว่าวิทยาศาสตร์จริงๆ แต่นั่นแหละคือประเด็นของเขา เขาพยายามจะขยายกรอบคำนิยามของเราเกี่ยวกับสิ่งที่เป็นไปได้ หนังสือเรียบเรียงมาอย่างดีและไล่ตามอ่านได้ง่าย มีบทสรุปที่เป็นประโยชน์อยู่ท้ายแต่ละส่วน ข้อติเดียวของฉันคือบางครั้งมันแอบให้ความรู้สึกเหมือนโฆษณาให้กับสถาบัน Future of Life Institute ของเขาเอง ถ้าตัดข้อติเล็กๆ น้อยๆ ออกไป นี่คือการสำรวจการเปลี่ยนผ่านที่สำคัญที่สุดในประวัติศาสตร์มนุษยชาติได้อย่างยอดเยี่ยมมาก

เห็นได้ชัดว่า Max Tegmark เป็นนักฟิสิกส์ที่เก่งกาจ แต่การขยับมาจับงานด้านอนาคตศาสตร์ของเขายังดูไม่ค่อยสม่ำเสมอเท่าไหร่ หนังสือเปิดเรื่องได้อย่างแข็งแรงด้วยเรื่องราวของทีมโอเมก้า ซึ่งฉายภาพได้อย่างยอดเยี่ยมว่า AI จะสามารถก้าวขึ้นมามีอำนาจเหนือโลกแบบเงียบๆ ได้อย่างไร อย่างไรก็ตาม พออ่านไปเรื่อยๆ ความลึกของเนื้อหากลับเริ่มเจือจางลง รู้สึกเหมือนกำลังฟังเรื่องที่เคยอ่านเจอมาแล้วในงานของ Harari หรือ Kurzweil แค่เอามาเล่าใหม่ด้วยเกร็ดเรื่องราวที่มีสีสันมากขึ้น คือเข้าใจนะว่าน้ำเสียงแบบชวนคุยเหมาะกับผู้อ่านทั่วไป แต่บางครั้งมันก็เกือบจะดูผิวเผินไปเลย เขาใช้เวลาไปมากกับคำว่า 'อย่างไร' ในเรื่องวิศวกรรมระดับจักรวาล แต่กลับข้ามคำถามเชิงปรัชญาที่ตอบยากอย่างคำว่า 'ทำไม' ไปอย่างผิวเผิน การชื่นชมเพื่อนนักวิจัยอย่าง Elon Musk อย่างออกหน้าออกตาก็แอบให้ความรู้สึกเหมือนการอ้างชื่อคนดังโดยไม่จำเป็น เป็นหนังสือปูพื้นฐานที่ใช้ได้เล่มหนึ่ง แต่ถ้าคุณกำลังมองหาการวิเคราะห์จริยธรรม AI ที่เข้มข้นและลงลึกถึงรากฐาน คุณอาจจะรู้สึกว่าเล่มนี้ดูฟุ้งซ่านและคาดเดาไปเองมากไปหน่อย

พูดกันตามตรง ครึ่งแรกของหนังสือเล่มนี้คือเด็ดมาก แต่เนื้อหาเริ่มยืดยาดเมื่อเข้าสู่ช่วงการคาดการณ์ไปถึงระดับพันล้านปี เรื่องแต่งเปิดหัวเกี่ยวกับกลุ่ม 'โอเมก้า' เป็นหนึ่งในการทดลองทางความคิดที่ดีที่สุดเท่าที่ผมเคยอ่านมาเลย มันจับภาพการเปลี่ยนผ่านของอำนาจในยุคดิจิทัลที่เกิดขึ้นอย่างแนบเนียนได้อย่างไร้ที่ติ แต่หลังจากนั้น Tegmark กลับใช้พื้นที่หลายสิบหน้าไปกับฉากทัศน์อนาคตที่เจาะจงรายละเอียดแบบสุดขั้ว ซึ่งให้ความรู้สึกเหมือนเป็นการเดาสุ่มล้วนๆ มันยากที่จะอินไปกับเรื่อง 'จำนวนการคำนวณต่อวินาที' ของคอมพิวเตอร์ขนาดเท่ากาแล็กซี ในเมื่อทุกวันนี้เรายังต้องรับมือกับอาการหลอนขั้นพื้นฐานของ AI อยู่เลย การพูดถึงเพื่อนๆ คนดังในวงการของเขาอยู่ตลอดเวลาก็ชักจะน่าเบื่อหน่ายเมื่ออ่านไปสักพัก ผมชื่นชมการมองโลกในแง่ดีของเขานะ แต่ผมคงจะชอบมากกว่านี้ถ้าเขาเน้นไปที่ประเด็นกลืนไม่เข้าคายไม่ออกทางจริยธรรมที่กำลังเกิดขึ้นตรงหน้า เป็นหนังสือที่ดีเล่มหนึ่ง แต่จะยอดเยี่ยมได้เลยถ้าตัดให้สั้นลงสักประมาณ 100 หน้า และลดความเพ้อฝันสไตล์เด็กเนิร์ดลงสักหน่อย

ผมต้องการการวิเคราะห์เจาะลึกด้านความปลอดภัยของ AI ที่เข้มข้นตามหลักวิทยาศาสตร์ แต่สิ่งที่ได้กลับมาคือการเพ้อฝันที่ปรุงแต่งขึ้นมาอย่างซับซ้อน น่าหงุดหงิดตรงที่หัวข้อนี้สำคัญมากแท้ๆ แต่ Tegmark กลับปฏิบัติกับมันเหมือนเป็นสนามเด็กเล่นสำหรับจินตนาการแนวไซไฟของตัวเอง เขากระโดดจากฉากทัศน์สุดโต่งหนึ่งไปยังอีกฉากทัศน์หนึ่ง เดี๋ยวก็พูดเรื่องมนุษยชาติสูญพันธุ์ พออีกนาทีก็ข้ามไปเรื่องปัญญาประดิษฐ์ขั้นสูงที่เดินทางท่องอวกาศ โดยไม่เคยเจาะลึกถึงอุปสรรคทางวิศวกรรมจริงๆ ที่เรากำลังเผชิญอยู่ในปัจจุบันเลย บทที่ว่าด้วยเรื่องจิตสำนึกน่าผิดหวังเป็นพิเศษ เพราะนำเสนอมุมมองที่เอนเอียงมาก ซึ่งให้ความรู้สึกเหมือนโปรเจกต์ส่วนตัวที่ตัวเองหลงใหลมากกว่าการสำรวจข้อมูลอย่างรอบด้าน พูดตามตรง ทั้งเล่มให้ความรู้สึกเหมือนถูก 'ลดทอนความยากลงมา' เพื่อเอาใจกลุ่มคนอ่านในระดับพื้นฐาน ผมเฝ้ารอจุดที่จะได้เห็นประกายความเฉียบคมทางปัญญา แต่ก็ไม่มีเลย ถ้าคุณเคยอ่าน Superintelligence มาแล้ว เล่มนี้จะให้ความรู้สึกเหมือนก้าวถอยหลัง ในแง่เทคนิคการเขียนถือว่าเขียนได้ดี แต่เนื้อหาตื้นเขินเกินกว่าจะนำมาพิจารณาอย่างจริงจังในฐานะแผนที่นำทาง