ตอนที่ 7

ช่วงเวลากลางคืน
โพรเอ่ย “ถ้าฉันเป็นนาย ฉันจะเลือกทำลายตัวฉันเอง เพราะผู้สร้างของฉันทั้งคู่ไม่รู้แต่แรกว่าระบบของฉันจะเกิดการอัพเกรดขึ้น ทำให้ฉันมีสติปัญญาของตัวเอง…”
เทียนเหอนั่งอยู่บนเก้าอี้ตัวเล็กหน้ากองหนังสือ กำลังหาข้อมูลที่หลงเหลือจากบิดาของตัวเองกับโปรแกรมเมอร์สมัยนั้น “จะทำลายนายได้ยังไงกัน?”
โพรบอก “มนุษย์มักจะมีความกลัวต่อ AI ในระดับหนึ่ง ระหว่างการเรียนรู้จากการเชื่อมต่ออินเทอร์เน็ต ฉันได้เรียนรู้และวิเคราะห์จากภาพยนตร์มากมาย แล้วได้ข้อสรุปว่าสักวันปัญญาประดิษฐ์จะทำลายล้างโลกใบนี้”
เทียนเหอตอบ “ฉันไม่คิดแบบนั้นนะ นายประเมินตัวเองเก่งเกินไปหน่อยในฐานะ AI ที่ต้องหวาดระแวงอยู่ตลอดเวลากับความกลัวที่จะถูกขายเซิร์ฟเวอร์ทิ้งน่ะ นายไม่สามารถแฮ็กระบบธนาคารช่วยฉันแก้จำนวนเงินในบัญชีบริษัทและยังไม่สามารถหยุดยั้งการขายครั้งนี้อีก…หืม นี่อะไร?”
เทียนเหอเปิดกล่องๆ หนึ่ง มันเป็นของจุกจิกสัพเพหระที่ป้าฟางเก็บมาให้เขา ในนั้นมีแหวนทองฝังเพชรอยู่วงหนึ่ง เทียนเหอนึกขึ้นได้ เขาวางแหวนไว้ข้างๆ ก่อนจะรื้อต่อ แล้วในกล่องที่ดูมีอายุเก่ากว่าเดิมนั้นมีบันทึก R&D[1] เขียนมือเล่มหนึ่ง เขาเริ่มตั้งใจอ่านเศษกระดาษเหล่านั้น
“ในตอนที่ฉันวิวัฒนาการในระดับหนึ่งแล้วนั้น” โพรกล่าว “ฉันจะสามารถเชื่อมต่อกับระบบทุกอย่างบนโลกที่เเฮ็กเกอร์ชาวมนุษย์สามารถเข้าได้ผ่านอินเทอร์เน็ต…”
เทียนเหอ “ช่างมันไหม แค่เครื่องซักผ้าแบบปั่นของป้าฟาง นายยังควบคุมไม่ได้เลย”
โพร “เครื่องซักผักแบบปั่นอันนั้นมันเป็นรุ่นเก่า ไม่ได้เชื่อมสายแลน”
เทียนเหอ “งั้นตอนนี้นายลองสาธิตการทำลายโลกให้ฉันเห็นหน่อย? เริ่มจากให้ฐานทัพเคิร์ทเเลนด์ยิงระเบิดนิวเคลียร์สักลูกไปมอสโกแล้วกัน”
โพร “นายไม่เชื่อว่าฉันมีความสามารถแทรกแซงระบบการโจมตีของนิวเคลียร์ได้”
เทียนเหอ “ฉันอนุญาตให้นายแทรกแซง เพราะฉันอยากเห็นการทำงานหลังบ้านของกระทรวงกลาโหมสหรัฐมาตั้งนานแล้ว”
โพร “การจะเจาะรหัสของระบบรักษาความปลอดภัยกับไฟร์วอลล์โจมตีของนิวเคลียร์ต้องใช้ระยะเวลาประมาณหนึ่ง ตอนนี้เริ่มวิเคราะห์เวลา”
เทียนเหอ “ลองคำนวณดูเองสิว่าใช้เวลานานแค่ไหน”
โพร “สี่ร้อยเจ็ดสิบสองปีกับอีกแปดเดือน แต่บางทีอาจเร็วกว่านั้นก็ได้”
“ดี งั้นนายค่อยๆ เจาะล่ะกัน หวังว่าตลอดสี่ร้อยปีนี่พวกเขาจะไม่เปลี่ยนไฟร์วอลล์ใหม่นะ” เทียนเหอกางบันทึกแล้วนั่งลงหน้าโต๊ะก่อนจะพูดอีก “เคลียร์พื้นที่หน่อย ปิดหน้าต่างที่ซ้อนๆ กันอยู่พวกนี้ที ฉันจะสแกนเอกสาร”
โพรปิดหน้าต่างทั้งหมดลง กลับเข้าสู่หน้าจอหลักก่อนจะเชื่อมต่อกับเครื่องสแกนให้เทียนเหอ แล้วเอ่ย “แต่ว่าตอนนี้เครื่องมืออิเล็กโทรนิคส่วนมากบนโลกไม่จำเป็นต้องมีไฟร์วอลล์ก็ได้”
“อย่างเช่นเครื่องปรับอากาศในบ้านฉันน่ะนะ?” เทียนเหอพูดด้วยใหน้าไร้อารมณ์ก่อนจะเริ่มสแกนบันทึก R&D ที่พ่อของเขาหลงเหลือไว้ให้ แล้วพูดต่อ “นายสามารถเปิดเครื่องใช้ไฟฟ้าทั่วทั้งโลกรวมถึงไมโครเวฟ หม้อหุงข้าว เตาอบ เครื่องดูดฝุ่นพร้อมกันให้หมด แบบนั้นน่าจะทำให้สายไฟทำงานหนักไป เซิร์ฟเวอร์ของนายก็จะถูกตัด ทำให้ท้ายที่สุดนายก็ม่องเท่งเหมือนกัน…”
โพร “หน่วยเซิร์ฟเวอร์ไม่มีทางที่จะไม่มีไฟสำรอง”
เทียนเหอ “ตอนนี้ฉันรู้สึกว่านายเหมือนระบบที่เอาแต่ชอบพูดมุกเจื่อนๆ แถมยังรับมุกไม่ได้อีกต่างหาก ช่วยแปลงเป็นตัวหนังสือแล้วเรียบเรียงให้หน่อย ขอบคุณมาก”
โพรเริ่มแปลงตัวหนังสือจากปลายปากกาที่พึ่งสแกนเข้ามา ป้าฟางเคาะประตูกล่าว “เสี่ยวเทียน ทานข้าวได้แล้ว”
เทียนเหอใส่ซิมการ์ดให้เรียบร้อยก่อนจะใส่หูฟังอันเล็กเข้าที่หู การปรากฏตัวของโพรมีธีอุสจะทำให้เกิดการเปลี่ยนแปลงครั้งใหญ่ของเทคโนโลยีจนทำให้อุตสาหกรรมเทคโนโลยีทั่วโลกอัพเกรดหรือไม่ เขาไม่สามารถรู้ได้เลย เรื่องนี้มีความสำคัญต่อชีวิตของเทียนเหอมากกว่าการล้มละลายของบริษัทอย่างเห็นได้ชัด หลังจากใจเย็นลงจากความอึ้งตกใจในตอนแรก เขาก็เริ่มรู้สึกว่าจริงๆ แล้วระบบนี้ก็ไม่ได้เก่งกาจขนาดนั้น อย่างน้อยก็ไม่เหมือนปัญญาประดิษฐ์ที่เขาเคยจินตนาการไว้ พูดยังไงดี? ความสามารถมีจำกัด ระหว่างการสนทนากับมนุษย์จะทำให้รู้สึกถึงความซื่อบื้อบางอย่าง หลังจากที่ระบบผ่านการอัพเกรดด้วยตัวเองแล้ว ความสำเร็จค่อนข้างสูง สามารถนำมาวิจัยได้หลายด้าน นอกจากการใช้เสียงของกวนเย่ว์ที่ทำให้เขารู้สึกอยากจะบ้าตายในบางครั้งแล้ว ภาพรวมก็ยังถือว่าดี
ตอนนี้เขายังไม่ได้คิดว่าจะใช้ชีวิตร่วมกับ AI ตัวนี้อย่างไร แต่ถ้าค่อยๆ ครุ่นคิดยังไงก็มีทางออกที่ดีที่สุด นี่คือมรดกอันล้ำค่าที่บิดาของเขาหลงเหลือไว้ให้ เปรียบเหมือนกับมือของพระเจ้าที่ช่วยเปิดทางใหม่ให้เขา แสงแห่งความหวังกำลังเปล่งประกายอย่างเจิดจรัส
เทียนเหอนั่งลงที่โต๊ะอาหาร ป้าฟางวางสำรับเสร็จเรียบร้อย โพรพูดผ่านหูฟังว่า
“ถ้านายไม่อยากทำลายฉัน ก็ต้องหาวิธีที่จะเช่าเซิร์ฟเวอร์ของฉันต่อ เพื่อที่จะยังคงรักษาแหล่งกำเนิดพลังงานของฉันได้อย่างเพียงพอ ในช่วงนี้ฉันจะพยายามหาวิธีช่วยเหลือที่ดีที่สุดแทนนายแล้วกัน”
ตะเกียบที่กำลังจะคีบกับข้าวของเทียนเหอชะงัก
“ให้ฉันตาย ฉันก็จะไม่ไปขอร้องกวนเย่ว์”

เวลาห้าโมงเย็นของวันต่อมา ศูนย์การเงินนานาชาติ ตึกฮุ่ยเฟิงชั้นสามสิบเจ็ด
“มาหาท่านประธานกวนครับ” เทียนเหอพูดกับเคาน์เตอร์แผนกต้อนรับ
พนักงานต้อนรับถาม “ได้นัดไว้ไหมคะ?”
เทียนเหอหันข้างไปสบตาของเธอ ก่อนจะยิ้มอย่างอ่อนนุ่มแล้วกล่าว “ไม่ได้นัดครับ แต่ตอนนี้ผมคิดว่าเขาน่าจะมีเวลานะครับ”
“สะดวกแนะนำตัวหน่อยไหมคะ” พนักงานต้อนรับยกหูโทรศัพท์ขึ้นแล้วช้อนตามองเทียนเหอ
เทียนเหอ “คุณแค่บอกเขาว่าเทียนเหอมาหาก็พอแล้วครับ”
โพรพูดผ่านหูฟัง “เวลานี้ โอกาสที่เขาจะอยู่ในออฟฟิศของตัวเองสูงถึง 97.9%”
“วันนี้ประธานหยุดไปฟิตเนสค่ะ” พนักงานต้อนรับพูดหลังวางหูลง
เทียนเหอ “…”
โพรรีบแก้ตัว “แม้ว่าโอกาสที่เรื่องนี้จะเกิดขึ้นมันมีไม่สูง แต่ก็ไม่ได้แปลว่าจะไม่สามารถเกิดขึ้นได้”
เทียนเหอ “นายได้คัดลอกนิสัยให้ตายยังไงก็ไม่ยอมรับผิดของหมอนั่นมาอย่างถูกเป๊ะเลย”
พนักงานต้อนรับ “?”
เทียนเหอ “ไม่มีอะไรครับ ขอโทษที พอดีว่าผมกำลังคุยโทรศัพท์”
โพร “มีความจำเป็นยังไงน่ะเหรอ? บริษัทที่ซิลิคอนเเวลลีย์มีเปอร์เซนต์สูงมากที่จะรอบริษัทของนายล้มละลายแล้วประมูลข้อมูลสำรองของบริษัท เทียนเหอ นายต้องใจเย็น นายก็ไม่อยากให้บริษัทล้มละลายนี่ น้ำพักน้ำแรงของพ่อนายเลยนะ”
พนักงานต้อนรับ “ถ้าอย่างนั้นคุณสามารถรอเขาที่ห้องรับรองได้นะคะ แต่ทางเราก็ไม่รู้เหมือนกันว่าประธานจะกลับมาเมื่อไหร่”
โพร “โทรหาเขา”
เทียนเหอ “ช่วยโทรหาเขาหน่อยครับ”
พนักงานต้อนรับ “ตอนออกกำลังกายเขาจะไม่เช็คโทรศัพท์น่ะค่ะ”
โพร “ฉันหมายถึงให้นายโทรหาเขา”
เทียนเหอ “…”
เทียนเหอเอาหูฟังออกก่อนจะพูดกับพนักงานต้อนรับ “งั้นผมยินดีที่จะรอเขาสักพักครับ น่าจะได้ถึงห้าโมงครึ่ง”
“งั้นเชิญด้านในได้เลยค่ะ”

เทียนเหอนั่งอยู่ในห้องรับรอง พนักงานมาเสิร์ฟชาให้ เทียนเหอขมวดคิ้วเล็กน้อยมองหูฟังบลูทูธที่เอาแต่กะพริบไม่หยุดในมือ ครุ่นคิดไปมาสุดท้ายก็นำขึ้นมาสวมอยู่ดี
“ฉันยังมีเงินอยู่ก้อนหนึ่ง… แต่ว่าค่าเช่าซีพียูกับเซิร์ฟเวอร์ก็ยังแพงไปอยู่ดี” เทียนเหอพูด “แค่ค่าไฟฉันก็หมดตัวแล้ว ไม่งั้นฉันก็ไม่อยากมาพบเขานักหรอก”
โพรเอ่ย “ค่าเช่าต้องจ่ายตอนไตรมาสที่สาม ไม่งั้นพอจัดการทรัพย์สินของบริษัททั้งหมดแล้ว ข้อมูลทั้งหมดที่มีก็จะถูกนำออกมาให้ผู้เชี่ยวชาญด้านนี้เข้ามาตีราคาแน่ๆ ถ้าพวกบริษัทในซิลิคอนแวลลีย์รู้ถึงการมีอยู่ของฉันแล้วล่ะก็ นายก็จะครอบครองฉันไม่ได้อีกต่อไป”
เทียนเหอตอบ “เทคโนโลยีไม่แบ่งแยกประเทศ ยกนายให้พวกเขาวิจัยก็ไม่น่าจะมีปัญหา”
โพร “ฉันไม่อยากให้เป็นอย่างนั้น ฉันกลัวว่าพวกเขาจะแก้ไขโปรแกรมของฉัน รวมถึงการแก้ลักษณะนิสัยด้วย แบบนี้ฉันก็จะไม่ใช่ฉันอีกต่อไป ระบบเริ่มแรกที่กวนเจิ้งผิงตั้งให้ฉันก็คือไม่ว่าจะตอนไหนก็ตาม ฉันก็ต้องรักษาตัวตนของ ‘ฉัน’ ให้ได้”
เทียนเหอพูด “แรงปรารถนาในการมีชีวิตสูงจริง”
โพร “กวนเย่ว์มีเบอร์ส่วนตัวมากๆ อยู่เบอร์หนึ่ง แค่นายโทรหาเขา เขาก็จะกลับบริษัทภายนห้านาที”
เทียนเหอตอบ “ฉันไมมีเบอร์นั้น ตอนนี้ฉันอนุญาตให้นายโทรหาใครก็ได้ที่มีอยู่ในเครื่องของฉัน นายสามารถโทรไปได้หมด”
โพร “ฉันเชื่อว่าเปอร์เซ็นต์ที่นายจะจำเบอร์นั้นได้มีสูงถึง 100%”
เทียนเหอ “นายคาดหวังกับฉันมากไปแล้ว ฉันจำไม่ได้หรอก”
โพร “นายจำได้ แต่ว่าไม่เป็นไรหรอก ฉันกำลังค้นหาเบอร์ส่วนตัวเบอร์นั้นของกวนเย่ว์ผ่านประวัตินักศึกษาของมหาวิทยาลัยอ๊อกซ์ฟอร์ดที่ลอนดอน อันนี้เป็นเบอร์ที่พวกนายไปสมัครด้วยกันตอนไปเรียนที่อังกฤษ”
เทียนเหอ “ถ้านายยังไม่หยุดพฤติกรรมนี้ โอกาสที่ฉันจะออกไปจากที่นี่มีสูงถึง 100%”
โพร “หยุดยั้งการค้นหา”
เทียนเหอพึมพำตลอดเวลาเหมือนกับกำลังคุยโทรศัพท์กับใครสักคน สีหน้าดูเรียบนิ่งเป็นอย่างมาก นอกกระจกห้องรับแขก มีพนักงานใส่เสื้อเชิ้ตเดินผ่านมาแล้วชำเลืองมองเขา
เทียนเหอมองลักษณะการแต่งตัวและปฏิกิริยาตอบรับของพนักงานคนอื่นแล้วมองออกว่าตำแหน่งของชายคนนี้ไม่ต่ำเลย อย่างน้อยก็เป็นระดับรองประธาน ไม่แน่อาจจะเป็นพนักงานคนสำคัญของกวนเย่ว์ก็ได้ เขาที่นั่งอยู่บนโซฟางอตัวลงเล็กน้อย
“เขาเป็นใคร?” เทียนเหอถาม ยกมือถือตัวเองแล้วใช้กล้องส่องไปทางด้านนอกของห้องรับแขก
“หัวหน้าแผนกการเงิน มาริโอ้ ชื่อจีนคือหม่ากั๋วชิ่ง” โพรตอบ “ถ้ากวนเย่ว์ตอบรับเรื่องลงทุนให้อีพีอุสแล้วล่ะก็เขาจะเป็นคนที่เข้ามามีส่วนเกี่ยวข้องแล้วทำการประเมินค่าบริษัท”
“นายเอาความมั่นใจมาจากไหนว่ากวนเย่ว์จะเอาเงินหนึ่งพันสี่ร้อยล้านมาลงทุนให้กับบริษัที่สร้างโปรแกรมทำให้คอมพิวเตอร์คนอื่นค้างได้น่ะ?” เทียนเหอพูด “ฉันไม่เข้าใจเลยจริงๆ นายเกิดบัคหรือเปล่าเนี่ย”
โพรตอบอีกครั้ง “ฉันรู้จักเขาดีมาก ระบบการรวบรวมข้อมูลของฉันเริ่มติดตามเขาอยู่ข้างๆ ตั้งแต่สามขวบจนถึงเรียนจบมหาวิทยาลัย ฉันสามารถคาดการณ์ความรู้สึกและความคิดของเขาอย่างแม่นยำจนน่าตกใจสูงถึง 96.1%”
“น่าตกใจ” เทียนเหอทวน “นายบอกว่า ‘น่าตกใจ’ เหรอ ฉันรู้จักเขามาสิบปีแต่ฉันกลับไม่รู้สึกตัวเลยสักนิดว่านายกำลังสังเกตการณ์เขา”
โพร “นั่นเป็นแค่โมดูลการเก็บข้อมูลของฉัน จิตสำนึกของฉันยังไม่ได้อัพเกรด โปรแกรมการเก็บข้อมูลตัวนี้ถูกติดตั้งอยู่ในสมาร์ทวอช มือถือและบนโมเดลไมโครชิปต่างๆ รวมถึงกล้องวงจรปิดในห้องนอนและห้องทำงานของเขา และแน่นอน มีข้อมูลที่มีการปฏิสัมพันธ์กับนายอยู่ด้วยบ้าง แต่การคาดการณ์ที่ฉันมีต่อนายก็ยังมีความแม่นยำต่ำ ขาด…”