นักโทษคนสุดท้าย

จากประวัติศาสตร์ที่ผ่านมาของมวลมนุษยชาติ ฉันจินตนาการไม่ออกเลยว่าคนสมัยก่อนนั้นดำเนินชีวิตอย่างไร เป้าหมายของชีวิตคืออะไร และเกิดมาเพื่ออะไร

ฉันเดินอยู่ในพิพิธภัณฑ์สงครามโลกครั้งที่ 3 ซึ่งเป็นสงครามครั้งสุดท้ายของมนุษย์ หุ่นยนต์อธิบายไว้ว่าสงครามครั้งนี้มีผลทำให้เกิดวิวัฒนาการด้านเทคโนโลยีพันธุวิศวกรรมอย่างรวดเร็ว ทุกวันนี้มนุษย์มีหน้าที่เพียงแค่ดำรงเผ่าพันธุ์ไม่ให้สูญสลายไปแค่นั้นเอง ทุกสิ่งทุกอย่าง ทั้งสิ่งปลูกสร้าง วิทยาการโรงเพาะชำพืช โรงเพาะเลี้ยงสัตว์เพื่อมาทำเป็นอาหาร ศิลปะบันเทิง ไม่ต้องพูดถึงโรคภัยไข้เจ็บซึ่งสูญพันธุ์ไปนานแล้วเพราะเทคโนโลยีสมัยใหม่ และอีกมากมายที่มนุษย์จะคิดออก

พิพิธภัณฑ์สงครามยังมีเรื่องราวของสงครามโลกครั้งที่ 1 และ 2 ให้เราได้ศึกษา หุ่นยนต์บรรยายว่าผู้คนสมัยนั้นคิดอะไร ทำสงครามกันเพื่ออะไร ไม่พูดถึงว่าฝ่ายไหนทำอะไรกับใคร เพราะว่าการแบ่งแยกดินแดนเป็นฝักเป็นฝ่ายนั้นไม่มีมานานแล้วจนเราจำไม่ได้หรอกว่าใครเป็นใครบ้าง

คำบรรยายบอกว่าสงครามคือการเอาตัวรอดของเผ่าพันธุ์ของผู้ที่ก่อ โดยการทำลายเผ่าพันธุ์อื่น ซึ่งฉันก็เข้าใจเหตุผลของคนสมัยนั้นตามที่หุ่นยนต์ว่า แต่ลึก ๆ แล้วผู้ฟังคงไม่มีใครเข้าใจโดยสามัญสำนึกของคนยุคนี้หรอกว่าคิดอะไรอย่างไร เพราะยุคสมัยนี้ไม่มีแล้วคำว่า ‘เอาตัวรอด’ ซึ่งน่าจะหมายถึงการรักษาชีวิตไว้ไม่ให้ตาย หลังสงครามโลกครั้งที่ 3 มนุษย์สามารถคิดค้นเทคโนโลยีควบคุมเซลในร่างกายของเราไม่ให้เสื่อมสลายได้ จนถึงขั้นที่มนุษย์ไม่มีวันตาย แต่หลังจากมนุษย์ที่ไม่มีวันตายอยู่ไปได้แค่สองถึงสามร้อยปี พวกเขากลับเลือกที่จะปล่อยให้เซลของร่างกายเสื่อมสลายไปตามธรรมชาติ และตายลงอย่างช้า ๆ ซึ่งความคิดเหล่านี้ฉันเข้าใจได้โดยสามัญสำนึก

ระหว่างที่ฉันเดินในพิพิธภัณฑ์ตามฝูงชน หุ่นยนต์ก็บรรยายในสิ่งที่มันอยากพูด แวบหนึ่งฉันก็นึกถึงว่ามนุษย์เราทุกวันนี้อยู่ไปเพื่ออะไร วิทยาการ ศาสตร์ทุกอย่างถูกค้นคว้าจนทะลุปรุโปร่งหมดแล้ว เมื่อไม่กี่ร้อยปีมานี้เองที่ทุกตารางเมตรในมหาสมุทรรวมถึงก้นสมุทรถูกเราสำรวจไว้หมดแล้ว สัตว์น้ำใต้ทะเลเรามีข้อมูลทุกสายพันธุ์ พืชทุกชนิดเรารู้จักและสามารถผสมสายพันธุ์ได้อย่างง่ายดายเพื่อตอบสนองความต้องการของเรา

ฉันกลับมามองเจ้าหุ่นยนต์ตัวน้อยที่คอยอธิบายสิ่งต่าง ๆ ให้มนุษย์อย่างเราฟัง ในยุคปัจจุบันนี้มีแต่เพียงงานให้ข้อมูลในพิพิธภัณฑ์หรือสถานที่ทางประวัติศาสตร์ที่ถูกมอบหมายให้หุ่นยนต์ที่ถูกควบคุมด้วยระบบเอไอทำ ทุกวันนี้ไม่ว่าจะเป็นงานอะไรก็ถูกคนจับจองแย่งกันทำงาน ไม่ปล่อยให้เอไอทำงานแทน เพราะมนุษย์คงเบื่อที่จะอยู่เฉย ๆ แม้แต่ถนนที่ไม่ค่อยมีใครผ่านยังมีคนอาสาไปกวาดถนนตลอดเวลา ฉันเองก็อาสาทำงานเป็นคนปรุงอาหารในโรงอาหารให้คนมาเลือกกิน ว่าง ๆ บางวันฉันมีอารมณ์ศิลปินแต่งเนื้อเพลงส่งให้นักดนตรีนำไปร้องบนเวที

ในยุคก่อนส่งครามโลกครั้งที่ 3 หุ่นยนต์ให้ข้อมูลเกี่ยวกับอายุขัยโดยเฉลี่ยของมนุษย์อยู่ 150 ปี โรคระบาดหมดไปนานแล้ว และด้วยเพราะมนุษย์อยู่นานขึ้น ไม่ต้องต่อสู้กับโรคภัยไข้เจ็บ จึงทำให้มนุษย์อยากจะครอบครอง จับจองสิ่งต่าง ๆ หรือไปยึดอะไรบางสิ่งจากคนอื่น สงครามโลกครั้งที่ 3 จึงเกิดขึ้นอย่างเลี่ยงไม่ได้ หลังสงครามก็เป็นช่วงฟื้นฟู ทุกอย่างเป็นดำเนินไปอย่างรวดเร็ว เมื่อทุกอย่างดำเนินไปถึงขีดสุด ทุกคนบนโลกสามารถเข้าสู่บริการทางการแพทย์เพื่อจะทำให้ชีวิตเป็นอมตะ

พอหุ่นยนต์พูดถึงตรงนี้ฉันก็นึกขึ้นได้ว่าเคยอ่านเกี่ยวกับเรื่องนี้จากคนฉลาดคนหนึ่งของโลก เขาบอกว่าการทำให้ชีวิตมนุษย์เป็นอมตะเป็นสิ่งที่ผิดพลาดที่สุดที่มนุษย์เคยทำ ชีวิตที่มีแต่การเกิดนั้นไม่ใช่ชีวิต ต้องมีอะไรอีกสามอย่างนะ ฉันก็จำไม่ค่อยได้ เพราะตอนนั้นยังไม่ค่อยได้สนใจเรื่องนี้เท่าไหร่ แต่คนฉลาดคนอื่น ๆ ก็พูดเหมือนกันว่าสิ่งที่คนฉลาดที่ฉันหมายถึงคนแรกนั้นพูดถูก ในเวลาต่อมามนุษย์ทุกคนถูกแก้ไขอะไรบางอย่างให้ตายตามอายุขัยที่แท้จริง ทุกคนอยากให้เซลในร่างกายเสื่อมสภาพไปตามกาลเวลาตามแต่ที่ธรรมชาติจะมอบให้ ฉันเคยได้ยินมาว่ามีบางคนสุดโต่งยอมถอดภูมิคุ้มกันชีวภาพเทียมออกไป เพื่อที่จะให้ตัวเองเจ็บป่วยแล้วไปรักษา หรือบางคนป่วยตายเลยก็มี

อาจจะจริงอย่างที่คนฉลาดพูด มนุษย์ที่เป็นอมตะจะออกลูกมาเพื่ออะไร ในยุคนั้นอัตราการเกิดน้อยมากจนเกือบเป็นศูนย์ แต่พอคนรู้วันตายของตัวเอง อัตราการเกิดของมนุษย์ก็กลับมาเป็นปกติ ใช่แล้ว คนฉลาดที่พูดเรื่องนี้คือคนฉลาดคนแรกที่ฉันพูดถึง เขายังมีความคิดที่ฟังแล้วทำให้รู้สึกน่าสงสัยอีกมากมาย เช่นเรื่องการให้อภัย การปล่อยวาง การสำนึกผิด และอีกเยอะที่ฉันไม่เข้าใจ แม้แต่คนฉลาดคนนี้เองยังบอกเลยว่านี่มันเป็นแนวคิดเก่าที่เดี๋ยวนี้ไม่จำเป็นต้องใช้แล้ว อ้อ! ฉันจำได้แล้วว่าคนฉลาดคนนี้ชื่อมายูตินั่นเอง



วันนี้เป็นวันพิเศษ พิพิธภัณฑ์ประกาศว่าจะมีการปลดปล่อยนักโทษคนสุดท้าย ฉันไม่เข้าใจว่าโลกของเราในทุกวันนี้ไม่มีเรือนจำแล้ว หมายถึงเรือนจำที่ใช้งานจริงที่มีการกักขังนักโทษตัวเป็น ๆ อยู่ในนั้น เอาแค่ว่าคนทั่วไปยังไม่รู้จักคำว่า “นักโทษ” เลยว่าคืออะไร ฉันยังต้องเข้าไปค้นหาความหมายคำคำนี้ในคลังข้อมูล ไม่ต้องพูดถึงว่าใครจะรู้ว่ายังมีนักโทษอยู่ที่ไหนสักแห่งบนโลกใบนี้ แล้วนักโทษคนนี้เกี่ยวข้องอะไรกับพิพิธภัณฑ์สงคราม

ในห้องโถงขนาดใหญ่ผู้คนมากมายห้อมล้อมจุดศูนย์กลางของห้อง ณ จุดนั้นแสงโฮโลแกรมแสดงภาพเวทีว่างเปล่า ผู้เข้าชมพิพิธภัณฑ์ยืนล้อมรอบ สักพักเงาคนปรากฏ และคนคนนั้นคือมายูตินั่นเอง วันนี้เขาคงเข้ามาเปิดงานและคงพูดคุยเรื่องอะไรสักอย่าง

“สวัสดีครับ วันนี้อย่างที่ทุกคนทราบ ทางพิพิธภัณฑ์จะถ่ายทอดสดการปลดปล่อยนักโทษสงคราม เพราะนักโทษครบกำหนดรับโทษแล้ว เพราะเป็นนักโทษสงคราม ผมจึงได้เชิญทุกท่านมาเป็นสักขีพยานในวันนี้ที่พิพิธภัณฑ์สงคราม”

ฉันจ้องมองภาพโฮโลแกรมนั้น คนในภาพหยุดพูดเว้นจังหวะหายใจ

“และนักโทษคนนั้นก็คือผมเอง”

เสียงฮือฮาเต็มห้องประชุม ฉันมั่นใจว่าทุกคนรู้จักว่ามายูติเป็นใคร เขาเป็นคนฉลาดที่เป็นอมตะ เขาอยู่มาหลายชั่วอายุคนแล้ว บางทีอาจมากกว่าสิบ เป็นเพียงไม่กี่คนบนโลกนี้ที่รักษาความเป็นอมตะ หรือไม่แน่ว่าอาจจะเป็นคนเดียวในโลกนี้ที่เป็นอมตะ เอ๊ะ! หรือว่า การเป็นอมตะคือเรือนจำที่คุมขังเขาไว้

“ผมอยากจะสารภาพต่อทุกท่านว่าผมคืออาชญากรสงคราม เป็นผู้ก่อสงครามโลกครั้งที่ 3 เคยได้รับโทษจำคุกจากหลายข้อหารวมทั้งสิ้น 1,200 ปี ในตอนนั้นที่คนยังไม่สามารถยืดอายุขัยออกไปได้ไม่สิ้นสุด มันก็คือจำคุกตลอดชีวิตนั้นเอง แต่เมื่อสงครามสิ้นสุดลง เวลาผ่านไปเพียงแค่ 20 ปี มนุษย์สามารถสร้างความอมตะให้กับใครก็ได้ ด้วยความโกรธแค้นจากผู้คนในสมัยนั้น พวกเขาจึงมอบความอมตะให้ผมเพื่อเพียงแค่จะจองจำผมในคุก อาจจะเพื่อลดความโกรธแค้นจากสังคม”

เพราะอย่างนี้นี่เอง เขาเป็นคนฉลาดเพราะเขาอยู่มานาน คงเห็นโลกมามากมาย มายูติเป็นผู้สร้างพิพิธภัณฑ์สงครามเพราะเขาเป็นผู้ก่อสงครามโลกครั้งล่าสุด ข้อมูลต่าง ๆ ที่หุ่นยนต์พูดก็มานั้นเป็นสิ่งที่กลั่นกรองออกมาจากคนที่เกี่ยวข้องกับสงครามโดยตรง เหตุผลที่แท้จริงของสงครามคงจะไม่มีใครปฏิเสธได้

“เมื่อผมถูกจองจำในเรือนจำครบ 100 ปี จนไม่มีนักโทษในเรือนจำแล้ว สภาเมืองคนเก่า ๆ ที่สั่งคุมขังผมก็ล้มตายกันไปหมด สภาชุดใหม่เห็นว่าคุกไม่มีความจำเป็นอีกต่อไป จึงปล่อยให้ผมออกมาใช้ชีวิตอิสระเหมือนคนทั่วไป เพียงแต่ว่าผมแต่ไม่รู้วันตายของตัวเองเหมือนคนทั่วไป”

ฉันเริ่มรู้สึกถึงความโศกเศร้า หดหู่เมื่อคิดถึงใครคนหนึ่งที่จะต้องใช้ชีวิตยาวนานหลายร้อยปี ความเหงาความสันโดษที่ต้องเห็นผู้คนล้มตายจากไป พอไปเจอคนใหม่ ๆ ก็ต้องทนดูคนเหล่านั้นจากไปคนแล้วคนเล่า

“ผมใช้เวลาเหล่านั้นชดใช้ความผิดพลาดในอดีต โดยการช่วยเหลือสังคม ใช้เวลาทุกวินาทีเพื่อสำนึกผิดที่เคยทำไว้ และจนถึงวันนี้เป็นวันแรกที่ผมพ้นกำหนดโทษแล้ว ทางสภาเมืองอนุญาตให้ผมเลือกที่จะตายได้อย่างมนุษย์เสียที”



ฉันเห็นมายูติยิ้มอย่างมนุษย์ ใบหน้าที่แก่ชราลงเพราะถูกถอดความเป็นอมตะออกไป ร่างกายที่เผยถึงความเบาสบายผ่อนคลาย คงคล้ายกับการพ้นจากโซ่ตรวนที่พันธนาการไว้ ฉันจำได้แล้วที่มายูติเคยพูดไว้ว่าชีวิตที่แท้จริงนั้นคือการเกิด แก่ เจ็บ และตาย

ทดสอบปัญญาประดิษฐ์

                ศาสตราจารย์ทีโอบีนั่งอยู่ในบัลลังก์กลางห้องประชุมใหญ่ ในห้องมีเหล่านักวิทยาศาสตร์หลายสิบคนนั่งเป็นสักขีพยาน ในการทดสอบอภิมหาซูเปอร์คอมพิวเตอร์ที่ทำหน้าที่ประมวลผลโปรแกรมปัญญาประดิษฐ์ เบื้องหน้าสายตาผู้ทรงคุณวุฒิทั้งหลายคือ กล่องไม้ขนาดใหญ่เท่ากับห้องเล็ก ๆ  สองห้องแยกห่างกันประมาณสองเมตร ในแต่ละห้องสามารถบรรจุคนได้หนึ่งคน

                การทดสอบคือ ผู้สัมภาษณ์จากห้องหนึ่งจะไม่สามารถเห็นว่าอีกห้องหนึ่งที่บรรจุผู้ถูกสัมภาษณ์นั้น จะเป็นมนุษย์หรือคอมพิวเตอร์กันแน่ สิ่งที่ผู้สัมภาษณ์จะประเมินว่าคู่สนทนาจะเป็นมนุษย์หรือโปรแกรมคอมพิวเตอร์ ก็จะต้องวิเคราะห์จากบทสนทนาเท่านั้น

เสียงผู้สัมภาษณ์ที่ซ่อนตัวอยู่ในกล่องไม้เริ่มต้นบทสนทนา

                “สวัสดีครับคุณมายูติ ผมคือศาสตราจารย์วัลเลอี”

                “สวัสดีครับท่านศาสตราจารย์วัลเลอี” ผู้ถูกสัมภาษณ์ทักทายตอบ

                “คุณอายุเท่าไหร่ครับ”

                “35 ปีครับ”

                “คุณเกิดและเติบโตที่ไหนครับ”

                “ผมมาจากหมู่บ้านเล็ก ๆ ที่อยู่หลังเขาฟูจี ผมอยู่ที่นั่นจนอายุ 10 ปีก็ย้ายเข้ามาอยู่ในเมืองแห่งนี้ ผมเริ่มเข้ารับการศึกษาที่นี่จนกระทั่งจบมหาลัย”

                “คุณทำงานอะไรครับ”

                “ผมเป็นผู้ช่วยออกแบบโครงสร้างสิ่งปลูกสร้างขนาดใหญ่ครับ”

                “สิ่งปลูกสร้างขนาดใหญ่ เช่นอะไรบ้างครับ”

                “อาคารขนาดใหญ่ สะพานข้ามแม่น้ำ อุโมงค์ถนนใต้ดิน หอประภาคารสูง นี่คือสิ่งปลูกสร้างที่ผมเคยช่วยออกแบบ”

                “ช่วยอธิบายลักษณะงานที่คุณทำด้วยครับ”

                “ผมมีหน้าที่ประเมินความเป็นไปได้ในการก่อสร้าง และยังมีหน้าที่คำนวณตัวเลขทางด้านวิศวกรรม”

                “งานอดิเรกของคุณคืออะไรครับ”

                “ผมมักไปปั่นจักรยานขึ้นภูเขาในในหยุด”

                “ทำไมถึงชอบการปั่นจักรยานขึ้นภูเขาครับ”

                “การปั่นจักรยานขึ้นภูเขาทำให้หัวใจเราเต้นแรงขึ้น เมื่อหัวใจเต้นแรงจะทำให้เราสูดอากาศหายใจแรงขึ้น ออกซิเจนจำนวนมากที่เข้าไปเผลาผลาญพลังงานในร่างกายของเรา จะทำให้สารอะดรีนาลีนหลั่งออกมา ช่วงเวลานั้นทำให้ผมมีความสุขมากครับ”

                “คุณมีครอบครัวหรือยังครับ”

                “ผมมีภรรยาและลูกสาวอีกหนึ่งคนครับ”

                “คุณรักภรรยาของคุณมั้ยครับ”

                “รักครับ”

                “ช่วยอธิบายความรักหน่อยครับ ว่าความรักของคุณคืออะไร”

                “ณ ตอนนี้สำหรับผม ความรักคือการไว้ใจคนรัก การไว้เนื้อเชื่อใจไม่บังคับไม่ครอบครอง ไม่มีความสงสัยในตัวเธอ คอยช่วยเหลือเกื้อกูลซึ่งกันและกัน”

                “คุณรักลูกสาวของคุณมั้ย”

                “รักครับ”

                “ความรักที่มีต่อลูกสาว เหมือนกับความรักที่คุณมีให้ภรรยามั้ยครับ”

                “เหมือนกันครับ แต่จะเพิ่มในเรื่องของการดูแลเอาใจใส่”

                “คุณมีพี่น้องร่วมสายเลือดมั้ยครับ”

                “ไม่มีครับ”

                “คุณมีแนวคิดทางการเมืองอย่างไรครับ”

                “ผมคิดว่าทัศนะคติ ความคิด ค่านิยมและจิตใต้สำนึกของคนจะนำไปสู่ความจริงทางสังคม ซึ่งนั่นก็คืออิสรภาพของแต่ละปัจเจกบุคคล การปกครองสังคมที่ประสบความสำเร็จหรือไม่คงจะขึ้นอยู่กับอิสรภาพของประชาชนเป็นหลัก”

                “คุณชอบสีอะไรมากที่สุด”

                “ผมชอบสีฟ้าครับ”

                “เพราะอะไรคุณถึงชอบสีฟ้า”

                “ผมคิดว่าสีฟ้าทำให้ผมรู้สึกสงบและอิสระ”

                “คุณชอบงานศิลปะชนิดใด”

                “ผมชอบภาพวาดครับ”

                “ภาพวาดแนวไหนที่คุณชอบ”

                “ผมชอบภาพวาดแนวเอ็กซ์เพรสชั่นนิส”

                “ทำไมคุณถึงชอบภาพวาดแนวเอ็กซ์เพรสชั่นนิส”

                “เพราะภาพเขียนแนวนี้เน้นในเรื่องการแสดงอารมณ์ออกมาอย่างชัดเจน”

                “คุณนับถือศาสนามั้ย”

                “ผมนับถือศาสนาครับ”

                “คุณนับถือศาสนาอะไร”

                “ผมนับถือศาสนาคริสครับ”

                “คุณเชื่อในเรื่องพระเจ้ามั้ย”

                “เชื่อครับ”

                “ทำไมคุณถึงเชื่อว่าพระเจ้ามีจริง”

                “พระเจ้าคือระบบความคิดที่มนุษย์สร้างขึ้นมา มันไม่สำคัญว่าตัวตนของพระเจ้าจะเป็นอย่างไร ขอแค่เราเชื่อมั่นในพระเจ้า”

                “คุณเชื่อในเรื่องบาปมั้ย”

                “เชื่อครับ”

                “อะไรคือการทำบาป”

                “การกระทำที่เมื่อเราทำแล้วรู้สึกเป็นทุกข์ หรือเรื่องราวต่าง ๆ ที่เรารับรู้แล้วเป็นทุกข์”

                “คุณเชื่อเรื่องการไถ่บาปมั้ย”

                “เชื่อครับ”

                “คุณคิดว่าการไถ่บาปสามารถทำให้บาปหมดไปได้หรือไม่”

                “ได้ครับ ขอเพียงให้เราลืมเลือนบาปนั้นไป”

                “อะไรคือบาปที่ใหญ่ที่สุดในชีวิตของคุณ และคุณจัดการไถ่บาปนั้นอย่างไร”

                “บาปของผมที่ไม่เคยลืม คือผมเคยขับรถชนสองสามีภรรยาตาย”

                “คุณยังไม่ลืม นั่นหมายถึงคุณไม่เคยไถ่บาปในเรื่องนี้”

                “บาปครั้งนี้ใหญ่หลวงนัก ลูกน้อยของพวกเขารอดตายจากอุบัติเหตุในครั้งนั้น แม้ผมจะชดใช้ความผิดตามกฎหมายทั้งหมดแล้ว แต่หากผมลืมเลือนเหตุการณ์ในครั้งนั้นไปจะทำให้ลูกของพวกเขากลายเป็นเด็กที่ไม่มีใครเลี้ยงดู”

                “แล้วคุณทำอย่างไรเกี่ยวกับเด็กคนนั้นบ้าง”

                “ผมรับเด็กคนนั้นเป็นลูกบุญธรรมครับ”

                “หมายความว่าลูกสาวของคุณไม่ใช่ลูกแท้ ๆ ของคุณและภรรยาของคุณ”

                “ผมและภรรยาเป็นหมัน เราไม่สามารถมีทายาทได้ การเลี้ยงดูเธอเท่ากับการไถ่บาปของผมไปตลอดชีวิต”

                ศาสตราจารย์วัลเลอีนิ่งเสียงเหมือนกำลังนั่งคิดอะไรอยู่ในกล่องไม้เงียบ ๆ สักพักเขาก็พูดออกมาเสียงดังลั่นห้องประชุม

                “การสัมภาษณ์จบลงแล้วครับ ผมหมดคำถามที่จะพิสูจน์ว่าคู่สนทนาของผมนั้นเป็นเอไอหรือเป็นมนุษย์แล้วครับ ศาสตราจารย์ทีโอบี”

                “ผลการวิเคราะห์ของคุณเป็นยังไงบ้างครับ” ศาสตราจารย์ทีโอบีถาม

                “เขาไม่ใช่มนุษย์ครับ เขาเป็นเอไอ”

                “อะไรทำให้คุณคิดแบบนั้นครับ”

                “ตอนแรกผมก็เกือบเชื่อแล้วครับว่าเขาคือมนุษย์ เขารู้ถึงสิทธิหน้าที่พลเมืองและยังเข้าใจในเรื่องของอารมณ์ศิลปะ แต่เมื่อเขาตอบคำถามเกี่ยวกับเรื่องศีลธรรมเริ่มทำให้ผลลังเล ผมคิดว่ามนุษย์ส่วนใหญ่ที่เชื่อในเรื่องศาสนามักจะไม่ตีความวิธีคิดของคำสอนมากนัก แต่เมื่อเขาบอกว่าเขารับลูกของคนที่เขาฆ่ามาเป็นลูกบุญธรรม ผมคิดว่านั่นผิดกฎธรรมชาติของมนุษย์”

                “คุณไม่เชื่อเรื่องการไถ่บาป หรือการสำนึกผิดอย่างที่เขาว่าเหรอ”

“ผมไม่เชื่อเรื่องการสำนึกผิดของมนุษย์ครับ” ศาสตราจารย์วัลเลอีกล่าวทิ้งท้ายคำอธิบาย

               

                “เอาล่ะครับทุกท่านที่อยู่ในห้องนี้ ผมต้องขอแจ้งให้ทุกท่านทราบว่าระบบปัญญาประดิษฐ์ที่เราพัฒนาขึ้นยาวนานเกือบศตวรรษ ยังไม่พัฒนาถึงจุดสูงสุดที่จะสามารถสื่อสารและเข้าใจจิตใต้สำนึกของมนุษย์อย่างแท้จริง แม้เอไอของเราจะสามารถพัฒนาไปถึงระดับระบบผู้เชี่ยวชาญ คือสามารถแก้ปัญหาหรือช่วยในการตัดสินใจโดยใช้วิธีเดียวกับผู้เชี่ยวชาญที่เป็นมนุษย์...

                “อีกทั้งเอไอยังสามารถเรียนรู้ได้ด้วยตัวเอง โดยสามารถตรวจจับรูปแบบการเกิดเหตุการณ์ใด ๆ แล้วปรับตัวสู่สภาพแวดล้อมที่เปลี่ยนไป เอไอยังคิดอย่างมนุษย์ได้ด้วยการวิเคราะห์การเปลี่ยนแปลงทางเคมีไฟฟ้าในร่างกายเหมือนมนุษย์ การกระทำอย่างมีเหตุผลของเอไอ โดยใช้หลักตรรกศาสตร์ในการคิดหาคำตอบอย่างมีเหตุผล”

                ศาสตราจารย์ทีโอบีพูดเสียงดังกังวานทั่วห้องประชุม โดยมีนักวิทยาศาสตร์ทุกคนในห้องตั้งใจฟัง

                “แต่ระบบเอไอของเราก็ยังไม่สามารถเข้าใจระบบศีลธรรมของมนุษย์ได้ ระบบศีลธรรมที่มีความสลับซับซ้อนจนไม่สามารถสร้างอัลกอรึทึ่มเพื่อให้คอมพิวเตอร์เข้าใจได้ เราอาจจะใช้เวลาอีกหนึ่งศตวรรษหรือเท่ากับระยะเวลาที่เราเริ่มต้นสร้างระบบปัญญาประดิษฐ์ เพื่อที่จะงให้คอมพิวเตอร์เข้าใจระบบศีลธรรมของมนุษย์”

                ศาสตราจารย์ลุกขึ้นและกวาดสายไปที่นักวิทยาศาสตร์ทุกคนที่อยู่ในห้องนี้

                “ศาสตราจารย์วัลเลอีคือปัญญาประดิษฐ์ที่ยังไม่สมบูรณ์ในอุดมคติของเราครับ” ผู้พูดมองไปที่กล่องไม้ที่มายูติอยู่ในนั้น “ขอเชิญคุณมายูติออกมาจากห้องได้แล้วครับ ขอขอบคุณที่เข้ามาเป็นอาสาสมัครในการทดสอบระบบให้เรา”