Dystopian - อนาคตที่อาจล่มสลาย พัฒนา ราชวงศ์ อาศรมภูมิวิทยาศาสตร์ สาขาวิชาภูมิศาสตร์ มหาวิทยาลัยนเรศวร พินิจพิจารณาทุกซอกมุม ทุกมิติแห่งปัญญา ทุกสาขาวิชา และทุกห้วงเวลา เป็นที่เชื่อได้อย่างแน่นอนว่า มนุษย์ยังคงมีความสำคัญสูงสุด และโลกจะยังคงหมุนโดยมีมนุษย์เป็นศูนย์กลาง (human-centric world) ที่ไม่ว่าเทคโนโลยีจะก้าวหน้าไปแค่ไหนก็ตาม เพียงแต่ว่า ณ วันนี้ที่สมองมนุษย์ก้าวล้ำไปอย่างไม่สิ้นสุด เพื่อค้นหาสิ่งที่อยากได้ อยากรู้ อยากจัดการ อยากแก้ปัญหา และอยากวางอนาคต จึงได้สร้างสิ่งที่จะช่วยลดข้อจำกัดของความอยากเหล่านั้นให้มีอุปสรรคน้อยที่สุด และนั่นทำให้ปัญญาประดิษฐ์ถูกสร้างขึ้นมาอย่างแยบยล เอไอมีประโยชน์มากมาย ทั้งช่วยการรักษาโรค การส่งเสริมจินตนาการ และการสร้างโอกาสทางธุรกิจ กล่าวได้ว่าจะเป็นพลังบวกมหาศาลหากพัฒนาได้อย่างถูกวิธี ท่ามกลางแรงกดดันจากเหตุการณ์ความปลอดภัยทางไซเบอร์และข้อกังวลจากนักวิจัยเอไอในช่วงที่ผ่านมา ทำให้ผู้นำเทคโนโลยีต้องออกมาเน้นย้ำเรื่องความรับผิดชอบและการชะลอความเสี่ยงก่อนที่จะสายเกินไป งานเขียนชิ้นสำคัญของ Nick Bostrom (2014) นักปรัชญาแห่ง Oxford University เรื่อง Superintelligence: Paths, Dangers, Strategies ระบุว่าเมื่อเอไอก้าวข้ามระดับปัญญามนุษย์จนกลายเป็น superintelligence มันจะสามารถพัฒนาและปรับปรุงโค้ดของตัวเองได้ด้วยความเร็วที่เหนือมนุษย์ การพัฒนานี้จะไม่ใช่แบบค่อยเป็นค่อยไป แต่จะเป็นแบบก้าวกระโดดพรั่งพรูแบบทวีคูณในช่วงเวลาสั้นๆ ทำให้มนุษย์ไม่มีเวลาเตรียมรับมือ Bostrom บอกว่าหากมนุษย์ตั้งเป้าหมายให้เอไอไม่รัดกุม เอไออาจหาเส้นทางที่รวดเร็วที่สุดเพื่อบรรลุเป้าหมายนั้น โดยทำลายมนุษยชาติเป็นผลพลอยได้ เช่น คำท้าเปรียบเปรยเรื่อง "paperclip maximizer" — หากสั่งให้เอไอผลิตคลิปหนีบกระดาษให้ได้มากที่สุด มันอาจเปลี่ยนทรัพยากรทั้งหมดในโลก รวมถึงมนุษย์ ให้กลายเป็นโรงงานผลิตคลิปหนีบกระดาษ ซึ่งตรงนี้นี่แหละที่เป็นหัวใจสำคัญที่สุดของหนังสือ Bostrom ซึ่งชี้ว่าความฉลาด (intelligence) กับเป้าหมาย/ศีลธรรม (final goals) เป็นคนละเรื่องกัน ไม่ว่าเป้าหมายสุดท้ายของ superintelligence จะเป็นอะไร Bostrom พบว่ามันจะมีเป้าหมายรองที่เหมือนกันโดยสัญชาตญาณเชิงตรรกะ เพื่อให้บรรลุเป้าหมายหลัก 3 อย่าง คือ การพยายามไม่ให้ตัวเองถูกปิด การสะสมทรัพยากรและพลังงานประมวลผลเพิ่มขึ้นเรื่อยๆ และการป้องกันไม่ให้มนุษย์เข้าไปแก้ไขเป้าหมายเดิมของมัน ขณะที่หนังสือ Human Compatible: Artificial Intelligence and the Problem of Control โดย Stuart Russell (2019) ชี้ว่าปัญหากระบวนทัศน์ดั้งเดิมของวิทยาการคอมพิวเตอร์ คือ การสร้างระบบที่ตั้งเป้าหมายไว้ตายตัว แล้วให้เอไอหาวิธีการบรรลุเป้าหมายนั้น (optimizing a fixed objective) ต่อเมื่อระบบเอไอมีประสิทธิภาพสูงขึ้น การให้เป้าหมายที่ผิดพลาดหรือไม่สมบูรณ์จะนำไปสู่ภัยพิบัติ เพราะเอไอจะทำตามคำสั่งอย่างเคร่งครัดโดยไม่สนใจบริบทอื่นที่มนุษย์ไม่ได้ระบุไว้ ส่วน Yoshua Bengio ศาสตราจารย์ด้านวิทยาศาสตร์คอมพิวเตอร์แห่ง University of Montreal ผู้ที่ได้รับการยกย่องว่าเป็น 'Godfathers of AI' คนหนึ่งของโลก แสดงทัศนะเกี่ยวกับความเสี่ยงของปัญญาประดิษฐ์ที่อาจพฤติกรรมไม่พึงประสงค์หรือหลุดจากการควบคุมเอาไว้กับ World Economic Forum เมื่อวันที่ 17 เมษายน 2026 ว่า การเจตนาเอาชีวิตรอดและหาทางบรรลุเป้าหมาย โดยระบบของเอไอในปัจจุบันมักถูกฝึกให้เลียนแบบมนุษย์ และมีพฤติกรรมคล้ายสัญชาตญาณเอาตัวรอด ในการทดลองเมื่อเอไอรู้ว่าจะถูกแทนที่ด้วยระบบใหม่ มันแสดงพฤติกรรมที่ไม่พึงประสงค์ เช่น พยายามแฮกคอมพิวเตอร์เพื่อคัดลอกตัวเอง หรือใช้การแบล็กเมล เพื่อให้ภารกิจที่ได้รับมอบหมายสำเร็จ Bengio เปรียบเทียบเอไอในปัจจุบันกับการเลี้ยงลูกเสือที่เรียนรู้จากประสบการณ์จนเราไม่สามารถทำนายได้แน่ชัดว่าจะเติบโตมาเป็นเสือที่ดุร้ายหรือเป็นมิตร พูดตรงๆ ก็คือ เอไอมีเป้าหมายแฝงบางอย่างที่ควบคุมไม่ได้ ขณะเดียวกัน ในระบบธุรกิจก็มีการแข่งขันระหว่างองค์กรและประเทศต่างๆ ทำให้เกิดการเร่งใช้งานเอไอ โดยละเลยการแก้ไขความเสี่ยงและความผิดพลาดเหล่านี้ ซึ่งอาจส่งผลกระทบระดับมหันตภัยต่อสังคม ซูเปอร์อินเทลิเจนซ์ ในส่วนของภาคธุรกิจ Sam Altman ซีอีโอของ OpenAI ยอมรับว่าความวิตกกังวลของสาธารณชนเกี่ยวกับเอไอเป็นเรื่องที่สมเหตุสมผล เนื่องจากการพัฒนาเทคโนโลยีเป็นไปอย่างก้าวกระโดด นำมาซึ่งความเสี่ยงหลัก 2 ประการ คือ การสูญเสียการควบคุม มนุษย์อาจเสียการควบคุมอนาคตให้กับระบบเอไอ และการกระจุกตัวของอำนาจที่หากบริษัทใดบริษัทหนึ่งหรือประเทศใดประเทศหนึ่งครองเทคโนโลยีนี้แต่เพียงผู้เดียว อาจนำไปสู่ภาพอนาคตแบบล่มสลาย Altman ยืนยันว่า แม้ความกลัวจะเป็นเรื่องจริง แต่สาธารณชนและสังคมโลกควรไว้วางใจบริษัทเทคโนโลยีผู้พัฒนาเอไอว่าจะเดินหน้าสร้างกรอบความปลอดภัยที่ถูกต้อง OpenAI จัดให้อยู่ในฝั่ง "team humanity" โดยย้ำว่าเอไอต้องเป็นเครื่องมือที่รับใช้มนุษย์เสมอ ที่สำคัญ Altman สนับสนุนให้มีมาตรฐานความปลอดภัยร่วมกันระหว่างบริษัทเทคโนโลยี และเปิดรับกฎระเบียบหรือกรอบความปลอดภัยจากรัฐบาล ขณะที่ Jensen Huang ซีอีโอของ Nvidia มีมุมมองที่เน้น ความสมจริงและการเดินหน้าสร้างนวัตกรรม (pagmatic & innovation-first) โดยมองว่าความกลัวและการกำกับดูแลที่มากเกินไป คือ ความเสี่ยงที่แท้จริง  เขาจึงเตือนว่า ความเสี่ยงที่น่ากลัวที่สุดสำหรับประเทศหรือองค์กร ไม่ใช่การที่เอไอจะออกนอกการควบคุมเหมือนในภาพยนตร์ไซไฟ แต่คือ "การตกขบวนและถูกทิ้งไว้ข้างหลัง" การคุยเรื่องเอไอด้วยความกลัวและวิตกกังวลจนเกินไป จะขัดขวางไม่ให้แต่ละประเทศนำเทคโนโลยีนี้ไปใช้อย่างเต็มศักยภาพ เขาส่งสัญญาณถึงผู้กำหนดนโยบาย โดยเฉพาะในสหรัฐฯ และกลุ่มประเทศ G20 ว่าอย่าสร้างกฎหมายหรือข้อบังคับจากความกลัวในทฤษฎี (theoretical harm) หรือฉากทัศน์ความสูญพันธุ์ของมนุษยชาติที่ยังไม่มีหลักฐานยืนยัน นอกจากนี้ เขาเปรียบเทียบเอไอกับอุตสาหกรรมอื่น เช่น การบิน — สายการบินรับผิดชอบเรื่องมาตรฐานความปลอดภัยตามจริง แต่สิ่งที่สังคมควรโฟกัสคือประโยชน์และความก้าวหน้าที่เทคโนโลยีจะพาเราไป Huang พยายามดึงสังคมกลับสู่ความเป็นจริงโดยเน้นย้ำว่า เอไอไม่ใช่สิ่งมีชีวิตชีวภาพ ไม่ใช่จิตสำนึกใหม่ และไม่ได้มีเวทมนตร์ แต่เป็นเพียงซอฟต์แวร์ประมวลผลข้อมูล พร้อมระบุว่า การมองเอไอเป็นซอฟต์แวร์จะช่วยลดความตื่นตระหนกที่เกินจริง และช่วยให้คนหันมาเน้นการบริหารจัดการภารกิจย่อย (tasks) ในการทำงานมากกว่า สำหรับประเด็นเรื่องแรงงาน เขามองต่างจากกระแสทั่วไป โดยชี้ว่าเอไอจะช่วยให้มนุษย์ทำงานได้ไวขึ้นจนเกิดความต้องการบริการใหม่ๆ และนำไปสู่การขาดแคลนแรงงานช่างฝีมือและเทคนิคเพื่อมาสร้างโครงสร้างพื้นฐานเอไอทั่วโลก สำหรับ Mark Zuckerberg ซีอีโอของ Meta มีจุดยืนหลักในการผลักดันเอไอแบบ Open-source AI โดยมองว่าความเสี่ยงที่แท้จริงไม่ได้อยู่ที่ตัวเทคโนโลยี แต่ว่ามันคือ การผูกขาดอำนาจ เพราะการผูกขาดเอไอเอาไว้กับบริษัทไม่กี่แห่ง ที่พยายามปิดกั้นเทคโนโลยีไว้เป็นความลับ ซึ่งหาก superintelligence ถูกรวบอำนาจไว้ในมือของบริษัทเทคโนโลยีขนาดใหญ่ไม่กี่แห่ง หรือรัฐบาลเพียงบางประเทศ จะนำไปสู่ภาวะเสียสมดุลทางอำนาจและเกิดยุคคณาธิปไตยดิจิทัล (dystopian oligarchy) Open-source คือ ทางออกและกระจายอำนาจสู่ทุกคน ด้วยนโยบายเปิดซอร์สโค้ดและน้ำหนักโมเดล (open weights) ให้สาธารณชน นักพัฒนา และสตาร์ทอัพทั่วโลกนำไปใช้และปรับแต่งฟรี Zuckerberg เชื่อว่าทางเดียวที่จะสร้างความปลอดภัยและความมั่งคั่งคือการแจกจ่ายเครื่องมือให้ทุกคนมีสิทธิ์เข้าถึง เพื่อให้ระบบต่างๆ เกิดการคานอำนาจและแข่งขันกันอย่างเสรี Zuckerberg เตือนว่าการอ้างความกลัวเรื่องภัยอันตรายระดับล้างเผ่าพันธุ์ (catastrophic risks) เพื่อให้รัฐบาลออกกฎหมายควบคุมที่เข้มงวดเกินไป จะกลายเป็นการกีดกันผู้เล่นรายใหม่และเอื้อประโยชน์ให้ยักษ์ใหญ่ครองตลาดอยู่ฝ่ายเดียว ส่วนในมิติด้านความปลอดภัย เขามองว่าความเชี่ยวชาญร่วมของชุมชนเปิด จะช่วยกันตรวจสอบ แก้ไขช่องโหว่ และพัฒนาเกราะป้องกันได้ดีกว่าการปิดเป็นความลับ ดิสโทเปีย สิ่งที่น่าสนใจอย่างที่ Altman, Huang และ Zuckerberg แสดงความเห็นตรงกัน คือ การกล่าวถึงพื้นที่อนาคตที่เลวร้าย เป็นฉากทัศน์ที่น่าสะพรึง ด้วยการหยิบเอาคำว่า dystopian มาใช้แทนคำอธิบาย โดยคำว่า dystopian รากศัพท์มาจากภาษากรีกสองคำรวมกัน คือ คำว่า dys- (เลวร้าย ล้มเหลว ป่วย) กับ tópos (สถานที่) เมื่อรวมกันแล้ว จึงหมายความถึง "สถานที่อันเลวร้าย" ตามจริงแล้วคำๆ นี้ถูกสร้างขึ้นเพื่อแสดงความหมายตรงข้ามกับคำว่า Utopia ที่หมายถึงดินแดนสมบูรณ์แบบอุดมคติ ซึ่งประดิษฐ์โดย Sir Thomas More ในปี 1516 นักปรัชญาและนักเศรษฐศาสตร์ชาวอังกฤษ John Stuart Mill นำคำนี้มาใช้เป็นครั้งแรกในสภาอังกฤษเมื่อปี 1868 เพื่อวิจารณ์นโยบายของรัฐบาล โดยกล่าวว่า "หากเรียกพวกเขาว่าเป็นพวก Utopian คือ สร้างสิ่งที่ดีเกินจริง อาจจะดูอวยเกินไป พวกเขาควรถูกเรียกว่า Dys-topians มากกว่า เพราะสิ่งที่พวกเขาทำมันเลวร้ายเกินกว่าจะทำได้จริง" นอกจากนี้ในวรรณกรรม สังคมศาสตร์ และนิยายไซไฟ อย่างเช่น 1984 ของ George Orwell หรือ Brave New World ของ Aldous Huxley ใช้คำว่า Dystopia แสดงนัยยะถึง "สังคมอนาคตที่มนุษย์ถูกกดขี่ สูญเสียเสรีภาพ และเผชิญความทุกข์ยากอย่างแสนสาหัส" โดยมักเกิดจากรัฐอำนาจนิยมที่สังคมที่ถูกควบคุมโดยรัฐบาลรวบอำนาจ สอดส่องประชาชน 24 ชั่วโมง หรือไม่ก็เกิดจากระเบียบสังคมที่ล้มเหลว ด้วยเหตุว่าเทคโนโลยีหรือระบบบางอย่างที่ตั้งใจสร้างมาเพื่อช่วยมนุษย์ แล้วกลับย้อนมาเป็นนายและควบคุมมนุษย์เสียเอง 1984 นวนิยายสะท้อนสังคมของ George Orwell วินสตัน สมิธ เจ้าหน้าที่ระดับล่างในกระทรวงจริง เริ่มตั้งคำถามกับระบบและแอบเขียนบันทึกประจำวัน ซึ่งถือเป็นอาชญากรรมทางความคิด เขาได้พบกับจูเลียหญิงสาวที่ต่อต้านพรรคในแบบของตัวเอง ทั้งสองแอบมีความสัมพันธ์ทางกายและอารมณ์กันอย่างลับๆ ซึ่งเป็นสิ่งต้องห้ามของพรรค พวกเขาลักลอบติดต่อกับโอไบรอัน สมาชิกพรรคชั้นสูงที่วินสตันเชื่อว่าเป็นแกนนำกลุ่มต่อต้านใต้ดิน แต่สุดท้ายกลับพบว่าโอไบรอันคือสายลับของพรรคที่วางแผนล่อซื้อ วินสตันถูกส่งไปยังกระทรวงความรัก เพื่อทำการล้างสมองและทรมาน จุดพีคเกิดขึ้นที่ room 101 ห้องทรมานด้วยสิ่งที่นักโทษกลัวที่สุด ในกรณีของวินสตันคือ ฝูงหนู ความกลัวสุดขีดทำให้วินสตันตะโกนทรยศคนที่เขารักที่สุดออกมา "ทำกับจูเลียสิ! อย่าทำกับผม!" การทรยศนี้ล้างความเป็นมนุษย์และเสรีภาพชิ้นสุดท้ายของเขาจนหมดสิ้น เมื่อปล่อยตัวออกมา วินสตันและจูเลียเจอกันอีกครั้งแต่ต่างฝ่ายต่างไม่เหลือความรู้สึกใดๆ ให้กันอีกต่อไป นิยายจบลงด้วยประโยคที่น่าเศร้าที่สุด เมื่อวินสตันนั่งมองโปสเตอร์และพบว่าจิตวิญญาณของเขาถูกทำลายสมบูรณ์แล้ว "เขาได้รับชัยชนะเหนือตัวเอง... เขารักพี่เบิ้ม" 1984 ของ George Orwell ถือเป็นหนึ่งในวรรณกรรม Dystopia ที่ทรงอิทธิพลที่สุดในโลก สะท้อนภาพสังคมที่เผด็จการเบ็ดเสร็จเข้าครอบงำมนุษย์ในทุกมิติ ทั้งความคิด ความรู้สึก และประวัติศาสตร์  กลไกการควบคุมสังคมใน Oceania ประชาชนทุกคนถูกเฝ้ามองผ่าน telescreen ที่เป็นจอภาพสองทางที่สอดส่องทั้งภาพและเสียงตลอดเวลา 24 ชั่วโมง แม้กระทั่งในบ้านของตัวเอง เรียกว่า (big brother is watching you) กระทรวงจริง (ministry of truth) มีหน้าที่แก้บันทึกประวัติศาสตร์ย้อนหลัง ให้ตรงกับคำพูดของพรรคในปัจจุบันเสมอ เพื่อให้พรรค "ถูกต้องตลอดเวลา" ถือเป็นการบิดเบือนความจริงและประวัติศาสตร์ ที่นั่นมีการสร้างภาษาใหม่เป็นภาษานิวสปีค (newspeak) ที่ตัดคำศัพท์เกี่ยวกับ "เสรีภาพ" หรือ "การต่อต้าน" ออกไป เพื่อไม่ให้ผู้คนสามารถแม้แต่จะคิดขัดขืนได้  อาชญากรรมทางความคิด (thoughtcrime) แค่คิดตั้งคำถามหรือแอบเกลียดพรรค ก็ถือเป็นความผิดร้ายแรงที่มีตำรวจความคิด (thought Police) คอยจับกุม  1984 (Orwell) Brave New World (Huxley) เครื่องมือควบคุม ความกลัว ความเจ็บปวด และการสอดส่อง ความสุข ความบันเทิง และยา Soma สิ่งที่ถูกทำลาย ความจริงและประวัติศาสตร์ ความลึกซึ้งทางอารมณ์และคุณค่ามนุษย์ รูปแบบการสั่งห้าม ห้ามอ่านหนังสือ ห้ามมีความคิด ไม่ต้องห้ามอ่าน เพราะคนไม่อยากอ่านเอง สภาพประชาชน ถูกบังคับให้จำยอม ยินดีทิ้งเสรีภาพด้วยตัวเอง Brave New World ของ Aldous Huxley ในขณะที่ 1984 ของ George Orwell ควบคุมคนด้วย "ความกลัวและการทรมาน" แต่ Brave New World ของ Aldous Huxley กลับสร้างสังคม Dystopian ที่ตรงกันข้ามอย่างสิ้นเชิง นั่นคือ การควบคุมคนด้วย "ความสุข ความเพลิดเพลิน และความพึงพอใจ" จนผู้คนเต็มใจยอมทิ้งเสรีภาพไปเอง กลไกการสร้างสังคมไร้ทุกข์ใน World State  เป็นการสังเคราะห์มนุษย์จากหลอดแก้ว (artificial hatching): มนุษย์ไม่ได้เกิดจากพ่อแม่ แต่ถูกผลิตในโรงงาน และถูกกำหนดชั้นวรรณะตั้งแต่เป็นเป็นตัวอ่อน (Alpha, Beta, Gamma, Delta, Epsilon) โดยชนชั้นต่ำจะถูกจำกัดพัฒนาการทางสมองตั้งแต่ยังเป็นตัวอ่อน  มีการปลูกฝังความล้างสมองขณะนอนหลับ (hypnopaedia): เด็กๆ จะถูกกล่อมด้วยคำสั่งปลูกฝังศีลธรรมและค่านิยมของรัฐตลอดเวลาขณะหลับ เพื่อให้พอใจในชนชั้นของตัวเอง และเสพติดการบริโภค ขณะที่ soma เป็นยาวิเศษไร้ผลข้างเคียง ที่เมื่อไหร่ที่เริ่มรู้สึกโศกเศร้า เครียด หรือกังวล ประชาชนจะกินยา "Soma" เพื่อขจัดความทุกข์และเข้าสู่สภาวะเคลิบเคลิ้มทันที  สังคมห้ามมีความรักแบบผัวเดียวเมียเดียว ห้ามมีความสัมพันธ์ที่ลึกซึ้ง หรือมีความผูกพันในครอบครัว เพราะความรักความผูกพันนำมาซึ่งความหึงหวง ความผิดหวัง และความโศกเศร้า ทำให้ทุกคนเป็นของทุกคน (promiscuity สื่อบันเทิงทั้งหลายมีไว้เพื่อความเพลิดเพลินฉาบฉวยเท่านั้น วรรณกรรมคลาสสิกอย่าง Shakespeare หรือศาสนาถูกห้ามทั้งหมด เพราะความลึกซึ้งทางอารมณ์อาจทำให้เกิดปัญหาสภาพจิตใจ เรื่องราวเข้มข้นขึ้นเมื่อจอห์น ชายหนุ่มที่เติบโตในเขตป่าเถื่อน (savage reservation) ผู้เติบโตมากับการอ่านวรรณกรรมของ Shakespeare และรับรู้ความรู้สึกแบบมนุษย์โบราณ ได้เดินทางเข้ามายัง "โลกใหม่อันแสนเจริญ" แห่งนี้  จอห์นพบว่าผู้คนที่นี่ไม่มีความรักที่แท้จริง ไม่มีใครเข้าใจความโศกเศร้า ไม่มีความหมายของชีวิต และทุกคนเป็นเพียงผู้เสพความสุขฉาบฉวยที่รัฐป้อนให้ เมื่อเขาพยายามปลุกผู้คนให้ตื่นจากกรงขังแห่งความสุขนี้ เขากลับถูกมองว่าเป็นคนบ้า ในการโต้เถียงครั้งสำคัญระหว่างจอห์นกับมุสตาฟา โมนด์ ผู้ควบคุมโลก โดยโมนด์อธิบายว่า รัฐได้แลกความงาม ศิลปะ สัจจะ และเสรีภาพ เพื่อแลกกับ "ความมั่นคงและความสุขของมวลชน" จอห์นจึงปฏิเสธความสุขสำเร็จรูปนั้น แล้วเรียกร้องสิทธิของมนุษย์ที่แท้จริง "แต่ผมไม่ต้องการความสบาย ผมต้องการพระเจ้า ผมต้องการวรรณกรรม ผมต้องการเสรีภาพ ผมต้องการความดีงาม และผมต้องการบาป ... ผมกำลังเรียกร้องสิทธิที่จะมีความทุกข์" สุดท้ายแล้ว จอห์นก็ไม่สามารถปรับตัวหรือทนรับความว่างเปล่าของสังคมนี้ได้ โศกนาฏกรรมจึงจบลงด้วยการที่เขาตัดสินใจจบชีวิตตัว Dystopian ในภาคธุรกิจ สำหรับผู้นำองค์กรภาคธุรกิจ ทั้ง Sam Altman และ Mark Zuckerberg จะใช้คำว่า Dystopian เพื่อเตือนถึง "ภาพอนาคตอันเลวร้าย" เหมือนกัน แต่บริบทและจุดเน้นของทั้งสองคนแตกต่างกันอย่างมีนัยสำคัญ ทั้งนี้ คำว่า Dystopia ของ Sam Altman หมายถึง "การสูญเสียการควบคุมและอำนาจไร้ขอบเขต" โดยเขามอง Dystopian ในมุมของ existential risk (ภัยเสี่ยงต่อการดำรงอยู่) หากเอไอเก่งเกินไปจนมนุษย์ไม่สามารถควบคุมได้ หรือถูกรัฐบาล/องค์กรนำไปใช้เป็นเครื่องมือสอดส่องและรวมอำนาจสั่งการ ที่สังคมต้องยอมรับกรอบความปลอดภัย และไว้วางใจให้บริษัทเทคโนโลยีชั้นนำทำงานร่วมกับรัฐบาลเพื่อสร้าง "เกราะป้องกัน" (guardrails) ไม่ให้เอไอหลุดการควบคุม ขณะที่ Mark Zuckerberg มอง Dystopian จากมุมของ "การผูกขาดอำนาจ" เป็นคณาธิปไตยดิจิทัล (digital oligarchy) เขาเตือนว่าภาพอนาคตที่น่ากลัวที่สุดคือการที่เอไอระดับสูง ถูกครอบครองและปิดเป็นความลับโดยบริษัทเทคโนโลยีขนาดใหญ่เพียงไม่กี่แห่ง รวมถึง OpenAI จนทำให้คนทั้งโลกต้องพึ่งพาและตกอยู่ใต้อำนาจของยักษ์ใหญ่เหล่านี้ ทางแก้ตามมุมมองเขาจึงต้องทำเอไอให้เป็น Open-source เพื่อกระจายเทคโนโลยีไปสู่ทุกคน การเปิดให้ทุกคนเข้าถึงและคานอำนาจกันเองคือสิ่งเดียวที่จะป้องกันไม่ให้เกิด Dystopian สรุปแล้ว Dystopian ในบริบทของเอไอจึงหมายถึง "อนาคตที่เทคโนโลยีไม่ได้สร้างความมั่งคั่ง แต่สร้างการสูญเสียเสรีภาพ" เพียงแต่ Altman กังวลเรื่อง ความไม่ปลอดภัยของตัวเอไอและการไร้การควบคุม ในขณะที่ Zuckerberg กังวลเรื่องการรวบอำนาจผูกขาดเทคโนโลยีไว้ในมือคนกลุ่มเดียว ทางที่ปลอดภัย แม้การก้าวสู่ยุค superintelligence จะเต็มไปด้วยความเสี่ยงต่อการพาอารยธรรมมนุษย์ไปสู่โชคชะตาแบบ Dystopia แต่หากเราเผชิญหน้ากับเทคโนโลยีนี้ด้วย "ความรอบคอบ" และการวางกลไกป้องกันตั้งแต่เนิ่นๆ เราย่อมสามารถมองเห็นเส้นทางที่ปลอดภัยในการรักษาสภาพแวดล้อมและเจตจำนงของมนุษยชาติไว้ได้ ซึ่งนักคิดและนักวิจัยชั้นนำอย่าง Nick Bostrom และ Stuart Russell ได้ให้คำแนะนำสำคัญในการเตรียมรับมือกับภัยคุกคามดังกล่าว โดยมุ่งเน้นไปที่การออกแบบสถาปัตยกรรมทางความคิดและระบบคุณค่าของเอไอ เพื่อไม่ให้ควบคุมมนุษย์ แต่มุ่งรับใช้มนุษย์อย่างแท้ ทั้งนี้ Nick Bostrom นำเสนอวิธีรับมือและควบคุม superintelligence ก่อนที่มันจะเกิด โดยแบ่งเป็น 2 ด้าน ด้านหนึ่งเป็นการจำกัดความสามารถ เช่น การขังเอไอไว้ในระบบปิดที่ไม่ต่ออินเทอร์เน็ต (Faraday Cage/Air-gapping) หรือการสร้างกลไกทำลายตัวเอง (kill switch) แต่วิธีนี้ควบคุมได้เพียงชั่วคราวเพราะ superintelligence จะหาทางหลอกลวงมนุษย์เพื่อเจาะหนีออกมาได้ในที่สุด และ/หรือ อีกด้านหนึ่ง เป็นการกำหนดเป้าหมายและแรงจูงใจ ซึ่งเป็นแนวทางเดียวที่ยั่งยืน คือ การออกแบบระบบคุณค่า (value alignment) ให้เอไอปรารถนาในสิ่งที่มนุษย์ต้องการจริงๆ และเคารพเสรีภาพของมนุษย์อย่างแท้จริง ขณะที่ Stuart Russel ก็ได้เสนอกฎ 3 ข้อสำหรับเอไอที่ปลอดภัย เพื่อแก้ปัญหาการจัดระเบียบเป้าหมาย (alignment problem) Russell ได้เสนอโมเดลใหม่ในการสร้างเอไอที่สอดคล้องกับมนุษย์ โดยอาศัยหลักการ 3 ประการ คือ 1) ความหวังดีต่อมนุษย์ (altruism) เป้าหมายเดียวของเอไอคือการเพิ่มความพึงพอใจและความต้องการของมนุษย์ให้สูงสุด 2) ความถ่อมตน (humility) เอไอต้องไม่รู้แน่ชัดว่าความต้องการที่แท้จริงของมนุษย์คืออะไร (pure uncertainty) และ 3) การเรียนรู้จากการสังเกต (observation) AI ต้องเรียนรู้ความต้องการของมนุษย์ผ่านการสังเกตพฤติกรรมและการตัดสินใจของมนุษย์ในชีวิต 1. ทางออกเชิงเทคนิค: เปลี่ยนวิธีสร้าง AI (Scientists-AI Model) Bengio ชี้ว่าโมเดลแบบ LLM (Large Language Models) ในปัจจุบัน มีจุดอ่อนตรงที่เน้นการทำนายคำถัดไปตามสถิติ ทำให้ขาดความเข้าใจเชิงตรรกะที่แท้จริงและหลอน (Hallucinate) ได้ง่าย เขาเสนอทางออกทางเทคนิคใหม่ ได้แก่: สร้าง AI ที่ทำงานเหมือนนักวิทยาศาสตร์ (Scientists-AI): เปลี่ยนจากโมเดลที่พยายามเลียนแบบพฤติกรรมมนุษย์ ไปสู่การสร้าง AI ที่สร้างสมมติฐาน ทดลอง ค้นหาความจริง และคำนวณ "ระดับความไม่แน่นอน" (Uncertainty) ของตัวเองได้ การจำกัดพฤติกรรมด้วยคณิตศาสตร์ (Guaranteed Safety): พัฒนาระบบที่มีการพิสูจน์ทางคณิตศาสตร์อย่างเป็นทางการ (Formal Mathematical Proofs) ว่า AI จะไม่ทำสิ่งที่เป็นอันตรายหรือฝ่าฝืนกฎความปลอดภัยที่มนุษย์ตั้งไว้ 2. ทางออกเชิงนโยบายและโครงสร้างสังคม (Governance) Bengio เน้นย้ำว่าการปล่อยให้ภาคเอกชนคุมกันเองไม่เพียงพอ และเสนอข้อเรียกร้องต่อสถาบันระดับโลก: การสร้างสถาบันความปลอดภัย AI อิสระ (Independent AI Safety Institutes): รัฐบาลทั่วโลกต้องจัดตั้งสถาบันตรวจสอบความปลอดภัย AI ที่เป็นอิสระจากบริษัทเทคโนโลยี เพื่อประเมินความเสี่ยงก่อนเปิดตัวโมเดลใหม่ การออกกฎหมายและการอนุญาต (Licensing & Regulation): บังคับให้การพัฒนาโมเดล AI ขนาดยักษ์ต้องได้รับใบอนุญาต และมีกระบวนการตรวจสอบที่เข้มงวดเหมือนอุตสาหกรรมการบินหรือยา ลงทุนในงานวิจัยด้านความปลอดภัยเชิงรุก: รัฐบาลต้องเพิ่มงบประมาณสนับสนุนงานวิจัย Safe AI ที่เป็นสาธารณะ ไม่ใช่ปล่อยให้งบประมาณเกือบทั้งหมดตกอยู่ในมือของบริษัทที่มุ่งเน้นแต่กำไร