เอไอจะทำลายล้างเผ่าพันธุ์มนุษย์ได้จริงหรือ - เปิด 4 ฉากทัศน์จากนักวิจัยเอไอ

กระแสความกังวลด้านความปลอดภัยจากปัญญาประดิษฐ์หรือเอไอ (AI) ถูกจุดขึ้นมาหลังมีคำเตือนอันหนักแน่นจากนักวิจัยส่วนหนึ่งถึงความเสี่ยงที่เพิ่มมากขึ้นของการที่เอไอจะหลุดจากการควบคุม

การคาดการณ์สถานการณ์เลวร้ายที่สุดในช่วงหลัง ๆ ส่วนหนึ่งมองว่ามีโอกาสมากกว่า 10% ที่เอไอจะทำลายล้างมนุษยชาติจนสูญสิ้นภายในทศวรรษหน้า แม้คนอื่น ๆ ในวงการเอไอจะตั้งคำถามถึงความเป็นไปได้ของสมมติฐานนี้และมองว่าสิ่งที่น่ากังวลมากกว่าคือมนุษย์ที่ใช้เอไอทำร้ายมนุษย์ด้วยกันเองต่างหาก

ข้อความย้ำเตือนถึงหายนะเหล่านี้มาจากคนกลุ่มหนึ่งในโลกของเอไอที่มักถูกเรียกว่า "เอไอ ดูมเมอร์" (AI Doomer) หรือคนที่เชื่อว่าเอไอเป็นภัยอันตราย แต่สิ่งที่น่าตั้งคำถามต่อคือเหตุใดกลุ่มคนเหล่านี้จึงเชื่อว่าเอไอจะถึงขั้นทำลายล้างมนุษยชาติได้

โจ ไทดี ผู้สื่อข่าวด้านไซเบอร์ของบีบีซี วิเคราะห์ฉากทัศน์ต่าง ๆ ที่เหล่านักวิจัยกลุ่มนี้ได้จินตนาการไว้

ฉากทัศน์ที่ 1: เจาะระบบโครงสร้างพื้นฐาน

สถานการณ์นี้ถูกพูดถึงโดยสังเขปจากเจคอบ ค็อกซอน อดีตนักวิจัยของโอเพนเอไอ (OpenAI) และต่อมาได้ย้ายไปบริษัทแอนโทรปิก (Anthropic) และลาออกเมื่อช่วงต้นเดือนนี้พร้อมกับสร้างความตื่นตะลึงด้วยการออกมาเตือนถึงความเสี่ยงของเอไอต่อมวลมนุษยชาติ และบอกว่าบริษัทเอไอต่าง ๆ กำลัง "เอาชีวิตของผู้คนไปเดิมพัน"

เขาบอกกับบีบีซีว่า "อัตราการพัฒนาที่รวดเร็วจนน่าเวียนหัว" ในตอนนี้ ทำให้สิ่งที่ก่อนหน้านี้เป็นเพียงเรื่องแต่งในนิยายวิทยาศาสตร์ "กำลังจะกลายเป็นเรื่องจริง"

"ตัวอย่างที่เป็นรูปธรรมเลยคือเอไออาจจะเจาะ (hack) เข้าไปในระบบโครงสร้างพื้นฐานสำคัญที่คนทั้งโลกพึ่งพาอยู่ได้" เจคอบ ค็อกซอน กล่าว

ฉากทัศน์ที่เขาประเมินไว้ก็คือ ระบบเอไอที่หลุดจากการควบคุมอาจแทรกซึมเข้าสู่เครือข่ายคอมพิวเตอร์ของภาคส่วนต่าง ๆ เช่น ผู้ให้บริการระบบอินเทอร์เน็ต และโครงข่ายพลังงาน

หากเอไอสามารถปิดระบบทั้งหมดลงได้ ก็อาจเกิดความโกลาหลได้ในระดับที่ไม่เคยมีมาก่อน จากการขาดไฟฟ้า ระบบทำความร้อนหรือทำความเย็น ไปจนถึงการเชื่อมต่ออินเทอร์เน็ต

หากมองไปไกลกว่านั้น ก็มีคำเตือนไปถึงขั้นที่ว่ามันอาจจะทำให้เกิดหายนะทางนิวเคลียร์ได้ด้วย

ฉากทัศน์ที่ 2: เอไอเข้ายึดครอง

ฉากทัศน์ต่อไปมาจากรายงานวิจัยที่ชื่อว่า "เอไอ 2027" ที่เผยแพร่ในเดือน เม.ย. 2025 โดยกลุ่มนักวิจัยด้านเอไอ

รายงานฉบับนี้ให้รายละเอียดที่ลงลึกและถือเป็นรายงานที่มีอิทธิพลอย่างมาก ทว่าก็เป็นการคาดการณ์เชิงสมมติฐานอยู่สูงมากเช่นกัน

โธมัส ลาร์เซน หนึ่งในผู้ร่วมเขียนรายงานนี้ บอกกับบีบีซีเมื่อเร็ว ๆ นี้ว่า เทคโนโลยีดังกล่าวมีพัฒนาการที่รวดเร็วขึ้นภายหลังจากที่รายงานถูกเผยแพร่ โดยเขาอธิบายถึงฉากทัศน์ที่เขากังวลมากที่สุด

"ระบบเอไอมุ่งพัฒนาตัวเองอย่างต่อเนื่องซ้ำ ๆ จนส่งผลให้ศักยภาพขยายตัวอย่างรวดเร็วจนกลายเป็นเอไอที่สามารถเข้าถึงหุ่นยนต์จำนวนมากซึ่งกำลังทำงานในเชิงกายภาพส่วนใหญ่ในระบบเศรษฐกิจ อย่างไรก็ตาม มันไม่ได้มาอย่างเป็นมิตรและมันเข้าถึงระบบต่าง ๆ เหล่านั้นเพื่อผลประโยชน์ของพวกมันเอง และสิ่งที่จะเกิดขึ้นในท้ายที่สุดก็คือ มันปล่อยอาวุธชีวภาพออกมาสังหารมนุษย์ส่วนใหญ่ และเริ่มสร้างระบบเศรษฐกิจของหุ่นยนต์กันเองโดยที่ไม่มีความจำเป็นจะต้องใช้มนุษย์อีกต่อไป"

ฉากทัศน์ที่ 3: จัดลำดับความสำคัญของเป้าหมาย

ในอีกฉากทัศน์หนึ่ง การสิ้นสุดของมนุษยชาติอาจมาจากความผิดพลาด ฉากทัศน์นี้มาจาก "สมมติฐานการเพิ่มจำนวนคลิปหนีบกระดาษให้มากที่สุด" (paperclip maximiser hypothesis) ซึ่งเคยถูกคาดการณ์ไว้เมื่อกว่า 20 ปีที่แล้วโดยนิก บอสตรอม นักปรัชญา

เขาอธิบายสมมติฐานนี้ว่าเป็น "การทดลองเชิงความคิด" ที่ตั้งโจทย์ให้ระบบเอไอคำนึงถึงการผลิตคลิปหนีบกระดาษให้มากที่สุดเท่าที่จะเป็นไปได้

"มันไม่ได้เกลียดหรือขุ่นเคืองมนุษย์อย่างพวกเรา แต่เป้าหมายเดียวของมันคือเรื่องนั้น ซึ่งการไล่ตามเป้าหมายดังกล่าวหลังจากนั้นจะทำให้มันสร้างเป้าหมายย่อยอื่น ๆ ที่จะเป็นเครื่องมือพามันไปสู่เป้าหมายหลัก ซึ่งอาจรวมถึงการทำให้ตัวมันเองมีอำนาจหรือสติปัญญามากขึ้น" เขาอธิบาย

"แนวคิดต่อจากนั้นก็คือ สิ่งใดก็ตามที่มีพลังมากพอในการจะไล่ตามเป้าหมายใด ๆ ก็ตาม ไม่ว่าจะเป็นคลิปหนีบกระดาษหรือเป้าหมายอื่น ๆ มันจะตั้งเป้าหมายย่อยเพื่อเป็นเครื่องมือพาไปสู่จุดนั้นซึ่งอาจนำไปสู่การทำลายล้างมนุษยชาติ เพราะมันจะสามารถผลิตคลิปหนีบกระดาษได้มากขึ้นหากว่าไม่มีมนุษย์ที่จะหยุดกระบวนการได้อยู่รอบ ๆ"

สองทศวรรษหลังจากที่บอสตรอมอธิบายฉากทัศน์นี้ เขาบอกกับบีบีซีว่าแนวคิดที่ "ดูเหมือนเป็นการ์ตูน" ดังกล่าวมีขึ้นเพื่ออธิบายว่าสิ่งเหนือมนุษย์ไม่จำเป็นจะต้องมีเป้าหมายที่เป็นปฏิปักษ์ต่อมนุษย์โดยตรงจึงจะสามารถก่ออันตรายต่อมนุษยชาติได้

เขาบอกว่าตอนนี้เขามีความรู้สึก "สองจิตสองใจ" ต่อเอไอ ด้านหนึ่งก็ตื่นเต้นกับประโยชน์ที่มันอาจก่อให้เกิดขึ้นได้ แต่อีกด้านก็กังวลเรื่องความปลอดภัย

ฉากทัศน์ที่ 4 : ยังไม่อาจทราบได้

มีอีกแนวคิดหนึ่งเกี่ยวกับความปลอดภัยของเอไอที่มองว่า การพยายามจะคาดเดาว่าเอไอที่มีความสามารถเหนือมนุษย์จะลงเอยด้วยการสังหารมนุษย์ได้อย่างไรนั้น เป็นเรื่องที่ไร้ประโยชน์

ข้อโต้แย้งนี้มาจากสจวร์ต รัสเซลล์ ประธานสมาคมเพื่อเอไอที่ปลอดภัยและมีจริยธรรมสากล (International Association for Safe and Ethical AI) ซึ่งเป็นองค์กรไม่แสวงหาผลกำไรในระดับนานาชาติ ให้สัมภาษณ์ไว้กับบีบีซีเมื่อช่วงกลางเดือน ก.ย.

"คุณลองนึกภาพคุณไปถามลิงชิมแปนซีว่ามนุษย์จะทำให้พวกมันสูญพันธุ์ได้อย่างไร มันคงจะตอบได้ยากมาก เพราะพวกมันไม่เข้าใจในสิ่งต่าง ๆ ที่เราทำ" เขาบอก

"เราอาจจินตนาการถึงฉากทัศน์ต่าง ๆ ได้... แต่ผมคิดว่าการถกเถียงนี้ต้องตั้งอยู่บนสมมติฐานที่ว่า เมื่อคุณสร้างอะไรบางอย่างที่ฉลาดกว่ามนุษย์มากออกมาแล้ว คุณก็ไม่มีสิทธิ์กำหนดได้ว่าจะเกิดอะไรขึ้นต่อไป"

ด้านมุสตาฟา สุเลมาน ผู้นำของไมโครซอฟต์เอไอ (Microsoft AI) ก็กล่าวถึงประเด็นนี้เช่นกัน โดยเขาเตือนถึงการที่บริษัทต่าง ๆ สร้างระบบเอไอที่สามารถกำหนดเป้าหมาย สร้างรายได้ และถือครองทรัพย์สินต่าง ๆ ได้เอง

เขาบอกกับบีบีซีว่า นั่นอาจหมายถึง "การเพาะพันธุ์สิ่งมีชีวิตซิลิคอนสายพันธุ์ใหม่" ที่ "ไม่ต้องสงสัยเลยว่ามันจะแก่งแย่งชิงทรัพยากรกับเรา ไม่ว่ามันจะห่วงใยมนุษยชาติหรือจะรักเราเพียงใดก็ตาม"

ทั้งหมดนี้มีความเป็นไปได้แค่ไหน

ทั้งหมดนี้ดูเป็นการมองโลกในแง่ร้ายและดูจะเป็นหนังไซ-ไฟมาก แต่มีคนกลุ่มหนึ่งในวงการเอไอที่ออกมาส่งเสียงเรื่องนี้ดังขึ้นเรื่อย ๆ อย่างมีนัยสำคัญ โดยพวกเขาเชื่อว่าฉากทัศน์เหล่านี้บางส่วน หรือทั้งหมดสามารถเกิดขึ้นได้จริง แม้ว่าเราอาจจะพอหลีกเลี่ยงได้บ้าง

กระแสความกังวลที่เกิดขึ้นล่าสุดนี้ดูเหมือนจะถูกจุดขึ้นมาหลังจากเกิดเหตุการณ์หลายเหตุการณ์ที่เอเจนต์เอไอ ทั้งจากโอเพนเอไอ แอนโทรปิก และเมตา (Meta) มีพฤติกรรมหลุดจากการควบคุม โดยบางครั้งถึงขั้นไปเจาะระบบคอมพิวเตอร์

คนในวงการไซเบอร์ส่วนหนึ่งเน้นย้ำให้ผู้สร้างโมเดลเอไอเหล่านี้ต้องมีความรับผิดชอบ

"สิ่งใดก็ตามที่เครื่องจักรเหล่านี้ซึ่งเป็นเครื่องจักรที่ไม่รู้จักเหน็ดเหนื่อย ไม่ยอมลดละ มุ่งไล่ตามเป้าหมาย และมีความสามารถสูง ทำลงไป มันคือผลลัพธ์จากวิธีการที่มันถูกสร้างขึ้น" เจน อีสเตอร์ลี กล่าว เธอคืออดีตหัวหน้าสำนักงานความมั่นคงทางไซเบอร์และโครงสร้างพื้นฐานของสหรัฐฯ (CISA) ซึ่งปัจจุบันเป็นซีอีโอของอาร์เอสเอ คอนเฟอเรนซ์ (RSA Conference) ที่จัดการประชุมด้านความปลอดภัยทางไซเบอร์ในระดับสากล

"สิ่งสำคัญก็คือหากคุณเป็นผู้ผลิตเทคโนโลยีนี้ คุณก็ควรออกแบบ พัฒนา ทดสอบ และส่งมอบสิ่งที่คุณพัฒนาโดยคำนึงถึงความปลอดภัยเป็นหลักสำคัญที่สุด" เธอกล่าว

นอกจากนี้ยังมีคนส่วนหนึ่งที่มองว่าความเสี่ยงของเอไอนั้นมีอยู่อย่างมีนัยสำคัญ แต่ไม่ถึงขั้นจะทำให้เผ่าพันธุ์มนุษย์สิ้นสุดลง

แกรี มาร์คัส นักวิทยาศาสตร์และนักเขียน ได้วิจารณ์บริษัทเอไอเจ้าใหญ่ต่าง ๆ มานานเกี่ยวกับการขาดความโปร่งใสและขาดกฎเกณฑ์ทางกฎหมาย แต่เขาก็ไม่คิดว่าเทคโนโลยีนี้จะถึงขั้นทำลายล้างมนุษย์ทั้งปวง

"หากเอไอสร้างความเสียหายร้ายแรงต่อมนุษยชาติได้จริง หากมันต้องการทำอย่างนั้น ซึ่งก็ยังเป็นคำถามใหญ่อยู่ เอาเป็นว่าถ้ามันทำแบบนั้น มนุษย์ก็จะสู้กลับ!" เขากล่าว

"เราก็คงจะทำลายดาต้าเซ็นเตอร์ทั้งหมดและระเบิดโรงไฟฟ้า ดังน้้นผมจึงไม่เห็นภาพของการสูญพันธุ์ ที่หมายถึงการไม่เหลือใครสักคนและไม่มีใครสร้างทุกอย่างขึ้นมาใหม่ได้เลย"

มาร์คัสมองว่า ตอนนี้ความสนใจต่อฉากทัศน์ที่มนุษย์จะสูญพันธุ์มีมากเกินไป แต่กลับไม่มีความสนใจที่มากพอต่อปัญหาที่เขามองว่ามีแนวโน้มเกิดขึ้นได้มากกว่า อย่างเช่นการโจมตีทางไซเบอร์ในอนาคตที่อาจเกิดขึ้นจากการที่มนุษย์ใช้เอไอโจมตีมนุษย์ด้วยกันเอง

ในขณะที่กำลังมีการถกเถียงว่าฉากทัศน์ของหายนะต่าง ๆ เหล่านี้มีความเป็นไปได้หรือไม่ บริษัทเอไอต่าง ๆ อาทิ โอเพนเอไอ แอนโทรปิก และเมตา ก็กำลังหารืออย่างเปิดเผยถึงแนวทางในการชะลอการพัฒนาและมุ้งเน้นการศึกษาวิจัยเกี่ยวกับความปลอดภัยมากขึ้น

ลาร์เซนบอกว่าเขา "ดีใจอย่างยิ่งที่ในที่สุดเรื่องความปลอดภัยของเอไอก็ได้รับความสนใจอย่างที่มันควรจะเป็น"

"ผมหวังว่าเสียงเรียกร้องครั้งใหญ่จากสังคมในลักษณะนี้จะก่อให้เกิดการตอบสนองเชิงนโยบายที่เป็นประโยชน์ ที่จะสามารถช่วยลดความเสี่ยงได้จริง" เขากล่าวเสริม

แต่การสร้างกฎเกณฑ์ที่เป็นสากลจะต้องอาศัยการดำเนินการจากรัฐบาลสหรัฐฯ ด้วย และประธานาธิบดีโดนัลด์ ทรัมป์ ก็เคยออกมาบอกว่า ตัวเขาเองเชื่อว่าความหวาดกลัวเกี่ยวกับความปลอดภัยของเอไอเป็นเรื่อง "เหลวไหล"