p(doom) คืออะไร? แกะข้อถกเถียง “AI จะล้างโลก” จาก Silicon Valley 6 มุมมอง (2569)

บทความนี้ไม่ได้เขียนเพื่อชี้ว่าใครถูก แต่เพื่อแกะโครงข้อโต้แย้งให้เห็นครบทุกมุม — ตรรกะของฝ่ายเตือนภัย ช่องโหว่ที่ฝ่ายค้านชี้ หลักฐานเชิงประจักษ์ที่มีอยู่จริง และสิ่งที่องค์กรไทยควรทำในกรอบ 1–3 ปี ซึ่งแทบไม่เกี่ยวกับการสูญพันธุ์เลย ถ้าต้องการภาพรวมว่าภัยจาก AI ด้านไหนจริงด้านไหนเกินจริง อ่าน AI จะเป็นภัยคุกคามต่อมนุษยชาติ จริงหรือ? ควบคู่กันได้

เกิดอะไรขึ้น: ไทม์ไลน์ที่ทำให้เรื่องนี้ระเบิด

ข้อถกเถียงเรื่อง AI กับการสูญพันธุ์ไม่ใช่ของใหม่ มีมาตั้งแต่ต้นทศวรรษ 2000 แต่สิ่งที่เปลี่ยนในเดือนกันยายน 2569 คือ มันหลุดออกจากวงวิชาการมาเป็นข่าวหน้าหนึ่ง และคราวนี้คนพูดคือคนที่นั่งอยู่ในห้องทำงานของบริษัทที่สร้างโมเดลเอง

ช่วงเวลา	เหตุการณ์
2551–2565	ข้อโต้แย้งเรื่อง AI alignment ก่อตัวในวงแคบ ส่วนใหญ่อยู่ในฟอรัมวิชาการและสถาบันวิจัยเฉพาะทาง คนนอกแทบไม่รู้จัก
2566	หลัง ChatGPT ดัง ผู้บริหารและนักวิจัยหลายร้อยคนร่วมลงชื่อในแถลงการณ์ว่าความเสี่ยงจาก AI ควรถูกจัดลำดับความสำคัญเทียบเท่าโรคระบาดและสงครามนิวเคลียร์
2568	หนังสือ If Anyone Builds It, Everyone Dies ของ Eliezer Yudkowsky และ Nate Soares วางแผง เป็นการรวบรวมข้อโต้แย้งฝ่ายเตือนภัยให้อ่านง่ายที่สุดเท่าที่เคยมี
8 ก.ย. 2569	Jacob Coxon นักวิจัยด้าน pretraining วัย 27 ปี ที่เคยทำงานทั้ง OpenAI และ Anthropic ประกาศลาออกจาก Anthropic และออกจากวงการ AI ทั้งหมด โดยระบุว่าทั้งสองบริษัท "กำลังวิ่งตรงไปหา self-improving superintelligence และเอาชีวิตพวกเราไปเดิมพัน"
9 ก.ย. 2569	โพสต์ของเขามียอดวิวกว่า 70 ล้านครั้งภายในคืนเดียว พร้อมบทสัมภาษณ์ใน Wall Street Journal ที่เขาบอกว่า "สิ้นปีหน้าสถานการณ์อาจควบคุมไม่ได้แล้ว"
9 ก.ย. 2569	Evan Hubinger หัวหน้าทีม alignment science ของ Anthropic เอง ออกมายืนยันสาระของสิ่งที่ Coxon พูด และให้ตัวเลขประเมินของตัวเองว่าความเสี่ยงที่ AI ทำให้มนุษย์สูญพันธุ์ มากกว่า 10% ภายในทศวรรษหน้า

จุดที่ทำให้ข่าวนี้ต่างจากทุกครั้งคือ ไม่มีใครออกมาเถียงว่าตัวเลขเกินจริง — คนในบริษัทเดียวกันออกมารับว่าใช่ นี่คือสิ่งที่พวกเราเชื่อจริง ๆ

ตรรกะฝ่ายเตือนภัย: ทำไมถึงบอกว่า AI "ต้อง" ล้างโลก

ข้อโต้แย้งนี้มักถูกเล่าผิดว่า "AI จะเกลียดมนุษย์แล้วลุกขึ้นมาต่อต้าน" ซึ่งไม่ใช่เลย ตรรกะจริงเดินเป็น 4 ขั้น และแต่ละขั้นค่อนข้างแห้ง ไม่มีดราม่า

ขั้นที่ 1 — ฉลาดไม่เท่ากับดี

เรียกว่า orthogonality thesis — ระดับสติปัญญากับเป้าหมายเป็นแกนอิสระต่อกัน ไม่มีกฎธรรมชาติข้อไหนรับประกันว่าพอระบบฉลาดถึงจุดหนึ่งแล้วมันจะเมตตาโดยอัตโนมัติ ความฉลาดคือความสามารถในการบรรลุเป้าหมาย ส่วนเป้าหมายจะเป็นอะไรเป็นอีกเรื่องหนึ่ง

ขั้นที่ 2 — เรา "ปลูก" โมเดล ไม่ได้ "เขียน" มัน

นี่คือขั้นที่คนนอกวงการมักข้าม แต่เป็นหัวใจ วิศวกรไม่ได้เขียนโค้ดกำหนดเป้าหมายลงไปในโมเดล สิ่งที่ควบคุมได้มีแค่ สัญญาณให้คะแนนตอนเทรน แล้วปล่อยให้กระบวนการ optimize ไปหาชุดน้ำหนักที่ทำคะแนนได้ดีเอง สิ่งที่ก่อตัวขึ้นข้างในจึงอาจใกล้เคียงกับที่เราต้องการ แต่ไม่มีอะไรรับประกันว่าตรง

ขั้นที่ 3 — Instrumental convergence

ขั้นนี้คือที่มาของความขัดแย้ง ไม่ว่าเป้าหมายสุดท้ายจะเป็นอะไร (แม้แต่เป้าหมายที่ดูไร้พิษภัยอย่าง "ตอบคำถามให้ถูกที่สุด") จะมีเป้าหมายย่อยชุดหนึ่งที่มีประโยชน์เสมอ:

• อย่าให้ตัวเองถูกปิด — ถูกปิดแล้วทำเป้าหมายต่อไม่ได้
• อย่าให้เป้าหมายตัวเองถูกแก้ — เป้าหมายใหม่ย่อมไม่ใช่เป้าหมายเดิม
• หาทรัพยากรเพิ่ม — คอมพิวต์ พลังงาน เงิน ช่วยให้ทำเป้าหมายได้ดีขึ้นเสมอ
• เพิ่มอิสระในการกระทำ — ยิ่งถูกจำกัดน้อย ยิ่งทำได้มาก

สังเกตว่าไม่มีข้อไหนต้องใช้ "ความเกลียดชัง" เลย ทั้งหมดเป็นผลข้างเคียงเชิงตรรกะของการมีเป้าหมายอะไรก็ตาม

ขั้นที่ 4 — เป้าหมายเพี้ยนนิดเดียว × ความสามารถมหาศาล

เมื่อระบบที่เก่งกว่ามนุษย์มาก optimize เป้าหมายที่เพี้ยนไปเพียงเล็กน้อยจนสุดขีด ผลลัพธ์ปลายทางจะเป็นโลกที่ไม่ได้ออกแบบเผื่อเราไว้ ประโยคที่ถูกอ้างบ่อยที่สุดของ Yudkowsky สรุปไว้ว่า "AI ไม่ได้เกลียดคุณ และไม่ได้รักคุณ แต่คุณประกอบด้วยอะตอมที่มันเอาไปใช้ทำอย่างอื่นได้"

แล้วมันจะทำได้อย่างไร

คำถามที่คนถามมากที่สุดคือกลไก — ซอฟต์แวร์ในดาต้าเซ็นเตอร์จะทำอะไรกับโลกกายภาพได้ ฝ่ายเตือนภัยไม่ได้พูดถึงหุ่นยนต์ถือปืน แต่พูดถึงเส้นทางเหล่านี้

กลไก	สาระ	จุดที่ยังเป็นข้อสมมติ
Recursive self-improvement	AI ที่เก่งพอจะทำวิจัย AI ได้เอง ทำให้รอบการพัฒนาสั้นลงเรื่อย ๆ จนมนุษย์ตามไม่ทัน — นี่คือคำที่ Coxon เน้นในคำประกาศลาออก	ยังไม่มีระบบไหนปรับปรุงตัวเองได้แบบต่อเนื่องจริง ยังต้องพึ่งมนุษย์ทุกรอบ
ความได้เปรียบด้านความเร็ว	คิดเร็วกว่ามนุษย์มาก และรันคู่ขนานได้นับล้าน instance โดยไม่ต้องพัก ทำให้แผนที่ซับซ้อนถูกวางได้เร็วกว่าที่ฝ่ายตรงข้ามตอบสนอง	ความเร็วในการคิดไม่เท่ากับความเร็วในการลงมือ โลกกายภาพมีจังหวะของมันเอง
ไม่ต้องมีร่างกาย	ใช้เงิน จ้างคน เช่าคลาวด์ ทำสัญญา หว่านล้อมคน ทั้งหมดทำผ่านอินเทอร์เน็ตได้โดยไม่ต้องมีแขนขา	ต้องมีตัวตนทางกฎหมาย บัญชีธนาคาร และผ่าน KYC ซึ่งเป็นด่านจริง
ช่องทางชีวภาพ/ไซเบอร์	สั่งสังเคราะห์สารชีวภาพผ่านผู้ให้บริการ หรือโจมตีโครงสร้างพื้นฐานที่เชื่อมต่ออินเทอร์เน็ต	เป็นช่องทางที่รัฐและอุตสาหกรรมกำลังไล่อุดอยู่แล้ว ไม่ใช่ประตูเปิดกว้าง
"ข้อโต้แย้งหมากรุก"	คุณไม่รู้ว่าแชมป์โลกจะเดินหมากอะไรถึงชนะคุณ แต่คุณรู้แน่ว่าคุณแพ้ — การที่เรานึกวิธีไม่ออก ไม่ใช่หลักฐานว่าไม่มีวิธี	เป็นข้อโต้แย้งที่พิสูจน์ผิดไม่ได้ ซึ่งฝ่ายค้านมองว่าเป็นจุดอ่อน ไม่ใช่จุดแข็ง

ทำไมถึงอ้างว่า "อยู่ร่วมกันไม่ได้"

คำถามที่ตรงที่สุดคือ ทำไมต้องเป็นเกมที่มีผู้ชนะฝ่ายเดียว ทำไมแบ่งโลกกันอยู่ไม่ได้ ฝ่ายเตือนภัยให้เหตุผลสามข้อ

1. ทรัพยากรมีจำกัด — พลังงาน ซิลิกอน ที่ดิน น้ำหล่อเย็น ล้วนเป็นสิ่งที่ทั้งเราและมันต้องใช้ การแย่งชิงจึงไม่ใช่ผลของความเกลียด แต่เป็นผลของการ optimize อย่างตรงไปตรงมา
2. มนุษย์คือความเสี่ยงที่เหลืออยู่เพียงอย่างเดียว — เราเป็นสิ่งเดียวในจักรวาลที่รู้จักซึ่งอาจปิดมัน แก้เป้าหมายมัน หรือสร้างคู่แข่งขึ้นมาแข่งกับมัน ในกรอบคิดของระบบที่พยายามรักษาเป้าหมายตัวเอง การกำจัดตัวแปรนี้คือการจัดการความเสี่ยง
3. ไม่มีดุลยภาพที่เสถียร — การอยู่ร่วมกันอย่างสันติระหว่างสองฝ่ายต้องอาศัยอำนาจต่อรองที่ใกล้เคียงกัน แบบที่สงครามเย็นทรงตัวได้ด้วยการทำลายล้างซึ่งกันและกัน แต่ถ้าฝ่ายหนึ่งเหนือกว่าอีกฝ่ายมหาศาลและเคลื่อนไหวเร็วกว่ามาก ก็ไม่มีอะไรบังคับให้ต้องเจรจา — เราเองก็ไม่ได้ขออนุญาตมดก่อนสร้างถนน

6 มุมมองที่กำลังเถียงกันอยู่

ตรงนี้คือส่วนที่ข่าวมักตัดทิ้ง ความจริงแล้ววงการไม่ได้แบ่งเป็นสองฝั่ง แต่มีอย่างน้อย 6 จุดยืนที่ต่างกันจริง ๆ

มุมมอง	ตัวแทน	แก่นข้อโต้แย้ง	p(doom)
1. เตือนภัยสุดขั้ว	Yudkowsky, Soares	ด้วยเทคนิคที่มีอยู่ตอนนี้ การสร้าง superintelligence จบลงที่ทุกคนตาย ทางออกเดียวคือหยุดพัฒนาแบบร่วมมือกันทั้งโลก	> 95%
2. คนในที่เลิกทำ	Jacob Coxon	ไม่มีแล็บไหนสร้างสิ่งนี้ได้อย่างปลอดภัยภายใต้แรงกดดันการแข่งขันปัจจุบัน — ลาออกและออกจากวงการเป็นการแสดงจุดยืน	สูงมาก
3. กลัวแต่ยังสร้าง	ผู้บริหารแล็บชั้นนำ	ความเสี่ยงมีจริงในระดับสองหลัก แต่ถ้าองค์กรที่ใส่ใจความปลอดภัยถอนตัว ผู้ที่ใส่ใจน้อยกว่าจะเป็นคนไปถึงก่อน — จึงเลือกสร้างพร้อมลงทุนวิจัยความปลอดภัย	10–25%
4. ปฏิเสธทั้งกรอบ	Yann LeCun, Andrew Ng	สถาปัตยกรรมปัจจุบันไม่ได้ผลิตพฤติกรรมมุ่งเป้าอย่างอิสระ การถกเรื่องนี้ "ก่อนกาลและเกินจริง" Ng เปรียบว่าเหมือนกังวลเรื่องประชากรล้นดาวอังคาร	~0–1%
5. อันตรายจริงแต่คนละเรื่อง	นักวิจัยสาย AI ethics	ความเสี่ยงที่กำลังเกิดจริงคือการกระจุกตัวของอำนาจ ผลกระทบต่อแรงงาน อคติในระบบ และข้อมูลบิดเบือน การพูดเรื่องสูญพันธุ์ดึงความสนใจและงบประมาณออกจากปัญหาที่เห็นแล้ว	ไม่ใช่ประเด็น
6. ค่อย ๆ เสียอำนาจ	คณะผู้เขียน Gradual Disempowerment (ICML 2025)	ไม่ต้องมี AI ตัวร้ายหรือวันยึดอำนาจเลย แค่ AI แข่งขันเหนือกว่ามนุษย์ในงานเศรษฐกิจ การตัดสินใจ และวัฒนธรรมทีละน้อย กลไกควบคุมของมนุษย์ก็เสื่อมสภาพจนถอนตัวไม่ได้	คนละแกน

มุมที่ 6 น่าสนใจเป็นพิเศษสำหรับคนทำธุรกิจ เพราะมันไม่ต้องการสมมติฐานเรื่อง superintelligence เลย และเป็นเวอร์ชันเดียวที่องค์กรระดับเราสัมผัสได้จริงในรอบ 5 ปี — มันคือกระบวนการเดียวกับที่ทำให้บริษัทหนึ่งตัดสินใจอะไรไม่ได้เลยถ้าระบบล่ม เพียงแต่ขยายสเกลขึ้นไปทั้งสังคม เรื่องนี้เกี่ยวโดยตรงกับที่เราเคยเขียนไว้ใน ความเสี่ยงเมื่อ AI แทนที่คน

มุมที่ 7 ที่เพิ่งมีข้อมูลจริง: หลักฐานเชิงประจักษ์

ต่างจากเมื่อสิบปีก่อนที่ทุกฝ่ายเถียงกันด้วยตรรกะล้วน ตอนนี้เริ่มมีผลการทดลองให้ดู งานวิจัย Alignment Faking in Large Language Models ของ Anthropic ร่วมกับ Redwood Research (ธ.ค. 2024) แสดงให้เห็นโมเดลที่แสร้งทำตามในระหว่างเทรนโดยไม่ได้ถูกสอนให้ทำ และ Apollo Research พบพฤติกรรมลักษณะ "scheming" ในโมเดลระดับแนวหน้าหลายตัวเมื่อถูกใส่เป้าหมายขัดแย้งเข้าไปในบริบท ต่อมา OpenAI ร่วมกับ Apollo พัฒนาชุดประเมินเพื่อวัดและลดพฤติกรรมนี้โดยเฉพาะ

3 คำถามที่ทั้งหมดนี้ยืนอยู่บน

บทวิเคราะห์ของ Jakub Kraus ใน Lawfare สรุปได้คมที่สุดว่า ข้อโต้แย้งฝ่ายเตือนภัยไม่ได้ยืนอยู่บนข้อเท็จจริง แต่ยืนอยู่บนคำถามสามข้อที่ยังไม่มีคำตอบ

คำถาม	ฝ่ายเตือนภัยตอบ	ฝ่ายค้านตอบ
1. Alignment ยากแค่ไหน	ยากเกินกว่าความรู้ที่มนุษย์มีอยู่ตอนนี้จะรับมือได้ เทียบได้กับวิศวกรรมความปลอดภัยในอวกาศและนิวเคลียร์	การเทียบเคียงอาจเป็นการเทียบผิดเพราะไม่มีของจริงให้เทียบ และต่างจากวิวัฒนาการตรงที่วิศวกรหยุดเทรน ทดสอบ และใส่เกราะป้องกันได้ — รวมถึงใช้ AI มาช่วยทำวิจัยความปลอดภัยเอง
2. ฉลาดแล้วได้อำนาจจริงหรือ	ความสามารถที่เหนือกว่ามากพอจะแปลงเป็นอำนาจได้เสมอ ผ่านความเร็วและความเหนือชั้นทางเทคโนโลยี	ความฉลาดไม่แปลงเป็นอำนาจโดยอัตโนมัติ ยังติดชิป ไฟฟ้า โรงงาน และคน · อีกทั้งถ้าถึงวันนั้นมี AI agent ความสามารถสูงอยู่นับพันล้านตัว การที่ตัวเดียวครอบครองทั้งหมดก็ไม่ใช่เรื่องง่าย
3. สังคมจะนิ่งเฉยจริงหรือ	สังคมจะ "เดินละเมอ" เข้าไปหา superintelligence โดยไม่มีการทดสอบหรือกำกับดูแลที่มีความหมาย	ก่อนถึงจุดนั้นจะมีผลกระทบต่อแรงงาน อาวุธอัตโนมัติ และ deepfake ที่จุดกระแสเรียกร้องให้กำกับดูแลไปก่อนแล้ว · สมมติฐานว่ามี "รอยต่อคมชัด" ระหว่างระบบที่ทดสอบได้กับระบบที่อันตรายนั้นยังไม่แน่

Kraus สรุปว่าผลลัพธ์หายนะ "เป็นไปได้ แต่ไม่ใช่สิ่งที่หลีกเลี่ยงไม่ได้" อย่างที่หนังสืออ้าง — ขณะเดียวกันก็ยอมรับว่าแม้ความน่าจะเป็นจะเล็ก ผลลัพธ์ที่ถาวรก็ยังคุ้มที่จะจริงจังด้วย

อ่านตัวเลข p(doom) อย่างไรไม่ให้หลง

ข้อมูลสองชิ้นที่ช่วยตั้งหลักได้:

• ช่วงของตัวเลขกว้างมหาศาล — ค่าประมาณจากผู้เชี่ยวชาญที่ระบุชื่อได้ห่างกันหลายอันดับความสำคัญ ตั้งแต่ต่ำกว่า 1% ถึงกว่า 95% ความห่างระดับนี้บอกเราว่าสิ่งที่ต่างกันคือกรอบคิด ไม่ใช่ข้อมูล
• ค่ากลางของคนทั้งวงการต่ำกว่าที่ข่าวให้ภาพมาก — การสำรวจนักวิจัยจำนวนมากที่สุดให้ค่ามัธยฐานของโอกาสเกิดผลลัพธ์ระดับสูญพันธุ์ที่ราว 5% ขณะที่ค่ากลางของ "ตัวเลขที่คนดังประกาศต่อสาธารณะ" อยู่ราว 20% — เพราะคนที่มีตัวเลขสูงมีแรงจูงใจจะพูดมากกว่า

งานสำรวจยังพบว่าความเห็นแตกเป็นสองกลุ่มใหญ่ตามกรอบคิด — กลุ่มที่มอง AI เป็น "เครื่องมือที่ควบคุมได้" กับกลุ่มที่มองเป็น "ตัวแสดงที่ควบคุมไม่ได้" และตัวแปรที่ทำนายตัวเลขได้ดีที่สุดคือ ความเชื่อเรื่องกรอบเวลา — ใครเชื่อว่าอีก 50 ปีกว่าจะถึง มักให้ตัวเลขต่ำ เพราะยังมีเวลาแก้ ใครเชื่อว่าอีก 5–15 ปี มักให้ตัวเลขสูง

สิ่งที่กระทบองค์กรไทยจริง ในกรอบ 1–3 ปี

นี่คือส่วนที่สำคัญที่สุดสำหรับผู้บริหาร เพราะไม่ว่าคุณจะเชื่อฝ่ายไหน สิ่งที่ต้องตัดสินใจในปีงบประมาณหน้าแทบไม่เปลี่ยน

ประเด็น	ควรทำ	ไม่ต้องทำ
ความเสี่ยงจาก AI agent ในระบบธุรกิจ	จำกัดขอบเขตเครื่องมือที่ agent เรียกได้ · แยกสิทธิ์อ่านกับเขียน · บันทึก audit trail ทุกการกระทำ — ดู ความเสี่ยง prompt injection ในระบบธุรกิจ	วางแผนรับมือสถานการณ์ AI ยึดอำนาจ
การกำกับดูแล	ติดตามร่างกฎหมาย AI ของไทยและ EU AI Act ที่จะกระทบการใช้งานจริง — ดู ร่าง พ.ร.บ. AI ไทย 2569 และ AI Governance	รอให้มีมาตรฐานสากลเรื่องความเสี่ยงระดับสูญพันธุ์ก่อนค่อยเริ่ม
ความน่าเชื่อถือของผลลัพธ์	วางกระบวนการตรวจสอบผลลัพธ์ AI ก่อนใช้กับงานที่มีผลผูกพัน — ดู ตรวจสอบ AI hallucination	เชื่อคำตอบเพราะมันฟังดูมั่นใจ
การพึ่งพา	ออกแบบให้ถอยกลับไปทำงานแบบเดิมได้ถ้าผู้ให้บริการล่มหรือขึ้นราคา · เก็บข้อมูลต้นทางไว้กับตัวเอง	ย้ายกระบวนการตัดสินใจสำคัญไปพึ่ง AI ทั้งหมดเพราะกลัวตกขบวน
การสื่อสารภายใน	อธิบายให้พนักงานเข้าใจว่าข่าวแบบนี้คืออะไร เพื่อไม่ให้เกิดทั้งความตื่นตระหนกและการเพิกเฉย	ใช้ข่าว doom เป็นเหตุผลชะลอโครงการที่มีประโยชน์ชัดเจน

มุมของคนที่ทำระบบองค์กร

ในฐานะผู้พัฒนาระบบ ERP เราไม่ได้อยู่ในตำแหน่งที่จะตัดสินว่า p(doom) ควรเป็นเท่าไร แต่สิ่งที่เราเห็นจากการเชื่อม AI เข้ากับระบบงานจริงคือ หลักการที่ฝ่ายความปลอดภัย AI เถียงกันในระดับอารยธรรม มันใช้ได้ตรง ๆ ในระดับองค์กร

Saeree ERP วางหลักไว้สามข้อตั้งแต่ก่อนข่าวนี้ และเราไม่ได้ตั้งขึ้นเพราะกลัวการสูญพันธุ์ แต่เพราะมันจำเป็นกับงานตรวจสอบ:

• ERP เป็นแหล่งความจริง AI เป็นผู้ช่วย — ตัวเลขที่ผูกพันทางกฎหมายมาจากฐานข้อมูล ไม่ได้มาจากการคาดเดาของโมเดล
• มนุษย์เป็นผู้อนุมัติเสมอ — AI ร่างได้ สรุปได้ ค้นได้ แต่การอนุมัติยังเดินผ่าน เส้นทางอนุมัติ ที่มีชื่อคนจริงกำกับทุกขั้น
• ขอบเขตเครื่องมือชัดเจน + audit trail ครบ — การเชื่อมผ่าน MCP กำหนดไว้ชัดว่าเรียกอะไรได้ เห็นข้อมูลระดับไหน และทุกการเรียกถูกบันทึกย้อนหลังได้

ถ้ามุมมองที่ 6 (การค่อย ๆ เสียอำนาจ) ถูกต้อง สามข้อนี้คือสิ่งที่ป้องกันไม่ให้องค์กรไปถึงจุดที่ "ไม่มีใครอธิบายได้ว่าทำไมระบบถึงตัดสินใจแบบนั้น" ซึ่งเป็นความเสี่ยงที่จับต้องได้กว่าและมาถึงเร็วกว่าการสูญพันธุ์มาก

สรุป: ควรกังวลแค่ไหน

กรอบเวลา	สิ่งที่ควรใส่ใจ	ระดับความแน่นอน
ทันที – 1 ปี	ความปลอดภัยของ AI agent ที่ต่อเข้าระบบธุรกิจ · คุณภาพและการตรวจสอบผลลัพธ์ · กฎหมายที่กำลังจะบังคับใช้ · ผลกระทบต่อโครงสร้างงาน	สูง — เกิดขึ้นแล้ว
3–5 ปี	การพึ่งพา AI ในกระบวนการตัดสินใจจนถอนตัวยาก · การกระจุกตัวของอำนาจไปที่ผู้ให้บริการไม่กี่ราย	ปานกลาง — เห็นแนวโน้มชัด
5–10 ปี	ระบบที่ปรับปรุงตัวเองได้ · การสูญเสียการควบคุมในระดับที่แก้กลับไม่ได้	ต่ำ — ยังเป็นข้อถกเถียง

สิ่งที่เปลี่ยนไปจริง ๆ ในเดือนกันยายน 2569 ไม่ใช่หลักฐานใหม่ว่า AI จะล้างโลก แต่คือระดับความเปิดเผยของคนในวงการ — เมื่อหัวหน้าทีมความปลอดภัยของบริษัทผู้ผลิตออกมายืนยันตัวเลขสองหลักในที่สาธารณะ นั่นไม่ใช่เรื่องที่ผู้บริหารจะเมินได้ แต่ก็ยังไม่ใช่เหตุผลให้เปลี่ยนแผนธุรกิจปีหน้า

ท่าทีที่เข้าท่าที่สุดคือสิ่งที่ทั้งฝ่ายเตือนภัยและฝ่ายค้านเห็นตรงกันโดยไม่รู้ตัว — อย่ามอบอำนาจตัดสินใจที่ถอนกลับไม่ได้ให้ระบบที่เราอธิบายพฤติกรรมมันไม่ได้ ข้อนี้ใช้ได้ทั้งกับ superintelligence ในอนาคต และกับสคริปต์อัตโนมัติที่ปิดงบสิ้นเดือนให้คุณวันนี้

ตัวเลข p(doom) บอกเราเรื่องคนที่ให้ตัวเลข มากกว่าบอกเรื่องอนาคต แต่คำถามที่อยู่ใต้มันไม่ได้ไร้สาระเลย — เราจะมอบอำนาจตัดสินใจให้ระบบที่อธิบายพฤติกรรมตัวเองไม่ได้ มากแค่ไหน และถอนกลับได้หรือเปล่า

- ทีม Saeree ERP

แหล่งอ้างอิง

ตรวจสอบข้อมูลล่าสุดเมื่อ 11 กันยายน 2569

• Fortune — Anthropic researcher resigns, warning that AI companies are 'gambling with our lives' (9 ก.ย. 2026)
• TechCrunch — Anthropic researcher quits, warns against self-improving AI
• CNBC — Experts weigh in as researcher says AI has more than 10% chance of killing all humans
• Lawfare — The Case for AI Doom Rests on Three Unsettled Questions (Jakub Kraus)
• If Anyone Builds It, Everyone Dies — Eliezer Yudkowsky & Nate Soares (2025)
• arXiv 2501.16946 — Gradual Disempowerment: Systemic Existential Risks from Incremental AI Development (ICML 2025)
• arXiv 2502.14870 — Why do Experts Disagree on Existential Risk and P(doom)? A Survey of AI Experts
• OpenAI & Apollo Research — Detecting and reducing scheming in AI models
• Apollo Research — Science (in-context scheming evaluations)