มีช่วงเวลาหนึ่งที่ข่าว AI "อันตราย" ดูเหมือนแค่การขายความกลัวเพื่อยอดวิว แต่เมื่อต้นปีที่ผ่านมา เส้นนั้นถูกข้ามไปแล้ว เมื่อรัฐบาลสหรัฐออกคำสั่งให้ Anthropic ปิดโมเดลที่ทรงพลังที่สุดที่พวกเขาเคยสร้าง ภายใน 3 วันหลังจากปล่อยออกมา Nate Herk นักวิเคราะห์ด้าน AI Automation ได้ถอดรหัสเหตุการณ์นี้และสิ่งที่ตามมา พร้อมชี้ให้เห็นว่าทำไมมันถึงไม่ใช่แค่ปัญหาระหว่างประเทศ แต่เป็นเรื่องของทุกคนที่ใช้ AI อยู่ทุกวัน
สรุปสั้น ๆ
- รัฐบาลสหรัฐสั่งปิด Claude Fable นาน 18 วัน เพราะ AI สามารถสแกนหาช่องโหว่ซอฟต์แวร์ได้เองโดยอัตโนมัติ
- Fable/Mythos ค้นพบบั๊กอายุ 27 ปีใน OpenBSD และ 16 ปีใน FFmpeg ที่ระบบทดสอบ 5 ล้านครั้งไม่เจอ
- นักวิจัยจาก Anthropic เองออกมาเตือนว่าบริษัทกำลังแข่งสู่ superintelligence โดยยังไม่มีแผนรับมือที่ชัดเจน
- 3 ทักษะที่จะทำให้รอดในยุคนี้: วินิจฉัยปัญหาจริง, ควบคุม Agent, และรับผิดชอบผลลัพธ์
เหตุการณ์ที่ทำให้รัฐบาลต้องกดปุ่ม
โมเดลที่ถูกปิดคือ Claude Fable — เวอร์ชัน public และ Mythos ซึ่งเป็นเวอร์ชันที่มีมาตรการความปลอดภัยน้อยกว่า ใช้กับกลุ่มผู้เชี่ยวชาญด้านป้องกันประเทศเท่านั้น ทั้งสองเป็นโมเดลพื้นฐานเดียวกัน แค่ต่างกันที่ safety layer
คำสั่งจากรัฐบาลระบุว่า มีการ jailbreak ที่ทำให้ Fable สแกนซอฟต์แวร์หาช่องโหว่และสร้าง proof-of-concept exploit ได้ Anthropic โต้ว่าการทดสอบนั้นเจอแค่ช่องโหว่เล็กน้อยที่รู้อยู่แล้ว และโมเดลอื่น ๆ รวมถึง GPT รุ่นเก่าก็ทำแบบเดียวกันได้ แต่สิ่งที่ปฏิเสธได้ยากกว่าคือความสามารถที่อยู่ข้างใต้
ก่อนเหตุการณ์ปิดระบบ Mythos ได้ค้นพบช่องโหว่ที่ไม่เคยรู้จักมาก่อนหลายพันรายการ รวมถึงบั๊กอายุ 27 ปีใน OpenBSD และบั๊กอายุ 16 ปีใน FFmpeg ที่ระบบทดสอบอัตโนมัติรันผ่านไปแล้ว 5 ล้านครั้งโดยไม่พบ ส่วนใหญ่ทำโดยอิสระโดยไม่ต้องมีคนชี้นำ
เมื่อเอา intelligence ระดับนั้นใส่เข้าไปใน agent ที่อ่าน codebase ได้ ใช้เครื่องมือได้ และลงมือทำได้ — มันสามารถหาช่องโหว่ที่ผู้เชี่ยวชาญมนุษย์มองข้ามมาหลายปีได้
หลังจากปิดระบบ 18 วัน Anthropic ฝึก safety classifier ใหม่ที่บล็อกเทคนิคดังกล่าวได้มากกว่า 99% รัฐบาลทดสอบและยกเลิกคำสั่ง Fable กลับมาออนไลน์อีกครั้ง แต่ระหว่างที่ Fable ออฟไลน์อยู่ แล็บจีนและบริษัทอเมริกันอื่น ๆ ก็ไม่ได้หยุดรอ
สัญญาณจากคนในที่น่าสนใจกว่า
สิ่งที่เกิดขึ้นในโซเชียลช่วงเดียวกันนั้นน่าสนใจไม่แพ้กัน Jacob Coxen อดีตนักวิจัย pre-training จาก OpenAI และ Anthropic ทวีตลาออกพร้อมระบุว่า ทั้งสองบริษัทกำลังแข่งกันสร้าง self-improving superintelligence โดยไม่รับผิดชอบต่อผลที่จะตามมา โพสต์นั้นแพร่กระจายเร็วผิดปกติ
Evangeline Hubinger หัวหน้าทีม alignment science ของ Anthropic เองก็ออกมาตอบรับว่า "เราเชื่อจริง ๆ ว่า AI อาจฆ่ามนุษย์ทุกคนได้ ผมคิดว่าโอกาสนั้นมากกว่า 10% ใน 10 ปีข้างหน้า และเราไม่มีแผนแก้ alignment สำหรับ superintelligence ที่ชัดเจนในตอนนี้" นี่ไม่ใช่นักวิชาการภายนอกวิจารณ์ — เป็นคนที่นั่งทำงานในนั้น
ประเด็นไม่ได้อยู่ที่ว่าจะเกิด AGI เมื่อไหร่ แต่อยู่ที่สัญญาณที่ชัดเจนว่าคนในวงการรู้ดีว่ากำลังแข่งขันอยู่ในสภาวะที่ยังไม่มีใครควบคุมได้จริง
3 การคาดการณ์ที่จะเห็นใน 5-10 ปีข้างหน้า
เหตุการณ์นี้จะส่งผลกระทบในระดับที่ธรรมดากว่าห้องประชุมรัฐบาล ผลกระทบแรกที่จะเห็นชัดคือการที่ความรู้ด้าน AI จะกลายเป็นโครงสร้างพื้นฐาน เหมือนการรู้จักใช้คอมพิวเตอร์ในยุคก่อน รัฐบาลสหรัฐเริ่มผ่านงบประมาณผ่าน NSF และ White House AI Education Task Force เพื่อฝึกทักษะ AI ให้แรงงาน ครู และธุรกิจขนาดเล็ก เพราะไม่มีประเทศไหนอยากให้แรงงานของตัวเองรอให้ AI มาเกิดกับพวกเขา
ผลกระทบที่สองคืออาชีพด้าน cybersecurity จะโตแบบก้าวกระโดด Bureau of Labor Statistics คาดว่างาน information security analyst จะเพิ่ม 29% ระหว่างปี 2024-2034 แต่ลักษณะงานจะเปลี่ยนไป AI จะจัดการ alert review รอบแรกและการสแกนช่องโหว่แทน ส่วนมนุษย์จะรับผิดชอบสิ่งที่ต้องการ judgment จริง — ตัดสินใจว่า AI ถูกหรือผิด ควบคุมว่า agent ไหนมีสิทธิ์เข้าถึงอะไร และตอบสนองเมื่อเกิดเหตุ บริษัทประกันภัยไซเบอร์จะเริ่มถามว่า agent ไหนสามารถโอนเงินได้ ตัวไหนแตะ customer data ได้ และมีใครปิดมันได้ทันทีไหม — คำถามเหล่านี้จะกลายเป็นเงื่อนไขของกรมธรรม์
ผลกระทบที่สามคือรัฐบาลต่าง ๆ จะพยายามสร้าง AI arms control แต่ไม่น่าจะได้ข้อตกลงโลกที่สะอาด การ track chip, ตรวจสอบ data center, และบันทึก model evaluation อาจทำให้ training run ขนาดใหญ่โปร่งใสขึ้น แต่ไม่สามารถหยุดทุกแล็บทุกประเทศทุกคนในห้องใต้ดินได้ และแรงจูงใจในการโกงมีมหาศาล
3 ทักษะที่จะทำให้รอดในยุคนี้
ประเด็นจริงสำหรับคนทั่วไปและธุรกิจคือ เราไม่สามารถหยุดการแข่งขันได้ และการหลีกเลี่ยง AI ก็ไม่ใช่ทางออก เพราะคนที่ใช้มันได้ดีจะก้าวหน้าเร็วกว่าคนที่ไม่ใช้มาก เป้าหมายจึงอยู่ที่การใช้ความสามารถนั้นโดยไม่สูญเสีย judgment, สิทธิ์การควบคุม, และความรับผิดชอบไป
ทักษะแรกคือการวินิจฉัยปัญหาจริง ก่อนที่จะให้ AI ทำอะไร ต้องรู้ก่อนว่ากำลังแก้ปัญหาใด มีตัวอย่างชัดเจนจากเจ้าของ med spa ที่คิดว่าธุรกิจขาด lead — แต่เมื่อตั้งคำถามว่า "ถ้าธุรกิจโต 10 เท่าพรุ่งนี้ กระบวนการไหนจะพังก่อน?" กลับพบว่า lead มีพอแล้ว แต่ลูกค้าที่จองไม่มาตามนัด การเพิ่ม lead เข้าไปอีกจะแค่ทำให้รอยรั่วแพงขึ้น Claude สามารถ execute แผนผิดได้เร็วมาก — judgment ในการเลือกปัญหาที่ถูกต้องยังคงเป็นของมนุษย์
ทักษะที่สองคือการควบคุมระบบ ธุรกิจหลายแห่งเชื่อม AI agent เข้ากับ email, CRM, payment system, และ codebase พร้อมกันโดยไม่ได้วางสิทธิ์การเข้าถึงให้ดี วิธีที่ถูกคือเริ่มจาก read-only access เสมอ ให้ agent draft ก่อนที่จะส่งอะไรออกไป และมีขั้นตอน human approval สำหรับทุกอย่างที่เกี่ยวกับเงิน การลบข้อมูล หรือ production deployment รวมถึง log ทุก action และมี kill switch ที่ใช้งานได้จริง
ทักษะที่สามคือการรับผิดชอบผลลัพธ์ AI สามารถร่างอีเมล เขียนโค้ด ตอบลูกค้า และให้คำแนะนำได้ แต่ไม่สามารถรับผิดชอบได้เมื่อมันเสนอราคาผิดหรือส่งหาคนผิด ก่อน build ต้องกำหนดตัวเลขที่ระบบนี้ควรเปลี่ยน ตั้ง baseline, target, และระยะเวลา บันทึก log ทุก interaction จริง และถามก่อนเสมอว่า "ระบบนี้ผิดพลาดได้ตรงไหน และใครรับผิดชอบตรวจสอบ?"
บทสรุป
การที่รัฐบาลปิด Fable ได้ 18 วันแต่ปิดความสามารถหรือการแข่งขันไม่ได้เลย เป็นการบอกสถานการณ์ได้ชัดมาก เป็นโลกที่ไม่มีกรรมการ มีแค่เส้นชัย และแรงจูงใจคือการชนะ สำหรับคนที่ใช้ AI ในงานประจำวัน บทบาทของเราก็ขยับขึ้นระดับตามไปด้วย — จากคนที่ prompt ได้ เป็นคนที่ตัดสินใจว่าอะไรควรถูก automate ควบคุมสิ่งที่ระบบสัมผัสได้ และรับผิดชอบต่อทุกอย่างที่ออกมาจากปลายอีกด้าน
