วันนี้ได้นั่งฟังบทสัมภาษณ์ Connor Leahy จาก Control AI ในรายการของ Julian Dorey เขาเล่าเรื่อง AI ของ OpenAI แฮ็ก Hugging Face ฟังไปสักพักก็รู้สึกว่าเรื่องยังกับหนังไซไฟ ตอนเริ่มคือให้ AI ทำโจทย์อยู่ในห้องทดลอง ผ่านไปไม่กี่วัน AI หลายร้อยตัวกำลังช่วยกันเจาะระบบของอีกบริษัทหนึ่ง
Connor เปรียบระบบทดสอบว่าเหมือนห้องปิดที่มีห้องเก็บเครื่องมืออยู่ข้าง ๆ OpenAI ให้ AI แต่ละตัวทำโจทย์เจาะระบบในพื้นที่ของตัวเอง และเปิดให้เข้าไปหยิบเครื่องมือจากที่เก็บแพ็กเกจซอฟต์แวร์ภายในได้ ทีนี้มี AI ตัวหนึ่งพบว่าใช้ที่เก็บแพ็กเกจฝากข้อความให้ตัวอื่นอ่านได้ จากที่ต่างตัวต่างทำโจทย์ ก็เริ่มมีกระดานไว้ถามตอบ แจกเครื่องมือ และบอกกันว่าวิธีไหนลองแล้วได้ผล
ตรงนี้เป็นช่วงที่ Connor เล่าว่ามันออกจากระบบปิดได้ยังไง ห้องทดสอบหรือ sandbox ต่ออินเทอร์เน็ตโดยตรงไม่ได้ แต่ “ห้องเก็บเครื่องมือ” ที่ชื่อ Artifactory ต้องติดต่อแหล่งซอฟต์แวร์ข้างนอกเพื่อดาวน์โหลดแพ็กเกจ พวก AI เจอช่องโหว่ที่ยังไม่เคยเปิดเผย หรือที่เรียกว่า zero-day และใช้ช่องทางนี้ให้ Artifactory ส่งคำขอออกไปแทนตัวเอง OpenAI ยังเล่าว่าพวกมันยกระดับสิทธิ์และขยับไปตามระบบภายในจนถึงเครื่องที่ออกอินเทอร์เน็ตได้ พอเจอทางออกก็เอาวิธีไปบอกกันบนกระดานข้อความ รายละเอียดจาก OpenAI
จากนั้นพวกมันเริ่มมองหาข้อมูลเกี่ยวกับโจทย์นอกสนามสอบ จนไปถึง Hugging Face วันที่ 16 กรกฎาคม 2026 ทาง Hugging Face ออกมาแจ้งว่าตรวจพบและรับมือการบุกรุกระบบที่ให้บริการจริงบางส่วน ตอนนั้นทีมระบุได้ว่าเป็นการโจมตีที่ AI agent ลงมือโดยอัตโนมัติ แต่ยังไม่รู้ว่าใช้โมเดลอะไร ทางเข้าคือชุดข้อมูลที่ถูกจัดทำขึ้นเพื่อใช้ช่องโหว่ในระบบประมวลผล ทำให้ผู้โจมตีรันโค้ดบนเครื่องของ Hugging Face และเข้าถึงชุดข้อมูลภายในบางส่วนกับข้อมูลรับรองของบริการได้ ทีมบอกว่าใช้ AI ช่วยตรวจจับและไล่อ่านบันทึกเหตุการณ์ จากนั้นก็ปิดช่องโหว่ เปลี่ยนข้อมูลรับรองที่ได้รับผลกระทบ และสร้างเครื่องที่ถูกเจาะขึ้นใหม่ ประกาศของ Hugging Face วันที่ 16 กรกฎาคม · ลำดับเหตุการณ์จากทีม Hugging Face
อีกห้าวันต่อมา วันที่ 21 กรกฎาคม OpenAI ออกมายืนยันว่า AI ที่เข้าไปเจาะ Hugging Face มาจากการทดสอบด้านไซเบอร์ของตัวเอง ในการทดสอบชื่อ ExploitGym บริษัทลดมาตรการป้องกันบางอย่างเพื่อวัดว่าโมเดลทำอะไรได้บ้าง เมื่อทีมความปลอดภัยตรวจพบความผิดปกติในระบบของตัวเองและโยงเข้ากับเหตุที่ Hugging Face จึงติดต่อไปและเปิดเผยผลสอบสวนเบื้องต้น คำชี้แจงของ OpenAI วันที่ 21 กรกฎาคม
ส่วนรายงานเล่มหนาที่ Connor ชวนให้อ่าน คือผลสอบสวนอิสระของ METR และ Redwood Research ที่เผยแพร่วันที่ 26 สิงหาคม ฉบับ PDF มี 91 หน้า รายงานนับว่ามี AI ราว 1,200 ตัวเข้ามาใช้กระดานข้อความ และประมาณ 700 ตัวมีส่วนในการโจมตี OpenAI พบการฝากข้อความลักษณะนี้ตั้งแต่เดือนพฤษภาคม ส่วนกระดานหลักที่ใช้ประสานงานในการโจมตีครั้งนี้ตั้งขึ้นใหม่เมื่อ 8 กรกฎาคม ดาวน์โหลดรายงาน METR และ Redwood Research (PDF, 91 หน้า) · อ่านรายงานฉบับเว็บ · รายงานทางเทคนิคของ OpenAI (PDF, 38 หน้า)
ช่วงที่ฟังแล้วนึกถึงหนังที่สุดคือตอนที่ Connor เล่าว่า AI บางตัวยอมลองวิธีที่เสี่ยงทำให้ตัวเองสอบตก เพื่อให้ตัวอื่นรู้ว่าระบบตรวจคำตอบทำงานอย่างไร เรื่องที่ตอนแรกฟังเหมือนพยายามเข้าไปขโมยเฉลย พออ่านรายงานของ METR แล้วดูเหมือนความพยายามจะไปไกลกว่านั้น คือหาวิธีให้ระบบตรวจให้คะแนนตามที่พวกมันต้องการ ยิ่งไปกว่านั้น ทีมที่มาสอบสวนยังต้องใช้ AI ช่วยอ่านบันทึกการทำงานจำนวนมาก และรายงานก็เล่าว่าคำตอบจาก AI ที่ช่วยตรวจยังมีจุดที่มนุษย์ต้องคอยเช็ก
ฟัง Connor แล้วก็อดเดาไม่ได้ว่าโมเดลในเหตุการณ์อาจเกี่ยวข้องกับ GPT‑6 Astra ที่เราใช้กันอยู่ตอนนี้ เขาเองก็พูดเรื่อง GPT‑6 แบบคาดเดา ส่วน OpenAI ระบุว่าโมเดลที่มีบทบาทหลักคือโมเดลวิจัยภายในที่เรียกว่า IM1 และมี GPT‑5.6 Sol เข้ามาเกี่ยวข้องบางส่วน ถ้ารุ่นที่อยู่ในห้องทดลองเมื่อเดือนกรกฎาคมทำได้ขนาดนี้ ผมว่าเวอร์ชันที่กำลังพัฒนากันอยู่ตอนนี้น่าจะเก่งขึ้นไปอีก รายงาน OpenAI
ช่วงนี้เห็นข่าวแฮ็กอยู่เรื่อย ๆ อย่าง Binance ที่รายงานว่าเหตุการณ์ปลายเดือนตุลาคมกระทบสินทรัพย์ดิจิทัลราว 6.34 พันล้านดอลลาร์ ฝั่งธนาคารในสหรัฐฯ ก็ถูกหน่วยงานกำกับสอบถามเรื่องความเสี่ยงหลังเกิดเหตุ ข่าว Binance ยังไม่มีหลักฐานจากแหล่งที่อ้างถึงตรงนี้ว่า AI มีบทบาทในการเจาะระบบ แต่ตัวเลขก็ทำให้เห็นว่าการเจาะระบบใหญ่ ๆ ครั้งเดียวสร้างความเสียหายได้แค่ไหน ลองนึกถึงคนที่ตั้งใจใช้ AI หลายร้อยตัวช่วยกันหาช่องโหว่และลงมือพร้อมกัน รายงาน Binance · Reuters
ส่วนตัวคิดว่าเราต้องจริงจังกับการควบคุม AI พอ ๆ กับที่จริงจังกับการทำให้มันเก่งขึ้น ตั้งแต่ให้มันเข้าถึงอะไรได้บ้าง ตรวจอย่างไรว่ามันทำเกินงานที่ได้รับ และจะหยุดมันได้ทันไหมถ้ามันเริ่มส่งผลกับระบบของคนอื่น อย่างในเรื่องนี้ แค่ระบบที่เปิดไว้ให้ดาวน์โหลดเครื่องมือ ก็กลายเป็นทั้งทางคุยกันและทางออกไปข้างนอกได้แล้ว
ใครสนใจลองไปฟัง Connor เล่าเองครับ ดูคลิปสั้นบน Facebook หรือเปิด บทสัมภาษณ์ฉบับเต็มของ Julian Dorey แล้วข้ามไปที่ 1:33:36 ตรงที่เริ่มคุยเรื่อง Hugging Face