RBA จับตา Anthropic Mythos อย่างใกล้ชิด หลังบริษัทเทคโนโลยีด้านปัญญาประดิษฐ์ระบุว่าโมเดลดังกล่าวมีความสามารถเพียงพอที่จะเอื้อให้เกิดการโจมตีทางไซเบอร์ที่ซับซ้อนได้ โดยประเด็นนี้ทำให้หน่วยงานกำกับดูแลของออสเตรเลียต้องเร่งประเมินความเสี่ยงที่อาจส่งผลต่อเสถียรภาพและความปลอดภัยของระบบการเงินในวงกว้าง

ธนาคารกลางออสเตรเลียระบุว่ากำลัง “ประสานงานกับหน่วยงานกำกับดูแลเพื่อนบ้าน รัฐบาล และหน่วยงานที่ถูกกำกับ” เพื่อประเมินผลกระทบจากความก้าวหน้าทางเทคโนโลยีดังกล่าว และรักษาความปลอดภัยรวมถึงความยืดหยุ่นของระบบการเงินอย่างต่อเนื่อง RBA ยังเป็นประธานคณะกรรมการกำกับดูแลด้านการเงินของออสเตรเลีย (Council of Financial Regulators) ซึ่งรวมหน่วยงานกำกับดูแลด้านตลาด บริษัทกำกับดูแลกิจการ และกระทรวงการคลังไว้ด้วยกัน

เหตุใด Anthropic Mythos จึงถูกจับตาในมุมความเสี่ยงไซเบอร์

รายงานจาก Bloomberg ระบุว่าในวันเดียวกับที่ Anthropic ประกาศแผนจะปล่อยโมเดลให้บริษัทจำกัดกลุ่มทดลอง มีผู้ใช้ที่ไม่ได้รับอนุญาตกลุ่มหนึ่งในฟอรัมออนไลน์ส่วนตัวเข้าถึง Mythos ได้ ขณะเดียวกัน Anthropic ระบุว่า Mythos สามารถระบุและใช้ประโยชน์จากช่องโหว่ “ในระบบปฏิบัติการหลักทุกระบบและเว็บเบราว์เซอร์หลักทุกตัวเมื่อได้รับคำสั่งจากผู้ใช้”

การเปิดเผยดังกล่าวทำให้ประเด็นความปลอดภัยของ AI ถูกยกระดับจากเรื่องเทคโนโลยีไปสู่เรื่องกำกับดูแล โดยเฉพาะเมื่อโมเดล AI มีศักยภาพช่วยเพิ่มประสิทธิภาพทั้งในด้านการวิเคราะห์ข้อมูลและการโจมตีเชิงเทคนิค ซึ่งอาจทำให้ผู้ไม่หวังดีใช้เครื่องมือเดียวกันเพื่อเจาะระบบที่มีความอ่อนไหวสูง รวมถึงระบบของสถาบันการเงิน

ผลกระทบต่อหน่วยงานกำกับดูแลและสถาบันการเงิน

ผลกระทบโดยตรงของเหตุการณ์นี้คือหน่วยงานกำกับดูแลจำเป็นต้องเพิ่มการประเมินความเสี่ยงและประสานงานข้ามหน่วยงานมากขึ้น เพื่อให้การติดตามภัยคุกคามด้านไซเบอร์สอดคล้องกับความเร็วของเทคโนโลยี AI ส่วนสถาบันการเงินก็ต้องยกระดับการป้องกันระบบ การตรวจจับความผิดปกติ และมาตรการรับมือเหตุฉุกเฉินให้เข้มงวดกว่าเดิม

ข่าวนี้ยังสะท้อนให้เห็นว่า AI ไม่ได้เป็นเพียงเครื่องมือเพิ่มประสิทธิภาพธุรกิจเท่านั้น แต่ยังเป็นประเด็นที่เชื่อมโยงกับความมั่นคงของระบบการเงินในเชิงโครงสร้าง เมื่อความสามารถของโมเดล AI สูงขึ้น ความเสี่ยงด้านไซเบอร์ก็อาจพัฒนาไปพร้อมกัน จนกลายเป็นโจทย์ใหม่ของทั้งภาครัฐและเอกชนในการกำกับดูแล

Project Glasswing และการเข้าถึงของผู้ทดสอบล่วงหน้า

Anthropic ระบุว่าได้จำกัดการเข้าถึง Mythos ให้แก่ผู้ให้บริการซอฟต์แวร์กลุ่มคัดเลือกภายใต้โครงการที่เรียกว่า Project Glasswing เพื่อช่วยให้บริษัททดสอบและเสริมความแข็งแกร่งของการป้องกันต่อการโจมตีที่อาจเกิดขึ้น ในช่วงไม่กี่วันที่ผ่านมา มีสถาบันการเงินและหน่วยงานรัฐบาลทั้งสองฝั่งมหาสมุทรแอตแลนติกเพิ่มจำนวนผู้ขอเข้าร่วมเป็นผู้ทดสอบล่วงหน้า เพื่อปกป้องระบบของตนจากผู้ประสงค์ร้าย

สำหรับตลาดโดยรวม ข่าวนี้ชี้ชัดว่าความเสี่ยงด้านความปลอดภัยของ AI กำลังกลายเป็นประเด็นกำกับดูแลที่ต้องติดตามอย่างใกล้ชิด ไม่ใช่เพียงเรื่องของบริษัทเทคโนโลยีรายเดียว แต่เกี่ยวพันถึงความเชื่อมั่นของระบบการเงินและความพร้อมของหน่วยงานกำกับดูแลในการตอบสนองต่อภัยคุกคามที่ซับซ้อนมากขึ้น

สิ่งที่ต้องติดตามจาก RBA และ Anthropic

• ความคืบหน้าของ RBA และหน่วยงานกำกับดูแลที่เกี่ยวข้องในการประเมินความเสี่ยงจาก Mythos
• การขยายการเข้าถึง Project Glasswing และการทดสอบจากผู้ให้บริการซอฟต์แวร์กลุ่มคัดเลือก
• การตอบสนองของสถาบันการเงินและหน่วยงานรัฐบาลต่อความเสี่ยงไซเบอร์ที่เชื่อมโยงกับ AI