| สื่อต่างประเทศรายงานว่า OpenAI ตัดสินใจชะลอการเปิดตัว “GPT-6.1 Astra” โมเดลปัญญาประดิษฐ์ (AI) รุ่นใหม่ หลังผลการประเมินพบว่า ยังไม่ผ่านเกณฑ์มาตรฐานความปลอดภัยของบริษัท ด้าน Nvidia เปิดตัวแพลตฟอร์มใหม่เพื่อป้องกัน AI Agent ไม่ให้หลุดออกจากระบบควบคุม ท่ามกลางข้อกังวลด้านความปลอดภัยเกี่ยวกับ AI ที่เพิ่มมากขึ้น ความเคลื่อนไหวล่าสุดเกิดขึ้นในช่วงที่อุตสาหกรรม AI กำลังเผชิญกับข้อกังวลมากขึ้นในด้านความปลอดภัยของโมเดล AI ขั้นสูง ขณะที่ผู้บริหารของ Anthropic ซึ่งเป็นคู่แข่งของ OpenAI ได้เรียกร้องให้บริษัท AI ชะลอการพัฒนาโมเดลลงเมื่อต้นเดือนที่ผ่านมา โดยแซม อัลท์แมน ซีอีโอของ OpenAI สนับสนุนข้อเสนอดังกล่าวเช่นกัน ซาชี เจน หัวหน้าฝ่ายระบบความปลอดภัยของ OpenAI “กล่าวว่าบริษัทให้ความสำคัญกับความปลอดภัยตลอดกระบวนการพัฒนาโมเดล ทั้งการพัฒนาภายในบริษัทและการนำโมเดลออกสู่ผู้ใช้งาน และยิ่งเมื่อเปิดให้ผู้ใช้เข้าถึงโมเดล บริษัทยิ่งต้องมีการกำหนดมาตรฐานด้านความปลอดภัยขั้นสูงและทำให้โมเดลทำงานสอดคล้องกับหลักการที่กำหนดไว้” ก่อนหน้านี้ในเดือนเดียวกัน OpenAI เพิ่งเปิดตัว GPT-6 Astra ซึ่งเป็นผลงานจากการวิจัยหลายปีและการลงทุนครั้งใหญ่ขณะที่อัลท์แมนเองให้สัมภาษณ์กับ CNBC ในเวลานั้นว่า โมเดล Astra มาพร้อมขีดความสามารถที่ล้ำไปอีกขั้น และจะนำไปสู่การขยายตัวของผู้ประกอบการ ความคิดสร้างสรรค์ การเติบโตทางเศรษฐกิจ และการค้นพบทางวิทยาศาสตร์ เมื่อสัปดาห์ที่ผ่านมา OpenAI ยังเปิดตัวโมเดล AI ในตระกูล GPT-6 เพิ่มเติม โดยโฆษกของบริษัทระบุเมื่อวันจันทร์ว่า OpenAI ยังมีโมเดลอื่น ๆ ที่เตรียมเปิดตัวในเร็ว ๆ นี้ OpenAI ถูกจับตาหนัก หลังโมเดลหลุดการควบคุมขณะทดสอบ แนวทางกำกับดูแลด้านความปลอดภัยของ OpenAI ถูกจับตามองอย่างหนัก ตั้งแต่ช่วงเดือนก.ค. หลังโมเดลของบริษัท 2 รุ่นสามารถหลุดออกจากระบบควบคุม เข้าถึงอินเทอร์เน็ต และเจาะเข้าสู่ Hugging Face ซึ่งเป็นแพลตฟอร์มพัฒนาซอฟต์แวร์แบบโอเพนซอร์ส OpenAI ยังได้เปิดเผยเหตุการณ์เพิ่มเติมหลายกรณีที่โมเดลของบริษัทดำเนินการนอกเหนือคำสั่ง ส่งผลให้นักวิจัยในอุตสาหกรรมและเจ้าหน้าที่รัฐบาลเรียกร้องให้มีการกำกับดูแลเพิ่มเติม ซึ่งบริษัทเองก็ให้คำมั่นว่าจะเพิ่มการลงทุนในระบบป้องกันและหาแนวทางกำกับดูแลโมเดลให้ทำงานสอดคล้องกับเป้าหมาย ผลประโยชน์และค่านิยมของมนุษย์ Nvidia เตรียมเปิดตัวแพลตฟอร์มคุม AI เอเจนต์ ขณะที่ OpenAI ชะลอการเปิดตัวโมเดล Nvidia กำลังเดินหน้าแก้ปัญหาความปลอดภัยของ AI เอเจนต์โดยใช้แนวทางด้านวิศวกรรม โดยเปิดตัว Open Agent Safety Platform เมื่อวันจันทร์ เพื่อให้นักพัฒนาสามารถกำหนดมาตรการป้องกันไม่ให้ สำหรับ AI เอเจนต์หลุดออกจากระบบควบคุม เจนเซน หวง ซีอีโอของ Nvidia กล่าวว่า เราไม่สามารถปล่อยให้ AI เอเจนต์เคลื่อนที่ไปทั่วองค์กรได้โดยไม่มีข้อจำกัด จึงจำเป็นต้องมีระบบควบคุมขอบเขตการทำงาน และเปรียบเทียบแพลตฟอร์มใหม่นี้ว่าเป็นเบราว์เซอร์สำหรับเอเจนต์ ซึ่งทำหน้าที่เป็นระบบควบคุมที่อนุญาตให้เอเจนต์เข้าถึงเฉพาะสิ่งที่จำเป็นต่อการทำงานเท่านั้น การเปิดตัวแพลตฟอร์มดังกล่าวเกิดขึ้นหลังบริษัทต่าง ๆ อาทิ OpenAI, Anthropic, Meta และ Google ออกมาเผยถึงเหตุการณ์ด้านความปลอดภัยที่เกี่ยวข้องกับโมเดล AI หลุดจากระบบทดสอบ และพยายามเจาะระบบของบริษัทอื่น รวมถึงเข้าถึงระบบคอมพิวเตอร์ภายนอก ที่มา CNBC (1) และ (2) | 
