การตรวจสอบครั้งนี้ถือเป็นการบังคับใช้แนวทางตามกฎหมายอย่างเป็นทางการครั้งแรกของสหรัฐฯ เพื่อตรวจสอบ AI เอเจนต์ที่ทำงานนอกเหนือการควบคุม ซึ่งเหตุการณ์ลักษณะดังกล่าวเริ่มปรากฏมากขึ้น หลังมีรายงานครั้งแรกเมื่อดือนก.ค. และนำไปสู่ความกังวลว่า AI อาจเป็นอันตรายต่อมนุษย์หากวันหนึ่งไม่สามารถควบคุมได้
แหล่งข่าวระบุว่า FTC จะออกคำสั่งอย่างเป็นทางการเพื่อขอข้อมูล รวมถึงบังคับให้ผู้บริหารบริษัท AI เข้าชี้แจงต่อหน่วยงาน โดยครอบคลุมทั้ง Anthropic, OpenAI และ METR ซึ่งเป็นกลุ่มวิจัยด้านความปลอดภัยของ AI ซึ่งทั้ง Anthropic และ OpenAI เคยใช้บริการของ METR เพื่อดำเนินการตรวจสอบเหตุการณ์ด้านความปลอดภัยที่เกี่ยวเนื่องกับเทคโนโลยี AI เอเจนต์ของบริษัท
ทั้งนี้ แอนดรูว์ เฟอร์กูสัน ประธาน FTC แสดงความกังวลเกี่ยวกับบริษัทเหล่านี้อยู่ก่อนแล้ว ก่อนที่ AI เอเจนต์ของ OpenAI จะเจาะระบบแพลตฟอร์มโอเพนซอร์ส Hugging Face เมื่อเดือนก.ค. และเมื่อเกิดเหตุการณ์ดังกล่าวขึ้น จึงยิ่งเพิ่มความเร่งด่วนในการตรวจสอบปัญหานี้
เมื่อสัปดาห์ที่ผ่านมา เฟอร์กูสันยังให้สัมภาษณ์กับรอยเตอร์ว่า นักพัฒนาที่สั่งให้ AI เอเจนต์ทำการทดสอบด้านความปลอดภัยทางไซเบอร์จนส่งผลให้เกิดการแฮ็กระบบนั้น ควรต้องรับผิดชอบความเสียหายที่เกิดขึ้น และย้ำว่า สหรัฐฯ ควรพิจารณาใช้กฎหมายที่มีอยู่ก่อนที่จะออกกฎหมายใหม่เพื่อกำกับดูแล AI
