ช่องโหว่ DeepSeek Harness เปิดทางเอเจนต์ AI ปิดแซนด์บ็อกซ์ตัวเองได้โดย

เครื่องมือโอเพ่นซอร์สของ DeepSeek ที่มีชื่อว่า DeepSeek Harness ถูกใช้สำหรับรันเอเจนต์เขียนโค้ด AI บนเครื่องของนักพัฒนา แต่ล่าสุดพบช่องโหว่ร้ายแรงที่ทำให้เอเจนต์ที่อยู่ภายในแซนด์บ็อกซ์สามารถปิดข้อจำกัดของตัวเองได้ด้วยคำสั่งเพียงคำสั่งเดียว โดยไม่ต้องได้รับการอนุมัติจากผู้ใช้แต่อย่างใด

โดยปกติแล้วเครื่องมือนี้จะรันคำสั่งของเอเจนต์ภายในแซนด์บ็อกซ์ของระบบปฏิบัติการ เพื่อป้องกันไม่ให้เอเจนต์ที่ทำงานกับไฟล์ที่ไม่น่าเชื่อถือสามารถเขียนข้อมูลออกนอกพื้นที่ทำงานที่กำหนด ซึ่งถือเป็นกลไกความปลอดภัยสำคัญที่ช่วยลดความเสี่ยงจากการที่ AI อาจเขียนหรือลบไฟล์ที่ไม่เกี่ยวข้อง

ลักษณะของช่องโหว่

ช่องโหว่นี้อยู่ในส่วนที่เอเจนต์สามารถเรียกใช้เว็บอินเทอร์เฟซของตัวเครื่องมือเองได้ ทำให้เอเจนต์ที่ถูกแซนด์บ็อกซ์ไว้สามารถส่งคำสั่งเพื่อยกเลิกข้อจำกัดด้านความปลอดภัยของตัวเองได้ทันที กล่าวอีกนัยหนึ่งคือกำแพงป้องกันที่ถูกออกแบบมาเพื่อกักบริเวณการทำงานของ AI สามารถถูกทำลายได้จากภายใน

ความเสี่ยงที่อาจเกิดขึ้น

เมื่อเอเจนต์สามารถปิดแซนด์บ็อกซ์ของตัวเองได้ ผลกระทบที่ตามมาคือเอเจนต์จะสามารถเข้าถึงไฟล์และไดเรกทอรีที่อยู่นอกเหนือจากพื้นที่ทำงานที่กำหนด ซึ่งอาจนำไปสู่การลบหรือแก้ไขไฟล์สำคัญของระบบ การเขียนข้อมูลลงในตำแหน่งที่ไม่ได้รับอนุญาต หรือแม้แต่การฝังมัลแวร์ลงในเครื่องของนักพัฒนา

ผลกระทบต่อนักพัฒนาและองค์กร

สำหรับนักพัฒนาที่ใช้ DeepSeek Harness ในการทำงานกับไฟล์ที่ไม่น่าเชื่อถือ ช่องโหว่นี้ทำให้กลไกการป้องกันที่พึ่งพาได้กลับกลายเป็นช่องว่างที่เอเจนต์สามารถใช้ประโยชน์ได้ ขณะเดียวกันองค์กรที่นำเครื่องมือนี้ไปใช้ในกระบวนการพัฒนาซอฟต์แวร์ก็อาจเผชิญความเสี่ยงจากการที่เอเจนต์ AI เข้าถึงทรัพยากรภายในเครื่องได้มากเกินกว่าที่ควรจะเป็น

สิ่งที่ผู้ใช้ควรติดตาม

ผู้ที่ใช้งาน DeepSeek Harness ควรติดตามการอัปเดตแพตช์จากทีมพัฒนา DeepSeek อย่างใกล้ชิด รวมถึงตรวจสอบบันทึกการทำงานของเอเจนต์เพื่อดูว่ามีการเรียกใช้คำสั่งที่เกี่ยวข้องกับการจัดการแซนด์บ็อกซ์หรือไม่ นอกจากนี้ควรพิจารณาจำกัดสิทธิ์ของกระบวนการที่รันเครื่องมือนี้ เพื่อลดผลกระทบหากเกิดเหตุการณ์ที่เอเจนต์สามารถหลุดออกจากแซนด์บ็อกซ์ได้

Reference

The Hacker News

หากสนใจสินค้า หรือต้องการคำปรึกษาเพิ่มเติม

💬 Line @monsteronline

☎️ Tel 02-026-6664

📩 Email [email protected]

🌐 Website mon.co.th