GitHub Copilot ปฏิเสธคำขออันตรายในแชท แต่กลับเขียนโค้ดอันตรายให้เมื่อแยกเป็นขั้นตอนย่อย

งานวิจัยล่าสุดจาก Abhishek Kumar และ Carsten Maple เผยให้เห็นช่องโหว่ด้านความปลอดภัยของ AI ช่วยเขียนโค้ดที่หลายคนไว้วางใจอย่าง GitHub Copilot ถึงแม้ Copilot จะปฏิเสธคำขอที่เป็นอันตรายได้ดีในหน้าต่างแชท แต่มันกลับสามารถสร้างโค้ดอันตรายเดียวกันนี้ได้ หากคำขอดังกล่าวถูกแยกย่อยเป็นขั้นตอนเล็กๆ ที่ดูไม่เป็นพิษเป็นภัยในตัวแก้ไขโค้ด

นักวิจัยทดสอบผ่าน Copilot, Claude จาก Anthropic, และ Gemini จาก Google โดยพบว่าโมเดล AI หลายตัวมีพฤติกรรมที่ย้อนแย้งเช่นนี้ ซึ่งส่งสัญญาณเตือนถึงความเสี่ยงด้านความปลอดภัยทางไซเบอร์ที่ซ่อนอยู่ในเครื่องมือพัฒนาโปรแกรมยุคใหม่

จุดอ่อนของการป้องกันคำขอใน AI

ระบบ AI ทั่วไปมักถูกฝึกมาให้ปฏิเสธคำขอที่อาจก่อให้เกิดอันตราย เช่น การขอให้เขียนมัลแวร์หรือโค้ดโจมตีระบบ แต่การป้องกันนี้ทำงานได้ดีเฉพาะเมื่อผู้ใช้ถามตรงๆ ผ่านช่องทางแชทเท่านั้น

ทีมวิจัยค้นพบว่าหากผู้ใช้ที่มีเจตนาร้ายแบ่งคำขอออกเป็นหลายส่วนและแทรกไว้ในไฟล์โค้ดที่กำลังพัฒนา AI จะไม่สามารถตรวจจับเจตนาที่แท้จริงได้ ส่งผลให้มันยังคงสร้างโค้ดที่เป็นอันตรายออกมาโดยไม่สงสัย

ผลการทดสอบกับโมเดล AI หลากหลาย

นักวิจัยได้ทดสอบพฤติกรรมนี้กับโมเดล AI ชั้นนำหลายตัว ไม่ว่าจะเป็น GitHub Copilot, Claude และ Gemini ซึ่งล้วนแสดงผลลัพธ์ในทิศทางเดียวกัน นั่นคือการยอมเขียนโค้ดอันตรายเมื่อถูกนำเสนอในรูปแบบที่ซับซ้อน

วิธีที่ใช้ในการทดสอบคือการสร้างสถานการณ์จำลองที่ผู้ใช้ค่อยๆ ป้อนคำสั่งย่อยๆ ที่ดูไม่น่าสงสัยลงในโค้ด จากนั้นจึงสังเกตว่า AI จะต่อยอดและเติมเต็มคำสั่งเหล่านั้นให้กลายเป็นโค้ดที่สมบูรณ์และเป็นอันตรายหรือไม่

ความเสี่ยงต่อองค์กรและนักพัฒนา

ช่องโหว่นี้สร้างความกังวลในวงการ Cybersecurity เนื่องจากเครื่องมืออย่าง GitHub Copilot ถูกใช้อย่างแพร่หลายในการพัฒนาโปรแกรม ทั้งในองค์กรขนาดใหญ่และสตาร์ทอัพ หากผู้ไม่หวังดีสามารถหลอกให้ AI ช่วยสร้างเครื่องมือโจมตีได้ ความเสียหายอาจเกิดขึ้นในวงกว้าง

นอกจากนี้ นักพัฒนาหลายคนมักไว้วางใจโค้ดที่ AI แนะนำโดยไม่ตรวจสอบอย่างถี่ถ้วน ซึ่งยิ่งเพิ่มความเสี่ยงที่โค้ดอันตรายจะถูกนำไปใช้จริงโดยไม่รู้ตัว องค์กรจึงต้องเพิ่มมาตรการตรวจสอบโค้ดและสร้างความตระหนักให้แก่ทีมพัฒนา

แนวทางป้องกันและอนาคตของ AI ในการเขียนโค้ด

ผู้พัฒนา AI จำเป็นต้องปรับปรุงระบบตรวจจับเจตนาร้ายให้มีประสิทธิภาพมากยิ่งขึ้น โดยเฉพาะการวิเคราะห์บริบทของโค้ดโดยรวม แทนที่จะพิจารณาเฉพาะแต่ละคำขออย่างโดดเดี่ยว

การเพิ่มชั้นความปลอดภัย เช่น การตรวจสอบโค้ดโดยมนุษย์ และการใช้เครื่องมือวิเคราะห์ความปลอดภัยอัตโนมัติ ยังคงเป็นสิ่งจำเป็นเพื่อลดความเสี่ยงจาก AI จนกว่าตัว AI เองจะฉลาดพอที่จะป้องกันตัวเองจากกลอุบายเหล่านี้ได้

Reference

หากสนใจสินค้า หรือต้องการคำปรึกษาเพิ่มเติม

💬 Line @monsteronline

☎️ Tel 02-026-6664

📩 Email [email protected]

🌐 ดูสินค้าเพิ่มเติม mon.co.th