|
การ์ทเนอร์ อิงก์ บริษัทวิจัยและให้คำปรึกษาชั้นนำด้านธุรกิจและเทคโนโลยี เปิดเผยว่า ปัจจุบันมีภัยคุกคามสำคัญและคาดการณ์ได้ยากอยู่ 4 ประการ ซึ่งเป็นจุดที่กลุ่มผู้โจมตีมีความได้เปรียบอย่างมากเพื่อใช้เจาะช่องโหว่ขององค์กรเป้าหมายได้สำเร็จ ภัยคุกคามเหล่านี้ประกอบไปด้วย ดีปเฟก (Deepfakes), การโจมตีแอปพลิเคชัน AI (AI Application Compromise), การโจมตีด้วยพรอมต์ (Prompt Injection) และภัยคุกคามต่อห่วงโซ่อุปทานซอฟต์แวร์ (Software Supply Chains)
ขอบเขตของภัยคุกคาม ThreatScape คาดการณ์โดยการ์ทเนอร์ (ภาพที่ 1) ได้จัดหมวดหมู่ภัยคุกคามออกเป็น 6 หมวดที่แตกต่างกัน โดยใช้แกนวัด 2 แกนหลัก ได้แก่:
· การจำแนกภัยคุกคาม โดยพิจารณาจากคุณภาพและปริมาณข้อมูล ที่เรียกว่า "สัญญาณภัยคุกคาม" หรือ Threat Signal ที่มีอยู่
· การประเมินภัยคุกคาม โดยอิงจากความสามารถขององค์กรในการจัดการกับภัยคุกคามนั้น ๆ และการประเมินว่าผู้โจมตีเป็นฝ่ายกุมความได้เปรียบอยู่หรือไม่
จอห์น วัตตส์ (John Watts) รองประธานนักวิเคราะห์การ์ทเนอร์ กล่าวว่า "การที่บริษัทผู้พัฒนา AI ชั้นนำ พยายามนำเสนอแนวคิดความปลอดภัยใหม่ ๆ เข้ามา ได้สร้าง 'สัญญาณรบกวน' จำนวนมากให้แก่สภาพแวดล้อมภัยคุกคามที่เดิมทีก็วุ่นวายอยู่แล้ว โดยผู้นำไซเบอร์ซีเคียวริตี้จำเป็นต้องมีความสามารถแยกแยะ 'สัญญาณภัยคุกคามที่แท้จริง' ออกจากสัญญาณรบกวนเหล่านั้นให้จงได้ เพื่อรับมือกับการเปลี่ยนแปลงของภูมิทัศน์ภัยคุกคามได้ทันเวลา”
ภายในงานสัมมนา Gartner Security & Risk Management Summit นักวิเคราะห์วัตตส์ได้อธิบายถึงวิธีที่ผู้บริหารความมั่นคงปลอดภัยสารสนเทศ (หรือ CISO) ใช้รับมือกับภัยคุกคามสำคัญทั้ง 4 ประการนี้ไว้ดังนี้:
1.การโจมตีไปที่แอปพลิเคชัน AI (AI Application Compromise)
การโจมตีแอปพลิเคชัน AI ถูกจัดให้อยู่ในกลุ่มภัยคุกคามสำคัญ เนื่องจากผู้โจมตีพุ่งเป้าไปที่เครื่องมือ AI ขององค์กรที่มีจำนวนเพิ่มมากขึ้นเรื่อย ๆ ทั้งระบบภายในและภายนอกที่เปิดให้สาธารณะใช้งาน ปัจจุบันพื้นที่การโจมตียังขยายวงกว้าง รวมไปถึงระบบเอเจนต์ที่พัฒนาขึ้นเฉพาะ หรือ Custom-built agents, การเชื่อมต่อกับระบบภายนอก หรือ Third-party integrations และแอปพลิเคชันเฉพาะสำหรับพนักงาน หรือ Employee-only applications ซึ่งมักทำให้ข้อมูลที่ละเอียดอ่อนหรือรหัสผ่านรั่วไหล หากระบบควบคุมความปลอดภัยมีความหละหลวม
"ทีมไซเบอร์ซีเคียวริตี้จำเป็นต้องขยายขอบเขตการทำงานให้เกินกว่าการปกป้องซอฟต์แวร์แบบดั้งเดิม โดยต้องสำรวจและจัดทำผังพื้นที่การโจมตีรูปแบบใหม่ ๆ ที่เกิดจากโมเดล Generative AI หรือ Agentic Tools โดยการนำกรอบการทำงาน TRiSM (Trust, Risk and Security Management ในระบบ AI) ของการ์ทเนอร์มาปรับใช้ จะช่วยให้ทีมไซเบอร์ทราบว่าควรจะนำมาตรการลดความเสี่ยงเฉพาะของ AI ไปฝังไว้ในขั้นตอนการพัฒนาแอปพลิเคชัน AI ได้อย่างไร" วัตตส์กล่าวเสริม
การรักษาความปลอดภัยให้แอปพลิเคชัน AI ไม่จำเป็นต้องเริ่มนับหนึ่งเสมอไป ปัจจุบันมีสตาร์ทอัปด้านนี้หลายรายที่นำเสนอโซลูชันที่มีความสามารถใช้ได้ในวงกว้างและลึก ตอบโจทย์องค์กรที่เริ่มมีความพร้อมสูงและต้องการความปลอดภัยที่รัดกุมรอบด้าน สำหรับรับมือกับภัยคุกคามประเภทนี้ ผู้บริหาร CISO ควรนำแนวปฏิบัติที่ดีที่สุดของวงจรการพัฒนาซอฟต์แวร์ที่ปลอดภัยหรือ Secure Development Life Cycle และ การจำลองรูปแบบภัยคุกคามหรือ Threat Modeling มาปรับใช้กับแอปพลิเคชัน AI นอกจากนี้ ควรยกระดับความปลอดภัยข้อมูลโดยจัดหมวดหมู่ข้อมูลให้ดีขึ้น พร้อมนำระบบควบคุมการเข้าถึงตามวัตถุประสงค์ หรือที่เรียกว่า Purpose-Based Access Control - PBAC มาใช้ และติดตั้งระบบตรวจสอบการทำงาน
2. การปลอมแปลงตัวตนด้วยดีปเฟก (Identity Impersonation Using Deepfakes)
การมาถึงของ GenAI ทำให้ปริมาณ ความสมจริง และการเข้าถึงเครื่องมือสร้างดีปเฟกเพิ่มขึ้นมหาศาล ไม่ว่าจะเป็นเสียง วิดีโอ หรือภาพ ทั้งในรูปแบบของสื่อที่บันทึกไว้ล่วงหน้าหรือสร้างขึ้นเรียลไทม์ เหตุนี้จึงเพิ่มโอกาสให้แฮกเกอร์สามารถปลอมแปลงตัวตนเพื่อโจมตีในหลากหลายช่องทาง ดีปเฟกยังสามารถนำมาใช้โจมตีระบบตรวจสอบตัวตนด้วยชีวมิติ (Biometric Authentication เช่น การสแกนหน้า/เสียง), ใช้ร่วมกับกลอุบายวิศวกรรมทางสังคม (Social Engineering) เพื่อพุ่งเป้าหลอกลวงพนักงานแบบเรียลไทม์ และใช้แทรกซึมหรือหลอกลวงกระบวนการสรรหาบุคลากรได้
"การใช้ดีปเฟกของผู้โจมตียังพัฒนาก้าวหน้าอย่างต่อเนื่อง และกลายเป็นเรื่องปกติแล้วเพื่อทำให้การหลอกลวงแบบ Phishing ตรวจจับได้ยากขึ้น ไม่มีมาตรการควบคุมทางไซเบอร์เพียงหนึ่งเดียวที่จะปกป้องคุณได้ทั้งหมด ดังนั้นองค์กรจึงควรเสริมความแข็งแกร่งให้กับกระบวนการทางธุรกิจ การยกระดับความตระหนักรู้ของบุคลากร และการติดตั้งเทคโนโลยีตรวจจับดีปเฟกเท่าที่จะทำได้อย่างบูรณาการ" วัตตส์กล่าว
ทีมไซเบอร์ซีเคียวริตี้ต้องมองให้ไกลไปกว่า "การตรวจจับดีปเฟก" แต่ต้องเพิ่มความเข้มงวดเพื่อปกป้องความถูกต้องของการสื่อสารเรียลไทม์ รวมถึงกระบวนการตรวจสอบและยืนยันตัวตนด้วยชีวมิติ โดยพิจารณาจากสิ่งต่อไปนี้:
· สร้างกลยุทธ์การลดความเสี่ยงที่ยืดหยุ่น: พึงระลึกไว้ว่า ลำพังแค่เทคโนโลยีตรวจจับดีปเฟกนั้นไม่เพียงพอที่จะป้องกันการโจมตีด้วยการปลอมแปลงตัวตน แต่ต้องมุ่งเน้นไปที่การควบคุมความปลอดภัยแบบเป็นชั้น ๆ หรือ Layers of Controls ซึ่งจะแตกต่างกันไปตามยูสเคสการใช้งาน
· ปกป้องการยืนยันตัวตนด้วยชีวมิติ: มุ่งเน้นไปที่การตรวจจับการโจมตีแบบ Presentation Attack อาทิ การใช้รูปหรือหน้ากากหลอกกล้อง และ Injection Attack อาทิ การสอดแทรกข้อมูลภาพ/เสียงเข้าไปในระบบโดยตรง ควบคู่ไปกับการวิเคราะห์สัญญาณเชิงบริบท (Contextual Signals)
· รักษาความปลอดภัยการประชุมออนไลน์: บังคับใช้นโยบายการเข้าถึงแบบมีเงื่อนไข (Conditional Access Policies) เพื่อให้ผู้เข้าร่วมประชุมต้องยืนยันตัวตนอย่างแน่นหนา และทำการวิเคราะห์ข้อมูล Metadata ของการโทรนั้น ๆ
3. ภัยคุกคามต่อห่วงโซ่อุปทานซอฟต์แวร์ (Software Supply Chain Threats)
"วิวัฒนาการของผลิตภัณฑ์ GenAI จะยิ่งเร่งให้เกิดแนวโน้มการโจมตีห่วงโซ่อุปทานซอฟต์แวร์ผ่านช่องโหว่ในซอฟต์แวร์โอเพนซอร์สรวดเร็วยิ่งขึ้น องค์กรต่าง ๆ ต้องสร้างระบบขึ้นทะเบียนส่วนประกอบซอฟต์แวร์ที่เชื่อถือได้ หรือที่เรียกว่า Trusted Component Registries, พร้อมยกระดับความปลอดภัยในกระบวนการสร้างและส่งมอบซอฟต์แวร์ (CI/CD Pipelines) รวมถึงการสร้างระบบตรวจจับและตอบสนองต่อความผิดปกติในเชิงปฏิบัติการที่แข็งแกร่ง" วัตตส์กล่าว
ทีมไซเบอร์ซีเคียวริตี้ควรจัดทำบัญชีรายชื่อสินทรัพย์ซอฟต์แวร์ทั้งหมดให้ครอบคลุม พร้อมทั้งบูรณาการระบบควบคุมที่เข้มงวดในทุก ๆ ขั้นตอนของการพัฒนา โดยมาตรการเหล่านี้จะช่วยป้องกันภัยคุกคามใหม่ ๆ ที่พุ่งเป้าไปที่ทั้งแอปพลิเคชันแบบดั้งเดิมและกระบวนการทำงาน AI สมัยใหม่ โดยผู้บริหาร CISO ควรดำเนินการ ดังนี้:
· กำหนดให้ผู้จำหน่ายซอฟต์แวร์ต้องส่งมอบเอกสาร SBOM ย่อมาจาก Software Bill of Materials หมายถึง รายการส่วนประกอบซอฟต์แวร์ และ AIBOM ย่อมาจาก AI Bill of Materials หมายถึง รายการส่วนประกอบของ AI พร้อมประเมินความเสี่ยงของทุกชิ้นส่วนโดยใช้เครื่องมือที่มีฐานข้อมูลภัยคุกคาม (Threat Intelligence) ที่อัปเดตล่าสุด ก่อนนำไปติดตั้งใช้งาน
· ใช้คลังจัดเก็บโค้ดที่ผ่านการตรวจสอบและคัดสรรแล้ว สำหรับโค้ดจากภายนอก, Container Images หรือไฟล์คงที่ที่ไม่สามารถเปลี่ยนแปลงได้ ซึ่งทำหน้าที่เป็นแบบแผนสำหรับการสร้างคอนเทนเนอร์ซอฟต์แวร์ และโมเดล AI รวมถึงบังคับใช้ระบบป้องกันการแก้ไขโค้ด (Branch Protection) ในคลังเก็บโค้ด
· ลงนามดิจิทัลเข้ากับส่วนประกอบของซอฟต์แวร์ในขั้นตอนการพัฒนา, บังคับใช้ระบบควบคุมสิทธิ์การเข้าถึงเท่าที่จำเป็น (Least-Privilege) ในระบบ Build และคอยตรวจสอบกิจกรรมการทำงานขณะรันไทม์ของเครื่องมือเอเจนต์อัตโนมัติอย่างต่อเนื่อง
4. การโจมตีด้วยพรอมต์ (Prompt Injection)
การโจมตีด้วยพรอมต์ หรือ Prompt Injection เป็นภัยคุกคามไซเบอร์ที่พุ่งเป้าไปที่ระบบ AI โดยเฉพาะระบบที่ใช้โมเดลภาษาขนาดใหญ่ (LLMs) ผู้โจมตีจะทำการปรับแต่งหรือแทรกคำสั่ง (Prompts) เพื่อบิดเบือนพฤติกรรมโมเดล ส่งผลให้โมเดลทำข้อมูลที่ละเอียดอ่อนรั่วไหลออกมา ทำสิ่งที่ไม่ได้รับอนุญาต หรือข้ามผ่านระบบควบคุมความปลอดภัย ยิ่งองค์กรต่าง ๆ หันมาใช้ GenAI มากขึ้น ความเสี่ยงของ Prompt Injection ก็ยิ่งขยายตัว จนกลายเป็นวิกฤตที่ทีมไซเบอร์ซีเคียวริตี้มองข้ามไม่ได้เลย
เพื่อต่อสู้กับภัยคุกคาม Prompt Injection ได้อย่างมีประสิทธิภาพ ทีมไซเบอร์ซีเคียวริตี้ควรใช้กลยุทธ์การป้องกันแบบเป็นชั้น ๆ ซึ่งรวมถึงการทดสอบความปลอดภัยของ AI เพื่อค้นหาช่องโหว่เชิงรุก, การกำหนด "คำสั่งเชิงระบบ" (System Prompts) ที่แข็งแกร่งเพื่อควบคุมพฤติกรรม AI และติดตั้งระบบคัดกรองพฤติกรรม AI ขณะรันไทม์ (AI Runtime Guardrails) เพื่อคอยตรวจสอบและบล็อกกิจกรรมที่น่าสงสัย โดยผู้บริหาร CISO สามารถดำเนินงานสำคัญ ๆ ได้ ดังนี้:
· นำระบบตรวจสอบและล้างข้อมูลอินพุตมาใช้ (Input Validation and Sanitization) เพื่อกรองคำสั่งที่อาจแฝงประสงค์ร้ายออกไปก่อนส่งให้ AI
· จัดตั้งระบบตรวจสอบและแจ้งเตือน (Monitoring and Alerting) สำหรับตรวจสอบพฤติกรรมของ AI ที่ผิดปกติ ซึ่งอาจเป็นสัญญาณบ่งชี้ว่าระบบถูกโจมตีด้วย Prompt Injection สำเร็จแล้ว
· ผสานการทดสอบ Prompt Injection เข้าเป็นส่วนหนึ่งของวงจรการพัฒนาระบบ AI (AI System Development Lifecycle)
· นำผลลัพธ์จากการทดสอบ มาปรับปรุงและพัฒนาเครื่องมือควบคุมความปลอดภัยขณะรันไทม์ (Runtime Controls) ให้ดียิ่งขึ้น
|
-rs.jpg)
