Blockdit Logo (Mobile)
BAYCOMS
•
25 ต.ค. เวลา 03:19 • วิทยาศาสตร์ & เทคโนโลยี

CYBERSECURITY LIFE with AI : Now and Then - BAYCOMS Cybersecurity Day 2024 Summary

By By Avirut Liangsiri - CEO Bay Computing Public Company Limited
ความท้าทายของวงการ Cybersecurity ในวันนี้
ความท้าทายในวงการ Cybersecurity ประเด็นหลัก ๆ ในปัจจุบันย่อมหนีไม่พ้นเรื่อง “คน” ซึ่งในวันนี้ยังพบว่า ยังคงขาดบุคลากรผู้ที่มีความสามารถเฉพาะด้าน ถึงแม้ว่างานด้าน Cybersecurity จะเป็นเรื่องที่จำเป็นในทุกองค์กรก็ตาม
แต่ความต้องการของบุคลากรที่มีความเชี่ยวชาญในองค์กรกับปริมาณบุคลากรที่ถูกฝึกอบรมจนพร้อมปฏิบัติงานยังคงสวนทางกันมาโดยตลอด จึงเป็นเหตุผลที่ปริมาณบุคลากรในวงการยังคงขาดแคลนอยู่ตลอดเวลา ซึ่งการคาดการณ์ในปี 2024 ระบุว่า จะมีตำแหน่งงานด้านความปลอดภัยทางไซเบอร์กว่า 4 ล้านตำแหน่งทั่วโลกที่ยังไม่มีบุคลากรเข้ามาเติมเต็ม
นอกจากนี้ประเทศไทยเองก็ต้องเผชิญความท้าทายด้านกฏระเบียบข้อบังคับต่าง ๆ อาทิ พ.ร.บ. การรักษาความมั่นคงปลอดภัยไซเบอร์ 2562, PDPA ฯลฯ อีกทั้งในบางธุรกิจยังต้องรับมือกับระเบียบมาตรฐานใหม่ ๆ ตามอุตสาหกรรม เพิ่มเข้ามาอีก เช่น PCI DSS 4.0, IEC/ISO 27001:2022 , NIST CSF 2.0 ฯลฯ ซึ่งองค์กรจำเป็นต้องปฏิบัติตามเพื่อหลีกเลี่ยงการถูกดำเนินคดีจากการไม่ปฏิบัติตามกฎหมายและมาตรฐาน หากเกิดการโจมตีทางไซเบอร์ที่ทำให้เกิดความเสียหาย
อีกทั้งยังต้องเผชิญกับความท้าทายด้านเทคโนโลยี จากการสำรวจของ Gartner ได้สำรวจความสามารถของ Security Control โดยใช้ NIST Cybersecurity Framework เป็นตัวชี้วัด พบว่าไม่มีองค์กรใดที่สามารถบรรลุเกณฑ์เฉลี่ยที่ควรจะเป็น โดยเฉพาะในด้านการตอบสนอง (Respond) และการฟื้นฟู (Recover) ซึ่งเป็นด้านที่องค์กรส่วนใหญ่ลงทุนและให้ความสำคัญน้อยที่สุด
ความท้าทายด้าน AI และเทคโนโลยีแห่งอนาคต
การเข้ามาของ AI ก็เป็นอีกหนึ่งความท้าทายที่น่ากังวลสำหรับบุคลากรด้าน Cybersecurity ซึ่งจากผลสำรวจพบว่ามีเพียง 16% ของบุคลากรทางไซเบอร์เท่านั้นที่รู้และเข้าใจกระบวนการของ AI อย่างแท้จริง
โดยหนึ่งใน AI ที่มีความท้าทายต่อความปลอดภัยทางไซเบอร์ในองค์กรมากที่สุด ที่เข้ามาพลิกโฉมการปฏิบัติการในองค์กรคือ Generative AI ที่ได้เข้ามาอำนวยความสะดวกมากมาย เช่น ช่วยเขียนโค้ดโปรแกรมให้ ซึ่งประหยัดทั้งแรงและเวลาที่มนุษย์ลงมือทำด้วยตัวเอง เป็นต้น โดยปัจจุบันนั้น Generative AI นั้นมีการใช้งานกันอย่างแพร่หลายในทุกองค์กร
หากแต่ว่า Generative AI ก็เปรียบเสมือนดาบสองคม ซึ่งมาพร้อมกับความเสี่ยงจากการที่องค์กรนำ Generative AI เข้ามาใช้งาน ได้แก่
1. ข้อมูลที่ใส่ใน LLM อาจถูกดึงไปโดยไม่ได้รับอนุญาต: ข้อมูลที่ป้อนเข้าสู่ระบบ AI อาจถูกบันทึกและนำไปใช้งานโดยไม่ได้รับอนุญาต หากไม่มีการป้องกันที่เพียงพอก็อาจทำให้เกิดความเสี่ยงด้านการรั่วไหลของข้อมูลสำคัญ
2. ความเสี่ยงจากการรั่วไหลของข้อมูล: ข้อมูลที่ส่งผ่าน AI หากไม่มีมาตรการรักษาความปลอดภัยที่ดีพอ อาจเกิดการรั่วไหลในระหว่างการใช้งานหรือหลังจากการใช้งานนั้น
3. Prompt Injection: การโจมตีโดยใช้คำสั่งหรือชุดคำสั่งที่หลอกลวง AI เพื่อให้สร้างมัลแวร์หรือทำงานที่เป็นอันตรายต่อองค์กร
4. Data Poisoning: การใส่ข้อมูลปลอมลงในระบบ AI เพื่อหลอกให้ AI เรียนรู้จากข้อมูลที่ไม่ถูกต้อง ซึ่งทำให้ผลลัพธ์ของ AI เกิดความผิดพลาดและไม่สามารถเชื่อถือได้
5.Toxic Output: ผลลัพธ์ที่ผิดพลาดจากการที่ AI ถูกป้อนข้อมูลที่ไม่ถูกต้อง (Data Poisoning) ทำให้ AI สร้างข้อมูลที่เป็นอันตรายหรือไม่เหมาะสมออกมา
6. AI Hallucination: การที่ AI สร้างคำตอบที่ไม่สอดคล้องกับความเป็นจริง หรือไม่น่าเชื่อถือ ซึ่งอาจเกิดจากข้อมูลที่ไม่เพียงพอหรือคลุมเครือ ทำให้คำตอบของ AI ผิดพลาด
จากผลสำรวจพบว่ามีเพียง 3 ใน 4 ขององค์กรเท่านั้นที่มีนโยบายการจำกัดการใช้งานฟังก์ชันบางส่วนเพื่อความปลอดภัยเท่านั้น ทาง Gartner จึงได้แนะนำแนวทางการจัดการกับ Generative AI ให้แก่ผู้บริหารด้าน IT ขององค์กร ดังต่อไปนี้
1) องค์กรต้องมีการกำหนดวัตถุประสงค์การใช้งาน โดยสามารถระบุชัดเจนว่า Generative AI จะถูกนำมาใช้ในด้านใดบ้าง โดยควรสร้าง Use Case และบันทึกไว้ในระบบ Inventory หากพบว่ามีการใช้งาน AI เกินขอบเขตที่กำหนดไว้ใน Use Case องค์กรจะสามารถรับมือและแก้ไขปัญหาได้ทันท่วงที
2) องค์กรจะต้องมีการวางนโยบายควบคุมการใช้งานข้อมูลในการ Input / Output โดยมีการกำหนดนโยบายควบคุมการป้อนข้อมูลและผลลัพธ์ที่ได้จาก Generative AI เช่น การตั้งระบบกรองข้อมูลที่ User สามารถเข้าถึง หรือกำหนดการควบคุมการใช้งานของ User อย่างชัดเจน โดยอาจจำกัดหรือบล็อกการเข้าถึงฟังก์ชันบางส่วนเพื่อความปลอดภัย
3) การวางมาตรการป้องกัน โดยกำหนดฟังก์ชันที่ User สามารถใช้งานได้ตามนโยบายขององค์กร (Consume as a Feature) มีระบบการตรวจสอบย้อนกลับ (Traceability) เพื่อให้แน่ใจว่าทุกกระบวนการมีความปลอดภัย อีกทั้งควรมีตัวชี้วัดเพื่อประเมินและพัฒนามาตรการความปลอดภัยให้ดียิ่งขึ้น (Measure Improvement)
4) สร้างการป้องกันเชิงรุกโดยมองในมุมของ Threat Vector ต่างๆ เช่น การตรวจสอบการทำงานที่คลาดเคลื่อนของระบบ (Monitoring Detection Drift) รวมถึงการโฟกัสไปที่ Cyber Resilience เพื่อสร้างความยืดหยุ่นในการรับมือกับภัยคุกคามในทุกสถานการณ์
ซึ่งยังไม่รวมถึงเทคโนโลยีที่จะเกิดขึ้นในอนาคตอันใกล้อย่าง Quantum Computing ที่กำลังจะเป็นความท้าทายครั้งใหญ่ โดยในปี 2019 ทาง Google ได้ลองให้โจทย์ที่ Super Computer ใช้เวลา 1 หมื่นปีในการคำนวณ กับ Quantum Computer ผลปรากฏว่าใช้เวลาเพียง 3 นาทีในการหาคำตอบเท่านั้น ทำให้หน่วยงานความมั่นคงทั่วโลกรวมถึงสหรัฐอเมริกาเกิดความกังวลว่า หากฝ่ายตรงข้ามเข้าถึงเทคโนโลยี Quantum Computing พวกเขาอาจสามารถถอดรหัสข้อมูลหลายล้านรายการได้ภายในเสี้ยววินาที ซึ่งอาจส่งผลกระทบต่อความปลอดภัยของข้อมูลและระบบที่สำคัญ
เพื่อตอบสนองต่อภัยคุกคามที่อาจเกิดขึ้นนี้ หน่วยงานความมั่นคงในสหรัฐอเมริกาได้กำหนดให้ทุกหน่วยงานที่มีข้อมูลหรือระบบสำคัญ ต้องเปลี่ยนไปใช้การเข้ารหัสแบบ Post Quantum Cryptography (PQC) แทนการเข้ารหัสแบบเดิม ภายในปี 2025 เพื่อเตรียมรับมือกับ Quantum Computing ที่คาดว่าจะสามารถถอดรหัสแบบ RSA-2048 ได้ภายในปี 2030 ซึ่งเป็นมาตรการป้องกันล่วงหน้าเพื่อรักษาความปลอดภัยของข้อมูลสำคัญ
เราจะอยู่ร่วมกับ AI ได้อย่างไร
จากความท้าทายต่าง ๆ ที่บุคลากรด้านความปลอดภัยทางไซเบอร์ต้องเผชิญ โดยเฉพาะด้าน AI นั้น เราจะมีวิธีในการเรียนรู้ที่จะรับมือพร้อมกับการนำเทคโนโลยีด้าน AI มาทำงานในด้านความปลอดภัยทางไซเบอร์ในฐานะที่เป็นพันธมิตรกันได้อย่างไร
ในวงการ Cybersecurity นั้น AI โดยเฉพาะ Machine Learning (ML) ถูกนำมาใช้งานไม่น้อยกว่า 10 ปีแล้ว ตัวอย่างการนำ AI มาใช้งานที่เห็นได้ชัดเจน อาทิ Adaptive Learning และ Anomaly Detection: ระบบที่ใช้ ML สามารถเรียนรู้และปรับตัวได้ โดยการตรวจจับค่าผิดปกติแบบอัตโนมัติ ช่วยป้องกันภัยคุกคามที่อาจไม่เคยพบเห็นมาก่อน, Natural Language Processing (NLP) กับ Threat Detection: การใช้ NLP เพื่อค้นหาภัยคุกคามผ่านการป้อนคำสั่งด้วยภาษาธรรมชาติ ทำให้การตรวจจับภัยคุกคามง่ายขึ้นโดยไม่จำเป็นต้องเขียนโค้ด
สำหรับ Generative AI ก็มีบทบาทสำคัญในด้าน Cybersecurity โดยเฉพาะใน Threat Intelligence เนื่องจาก Large Language Models (LLMs) ที่เป็นพื้นฐานของ Generative AI ได้เก็บข้อมูลจากแหล่งต่าง ๆ ทั่วโลก จึงกลายเป็นเครื่องมือสำคัญในการหาข่าวกรองด้านภัยคุกคามAI ช่วยลดเวลาและความซับซ้อนในการประมวลผลข้อมูลได้อย่างมีประสิทธิภาพ แต่ยังคงต้องมีมนุษย์คอยตรวจสอบความถูกต้องของคำสั่งและข้อมูลที่ได้จาก AI เพื่อความสมบูรณ์
อีกหนึ่งบทบาทที่ AI ช่วยได้คือ Training and Awareness ในด้าน Cybersecurity โดย Generative AI สามารถแปลงข้อมูลที่ซับซ้อนให้เป็นภาษาที่เข้าใจง่ายขึ้น ซึ่งช่วยให้ผู้เรียนเข้าใจเนื้อหาด้านความปลอดภัยทางไซเบอร์ได้ดีขึ้นและเรียนรู้ได้อย่างมีประสิทธิภาพ
จากตัวอย่างการใช้งานของเทคโนโลยีเพื่อความปลอดภัยทางไซเบอร์ ทั้ง NLP และ Generative AI นั้นได้เปลี่ยนบทบาทการทำงานของมนุษย์ไปโดยสิ้นเชิง นั่นคือ AI จะเข้ามาปฏิบัติงานแทน ส่วนเรากลายเป็นผู้ควบคุมและตรวจสอบความถูกต้อง นั่นคือมนุษย์จำเป็นต้องเข้าใจถึงหลักการทำงานมากกว่าเรียนรู้วิธีการทำงาน เพื่อที่จะสามารถทำงานควบคู่ไปกับ AI ได้
อนาคตที่เป็นไปได้!
ในอนาคตความสัมพันธ์ระหว่างมนุษย์กับเทคโนโลยี AI ในการทำงานจะเปลี่ยนแปลงไปอย่างมาก ข้อมูลที่มีจะถูก AI สังเคราะห์ออกมาเป็นข้อมูลเชิงลึกและให้คำแนะนำ เพื่อตอบโจทย์ในการทำ Incident Investigation รวมถึงการจัดทำรายงานและการนำเสนอ (Report & Presentation) ในภาษาที่เข้าใจได้ง่ายและชัดเจน
ในส่วนของ Security Operations (SecOps) โมเดล NLP จะเข้ามาทำให้ การสืบค้น, การตอบสนอง เร็วยิ่งขึ้น ขณะเดียวกันนั้นผู้ใช้งานก็ลดระยะเวลาในการทำความเข้าใจในระบบลง โดยเปลี่ยนหน้าที่จากผู้เขียน Code เป็นผู้ป้อนคำสั่งในภาษามนุษย์โดยให้ AI เป็นคนทำหน้าที่แทน
อีกทั้ง Generative AI กำลังจะถูกผนวกเข้ามาเป็นส่วนหนึ่งของ Cybersecurity Control ในอนาคตอันใกล้ ทำให้การควบคุมและการจัดการด้านความปลอดภัยมีประสิทธิภาพและยืดหยุ่นมากขึ้น
ด้วยเหตุผลทั้งหมดนี้เทคโนโลยี AI จะทำให้บทบาทของมนุษย์ในงานด้าน Cybersecurity เปลี่ยนจากการเป็นผู้ปฏิบัติงานหน้าจอคอมพิวเตอร์ ไปสู่การเป็นผู้ควบคุมการทำงานของ AI โดยเน้นการตรวจสอบและยืนยันความถูกต้องของผลลัพธ์ที่ AI สร้างขึ้น ทำให้ผู้ใช้งานจำเป็นต้องเข้าใจในหลักการทำงาน ของ AI มากกว่าวิธีการใช้งาน เพื่อตอบสนองการทำงานร่วมกับเทคโนโลยีได้อย่างมีประสิทธิภาพมากยิ่งขึ้นในอนาคต
นึกถึงเรื่องความปลอดภัยทางไซเบอร์ ไว้ใจ BAYCOMS
Your Trusted Cybersecurity Partner
ติดต่อสอบถามหรือปรึกษาเราได้ที่ :
Bay Computing Public Co., Ltd
Tel: 02-115-9956
#BAYCOMS #YourTrustedCybersecurityPartner #Cybersecurity #BCD2024 #NIST #AI #MachineLearning #GenerativeAI #LLMs #PostQuantumCryptography
โฆษณา