📌 Reveal(x) ตรวจจับการรั่วไหลของข้อมูลจากการใช้ ChatGPT ของพนักงาน
• ExtraHop เป็นผู้จำหน่าย NDR รายแรก ที่ประกาศความสามารถในการตรวจสอบผู้ใช้/อุปกรณ์ที่โต้ตอบกับ Generative Al Tool
• ปัจจุบันมีพนักงานของคุณกี่คนที่ใช้เครื่องมือเช่น ChatGPT
• องค์กรจะรู้ได้อย่างไรว่าพนักงานได้แชร์ข้อมูลที่เป็นกรรมสิทธิ์หรือข้อมูลลูกค้าด้วยเครื่องมือของ Al
• องค์กรมีแผนรับมือหรือป้องกันอย่างไร เพื่อให้เป็นไปตามนโยบายสำหรับการใช้บริการ generative Al ที่ยอมรับได้
เทคโนโลยีแห่งอนาคตอย่าง AI กลายมาเป็นส่วนหนึ่งในชีวิตประจำวันอย่างเลี่ยงไม่ได้ ซึ่งปัญญาประดิษฐ์ที่ว่านี้กำลังขับเคลื่อนโลกแห่งเทคโนโลยีให้หมุนเร็วขึ้น และมีแนวโน้มที่จะเติบโตแบบก้าวกระโดด แทรกซึมไปในทุกอุตสาหกรรม และเป็นกลไกสำคัญในการสร้างความก้าวหน้าทางเทคโนโลยี
โดยเฉพาะการใช้ AI as a Service (AIaaS) รวมถึงเครื่องมือ Generative AI ที่กำลังได้รับความนิยมอยู่ในขณะนี้...
นับตั้งแต่ OpenAI เปิดตัว ChatGPT เมื่อวันที่ 30 พฤศจิกายน 2022 การใช้ AI as a Service (AIaaS) รวมถึงเครื่องมือ Generative AI ได้เพิ่มสูงขึ้นอย่างรวดเร็ว ภายใน 5 วันหลังจากเปิดตัว ChatGPT มีผู้ใช้เกิน 1 ล้านคน สองเดือนต่อมามีผู้ใช้ 100 ล้านคน หลังจากนั้น ChatGPT ก็มีผู้เข้าชมหน้าเว็บเกิน 1 พันล้านครั้งต่อเดือนในเดือนกุมภาพันธ์ 2023 ที่ผ่านมา หากเปรียบเทียบกับ TikTok ซึ่งต้องใช้เวลา 8 ปีในการเข้าถึงผู้ใช้ 1 พันล้านคน
ไม่น่าแปลกใจที่เครื่องมือเหล่านี้ส่วนใหญ่ประสบความสำเร็จอย่างหลีกเลี่ยงไม่ได้ การปรับปรุงประสิทธิภาพการทำงานที่พวกเขาสัญญาและส่งมอบ สำหรับมืออาชีพในหลากหลายสาขาอาชีพ ตั้งแต่การพัฒนาซอฟต์แวร์ไปจนถึงการวิจัยเภสัชภัณฑ์
และแม้ว่าจะไม่เข้าใจเครื่องมือเหล่านี้ดีนัก แต่องค์กรขนาดใหญ่หลายแห่งที่มองเห็นศักยภาพอันมหาศาลของ Generative AI และ AIaaS ก็กำลังทุ่มเททรัพยากรจำนวนมากเพื่อใช้งานมัน จากผลการวิจัยของ Gartner โดยผลสำรวจ Gartner 2023 CIO and Technology Executive Survey แสดงให้เห็นว่า “ผู้ตอบแบบสำรวจ 9 ใน 10 คน (92%) จัดอันดับให้ AI เป็นเทคโนโลยีที่องค์กรของพวกเขาน่าจะนำไปใช้ภายในปี 2025”
ข้อสังเกตประการหนึ่งก็คือ นอกเหนือจากความกังวลด้านจริยธรรมที่เกี่ยวข้องกับ AIaaS แล้ว องค์กรต่างๆ ที่ใช้เครื่องมือเหล่านี้ได้เรียนรู้บทเรียนที่หนักหน่วงเกี่ยวกับการรั่วไหลของข้อมูล และความเสี่ยงด้านทรัพย์สินทางปัญญา หลังจากที่พนักงานได้แชร์ข้อมูลที่เป็นกรรมสิทธิ์กับเครื่องมือสาธารณะเหล่านี้
สิ่งที่พนักงานที่ใช้ AI เพื่อเร่งการตรวจสอบโค้ดและการค้นพบยาใหม่ๆ อาจไม่ได้ตระหนักก็คือ พวกเขากำลังใส่ข้อมูลลับที่มีประสิทธิภาพใน Public Domain เมื่อพวกเขาแชร์ข้อมูลที่เป็นกรรมสิทธิ์กับ AIaaS บริการจะยังคงใช้ข้อมูลนั้นเพื่อประมวลผลของผู้อื่น คำขอในบางกรณีก็ไม่มีกำหนด ขึ้นอยู่กับเงื่อนไขของผู้ให้บริการ AIaaS
ความเสี่ยงด้านทรัพย์สินทางปัญญาจะเกิดขึ้นทันทีก็ต่อเมื่อ ผู้ใช้ที่เข้าสู่ระบบเว็บไซต์และ API ของโซลูชัน Generative AI เหล่านี้ แชร์ข้อมูลที่มีกรรมสิทธิ์
อย่างไรก็ตามความเสี่ยงนี้เพิ่มขึ้นเมื่อมีการปรับใช้ระบบในพื้นที่มากขึ้น และผู้คนเริ่มเชื่อมโยงระบบเหล่านี้เข้าด้วยกัน เมื่อบริการ AI กำหนดว่าข้อมูลใดที่จะแบ่งปันกับ AI อื่นๆ องค์ประกอบการกำกับดูแลของมนุษย์ที่ทำการตัดสินใจนั้นจะหายไป
ซึ่งบริการ AI ไม่น่าจะเข้าใจผลกระทบและผลที่อาจเกิดขึ้นจากการแบ่งปันข้อมูลที่เข้าถึงได้ และอาจไม่แจ้งเจ้าหน้าที่ว่ามีการแชร์ข้อมูลออกสู่ภายนอกองค์กร
ดังนั้นความเสี่ยงของการสูญเสียทรัพย์สินทางปัญญาและการรั่วไหลของข้อมูลลูกค้า ทำให้องค์กรจำเป็นต้องเข้าใจขอบเขตของการใช้ Generative AI ในธุรกิจของตนให้ดียิ่งขึ้น ซึ่งจนถึงขณะนี้องค์กรต่างๆ ยังไม่มีวิธีง่ายๆ ในการตรวจสอบการใช้งานของพนักงานและการใช้เครื่องมือเหล่านี้ในทางที่ผิด
📌 การปกป้องข้อมูลจากการใช้ Rogue AI และการใช้ในทางที่ผิดโดยไม่ตั้งใจ
(Data Protection From Rogue AI Use and Accidental Misuse)
เมื่อเดือนพฤษภาคมที่ผ่านมา ExtraHop ได้เปิดตัวความสามารถใหม่ที่ช่วยให้องค์กรต่างๆ เข้าใจความเสี่ยงที่อาจเกิดขึ้นจากการใช้ OpenAI ChatGPT ของพนักงาน
ExtraHop Reveal(x) ช่วยให้ลูกค้ามองเห็นอุปกรณ์และผู้ใช้บนเครือข่ายที่เชื่อมต่อกับโดเมนของ OpenAI ความสามารถนี้มีความสำคัญ เนื่องจากองค์กรต่างๆ ดำเนินการอย่างรวดเร็วเพื่อนำนโยบายที่ควบคุมการใช้โมเดลภาษาขนาดใหญ่และเครื่องมือ Generative AI มาใช้งาน ด้วยว่าจะทำให้องค์กรมีกลไกในการตรวจสอบการปฏิบัติตามนโยบายเหล่านั้น ซึ่ง ExtraHop กำลังใช้ขั้นตอนนี้โดยเป็นส่วนหนึ่งของแพลตฟอร์มการรักษาความปลอดภัยที่ใหญ่ขึ้น
โดยรวมการตรวจสอบ AIaaS เข้ากับความสามารถของ Network Detection And Response (NDR) ที่ ExtraHop มีอยู่ ซึ่งเป็นแพลตฟอร์มการตรวจจับและตอบสนองเครือข่ายระดับแนวหน้าของอุตสาหกรรม ด้วยการติดตามว่าอุปกรณ์ใดกำลังเชื่อมต่อกับโดเมน OpenAI พร้อมระบุผู้ใช้ที่เกี่ยวข้องกับอุปกรณ์เหล่านั้น และจำนวนข้อมูลที่อุปกรณ์ส่งไปยังโดเมน Reveal(x) ช่วยให้องค์กรสามารถประเมินความเสี่ยงที่เกี่ยวข้องกับการใช้บริการ AI อย่างต่อเนื่องของผู้ใช้งานได้
เนื่องจาก Reveal(x) แสดงจำนวนข้อมูลที่ส่งและรับจากโดเมน OpenAI ผู้นำด้านการรักษาความปลอดภัยจึงสามารถประเมินได้ว่าสิ่งใดอยู่ในช่วงที่ยอมรับได้ และสิ่งใดบ่งชี้ว่ากำลังจะเกิดความเสี่ยงด้านทรัพย์สินทางปัญญา ตัวอย่างเช่น ข้อความค้นหาง่ายๆ ของผู้ใช้ที่ส่งถึงแชทบอทควรอยู่ในช่วงตั้งแต่ไบต์ถึงกิโลไบต์
หากทีมรักษาความปลอดภัยเห็นข้อมูลขนาดเมกะไบต์ที่ไหลไปยังโดเมนเหล่านี้ ปริมาณดังกล่าวอาจบ่งบอกว่าพนักงานกำลังส่งข้อมูลที่เป็นกรรมสิทธิ์พร้อมกับข้อความค้นหาของพวกเขา กรณีเช่นนี้ องค์กรต่างๆ จะสามารถระบุประเภทของข้อมูลและไฟล์แต่ละไฟล์ที่พนักงานส่งไปยังโดเมนของ OpenAI หาก Traffic ที่เป็นปัญหาไม่ได้รับการเข้ารหัส Reveal(x) ก็จะสามารถระบุการกรองข้อมูลที่เกี่ยวข้องและการตรวจจับการแสดงข้อมูลได้
Reveal(x) สามารถให้การมองเห็นเชิงลึกและการตรวจจับแบบเรียลไทม์ได้ เนื่องจาก ExtraHop ใช้ Network Packet เป็นแหล่งข้อมูลหลักสำหรับการตรวจสอบและวิเคราะห์ ด้วยการใช้ตัวประมวลผล Stream Processor แบบเรียลไทม์
Reveal(x) แปลงแพ็กเก็ตที่ไม่มีโครงสร้างเป็นข้อมูล Wire Data ที่มีโครงสร้างและวิเคราะห์เพย์โหลดและเนื้อหาจาก OSI Layer 2–7 เพื่อการมองเห็นเครือข่ายที่สมบูรณ์ จากการค้นพบอุปกรณ์ไปจนถึงการวิเคราะห์พฤติกรรม การวัดและส่งข้อมูลทางไกลของเครือข่าย สำหรับการทำความเข้าใจสภาพแวดล้อมแบบไฮบริดขององค์กร
แม้ว่า Logs จะสามารถบอกคุณได้ว่าอุปกรณ์สองเครื่องพูดคุยกัน แต่ Reveal(x) ให้บริบทที่สมบูรณ์ยิ่งกว่าเกี่ยวกับการสื่อสาร
อย่างไรก็ตาม ExtraHop เชื่อว่าประโยชน์ในด้านการผลิตของเครื่องมือเหล่านี้มีมากกว่าความเสี่ยงในการเปิดเผยข้อมูล แต่ถึงกระนั้นองค์กรก็ต้องเข้าใจว่าบริการในลักษณะนี้จะใช้ข้อมูลของตนอย่างไร จะเก็บรักษาข้อมูลไว้นานแค่ไหน และที่สำคัญองค์กรต้องไม่เพียงแต่ใช้นโยบายที่ควบคุมการใช้บริการเหล่านี้เท่านั้น หากแต่ยังมีการควบคุมอย่าง Reveal(x) ที่ช่วยให้องค์กรต่างๆ ประเมินการปฏิบัติตามนโยบายและระบุความเสี่ยงแบบเรียลไทม์จากการใช้ ChatGPT ของพนักงานได้ดียิ่งขึ้น
บริษัท เอ็นฟอร์ซ ซีเคียว จำกัด (มหาชน) #SECURE ผู้เชี่ยวชาญในด้านผลิตภัณฑ์รักษาความปลอดภัยทางเทคโนโลยีไซเบอร์ (Cybersecurity) ในฐานะตัวแทนจำหน่ายและผู้ให้บริการอย่างครบวงจร
สามารถติดตามโซลูชั่นอื่นๆ ได้ทาง
โฆษณา
- ดาวน์โหลดแอปพลิเคชัน
- © 2024 Blockdit
