“Deepfake” ความกังวลเกี่ยวกับการฉ้อโกงด้วย AI
เมื่อเดือนพฤษภาคมที่ผ่านมา ได้มีการเปิดเผยเรื่องราวเกี่ยวกับคดีการฉ้อโกงรายหนึ่งที่เกิดขึ้นทางตอนเหนือของประเทศจีน...
ชายคนหนึ่งได้สนทนาผ่านทางวีดีโอกับเพื่อนของเขา ก่อนที่เพื่อนคนดังกล่าวจะโน้มน้าวให้เขาโอนเงินไปให้ เพราะจำเป็นต้องใช้เงิน ด้วยความเป็นเพื่อนเขาจึงโอนเงินไปให้ตามคำขอ
ฟังดูแล้วเหมือนจะเป็นการช่วยเหลือด้วยมิตรภาพที่ดี แต่ไม่เลย! เพราะเขาได้ตกเป็นเหยื่อของมิจฉาชีพที่ใช้เทคโนโลยี AI (Artificial Intelligence) สร้างวิดีโอ Deepfake ปลอมเป็นเพื่อนของเขาและหลอกตุ๋นเงินจากเขาไปได้ 4.3 ล้านหยวน
ภายหลังเกิดเหตุการณ์ขึ้น เจ้าหน้าที่ตำรวจในเมืองเป่าโถว ในเขตปกครองตนเองมองโกเลียใน ระบุว่า ผู้กระทำความผิดใช้เทคโนโลยีการสลับใบหน้าที่ขับเคลื่อนด้วย AI เพื่อปลอมตัวเป็นเพื่อนของเหยื่อระหว่างการสนทนาทางวิดีโอ และรับเงินไป 4.3 ล้านหยวน (หรือประมาณ 21 ล้านบาท) โดยสาเหตุที่เขาโอนเงินไปให้นั้น ด้วยความเชื่อว่าเพื่อนของเขาจำเป็นต้องทำการฝากเงินในระหว่างขั้นตอนการประมูลโครงการในเมืองอื่น
“เขาคุยกับผมผ่านวิดีโอคอล และผมก็ยืนยันใบหน้าและเสียงของเขาในวิดีโอด้วย นั่นเป็นเหตุผลที่เราลดการป้องกันลง” เหยื่อกล่าวกับสื่อท้องถิ่นของรัฐ
โดยชายคนนี้เพิ่งรู้ตัวว่าเขาถูกหลอกหลังจากที่เขาโทรไปหาเพื่อนเพื่อยืนยันการรับโอนเงิน เมื่อเพื่อนตัวจริงของเขาได้ออกมาบอกว่า ไม่รู้ไม่เห็นเกี่ยวกับสถานการณ์ที่เกิดขึ้น และไม่ได้เป็นคนขอให้เขาโอนเงินไปให้ในวันและเวลาที่เกิดเหตุ ดังนั้นเขาจึงเข้าแจ้งความกับตำรวจ
ตำรวจในเมืองเป่าโถว มณฑลมองโกเลียใน ซึ่งเป็นที่ตั้งของบัญชีธนาคารของผู้กระทำความผิด กล่าวว่า พวกเขาสามารถหยุดการโอนเงินจำนวน 3.37 ล้านหยวนได้แล้ว การดำเนินการเพื่อกู้คืนส่วนที่เหลืออีก 931,600 หยวน ยังดำเนินอยู่ ตำรวจกล่าวเสริม
การหลอกลวงแบบ Deepfake ทำให้เกิดการถกเถียงอย่างเผ็ดร้อนเกี่ยวกับภัยคุกคามต่อความเป็นส่วนตัวและความปลอดภัยทางออนไลน์บนเว็บไซต์ Weibo ไมโครบล็อกของจีน พร้อมติดแฮชแท็ก “#AI scams กำลังระบาดทั่วประเทศ” ซึ่งดึงดูดผู้ชมมากกว่า 120 ล้านครั้งในช่วงเวลาดังกล่าว
“สิ่งนี้แสดงให้เห็นว่ารูปภาพ เสียง และวิดีโอทั้งหมดสามารถใช้โดยนักต้มตุ๋นได้” ผู้ใช้รายหนึ่งเขียนพร้อมกับตั้งคำถามต่อไปว่า “กฎความปลอดภัยของข้อมูลจะตามทันเทคนิคของคนเหล่านี้ได้หรือไม่?”
กรณีนี้เกิดขึ้นในช่วงเวลาที่จีนเข้มงวดในการตรวจสอบเทคโนโลยีและแอพที่สามารถจัดการกับข้อมูลเสียงและใบหน้าได้ กฎใหม่ที่มีผลบังคับใช้ตั้งแต่เดือนมกราคม ห้ามการใช้เนื้อหาที่สร้างโดย AI เพื่อเผยแพร่ “ข่าวปลอม”
ซึ่งข้อบังคับจาก Cyberspace Administration of China (CAC) ยังกำหนดให้ผู้ให้บริการเทคโนโลยีดังกล่าวติดป้ายภาพถ่าย วิดีโอ และข้อความอย่างชัดเจนว่าสร้างขึ้นหรือดัดแปลงโดยสังเคราะห์ หากอาจถูกตีความผิดว่าเป็นของจริง
ขณะเดียวกัน ตำรวจในเมืองเปาโถวเรียกร้องให้ประชาชนระมัดระวังในขณะที่แชร์ข้อมูล เช่น ภาพใบหน้าและลายนิ้วมือ นอกจากนี้ยังขอให้ผู้คนยืนยันตัวตนของผู้โทรดังกล่าวผ่านโหมดอื่น เช่น การโทร ก่อนที่จะทำการโอนเงินใดๆ
แม้จะไม่ใช่เรื่องใหม่ แต่สิ่งที่น่ากลัวก็คือเทคโนโลยี “Deepfake” นับวันยิ่งแนบเนียนมากขึ้น อีกทั้งยังเป็นการจุดประกายความกังวลเกี่ยวกับศักยภาพของเทคโนโลยี AI เพื่อช่วยเหลืออาชญากรรมทางการเงินในการฉ้อโกงเหยื่อ
กับคำถามที่ว่า “กฎความปลอดภัยของข้อมูลจะตามทันเทคนิคของคนเหล่านี้ได้หรือไม่?” สำหรับเการนำทคโนโลยี AI มาใช้ เป็นอะไรที่น่าคิดตามอย่างยิ่ง ด้วยว่าจะถูกควบคุมอย่างไร? มีหลักเกณฑ์แบบไหน? ประเด็นนี้กำลังถกเถียงกันโดยผู้กำหนดนโยบายทั่วโลก เพราะ “กฎระเบียบของ AI เป็นสิ่งจำเป็น” ที่จะต้องสร้างขึ้นสำหรับโลกใบนี้
หมายเหตุ : Deepfake ประกอบขึ้นจากศัพท์ Deep Learning “การเรียนรู้เชิงลึก” และ Fake “ปลอม”
สรุปก็คือการสร้าง “สื่อสังเคราะห์” ที่ซึ่งบุคคลในรูปภาพหรือวิดีโอใดๆ ถูกแทนที่ด้วยลักษณะหรืออากัปกิริยาของบุคคลอื่น แม้ว่าการปลอมแปลงเนื้อหาจะไม่ใช่เรื่องใหม่ แต่ Deepfake ก็ใช้เทคนิคอันทรงพลังจาก Machine Learning - ML และปัญญาประดิษฐ์ AI ในการบิดเบือนหรือสร้าง เนื้อหาภาพและเสียงที่มีศักยภาพสูงในการหลอกลวง
บริษัท เอ็นฟอร์ซ ซีเคียว จำกัด (มหาชน) #SECURE ผู้เชี่ยวชาญในด้านผลิตภัณฑ์รักษาความปลอดภัยทางเทคโนโลยีไซเบอร์ (Cybersecurity) ในฐานะตัวแทนจำหน่ายและผู้ให้บริการอย่างครบวงจร
สามารถติดตามโซลูชั่นอื่นๆ ได้ทาง
- 2
โฆษณา
- ดาวน์โหลดแอปพลิเคชัน
- © 2024 Blockdit
