นักสืบหาต้นตอของรูป deepfake ของ Taylor Swift
นักวิจัยของ Graphika ศึกษาข้อมูลจากโลกอินเตอร์เน็ต และพบที่มาของภาพ deepfake ที่กำลังทำให้สังคมออกมาให้ความสำคัญกับการควบคุม Generative AI
ภาพโป๊ที่ดูเหมือนจริงของ Taylor Swift ที่ถูกสร้างขึ้นโดย AI ได้ถูกกระจายอย่างรวดเร็วบน X (Twitter) จนสร้างความเสียหายอย่างมากกับเธอ ก่อนที่ X จะเร่งแบนการค้นหา และภาพเหล่านั้น แต่คนก็สงสัยว่าภาพดังกล่าวมาจากที่ใด
นักวิจัยของทาง Graphika สืบไปเรื่อยๆ ก็ค้นพบว่า ก่อนที่รูปเหล่านั้นจะมาแพร่ระบาดใน X ภาพเหล่านั้นเริ่มระบาดบนเว็บบอร์ด 4chan ที่เป็นเว็บบอร์ดสำหรับโพสต์ภาพต่างๆ มาก่อน และมีผู้ใช้รายหนึ่งท้าทายให้ผู้ใช้รายอื่นใช้เครื่องมือ AI ต่างๆ โดยเฉพาะเครื่องมือของ Microsoft
รวมทั้ง Microsoft Designer, Bing Image Creator และ DALL-E ของ OpenAI ในการสร้างรูปที่ปกติมันจะไม่ยอมสร้างให้ เนื่องจากผิดระเบียบการใช้งาน และก็มีผู้ใช้บางรายโพสต์ภาพโป๊ที่ถูกสร้างขึ้นจาก AI
แต่ทาง OpenAI ก็ได้ออกมาปฏิเสธว่าภาพดังกล่าวไม่ได้ถูกสร้างขึ้นจาก DALL-E ส่วนทาง Microsoft ก็อ้างว่ายังอยู่ในระหว่างการสืบสวนว่าภาพดังกล่าวถูกสร้างขึ้นจากเครื่องมือของตนหรือไม่ แต่ก็ไม่ได้นิ่งนอนใจ พยายามปรับปรุงระบบของตนให้มีการคัดกรองที่ดีขึ้น และพยายามป้องกันไม่ให้ผู้ใช้ jailbreak ระบบการป้องกันได้
อย่างไรก็ตาม ภาพ deepfake ไม่ได้ถูกสร้างขึ้น และสร้างความเสียหายให้กับ Taylor Swift เพียงรายเดียว ภาพเหล่านี้มีเต็มไปหมด และมีภาพของคนดังหลายคน แต่ไม่ได้ถูกแพร่กระจาย และถูกให้ความสนใจจากสังคมขนาดนี้มาก่อน
พอถึงตอนนี้ทั้งเจ้าของเครื่องมือ และรัฐจึงให้ความสนใจมากขึ้นในการป้องกัน และห้ามการสร้างรูปและวีดีโอ Deepfake ให้ได้ดีขึ้น
- 5
โฆษณา
- ดาวน์โหลดแอปพลิเคชัน
- © 2024 Blockdit
