Blockdit Logo (Mobile)
GIF3
•
18 ก.พ. เวลา 02:07 • วิทยาศาสตร์ & เทคโนโลยี

#อัพเดทแล้วNOV18/02/2025

ภาษา
Transparency Center
หน้าหลักArrow RightMeta บังคับใช้นโยบายอย่างไรArrow Rightการตรวจจับการละเมิด
เทคโนโลยีการบังคับPlayทำงานอย่างไร
Meta ใช้เทคโนโลยีในการบังคับใช้มาตรฐานชุมชนของ Facebook และแนวทางปฏิบัติสำหรับชุมชนของ Instagram ทีมของเราทำงานร่วมกันเพื่อสร้างและฝึกฝนเทคโนโลยี โดยใช้วิธีการดังนี้
สร้างโมเดลและการคาดการณ์
กระบวนการนี้เริ่มต้นจากทีมปัญญาประดิษฐ์ของเรา ทีมสร้างโมเดลแมชชีนเลิร์นนิ่งที่สามารถทำงานต่างๆ เช่น ระบุสิ่งที่อยู่ในรูปภาพหรือเข้าใจข้อความ จากนั้นทีมความสมบูรณ์ของเราที่มีหน้าที่ขยายขอบเขตการตรวจจับและบังคับใช้นโยบายก็จะพัฒนาต่อยอดจากโมเดลเหล่านี้เพื่อสร้างโมเดลที่เจาะจงมากขึ้นในการคาดการณ์เกี่ยวกับผู้คนและเนื้อหา การคาดการณ์เหล่านี้ช่วยให้เราบังคับใช้นโยบายได้
ตัวอย่างเช่น โมเดล AI คาดการณ์ว่าเนื้อหาชิ้นหนึ่งเป็นคำพูดที่แสดงความเกลียดชังหรือมีเนื้อหาที่รุนแรงและโจ่งแจ้งหรือไม่ และอีกระบบ ซึ่งก็คือเทคโนโลยีการบังคับใช้ของเรา ก็จะตัดสินว่าจะดำเนินการ เช่น ลบ ลดระดับ หรือส่งเนื้อหาไปให้ทีมเจ้าหน้าที่ตรวจสอบทำการตรวจสอบเพิ่มเติมหรือไม่
เรียนรู้โดยการทำซ้ำ ตรวจสอบยืนยันโดยมนุษย์
ตอนที่เราสร้างเทคโนโลยีใหม่สำหรับบังคับใช้นโยบายกับเนื้อหาขึ้นเป็นครั้งแรก เราฝึกฝนให้เทคโนโลยีมองหาสัญญาณบางอย่าง ตัวอย่างเช่น เทคโนโลยีบางอย่างอาจมองหาภาพโป๊เปลือยในรูปภาพ ในขณะที่อีกเทคโนโลยีหนึ่งจะเรียนรู้เพื่อทำความเข้าใจข้อความ ในช่วงแรกๆ เทคโนโลยีประเภทใหม่อาจมีความมั่นใจต่ำว่าเนื้อหาชิ้นหนึ่งๆ ละเมิดนโยบายของเราหรือไม่
จากนั้น ทีมตรวจสอบก็สามารถทำการตัดสินขั้นสุดท้ายได้ และเทคโนโลยีของเราก็สามารถเรียนรู้จากการตัดสินแต่ละครั้งของมนุษย์ได้ เมื่อเวลาผ่านไป หลังจากได้เรียนรู้จากการตัดสินของมนุษย์เป็นพันๆ ครั้ง เทคโนโลยีก็มีความแม่นยำมากขึ้น
นโยบายของเราก็มีการพัฒนาอยู่เรื่อยๆ เพื่อให้ทันกับการเปลี่ยนแปลงในผลิตภัณฑ์ของเรา มาตรฐานสังคม และภาษา ด้วยเหตุนี้ ทั้งการฝึกฝนเทคโนโลยีและการฝึกอบรมทีมตรวจสอบจึงเป็นกระบวนการที่ค่อยเป็นค่อยไปและอาศัยการทำซ้ำ
ตรวจจับการละเมิดที่เกิดขึ้นซ้ำๆ
เทคโนโลยีสามารถตรวจจับเนื้อหาเดิมซ้ำๆ ได้ดีมาก และสามารถทำได้เป็นล้านๆ ครั้งหากจำเป็น เทคโนโลยีของเราจะดำเนินการกับเนื้อหาใหม่หากเนื้อหาตรงกับหรือใกล้เคียงมากกับอีกเนื้อหาหนึ่งที่ละเมิดนโยบาย ซึ่งมีประโยชน์เป็นอย่างยิ่งสำหรับการตรวจจับการรณรงค์เผยแพร่ข้อมูลผิด มีม และเนื้อหาอื่นๆ ที่เป็นไวรัลที่สามารถแพร่กระจายได้รวดเร็วมาก
ระบุความแตกต่างเล็กๆ น้อยๆ
เทคโนโลยีสามารถค้นหาและลบเนื้อหาเดียวกันได้ครั้งแล้วครั้งเล่า แต่สิ่งที่ท้าทายมากก็คือการทำให้เทคโนโลยีเข้าใจความแตกต่างเล็กๆ น้อยๆ ในการเลือกใช้คำหรือเข้าใจว่าความแตกต่างเล็กๆ น้อยๆ อาจเปลี่ยนบริบทไปได้อย่างไร
รูปภาพแรกคือเนื้อหาที่ชวนให้เข้าใจผิดต้นฉบับซึ่งมีการให้ข้อมูลผิดเกี่ยวกับความปลอดภัยด้านสาธารณสุข
รูปที่สองคือภาพหน้าจอของรูปแรก แต่มีแถบเมนูของคอมพิวเตอร์อยู่ที่ด้านบน
สุดท้าย รูปที่สามดูเหมือนรูปแรกและรูปที่สองมาก แต่มีการเปลี่ยนแปลงคำเล็กๆ น้อยๆ 2 คำ ซึ่งทำให้พาดหัวข่าวถูกต้องและไม่เป็นเท็จอีกต่อไป
สิ่งเหล่านี้เป็นเรื่องที่เข้าใจได้ค่อนข้างง่ายสำหรับมนุษย์ แต่ยากสำหรับเทคโนโลยี เทคโนโลยีอาจเข้มงวดเกินไปหรือเข้มงวดไม่พอ หากเข้มงวดเกินไป เทคโนโลยีก็จะลบโพสต์ที่ไม่ได้ละเมิดนโยบายเป็นล้านๆ รายการออก แต่หากเข้มงวดไม่พอ เทคโนโลยีก็จะคิดว่าภาพหน้าจอที่มีแถบเมนูต่างจากรูปต้นฉบับ และไม่ดำเนินการกับเนื้อหานั้นตามที่ควร
เราทุ่มเทเวลาไปมากกับเรื่องนี้ ในช่วงสองสามปีที่ผ่านมานี้ เราได้ลงทุนไปมากมายเพื่อช่วยให้เทคโนโลยีของเราตรวจจับความแตกต่างเล็กๆ น้อยๆ ในเนื้อหาได้ดียิ่งขึ้น และยิ่งเรียน เทคโนโลยีก็ยิ่งตรวจจับได้แม่นยำขึ้นทุกวัน
ก่อนหน้า
เทคโนโลยีตรวจจับการละเมิดอย่างไร
ถัดไป
Meta ฝึกฝนเทคโนโลยีอย่างไร
นโยบาย
การบังคับใช้
การรักษาความปลอดภัย
ฟีเจอร์
การกำกับดูแล
รายงาน
เครื่องมือศึกษาวิจัย
นโยบายความเป็นส่วนตัวข้อกำหนดในการใช้บริการคุกกี้
Transparency Center
นโยบาย
มาตรฐานชุมชน นโยบายอื่นๆ และวิธีการที่เราพัฒนา
การบังคับใช้
การตรวจจับด้วย AI, การตรวจสอบจากเจ้าหน้าที่, คณะกรรมการกำกับดูแล และวิธีการจัดลำดับความสำคัญของเรา
การรักษาความปลอดภัย
การลบเครือข่ายเครือข่ายของผู้ไม่ประสงค์ดีที่ทำงานร่วมกันออกเพื่อตอบโต้ภัยคุกคามระดับโลกและปรับปรุงประสิทธิภาพการป้องกันของเรา
ฟีเจอร์
การกำกับดูแล
คณะกรรมการกำกับดูแลของ Meta และการพัฒนาการกำกับดูแลอื่นๆ
เครื่องมือศึกษาวิจัย
เครื่องมือและชุดข้อมูลด้านการศึกษาวิจัย
รายงาน
รายงานประสิทธิภาพของการบังคับใช้ วิธีการที่เราใช้ข้อมูลของคุณ และอื่นๆ
ภาษา
Transparency Center
หน้าหลักArrow RightMeta บังคับใช้นโยบายอย่างไรArrow Rightการตรวจจับการละเมิด
เทคโนโลยีการบังคับใช้ทำงานอย่างไร
อัพเดตแล้วNOV 12, 2024
Meta ใช้เทคโนโลยีในการบังคับใช้มาตรฐานชุมชนของ Facebook และแนวทางปฏิบัติสำหรับชุมชนของ Instagram ทีมของเราทำงานร่วมกันเพื่อสร้างและฝึกฝนเทคโนโลยี โดยใช้วิธีการดังนี้
สร้างโมเดลและการคาดการณ์
กระบวนการนี้เริ่มต้นจากทีมปัญญาประดิษฐ์ของเรา ทีมสร้างโมเดลแมชชีนเลิร์นนิ่งที่สามารถทำงานต่างๆ เช่น ระบุสิ่งที่อยู่ในรูปภาพหรือเข้าใจข้อความ จากนั้นทีมความสมบูรณ์ของเราที่มีหน้าที่ขยายขอบเขตการตรวจจับและบังคับใช้นโยบายก็จะพัฒนาต่อยอดจากโมเดลเหล่านี้เพื่อสร้างโมเดลที่เจาะจงมากขึ้นในการคาดการณ์เกี่ยวกับผู้คนและเนื้อหา การคาดการณ์เหล่านี้ช่วยให้เราบังคับใช้นโยบายได้
ตัวอย่างเช่น โมเดล AI คาดการณ์ว่าเนื้อหาชิ้นหนึ่งเป็นคำพูดที่แสดงความเกลียดชังหรือมีเนื้อหาที่รุนแรงและโจ่งแจ้งหรือไม่ และอีกระบบ ซึ่งก็คือเทคโนโลยีการบังคับใช้ของเรา ก็จะตัดสินว่าจะดำเนินการ เช่น ลบ ลดระดับ หรือส่งเนื้อหาไปให้ทีมเจ้าหน้าที่ตรวจสอบทำการตรวจสอบเพิ่มเติมหรือไม่
เรียนรู้โดยการทำซ้ำ ตรวจสอบยืนยันโดยมนุษย์
ตอนที่เราสร้างเทคโนโลยีใหม่สำหรับบังคับใช้นโยบายกับเนื้อหาขึ้นเป็นครั้งแรก เราฝึกฝนให้เทคโนโลยีมองหาสัญญาณบางอย่าง ตัวอย่างเช่น เทคโนโลยีบางอย่างอาจมองหาภาพโป๊เปลือยในรูปภาพ ในขณะที่อีกเทคโนโลยีหนึ่งจะเรียนรู้เพื่อทำความเข้าใจข้อความ ในช่วงแรกๆ เทคโนโลยีประเภทใหม่อาจมีความมั่นใจต่ำว่าเนื้อหาชิ้นหนึ่งๆ ละเมิดนโยบายของเราหรือไม่
จากนั้น ทีมตรวจสอบก็สามารถทำการตัดสินขั้นสุดท้ายได้ และเทคโนโลยีของเราก็สามารถเรียนรู้จากการตัดสินแต่ละครั้งของมนุษย์ได้ เมื่อเวลาผ่านไป หลังจากได้เรียนรู้จากการตัดสินของมนุษย์เป็นพันๆ ครั้ง เทคโนโลยีก็มีความแม่นยำมากขึ้น
นโยบายของเราก็มีการพัฒนาอยู่เรื่อยๆ เพื่อให้ทันกับการเปลี่ยนแปลงในผลิตภัณฑ์ของเรา มาตรฐานสังคม และภาษา ด้วยเหตุนี้ ทั้งการฝึกฝนเทคโนโลยีและการฝึกอบรมทีมตรวจสอบจึงเป็นกระบวนการที่ค่อยเป็นค่อยไปและอาศัยการทำซ้ำ
ตรวจจับการละเมิดที่เกิดขึ้นซ้ำๆ
เทคโนโลยีสามารถตรวจจับเนื้อหาเดิมซ้ำๆ ได้ดีมาก และสามารถทำได้เป็นล้านๆ ครั้งหากจำเป็น เทคโนโลยีของเราจะดำเนินการกับเนื้อหาใหม่หากเนื้อหาตรงกับหรือใกล้เคียงมากกับอีกเนื้อหาหนึ่งที่ละเมิดนโยบาย ซึ่งมีประโยชน์เป็นอย่างยิ่งสำหรับการตรวจจับการรณรงค์เผยแพร่ข้อมูลผิด มีม และเนื้อหาอื่นๆ ที่เป็นไวรัลที่สามารถแพร่กระจายได้รวดเร็วมาก
ระบุความแตกต่างเล็กๆ น้อยๆ
เทคโนโลยีสามารถค้นหาและลบเนื้อหาเดียวกันได้ครั้งแล้วครั้งเล่า แต่สิ่งที่ท้าทายมากก็คือการทำให้เทคโนโลยีเข้าใจความแตกต่างเล็กๆ น้อยๆ ในการเลือกใช้คำหรือเข้าใจว่าความแตกต่างเล็กๆ น้อยๆ อาจเปลี่ยนบริบทไปได้อย่างไร
รูปภาพแรกคือเนื้อหาที่ชวนให้เข้าใจผิดต้นฉบับซึ่งมีการให้ข้อมูลผิดเกี่ยวกับความปลอดภัยด้านสาธารณสุข
รูปที่สองคือภาพหน้าจอของรูปแรก แต่มีแถบเมนูของคอมพิวเตอร์อยู่ที่ด้านบน
สุดท้าย รูปที่สามดูเหมือนรูปแรกและรูปที่สองมาก แต่มีการเปลี่ยนแปลงคำเล็กๆ น้อยๆ 2 คำ ซึ่งทำให้พาดหัวข่าวถูกต้องและไม่เป็นเท็จอีกต่อไป
สิ่งเหล่านี้เป็นเรื่องที่เข้าใจได้ค่อนข้างง่ายสำหรับมนุษย์ แต่ยากสำหรับเทคโนโลยี เทคโนโลยีอาจเข้มงวดเกินไปหรือเข้มงวดไม่พอ หากเข้มงวดเกินไป เทคโนโลยีก็จะลบโพสต์ที่ไม่ได้ละเมิดนโยบายเป็นล้านๆ รายการออก แต่หากเข้มงวดไม่พอ เทคโนโลยีก็จะคิดว่าภาพหน้าจอที่มีแถบเมนูต่างจากรูปต้นฉบับ และไม่ดำเนินการกับเนื้อหานั้นตามที่ควร
เราทุ่มเทเวลาไปมากกับเรื่องนี้ ในช่วงสองสามปีที่ผ่านมานี้ เราได้ลงทุนไปมากมายเพื่อช่วยให้เทคโนโลยีของเราตรวจจับความแตกต่างเล็กๆ น้อยๆ ในเนื้อหาได้ดียิ่งขึ้น และยิ่งเรียน เทคโนโลยีก็ยิ่งตรวจจับได้แม่นยำขึ้นทุกวัน
ก่อนหน้า
เทคโนโลยีตรวจจับการละเมิดอย่างไร
ถัดไป
Meta ฝึกฝนเทคโนโลยีอย่างไร
นโยบาย
การบังคับใช้
การรักษาความปลอดภัย
ฟีเจอร์
การกำกับดูแล
รายงาน
เครื่องมือศึกษาวิจัย
นโยบายความเป็นส่วนตัวข้อกำหนดในการใช้บริการคุกกี้
Transparency Center
นโยบาย
มาตรฐานชุมชน นโยบายอื่นๆ และวิธีการที่เราพัฒนา
การบังคับใช้
การตรวจจับด้วย AI, การตรวจสอบจากเจ้าหน้าที่, คณะกรรมการกำกับดูแล และวิธีการจัดลำดับความสำคัญของเรา
การรักษาความปลอดภัย
การลบเครือข่ายเครือข่ายของผู้ไม่ประสงค์ดีที่ทำงานร่วมกันออกเพื่อตอบโต้ภัยคุกคามระดับโลกและปรับปรุงประสิทธิภาพการป้องกันของเรา
ฟีเจอร์
การกำกับดูแล
คณะกรรมการกำกับดูแลของ Meta และการพัฒนาการกำกับดูแลอื่นๆ
เครื่องมือศึกษาวิจัย
เครื่องมือและชุดข้อมูลด้านการศึกษาวิจัย
รายงาน
รายงานประสิทธิภาพของการบังคับใช้ วิธีการที่เราใช้ข้อมูลของคุณ และอื่นๆ
โฆษณา