คุณพ่อสุดซวย!! ถ่ายรูปอวัยเพศลูกส่งหมอเพื่อรักษา โดน Google แบนบัญชีพร้อมแจ้งความ
หนังสือพิมพ์ The New York Times รายงานถึงพ่อคนหนึ่งใช้ชื่อ Mark ถูก Google แบนบัญชีทั้งหมดหลังเขาถ่ายรูปอวัยวะเพศลูกชายของเขาเพื่อส่งให้แพทย์ตรวจโรค และระบบอุทธรณ์ของ Google ไม่ยอมเปิดบัญชีคืนให้แม้เขาจะส่งหลักฐานว่าการถ่ายภาพของเขาไม่ใช่การกระทำความผิดละเมิดทางเพศเด็กก็ตาม
Mark พบว่าอวัยวะเพศของลูกชายของเขามีอาการบวม จึงถ่ายรูปเอาไว้เพื่อดูว่าเป็นปัญหาจริงหรือไม่ จากนั้นภรรยาของ Mark ติดต่อหมอแล้วแชร์ภาพที่ Mark ถ่ายเอาไว้ไปยัง iPhone ของเธอเพื่อส่งต่อให้แพทย์อีกที หลังจากนั้นแพทย์จ่ายยาปฏิชีวนะและอาการของโรคก็ดีขึ้น แต่ระบบของ Google ตรวจว่า Mark อัพโหลดภาพทางเพศ (อัลกอริทึม Google มองว่าเข้ากลุ่ม Pedophile) ของเด็กจึงแบนบัญชีพร้อมกับแจ้งความ
Mark ใช้บริการทั้งอีเมล และหมายเลขโทรศัพท์ของ Google Fi หลังจาก Google เริ่มแบนบัญชีก็ทำให้เขาเข้าใช้อีเมลไม่ได้ และไม่สามารถใช้หมายเลขโทรศัพท์เดิมได้พร้อมๆ กัน บัญชีต่างๆ ที่ผูกไว้กับอีเมลหรือหมายเลขโทรศัพท์จึงใช้ไม่ได้ไปทั้งหมด ตำรวจซานฟรานซิสโกติดต่อ Mark ภายหลังระบุว่าได้รับข้อมูลบัญชีเขาทั้งหมดจาก Google และพบว่าไม่มีอาชญากรรมอะไรจึงปิดคดีไป แต่ตำรวจระบุว่าไม่สามารถสั่งให้ Google เปิดบัญชีกลับมาให้ได้ Mark พยายามอุทธรณ์อีกรอบด้วยเอกสารจากตำรวจแต่ก็ไม่เป็นผล
รายงานของ The New York Times ยังพบกรณีคล้ายๆ กันในเท็กซัส พ่อคนหนึ่งชื่อ Cassio ถ่ายภาพลูกส่งให้ภรรยาเพื่อส่งต่อให้แพทย์ แต่แบนบัญชีและถูกเรียกไปให้ปากคำกับตำรวจ แม้ตำรวจจะปิดคดีทิ้งแต่ก็ไม่สามารถกู้บัญชีกลับมาได้
นักข่าวของ The New York Times ตรวจสอบภาพที่เป็นประเด็นและระบุว่าเข้าใจได้ว่าทำไมระบบปัญญาประดิษฐ์ของกูเกิลจึงมองว่าเป็นภาพละเมิดเด็ก แต่เรื่องราวแบบนี้ก็แสดงให้เห็นว่าระบบไม่ได้มองข้อมูลแวดล้อมอย่างเพียงพอ Claire Lilley หัวหน้าฝ่ายความปลอดภัยเด็กระบุว่าบัญชีของ Mark มีภาพที่ไม่ได้แสดงอาการป่วยด้วย และยังมีวิดีโอเด็กนอนกับหญิงไม่ใส่เสื้อ แต่เนื่องจาก Mark เองเข้าถึงภาพเหล่านั้นไม่ได้แล้วเขาระบุว่าจำไม่ได้ว่าเป็นภาพใด