หนังสือพิมพ์ The New York Times รายงานถึงพ่อคนหนึ่งใช้ชื่อ Mark ถูกกูเกิลแบนบัญชีทั้งหมดหลังเขาถ่ายรูปอวัยวะเพศลูกชายของเขาเพื่อส่งให้แพทย์ตรวจโรค และระบบอุทธรณ์ของกูเกิลไม่ยอมเปิดบัญชีคืนให้แม้เขาจะส่งหลักฐานว่าการถ่ายภาพของเขาไม่ใช่การกระทำความผิดละเมิดทางเพศเด็กก็ตาม

Mark พบว่าอวัยวะเพศของลูกชายของเขามีอาการบวม จึงถ่ายรูปเอาไว้เพื่อดูว่าเป็นปัญหาจริงหรือไม่ หนังสือจากนั้นภรรยาของ Mark ติดต่อหมอ แสดงแชร์ภาพที่ Mark ถ่ายเอาไว้ไปยัง iPhone ของเธอเพื่อส่งต่อให้แพทย์อีกที หลังจากนั้นแพทย์จ่ายยาปฏิชีวนะและอาการของโรคก็ดีขึ้น แต่ระบบของกูเกิลตรวจว่า Mark อัพโหลดภาพทางเพศของเด็กจึงแบนบัญชีพร้อมกับแจ้งความ

Mark ใช้บริการทั้งอีเมล และหมายเลขโทรศัพท์ของ Google Fi หลังจากกูเกิลเริ่มแบนบัญชีก็ทำให้เขาเข้าใช้อีเมลไม่ได้ และไม่สามารถใช้หมายเลขโทรศัพท์เดิมได้พร้อมๆ กัน บัญชีต่างๆ ที่ผูกไว้กับอีเมลหรือหมายเลขโทรศัพท์จึงใช้ไม่ได้ไปทั้งหมด ตำรวจซานฟรานซิสโกติดต่อ Mark ภายหลังระบุว่าได้รับข้อมูลบัญชีเขาทั้งหมดจากกูเกิล และพบว่าไม่มีอาชญากรรมอะไรจึงปิดคดีไป แต่ตำรวจระบุว่าไม่สามารถสั่งให้กูเกิลเปิดบัญชีกลับมาให้ได้ Mark พยายามอุทธรณ์อีกรอบด้วยเอกสารจากตำรวจแต่ก็ไม่เป็นผล

รายงานของ The New York Times ยังพบกรณีคล้ายๆ กันในเท็กซัส พ่อคนหนึ่งชื่อ Cassio ถ่ายภาพลูกส่งให้ภรรยาเพื่อส่งต่อให้แพทย์ แต่แบนบัญชีและถูกเรียกไปให้ปากคำกับตำรวจ แม้ตำรวจจะปิดคดีทิ้งแต่ก็ไม่สามารถกู้บัญชีกลับมาได้ นักข่าวของ The New York Times ตรวจสอบภาพที่เป็นประเด็นและระบุว่าเข้าใจได้ว่าทำไมระบบปัญญาประดิษฐ์ของกูเกิลจึงมองว่าเป็นภาพละเมิดเด็ก แต่เรื่องราวแบบนี้ก็แสดงให้เห็นว่าระบบไม่ได้มองข้อมูลแวดล้อมอย่างเพียงพอ Claire Lilley หัวหน้าฝ่ายความปลอดภัยเด็กระบุว่าบัญชีของ Mark มีภาพที่ไม่ได้แสดงอาการป่วยด้วย และยังมีวิดีโอเด็กนอนกับหญิงไม่ใส่เสื้อ แต่เนื่องจาก Mark เองเข้าถึงภาพเหล่านั้นไม่ได้แล้วเขาระบุว่าจำไม่ได้ว่าเป็นภาพใด

ที่มา – The New York Times

ภาพโดย PhotoMIX-Company