美國舊金山一名男子因幼齡兒子下體處疼痛，緊急之下立刻為兒子預約隔日視訊看診，護理師要求他先提供照片給醫生參考。然而，他拍下兒子下體處的照片竟為他帶來嚴重後果。
根據《紐約時報》報導，2021年某夜，當時在家遠距上班的電腦軟體工程師馬克（Mark），發現幼齡兒子的陰莖出現疼痛、腫脹發炎狀況，便拍下兒子患部情形給醫生參考，事後兒子使用抗生素也康復了。
未料，拍完照片之後的2天，馬克卻收到Google 官方通知，指出他被認定涉嫌對兒童性虐待或性剝削，該張拍給醫生看的照片可能是被Google AI識別為兒童色情圖片，馬克是Google重度使用者，會將影音資訊備份到雲端而被Google審查內容，最終Google決定關閉他的電子郵件（Gmail ）、電話服務（Google Fi）等，且申訴無用。
Google於2021年提交超過62份涉嫌虐待兒童的報告，禁用超過27萬名用戶帳號。根據《IT之家》指出，包括Facebook 、Twitter和Reddit在內，會使用2009年由微軟發布的PhotoDNA工具來比對找出傳播虐童的圖像，另一款為2018年由Google發布的Content Safety API，它處理虐童圖像內容的效率高達700%，目前也開源給Facebook使用。
馬克使用的是Android 手機，但其實蘋果去年曾宣布兒童安全（Child Safety）計畫，蘋果曾在iOS / iPad OS 15.2測試版本中加上圖片審查功能，自動檢測iPhone 和iCloud 是否涉及兒童色情影音內容，但消息一出隨即引來反彈聲浪，最終該計畫被無限延期。然而，蘋果用戶也別高興得太早，畢竟只要使用Google就會面臨被審查的可能。
