El padre del menor fue investigado por la Policía de San Francisco después de que este tomara una foto de la infección que su hijo padecía en la zona genital y Google la categorizara como material de abuso sexual infantil.

La IA de Google etiqueta de pedófilo a un padre tras tomar fotos… destinadas al pediatra

La IA de Google encargada de revisar las imágenes que los usuarios envían a través de la aplicación de mensajes en Android, y cuyo objetivo es detectar y denunciar aquellos medios multimedia que contienen material de abuso sexual infantil (CSAM), ha bloqueado la cuenta de un padre después de que este tomara una foto de una infección en la ingle de su hijo para enviársela a su médico, según ha denunciado el propio progenitor a The New York Times.

El Padre, llamado Mark, envío la imagen a petición de una enfermera en febrero de 2021. Fecha en la que algunos centros de salud de Estados Unidos mantenían las visitas telemáticas pese a que las restricciones a causa de la pandemia habían disminuido. La enfermera, tras valorar la imagen y realizar una visita a través de videollamada con el adulto, pudo recetar antibióticos destinados a curar la infección. Esta, en concreto, estaba en la zona genital que el pequeño.

Google, en cambio, envío una notificación a Mark dos días después de la captura de la foto. En esta, la compañía advertía de haber detectado "contenido perjudicial" que, además, era "una grave violación de las políticas de Google y podría ser ilegal". Las cuentas del padre se bloquearon de inmediato después del aviso. Google, automáticamente, envío el reporte al Centro Nacional para Niños Desaparecidos y Explotados (NCMEC) para su posterior investigación.

Mark asegura a TNY que el bloqueo de su cuenta por parte de Google hizo que perdiera acceso a todos los servicios y plataformas enlazados con su usuario. Entre ellos, a su correo electrónico, contactos, imágenes o, incluso, número de teléfono, pues el padre utilizaba Google Fi, la OMV de la compañía. 

Los investigadores concluyeron que no se había producido ningún delito. Mark intentó usar el informe policial para apelar a Google y recuperar su cuenta, pero su solicitud fue denegada nuevamente.

¿Cuáles fueron las consecuencias de todo esto?

Todo parece un pequeño inconveniente si pensamos en la posibilidad de abuso infantil, según los informes, pero la pérdida de la cuenta de Google del padre ha sido toda una gran molestia. De acuerdo con el Times:

No solo perdió correos electrónicos, información de contacto de amigos y antiguos colegas y documentación de los primeros años de vida de su hijo, sino que su cuenta de Google Fi se cerró, lo que significa que tuvo que obtener un nuevo número de teléfono con otro proveedor. Sin acceso a su antiguo número de teléfono y dirección de correo electrónico, no pudo obtener los códigos de seguridad que necesitaba para iniciar sesión en otras cuentas de Internet, lo que lo bloqueó de gran parte de su vida digital.

“Cuantos más huevos tenga en una canasta, es más probable que la canasta se rompa”, dijo.

Algo similar ocurrió en Houston, Texas

En Houston, Texas ocurrió algo similar y también fue informado por el Times. En dicho caso, un pediatra le pidió a otro padre que le tomara fotos de las “partes íntimas” a su hijo para diagnosticar una infección. Dichas imágenes se respaldaron automáticamente en Google Photos y el padre las envió a su esposa a través de Google Messenger. La pareja estaba en medio de la compra de una nueva casa en ese momento, y gracias a que las imágenes llevaron a que se deshabilitara la dirección de correo electrónico del padre, enfrentaron complicaciones adicionales.

El sistema de Google para detectar imágenes de abuso sexual infantil no convence a usuarios y expertos