Tienda Wifi

Tienda Wifi
CiudadWireless es la tienda Wifi recomendada por elhacker.NET

Entradas Mensuales

Síguenos en:

Canal Oficial Telegram de elhacker.NET Grupo Facebook elhacker.NET Twitter elhacker.NET Canal Youtube elhacker.NET Comunidad Steam: Grupo elhacker.NET

Suscripción

¿Quieres recibir las últimas novedades del blog en tu correo?

¡Suscríbete al feed!

Entradas populares

PostHeaderIcon Google cataloga como abuso infantil la foto de un padre a su hijo enfermo


El padre del menor fue investigado por la Policía de San Francisco después de que este tomara una foto de la infección que su hijo padecía en la zona genital y Google la categorizara como material de abuso sexual infantil.




La IA de Google etiqueta de pedófilo a un padre tras tomar fotos… destinadas al pediatra

  • Las cuentas del padre quedaron bloqueadas debido a 'contenido dañino', siendo según Google, 'una violación severa de las políticas de la compañía y que podía ser ilegal'. 
  • Mark finalmente acabó perdiendo acceso a su correo electrónico, contactos, fotos, e incluso su número de teléfono. Intentó apelar la decisión, pero Google rechazó la petición. 
  • La policía de San Francisco realizó una investigación en diciembre de 2021, concluyendo que no se cometió ningún crimen. 

La IA de Google encargada de revisar las imágenes que los usuarios envían a través de la aplicación de mensajes en Android, y cuyo objetivo es detectar y denunciar aquellos medios multimedia que contienen material de abuso sexual infantil (CSAM), ha bloqueado la cuenta de un padre después de que este tomara una foto de una infección en la ingle de su hijo para enviársela a su médico, según ha denunciado el propio progenitor a The New York Times.

El Padre, llamado Mark, envío la imagen a petición de una enfermera en febrero de 2021. Fecha en la que algunos centros de salud de Estados Unidos mantenían las visitas telemáticas pese a que las restricciones a causa de la pandemia habían disminuido. La enfermera, tras valorar la imagen y realizar una visita a través de videollamada con el adulto, pudo recetar antibióticos destinados a curar la infección. Esta, en concreto, estaba en la zona genital que el pequeño.

Google, en cambio, envío una notificación a Mark dos días después de la captura de la foto. En esta, la compañía advertía de haber detectado "contenido perjudicial" que, además, era "una grave violación de las políticas de Google y podría ser ilegal". Las cuentas del padre se bloquearon de inmediato después del aviso. Google, automáticamente, envío el reporte al Centro Nacional para Niños Desaparecidos y Explotados (NCMEC) para su posterior investigación.

Mark asegura a TNY que el bloqueo de su cuenta por parte de Google hizo que perdiera acceso a todos los servicios y plataformas enlazados con su usuario. Entre ellos, a su correo electrónico, contactos, imágenes o, incluso, número de teléfono, pues el padre utilizaba Google Fi, la OMV de la compañía. 

Los investigadores concluyeron que no se había producido ningún delito. Mark intentó usar el informe policial para apelar a Google y recuperar su cuenta, pero su solicitud fue denegada nuevamente.

¿Cuáles fueron las consecuencias de todo esto?

Todo parece un pequeño inconveniente si pensamos en la posibilidad de abuso infantil, según los informes, pero la pérdida de la cuenta de Google del padre ha sido toda una gran molestia. De acuerdo con el Times:

No solo perdió correos electrónicos, información de contacto de amigos y antiguos colegas y documentación de los primeros años de vida de su hijo, sino que su cuenta de Google Fi se cerró, lo que significa que tuvo que obtener un nuevo número de teléfono con otro proveedor. Sin acceso a su antiguo número de teléfono y dirección de correo electrónico, no pudo obtener los códigos de seguridad que necesitaba para iniciar sesión en otras cuentas de Internet, lo que lo bloqueó de gran parte de su vida digital.

“Cuantos más huevos tenga en una canasta, es más probable que la canasta se rompa”, dijo.

Algo similar ocurrió en Houston, Texas

En Houston, Texas ocurrió algo similar y también fue informado por el Times. En dicho caso, un pediatra le pidió a otro padre que le tomara fotos de las “partes íntimas” a su hijo para diagnosticar una infección. Dichas imágenes se respaldaron automáticamente en Google Photos y el padre las envió a su esposa a través de Google Messenger. La pareja estaba en medio de la compra de una nueva casa en ese momento, y gracias a que las imágenes llevaron a que se deshabilitara la dirección de correo electrónico del padre, enfrentaron complicaciones adicionales.

El sistema de Google para detectar imágenes de abuso sexual infantil no convence a usuarios y expertos

Mark también fue investigado por la Policía de San Francisco en diciembre de 2021. El caso, sin embargo, se cerró después de que la Policía, con las pruebas presentadas, concluyera que no se cometió ningún delito. 

El caso de Mark, no obstante, es una prueba más de los inconvenientes del sistema de detección de abuso infantil que compañías como Google o Apple están utilizando o van a emplear en un futuro. Este, en concreto, funciona mediante un sistema de inteligencia artificial, el cual escanea las imágenes que se envían a través de mensaje para encontrar coincidencias con la base de datos hash del Centro Nacional para Niños Desaparecidos y Explotados. Si se encuentran, un humano revisará esas imágenes para categorizarlas como CSAM, bloquear la cuenta e iniciar la investigación. Ciudadanos y expertos, sin embargo, creen que este método es un atentado a la privacidad de los usuarios.

Google, no obstante, ha asegurado a The Verge que el equipo de expertos encargados de revisar las imágenes también realiza consultas con los pediatras para "identificar casos en los que los usuarios puedan estar buscando asesoramiento médico". La imagen de Mark, en la que se mostraba la infección de su hijo, sin embargo, se reportó directamente a la NCMEC.

La delgada línea de la privacidad

El tema reabrió el debate sobre la privacidad del usuario al utilizar este tipo de servicios y plataformas. Mientras que todo el mundo coincide en que proteger a los más pequeños es vital, para muchos, escanear la galería de un usuario, sea por la razón que sea, es una violación de la privacidad.

Apple ya tuvo también su ración de polémica tras mostrar las medidas de su plan de seguridad infantil, donde se incluía escanear la biblioteca de fotos locales del usuario antes de ser subidas a iCloud. Si bien la compañía puso en espera dicha función, sí incluyó una característica opcional para las cuentas de menores donde la app de mensajes pudiera analizar las imágenes adjuntas y determinar si existe contenido sexual explícito.

Fuentes:
https://hipertextual.com/2022/08/ia-google-marca-abuso-infantil-imagen-menor-enfermo

https://www.genbeta.com/actualidad/ia-google-etiqueta-pedofilo-a-padre-tomar-fotos-destinadas-al-pediatra-cuando-ignoras-privacidad-sale-mal

https://www.tekcrispy.com/2022/08/22/google-marco-fotos-padres-ninos-enfermos-abuso-sexual/


0 comentarios :

Publicar un comentario

Los comentarios pueden ser revisados en cualquier momento por los moderadores.

Serán publicados aquellos que cumplan las siguientes condiciones:
- Comentario acorde al contenido del post.
- Prohibido mensajes de tipo SPAM.
- Evite incluir links innecesarios en su comentario.
- Contenidos ofensivos, amenazas e insultos no serán permitidos.

Debe saber que los comentarios de los lectores no reflejan necesariamente la opinión del STAFF.