SafetyCore es un nuevo servicio del sistema de Google para dispositivos Android 9+ que proporciona la infraestructura en el dispositivo para realizar una clasificación segura y privada para ayudar a los usuarios a detectar contenido no deseado.

Android System SafetyCore es un nuevo componente de seguridad del sistema operativo Android que está relacionado con la protección y advertencias de contenido sensible de Google. No es en sí una aplicación, sino que es un servicio que ejerce sus funciones de seguridad a través de otras apps en las que el usuario está expuesto este contenido.

El servicio Android System SafetyCore escanea imágenes en busca de desnudos y contenido sensible. Por el momento, solo hará esta tarea en la aplicación Mensajes de Google. Es probable que en un futuro funcione en otras apps de mensajería y redes sociales, volviéndose una función esencial del control parental de Android.

¿Y qué hace cuando detecta desnudos? Pues difumina las imágenes automáticamente para proteger al usuario de este contenido sensible. Así, Android System SafetyCore permitirá proteger a menores de contenido sensible y todos los usuarios en general de desnudos indeseados.

Google ha aclarado que la nueva aplicación Android System SafetyCore no realiza ningún análisis de contenido del lado del cliente: los usuarios tienen el control sobre SafetyCore que sólo clasifica contenido específico cuando una aplicación lo solicita a través de una función habilitada opcionalmente.

"Android ofrece muchas protecciones en el dispositivo que salvaguardan a los usuarios contra amenazas como malware, spam de mensajería y protección contra abusos, y protección contra estafas telefónicas, al mismo tiempo que preservan la privacidad del usuario y mantienen a los usuarios en control de sus datos", dijo un portavoz de la cuando fue contactado para hacer comentarios. 

   SafetyCore (nombre del paquete "com.google.android.safetycore") fue presentado por Google en octubre de 2024, como parte de un conjunto de medidas de seguridad diseñadas para combatir estafas y otro contenido considerado sensible en la aplicación Google Messages para Android.

Android System SafetyCore es una aplicación oficial de Google. Se trata de un servicio de seguridad que no tiene interfaz gráfica (por eso no puedes abrirla como una app) pero que trabaja en segundo plano para ejercer acciones de seguridad en el sistema.

En la página de Play Store de Android System SafetyCore puedes ver que esta aplicación le pertenece a Google. De hecho, en la web Google for Developers se menciona que este es un nuevo componente del sistema Android que sirve como infraestructura de protección para otras apps del sistema.

La función, que requiere 2 GB de RAM, se está implementando en todos los dispositivos Android que ejecutan la versión 9 de Android y posteriores, así como en aquellos que ejecutan Android Go, una versión liviana del sistema operativo para teléfonos inteligentes de nivel básico.

Por otro lado, el escaneo del lado del cliente (CSS) se considera un enfoque alternativo para permitir el análisis de datos en el dispositivo en lugar de debilitar el cifrado o agregar puertas traseras a los sistemas existentes. Sin embargo, el método ha generado serias preocupaciones sobre la privacidad, ya que es propenso a abusos al obligar al proveedor de servicios a buscar material más allá del alcance acordado inicialmente.

En algunos sentidos, las advertencias de contenido confidencial de Google para la aplicación Mensajes son muy similares a la función de seguridad de comunicación de Apple en iMessage, que emplea el aprendizaje automático en el dispositivo para analizar los archivos adjuntos de fotos y videos y determinar si una foto o un video parece contener desnudez.

Los encargados del mantenimiento del sistema operativo GrapheneOS, en una publicación compartida en X, reiteraron que SafetyCore no proporciona escaneo del lado del cliente y está diseñado principalmente para ofrecer modelos de aprendizaje automático en el dispositivo que otras aplicaciones pueden usar para clasificar el contenido como spam, estafa o malware.

"Clasificar cosas como esta no es lo mismo que intentar detectar contenido ilegal y reportarlo a un servicio", dijo GrapheneOS. "Eso violaría enormemente la privacidad de las personas de múltiples maneras y los falsos positivos seguirían existiendo. No es lo que es y no se puede usar para eso".

Fuente: THN

Vía:

https://blog.segu-info.com.ar/2025/02/android-system-safetycore-que-es-y-para.html