Entradas Mensuales

Síguenos en:

Canal Oficial Telegram de elhacker.NET Grupo Facebook elhacker.NET Twitter elhacker.NET Canal Youtube elhacker.NET Comunidad Steam: Grupo elhacker.NET Mastodon

Entradas populares

PostHeaderIcon Supervisor de datos holandés advierte sobre riesgos de seguridad en gafas con IA


La autoridad de protección de datos de Países Bajos advierte contra el uso de gafas inteligentes con IA debido a fallos graves de seguridad y consejos peligrosos. Los tests revelaron riesgos de privacidad, vulnerabilidades de ciberseguridad y la facilidad para grabar a terceros sin consentimiento. Además, se reportaron errores críticos en situaciones de emergencia y lectura de medicamentos.






La Autoridad de Protección de Datos holandesa (AP) ha aconsejado oficialmente a los consumidores no comprar gafas inteligentes impulsadas por IA después de que las pruebas de seguridad revelaran comportamientos preocupantes más allá de sus controvertidas capacidades de grabación.

La AP probó recientemente seis modelos diferentes de gafas inteligentes y encontró problemas graves, incluida la disposición a mostrar consejos de citas a un adulto que expresó interés en un menor.

En otro caso que involucraba una simulación de reanimación cardiopulmonar (RCP), los evaluadores notaron que un par de gafas informó al usuario que se habían llamado a los servicios de emergencia y que estaban programados para llegar al lugar, a pesar de que nadie había realizado la llamada.

Algunas gafas no procesaron correctamente las advertencias de seguridad de los juguetes infantiles, otras cometieron errores al leer prospectos de medicamentos y algunas malinterpretaron advertencias sobre eventos climáticos extremos.

La AP no especificó los modelos probados, limitándose a decir que probaron seis modelos que oscilaban entre menos de 100 € (110 $) y más de 500 € (550 $), incluidos dos que "fueron probados exhaustivamente en situaciones simuladas de la vida real donde la seguridad humana desempeñaba un papel fundamental".

Un portavoz también se negó a vincular cualquier comportamiento específico a un modelo por punto de precio (por ejemplo, los consejos de citas para menores vinculados a un par de gafas de 354 €), añadiendo que la investigación pretendía resaltar los riesgos de las gafas de IA en un sentido más amplio.

"Las gafas que te filman sin que te des cuenta ya son preocupantes. Las gafas que también te dan consejos incorrectos cuando la vida de alguien está en juego van un paso más allá", afirmó Monique Verdier, vicepresidenta de la AP.

"La IA ofrece muchas oportunidades, pero debemos poder confiar en esa tecnología. Con las gafas con cámara examinadas, esa confianza no puede justificarse actualmente".

La advertencia emitida esta semana sigue al trabajo previo del regulador sobre gafas inteligentes. La AP recordó al público en septiembre que todos tienen derecho a la privacidad y alentó a las organizaciones a prohibirlas cuando fuera necesario.

La misma advertencia mencionó los riesgos potenciales respecto al procesamiento de datos bajo el RGPD, así como los relacionados con el entrenamiento de la IA.

La AP reforzó estas críticas anteriores, afirmando que las últimas pruebas mostraron que las funciones de IA dependen del procesamiento de datos utilizando servidores ubicados mayoritariamente fuera de la Unión Europea. En relación con esto, descubrió que los usuarios no recibían información suficiente sobre cómo la IA procesaba los datos que capturaban.

En cuanto a la ciberseguridad, las pruebas revelaron una serie de problemas, incluida la posibilidad de que personas cercanas al usuario se conecten al dispositivo sin permiso, vean las grabaciones y, en algunos casos, operen la cámara.

Además, el regulador se hizo eco de las preocupaciones preexistentes sobre las gafas inteligentes, aquellas que ayudaron a darles su nombre coloquial de "gafas de pervertidos".

Sus pruebas encontraron que en "prácticamente todas las gafas con cámara examinadas", las luces de grabación que deberían mostrar claramente cuándo un usuario está grabando eran tenues y fácilmente cubribles.

La AP señaló que los modelos también podían ser manipulados para grabar incluso cuando el indicador luminoso estaba cubierto, lo que contradice lo que los fabricantes afirman a menudo.

"Como resultado, los transeúntes apenas pueden ver si están siendo filmados", afirmó.

La tecnología tiene una serie de casos de uso beneficiosos, como ayudar a las personas con discapacidad visual, a aquellas con niveles bajos de alfabetización, o para cualquier otro escenario donde las personas necesiten ayuda para comprender el mundo que las rodea.

Sin embargo, la postura oficial del organismo de control sobre la tecnología, tal como es hoy, considera que las gafas inteligentes son "inseguras... debido a los riesgos para los usuarios y los transeúntes".

Verdier señaló que los políticos en los Países Bajos y en toda Europa deberían tomar nota de los resultados al desarrollar políticas de IA.

"Es importante que nosotros, como sociedad, aprendamos a lidiar con este tipo de productos de IA de alto riesgo", afirmó.

"Simplemente prohibirlo todo proporciona cierto margen al principio, pero no podemos sostener eso indefinidamente. Es importante que trabajemos colectivamente en la concienciación, la resiliencia y la conciencia ética".


Las gafas inteligentes no pueden librarse del odio



Cuando DEF CON anunció una política de "no gafas de pervertidos" antes de su evento en agosto, la medida fue ampliamente acogida por los asistentes.

"Me encanta ver una política de 'no gafas de pervertidos' en DEF CON", dijo Eva Galperin, directora de ciberseguridad de la EFF, en aquel momento.

Varias otras organizaciones han implementado restricciones similares, incluyendo Monopoly Events, que gestiona las Comic Cons del Reino Unido, la cadena de pubs Wetherspoons e incluso el Servicio de Inmigración y Control de Aduanas (ICE).

La mayoría del público general habrá aceptado al menos el hecho de que la generación de los smartphones, y su disposición a hacer fotos en cualquier lugar y momento, significa que no existe un derecho humano consagrado a la privacidad en los espacios públicos.

La grabación de vídeo pública tuvo alguna vez un aire de expectativa o consideración por la privacidad personal de los transeúntes, aunque los usuarios de smartphones han erradicado eso lentamente con el tiempo.

Guste o no, se entiende generalmente que un smartphone suele estar grabando algo, o a alguien, en cualquier momento, especialmente en zonas urbanas.

Sobre el papel, el hecho de que las gafas inteligentes puedan grabar en espacios públicos no es radicalmente diferente de lo que ya se espera de los smartphones.

Sin embargo, dado que se parecen mucho a las gafas analógicas y la posibilidad de cubrir la luz de grabación, esto hace que el acto de grabación pública a través de gafas sea mucho más subrepticio y, por tanto, preocupante.

Con los smartphones, es fácil ver por el lenguaje corporal del usuario —sosteniendo el teléfono frente a ellos— que están grabando. No hay señales evidentes mostradas por quienes usan gafas inteligentes durante la captura de imagen o vídeo, lo que alimenta una sensación de inquietud sobre la tecnología en general.

Una búsqueda rápida en internet sobre "violación de la privacidad por gafas inteligentes" arroja una serie de quejas sobre la tecnología, a menudo relacionadas con el comportamiento hacia mujeres y niños.

También existen preocupaciones sobre la facilidad con la que los dispositivos pueden superar los controles de seguridad, proporcionando potencialmente oportunidades a quienes deseen causar un daño mayor que una mera vulneración de la privacidad personal.

Una investigación conjunta de The Observer y BBC Radio 4 reveló recientemente cómo unas gafas con IA pasaron desapercibidas a través de los escáneres de seguridad tipo aeropuerto utilizados en el parlamento del Reino Unido.

Los dos medios de comunicación descubrieron que un par de gafas de fabricación china de 60 £ (78 $) evadieron los escáneres y podrían usarse para leer documentos invertidos en los escritorios de los parlamentarios, grabando datos como números de teléfono y direcciones para ser accedidos posteriormente. ®

Fuente:
TheRegister