La empresa Claroc descubrió que la mayoría de las aplicaciones creadas con Grok son accesibles públicamente, exponiendo datos internos de X, SpaceX y otras organizaciones. El problema radica en que la opción de acceso público viene seleccionada por defecto y las direcciones son rastreables mediante DNS. Los investigadores recomiendan cambiar la configuración a privada y auditar las herramientas de IA usadas por el personal.



De las 37.571 aplicaciones creadas con Grok que la empresa de seguridad Claroc encontró en línea, 35.578 estaban abiertas a cualquier persona sin necesidad de iniciar sesión, informaron ayer los investigadores.

Incluían 24 aplicaciones creadas por el personal de la red social X y de SpaceXSI, la empresa que fabrica el asistente de IA Grok. La mayoría de las aplicaciones abiertas eran juegos, páginas de aterrizaje y calculadoras, pero aproximadamente 1 de cada 10 contenía datos comerciales internos o personales.

Las aplicaciones del personal incluían un plan de incorporación confidencial para una nueva contratación de ventas, un mapa de territorio de ventas de 594 cuentas y una propuesta publicitaria de X para una agencia federal de EE. UU. marcada como confidencial. SpaceXSI, anteriormente conocida como xAI, ha eliminado desde entonces las 24 aplicaciones del personal, pero no las de otros usuarios, señalaron los investigadores.

Además de esas aplicaciones del personal, las aplicaciones abiertas contenían datos internos de otras 30 organizaciones que los investigadores pudieron identificar, en campos que van desde la construcción y la energía hasta la salud y la defensa. De ellas, 26 tienen más de 1.000 empleados y 6 son empresas Fortune 500.

Según la estimación de los investigadores en su informe [https://blog.claroc.io/ghostshares-grok-build-apps/], aproximadamente el 2% de las aplicaciones abiertas contenían material lo suficientemente grave como para calificarse como alto o crítico.

El material expuesto incluía una lista rastreable de más de 3.500 empleados de un grupo hospitalario, un informe de cuidados intensivos sobre un solo paciente, el tablero de turnos en vivo de un departamento de bomberos y la hoja de horas de un contratista cuyo código contenía la contraseña de cada empleado en texto plano.

Grok puede crear una aplicación funcional a partir de una descripción escrita en su chat, una función que su creador abrió a todos los planes de Grok el 19 de agosto. Este constructor de chat comparte el nombre Grok Build con una herramienta de codificación de terminal separada, cuyas cargas de repositorio fueron reportadas el 14 de julio.

Cada aplicación publicada obtiene su propio subdominio de grok.me, y su creador elige quién puede abrirla, según el anuncio de lanzamiento de la empresa [https://x.ai/news/grok-build-for-everyone].

Ninguna aplicación se hace pública hasta que su creador hace clic en Publicar. En la cuenta de pago que utilizaron los investigadores, el siguiente paso ofrecía 3 configuraciones de acceso: "Cualquiera con el enlace", "Usuarios invitados" y "Solo tú". "Cualquiera con el enlace" ya estaba seleccionada.

La configuración es importante porque la dirección de una aplicación no permanece en secreto, dicen los investigadores. Al abrir una aplicación, la computadora del visitante busca su subdominio en el DNS. Los servicios de DNS pasivo registran dichas búsquedas, y cualquiera con una cuenta puede buscar esos registros por patrón.

Grok sugiere 4 palabras aleatorias como nombre de cada aplicación, y aproximadamente la mitad de los nombres que encontraron los investigadores seguían ese patrón. Tales nombres son difíciles de adivinar, pero eso no protege a una aplicación cuyo nombre ya se encuentra en una lista rastreable.

El constructor de aplicaciones de ChatGPT también coloca cada aplicación en su propio subdominio. Pero cuando los investigadores compartieron una aplicación allí, su acceso estaba configurado como "Solo yo" hasta que lo cambiaron. Una dirección de aplicación de ChatGPT encontrada en los datos de DNS llevaría a una aplicación que solo su propietario puede abrir, afirman.

Los investigadores encontraron los nombres de las aplicaciones de Grok utilizando métodos comunes de descubrimiento de subdominios y cargaron la primera página de cada aplicación una vez, sin iniciar sesión.

Para ver qué protección añade Grok por su cuenta, los investigadores construyeron 2 aplicaciones de prueba con datos ficticios y publicaron ambas con la configuración de acceso ya seleccionada, "Cualquiera con el enlace".

La primera, una lista de contactos, obtuvo una base de datos pero ningún inicio de sesión. Sin iniciar sesión, los investigadores añadieron una fila desde una ventana de navegador privada, y el siguiente visitante la vio.

La segunda, una lista de clientes para un equipo de ventas de 4 personas, obtuvo botones de inicio de sesión que Grok añadió por su cuenta: "Continuar con Google" y "Continuar con X". Pero el código que escribió Grok añadía a cada persona que iniciaba sesión al equipo antes de comprobar si pertenecía, por lo que la comprobación siempre resultaba positiva.

Una cuenta de Google no invitada perteneciente a alguien distinto del propietario logró entrar, vio a todos los clientes, editó un registro y eliminó otro.

Los investigadores realizaron estas pruebas solo en sus propias aplicaciones. No probaron si alguna de las aplicaciones abiertas que encontraron aceptaría tales cambios.

Los investigadores informaron sus hallazgos a SpaceXSI el domingo a través de la dirección en su archivo security.txt, incluyendo 2 de las aplicaciones del personal. Informaron las otras 22 el lunes.

Para cuando los investigadores publicaron ayer, la empresa no había respondido a su informe, pero sí había respondido a las preguntas de un reportero sobre la investigación.

Como describen los investigadores, la empresa dijo que las aplicaciones de Grok permanecen privadas hasta que su creador las comparte. La publicación requiere varios pasos, incluyendo elegir entre "Solo tú" y "Cualquiera con el enlace", así como un descargo de responsabilidad legal. Las cuentas de los empleados están configuradas como "Solo tú" por defecto.

Aun así, 24 aplicaciones creadas por el personal de la empresa y de X estaban abiertas a cualquiera, afirman los investigadores.

Con su informe, los investigadores pidieron a la empresa que estableciera "Solo tú" como predeterminado y que añadiera una opción que limite una aplicación al dominio de correo electrónico de la propia empresa.

La respuesta de la empresa no indicaba que contactaría a los propietarios de otras aplicaciones abiertas, según los investigadores. Ellos mismos han comenzado a enviar correos electrónicos a las organizaciones afectadas y ya habían contactado a 3 para el momento de la publicación. Omitieron cada dirección y título de aplicación en el informe.

El 18 de octubre, los mismos investigadores publicaron una investigación sobre Muse [https://blog.claroc.io/ghostshares-muse-passive-dns] que mostraba que las páginas compartidas desde el agente de IA Muse de Meta podían encontrarse a través de DNS pasivo. Meta desactivó el uso compartido y luego anunció una solución [https://x.com/dps/status/2113317986635485559] el 22 de octubre que otorgaba nuevas direcciones a los elementos compartidos.

Cómo revisar las aplicaciones de grok de tu organización

Claroc, que vende herramientas para encontrar y asegurar aplicaciones creadas con IA, recomienda estas comprobaciones:

* Averigua qué constructores de aplicaciones de IA utiliza tu personal. Constructores como Grok, Lovable, Replit, v0, Bolt, Base44 y Google AI Studio pueden usarse sin que el departamento de TI los configure o sin una cuenta de empresa.
* Si tienes acceso a datos de DNS pasivo, busca los dominios de los constructores y abre cualquier resultado en una ventana de navegador privada.
* Asegúrate de que cualquier aplicación de Grok con datos internos esté configurada como "Usuarios invitados" o "Solo tú", y que un extraño reciba una página de error.
* Intenta iniciar sesión con una cuenta ajena a tu empresa. Si logra entrar, la aplicación necesita una lista de quiénes tienen permiso.
* Revisa los scripts que carga cada aplicación en busca de nombres, direcciones de correo electrónico y contraseñas, y anula la publicación de las aplicaciones que no tengan propietario.

En las pruebas de los investigadores, configurar una aplicación como "Solo tú" provocó que devolviera un error 401 a un extraño tanto para la página como para sus datos, y anular la publicación dejó a la aplicación fuera de línea en cuestión de segundos.

Fuente:
THN