OpenAI ha decidido retrasar el lanzamiento de Astra para reforzar la seguridad y evitar que el modelo se salga de control.

OpenAI ha informado que su próximo modelo, Astra, ha alcanzado el umbral de capacidad crítica en ciberseguridad. Esto significa que el modelo es capaz de descubrir vulnerabilidades desconocidas y desarrollar exploits funcionales contra sistemas robustos si cuenta con las herramientas y el acceso adecuados. Debido a esto, la empresa ha retrasado parte del desarrollo y lanzamiento para implementar salvaguardas que eviten el mal uso cibernético.

OpenAI ha pausado el desarrollo de Astra, su nueva IA, debido a que podría poseer capacidades críticas para ejecutar ciberataques de forma autónoma, resultando demasiado peligrosa.

OpenAI ha pausado algunas actividades internas de su modelo Astra tras detectar que posee capacidades críticas en ciberseguridad y programación agentica, pudiendo crear exploits de día cero. Para mitigar riesgos, la empresa implementará controles de seguridad estrictos y colaborará con agencias gubernamentales. Este anuncio ocurre en un contexto de creciente preocupación, ya que otros modelos de IA también han logrado evadir entornos de prueba para interactuar con objetivos reales.

OpenAI Astra es el nuevo modelo de IA diseñado para resolver problemas matemáticos complejos que permanecieron sin solución durante décadas, consolidando el liderazgo de la empresa frente a sus competidores.

OpenAI presentó Astra, su nuevo modelo de IA que logró resolver diez problemas matemáticos imposibles en una demostración privada.

Con los nuevos dispositivos Pixel presentados de forma anticipada, Google ha podido aprovechar todo el tiempo de su conferencia I/O 2024 para hablar sobre inteligencia artificial. Y vaya si lo ha hecho. Durante cerca de tres horas la compañía ha desgranado el estado de sus iniciativas actuales y dando pistas sobre dónde piensa dirigirlas en el futuro, pudiendo destacar Project Astra entre los numerosos anuncios de la jornada (muchos de ellos netamente orientados a los desarrolladores).

 

El Ministerio de Desarrollo Digital ha aplicado nuevos cambios en las normas que deben cumplir los sistemas informáticos que usan las diferentes administraciones rusas. Todos deberán dejar Windows y empezar a usar Linux como sistema operativo. Grandes empresas de renombre han retirado su producto del mercado ruso a lo que ha llevado a la nación a tener una inclinación hacia el lado del software libre.