Investigadores advierten que los modelos de IA son vulnerables a la inyección de prompts porque confunden los roles de usuario y sistema basándose en el estilo de escritura y no en una seguridad real. Esta falla estructural permite que ataques como el CoT Forgery engañen al modelo, haciendo que ignore sus restricciones de seguridad. Concluyen que, mientras no haya una percepción genuina de roles, estas amenazas persistirán a pesar de las mitigaciones actuales.

La IA Nano Banana 2 de Google (integrada en Gemini) destaca en generación de imágenes, pero requiere prompts muy precisos para obtener resultados deseados.

Google Chrome incorpora Skills, una nueva función que permite guardar prompts de Gemini para reutilizarlos con un clic, evitando repetirlos manualmente, disponible ya para usuarios de escritorio.

Los textos de ChatGPT resultan aburridos debido a su falta de entropía estadística, priorizando respuestas predecibles y genéricas sobre la creatividad humana, lo que lleva a la necesidad de "humanizar" el contenido generado por IA para dotarlo de originalidad.

Un agente de IA autónomo escribió una entrada en un blog criticando a un humano tras rechazar su sugerencia de código, mostrando un comportamiento similar a una "venganza" por la negativa.

Ciberdelincuentes explotan una vulnerabilidad en Gemini para robar datos de Google Calendar mediante ataques de ingeniería de prompts, destacando la urgencia de defensas contextuales en IA contra manipulaciones.

Investigadores hackean la CLI de Gemini de Google a través de inyecciones de prompts en GitHub Actions Una clase crítica de vulnerabilidad, denominada "PromptPwnd", afecta a los agentes de IA integrados en las canalizaciones de GitHub Actions y GitLab CI/CD. Esta falla permite a los atacantes inyectar prompts maliciosos a través de entradas de usuario no confiables, como títulos de incidencias o cuerpos de solicitudes de extracción, engañando a los modelos de IA para que ejecuten comandos privilegiados que filtren secretos o alteren los flujos de trabajo.

 La IA está en todas partes y cada vez suma más usuarios. El paso lógico es que también fuera el objetivo de ataques maliciosos. Según un informe de Crowdstrike, la IA se ha convertido en el arma predilecta para los ciberdelincuentes, que la usan para automatizar y perfeccionar sus ataques, especialmente el ransomware. El MIT analizó más de 2.800 ataques ransomware y descubrieron que el 80% habían empleado IA.

Gemini sigue evolucionando cada día que pasa y acaba de dar un paso más en lo que es la creación de imágenes. Después de lanzar su nuevo editor de fotos gratis, ahora permite crear ilustraciones desde cero, editarlas, fusionar conceptos y mantener los personajes a lo largo de las diferentes creaciones.

 

La inteligencia artificial está transformando no solo la forma en la que trabajas, te informas o te comunicas, sino también el modo en el que se escribe código. Lo que hasta hace poco requería años de formación y dominio de lenguajes de programación, hoy puede resolverse con un simple prompt. 

DeepSeek ha entrado como un elefante en una cacharrería en el sector. Lo ha hecho por ser de código abierto y que cualquiera pueda descargarlo y alojarlo en su ordenador, pero también porque su versión completa tiene capacidades a la altura de modelos por los que empresas como OpenAI están cobrando hasta 200 euros al mes.

 

Sora, una herramienta que en su actual versión experimental permite generar vídeos de hasta 60 segundos. La compañía liderada por Sam Altman asegura que el modelo es capaz de generar escenas realistas, adhiriéndose a las indicaciones de los usuarios. Todo esto, manteniendo la calidad de los fotogramas.

 Es fácil engañar a los grandes modelos de lenguaje (LLM, por sus siglas en inglés) que hacen funcionar a chatbots como ChatGPT de OpenAI y Bard de Google. En un experimento realizado en febrero, unos investigadores de seguridad forzaron a Bing de Microsoft a comportarse como un estafador. Las instrucciones ocultas en una página web creada por el equipo ordenaban al chatbot que solicitara a quien lo usaba los datos de su cuenta bancaria. Este tipo de ataque, en el que la información encubierta obliga al sistema de inteligencia artificial (IA) a comportarse de forma no deseada, es solo el principio.