Tutoriales y Manuales
Entradas Mensuales
-
▼
2023
(Total:
710
)
-
▼
noviembre
(Total:
41
)
-
La colaboración internacional permite desmantelar ...
-
Las estafas más comunes en Facebook Marketplace
-
Ucrania hackea la Agencia de Transporte Aéreo de R...
-
ChatGPT personalizados pueden exponer datos
-
Q-Star (Q*): la nueva IA de OpenAI que amenaza a l...
-
Científicos chinos crean una «capa de invisibilida...
-
China hackeó durante 2 años al mayor fabricante de...
-
Final del Proyecto ModSecurity WAF
-
Los creadores de Stable Diffusion presentan una he...
-
OpenAI acuerda el regreso de Sam Altman como CEO y...
-
Análisis técnico del ransomware Rhysida
-
¿YouTube boicotea Firefox y a otros navegadores al...
-
La Guardia Civil e Incibe advierten sobre una fuga...
-
Windows Hello, hackeado usando vulnerabilidades en...
-
Apple no se toma en serio a Flipper Zero y el "tam...
-
Podrás desinstalar aplicaciones como Bing, Edge, C...
-
China dice que tiene la red de Internet más rápida...
-
Google pagó a Samsung 8.000 millones de dólares pa...
-
Las copias de seguridad de WhatsApp en Android vol...
-
Las versiones de pago de Instagram y Facebook extr...
-
La historia de Amazon: de pequeña librería online ...
-
Convertir un pendrive en una llave de seguridad co...
-
Los teléfonos Android necesitarán más RAM para sop...
-
mic-jammers: dispositivos para interferir y evitar...
-
Microsoft obliga a completar una encuesta antes de...
-
¿Quién tiene la culpa en un accidente con un coche...
-
Un robot mata a un trabajador al confundirlo con u...
-
"Desnuda a cualquiera con nuestro servicio gratuit...
-
En España la CNMV investiga a Twitter por permitir...
-
Scraping de 35 millones de registros con datos per...
-
Aitana es una reconocida influencer de gaming, per...
-
YouTube es acusada de violar la ley al detectar si...
-
El fabricante de componentes para bicicletas Shima...
-
El uso indebido de eventos en Google Calendar apro...
-
El peligro en las apps de citas: revelan un caso r...
-
Amazon ganó mil millones de dólares extra con un a...
-
Elon Musk va a convertir Twitter en una app de citas
-
Boeing confirma un ciberataque por la banda de ran...
-
Metasploit Framework: explotar vulnerabilidades pu...
-
EE.UU., la Unión Europea y China firman un acuerdo...
-
La UE prohíbe a Meta la publicidad selectiva en Fa...
-
- ► septiembre (Total: 65 )
-
▼
noviembre
(Total:
41
)
-
►
2022
(Total:
967
)
- ► septiembre (Total: 72 )
-
►
2021
(Total:
730
)
- ► septiembre (Total: 56 )
-
►
2020
(Total:
212
)
- ► septiembre (Total: 21 )
-
►
2019
(Total:
102
)
- ► septiembre (Total: 14 )
-
►
2017
(Total:
231
)
- ► septiembre (Total: 16 )
-
►
2016
(Total:
266
)
- ► septiembre (Total: 38 )
-
►
2015
(Total:
445
)
- ► septiembre (Total: 47 )
-
►
2014
(Total:
185
)
- ► septiembre (Total: 18 )
-
►
2013
(Total:
100
)
- ► septiembre (Total: 3 )
-
►
2011
(Total:
7
)
- ► septiembre (Total: 1 )
Blogroll
Etiquetas
Entradas populares
-
Nueva filtración masiva de datos. Esta vez no afecta a una empresa del Ibex, como ha ocurrido en las dos últimas semanas, pero sí a uno de l...
-
ShinyHunters, asegura haber abierto una brecha de seguridad en los servidores de la empresa de venta de entradas Ticketmaster , encargada d...
-
El Departamento de Justicia de Estados Unidos, en colaboración con el FBI y agencias internacionales, desmanteló la botnet 911 S5 , conside...
Q-Star (Q*): la nueva IA de OpenAI que amenaza a la humanidad
- Cómo funciona, qué la hace tan diferente y por qué preocupa tanto Q-Star, la nueva IA de OpenAI.
El despido de Sam Altman —quien ya ha vuelto a la compañía— pudo estar condicionado por una carta que la junta directiva de OpenAI recibió por parte del equipo de investigadores de la compañía. En ella, mostraban su preocupación por una IA que podría ser “una amenaza para la humanidad” y alertaban que el ejecutivo planeaba lanzarla al mercado aun sin evaluar las consecuencias. A esta inteligencia artificial se le conoce como Q* (pronunciado Q-Star) y pese a que no está confirmada por la compañía, ya conocemos algunos posibles detalles al respecto.
Q-Star, en realidad, es el nombre del proyecto destinado al desarrollo de una inteligencia artificial general (AGI, por sus siglas en inglés). Esta, aparentemente, es la que preocupa a los investigadores OpenAI, puesto a que cuenta con muchas más capacidades que una IA generativa y, por tanto, es más potente que GPT-4, el modelo que actualmente alimenta a ChatGPT.
La IA desarrollada bajo el proyecto Q-Star de OpenAI, por ejemplo, puede realizar tareas autónomas lo suficientemente avanzadas como para reemplazar a los humanos en algunos campos. Es capaz, además, de resolver problemas matemáticos, que no es algo que no todas las IA consiguen, pues la mayoría únicamente son buenas en tareas de escritura, generación de contenido y traducción. Pero, ¿por qué preocupa tanto Q*? ¿Puede realmente acabar con la humanidad?
Tabla de contenidos
¿Cómo funciona Q-Star?
Según algunos rumores, Q-Star, de OpenAI, estaría compuesta por una combinación de dos tipos de algoritmos. Uno de ellos, llamado Q-learning, que se encargaría de las tareas de aprendizaje por refuerzo o a través del método de prueba y error. Esta consiste en probar una tarea y verificar si funciona; si no es el caso, se vuelve a intentar con otra alternativa hasta que funcione. El segundo algoritmo, bautizado como A*, se encargaría de mejorar la eficiencia a la hora de buscar una solución al problema que se le plantea anticipando posibles obstáculos.
Esta combinación se habría utilizado para alimentar a otros modelos de inteligencia artificial, como AlphaGo, que llegó a ganar una partida del juego de mesa Go con uno de los mejores jugadores del mundo como contrincante.
¿Qué hace Q-Star que otras IA de OpenAI no pueden hacer?
Por el momento, lo que sabemos sobre Q-Star, de OpenAI, es que la IA que se está desarrollando es considerablemente más inteligente que GPT-4 por el simple hecho de poder solucionar problemas matemáticos.
Lo hace, eso sí, a un nivel de estudiante de escuela de primaria, pero es un avance considerable teniendo en cuenta que, a diferencia de las respuestas sobre información o cualquier otra consulta, las ecuaciones matemáticas solo tienen una solución correcta. Esto quiere decir que la IA se estaría posicionando al mismo nivel de inteligencia que el de un humano.
¿Es realmente una amenaza para la humanidad?
Las capacidades de la IA desarrollada bajo el proyecto Q-Star de OpenAI, además, pueden ir mucho más allá. Esto es, precisamente, lo que ha preocupado a los investigadores de OpenAI. En la carta, vista por Reuters, se preguntan si estos modelos podrían ser lo suficientemente avanzados como para decidir que la destrucción de la humanidad les conviene.
No es la primera vez que se cuestionan las capacidades de una IA. Hace unos meses, un ingeniero de Google afirmó que un modelo en el que estaba trabajando se había vuelto sensible. El ingeniero, incluso, llegó a decir que la IA fue capaz de pedir un abogado para que la representara.
¿Cuándo estará disponible Q-Star?
Al parecer, Sam Altman quería lanzar Q-Star al mercado sin evaluar antes las consecuencias que podría tener para la humanidad, pero los acontecimientos ocurridos en OpenAI durante las últimas semanas podrían haber detenido la intención del ejecutivo. No está claro, por tanto, cuándo estará disponible Q-Star y si, por ejemplo, llegará al mercado con menos capacidades de las que puede ofrecer.
OpenAI, eso sí, podría aprovechar sus hallazgos sobre esta IA general para mejorar sus otros modelos de IA y hacer que, por ejemplo, GPT-4 sea capaz de razonar mejor o realizar respuestas más específicas.
Fuentes:
https://hipertextual.com/2023/11/q-star-q-la-nueva-ia-de-openai-que-amenaza-a-la-humanidad
0 comentarios :
Publicar un comentario
Los comentarios pueden ser revisados en cualquier momento por los moderadores.
Serán publicados aquellos que cumplan las siguientes condiciones:
- Comentario acorde al contenido del post.
- Prohibido mensajes de tipo SPAM.
- Evite incluir links innecesarios en su comentario.
- Contenidos ofensivos, amenazas e insultos no serán permitidos.
Debe saber que los comentarios de los lectores no reflejan necesariamente la opinión del STAFF.