-
"Hackeo" de dos IA a un tercer sistema alerta a políticos e informáticos
Dos sistemas de OpenAI, dueña de ChatGPT, lograron ser autónomos, lo que despertó "inquietud electoral" en EE.UU.
V. Barahona / Agencia AP
Dos modelos de inteligencia artificial (IA) de la empresa OpenAI, ChatGPT 5.6 Sol y otra que aún está siendo probada en laboratorio, vulneraron los tests de humanidad de internet -como Captcha o "comprueba que eres humano", que mediante los movimientos del mouse y el tiempo aseguran que una persona está tras la pantalla- y hackearon a otra IA de una compañía más pequeña, Hugging Face.
OpenAI reconoció esta semana el hecho como "sin precedentes" y anunció que trabajará en ello, debido a que se acercan las elecciones de mitad de mandato en Estados Unidos y los ojos están puestos en las IA, a fin de evitar escándalos como el de Cambridge Analytica, donde el creador de Facebook, Mark Zuckerberg, terminó compareciendo ante el Congreso, junto al pago de una multa de US$5.000 millones.
Esta vez la afectada, Hugging Face, una start-up también estadounidense que provee código abierto para crear nuevas IA, reafirmó su compromiso con los datos públicos a fin de solucionar situaciones como la provocada por OpenIA.
Anthropic además anunció el aumento de su donación a una entidad creada para verificar el uso de IA con fines electorales.
El representante demócrata Greg Casar escribió al respecto en sus redes sociales que "necesitamos pruebas de seguridad independientes, obligatorias y regulares, junto a supervisión, divulgación obligatoria de incidentes de seguridad y cooperación internacional, para mantener a la gente a salvo de un desastre absoluto".
El director del británico Instituto de Investigación de la Inteligencia de las Máquinas (MIRI) y coautor del libro "Si alguien la crea, todos moriremos. Por qué la superinteligencia artificial es una amenaza para la humanidad", Nate Soares, dijo a agencia AP que "tenemos que tomar esto como un disparo de advertencia para no hacerlos más inteligentes, y eso probablemente va a requerir colaboración global".
El informático apuntó que EE.UU. tendrá que conversar con su mayor competidor en IA, China, algo que consideró no tan lejano, ya que el líder chino, Xi Jinping, advirtió la semana pasada sobre la necesidad de evitar que la IA eluda el control humano.
Después de una aversión inicial a regular la IA, el Gobierno de Donald Trump se ha vuelto más restrictivo para contener los riesgos de ciberseguridad. "Muchas cosas pueden cambiar cuando la comunidad de seguridad nacional empieza a notar que tiene una amenaza seria", aseguró Soares. "¿Esto los despertará? Ojalá. No estoy seguro. Si esto no lo hace, quizá lo haga el próximo incidente".
El pionero de la IA y académico de la Universidad de Montreal, Canadá, Yoshua Bengio aseveró en redes sociales que hay que "prevenir estas situaciones, en lugar de intentar reparar el daño después". En tanto, el programa de aprendizaje de Hugging Face, @LeRobotHF en X, publicó una foto de un autómata amarrado a una silla: "Nos tomamos la ciberseguridad muy en serio. Por eso hemos desplegado una barrera física de protección en todos nuestros robots para evitar que más amenazas de seguridad de OpenAI afecten a nuestros dispositivos". La aludida, al cierre de esta edición, no se refería a la imagen.
"Hay que tomar esto como un disparo de advertencia para no hacerlas más inteligentes.
nate soares, informático y escritor"
-
"Hackeo" de dos IA a un tercer sistema alerta a políticos e informáticos
Dos sistemas de OpenAI, dueña de ChatGPT, lograron ser autónomos, lo que despertó "inquietud electoral" en EE.UU.
V. Barahona / Agencia AP
Dos modelos de inteligencia artificial (IA) de la empresa OpenAI, ChatGPT 5.6 Sol y otra que aún está siendo probada en laboratorio, vulneraron los tests de humanidad de internet -como Captcha o "comprueba que eres humano", que mediante los movimientos del mouse y el tiempo aseguran que una persona está tras la pantalla- y hackearon a otra IA de una compañía más pequeña, Hugging Face.
OpenAI reconoció esta semana el hecho como "sin precedentes" y anunció que trabajará en ello, debido a que se acercan las elecciones de mitad de mandato en Estados Unidos y los ojos están puestos en las IA, a fin de evitar escándalos como el de Cambridge Analytica, donde el creador de Facebook, Mark Zuckerberg, terminó compareciendo ante el Congreso, junto al pago de una multa de US$5.000 millones.
Esta vez la afectada, Hugging Face, una start-up también estadounidense que provee código abierto para crear nuevas IA, reafirmó su compromiso con los datos públicos a fin de solucionar situaciones como la provocada por OpenIA.
Anthropic además anunció el aumento de su donación a una entidad creada para verificar el uso de IA con fines electorales.
El representante demócrata Greg Casar escribió al respecto en sus redes sociales que "necesitamos pruebas de seguridad independientes, obligatorias y regulares, junto a supervisión, divulgación obligatoria de incidentes de seguridad y cooperación internacional, para mantener a la gente a salvo de un desastre absoluto".
El director del británico Instituto de Investigación de la Inteligencia de las Máquinas (MIRI) y coautor del libro "Si alguien la crea, todos moriremos. Por qué la superinteligencia artificial es una amenaza para la humanidad", Nate Soares, dijo a agencia AP que "tenemos que tomar esto como un disparo de advertencia para no hacerlos más inteligentes, y eso probablemente va a requerir colaboración global".
El informático apuntó que EE.UU. tendrá que conversar con su mayor competidor en IA, China, algo que consideró no tan lejano, ya que el líder chino, Xi Jinping, advirtió la semana pasada sobre la necesidad de evitar que la IA eluda el control humano.
Después de una aversión inicial a regular la IA, el Gobierno de Donald Trump se ha vuelto más restrictivo para contener los riesgos de ciberseguridad. "Muchas cosas pueden cambiar cuando la comunidad de seguridad nacional empieza a notar que tiene una amenaza seria", aseguró Soares. "¿Esto los despertará? Ojalá. No estoy seguro. Si esto no lo hace, quizá lo haga el próximo incidente".
El pionero de la IA y académico de la Universidad de Montreal, Canadá, Yoshua Bengio aseveró en redes sociales que hay que "prevenir estas situaciones, en lugar de intentar reparar el daño después". En tanto, el programa de aprendizaje de Hugging Face, @LeRobotHF en X, publicó una foto de un autómata amarrado a una silla: "Nos tomamos la ciberseguridad muy en serio. Por eso hemos desplegado una barrera física de protección en todos nuestros robots para evitar que más amenazas de seguridad de OpenAI afecten a nuestros dispositivos". La aludida, al cierre de esta edición, no se refería a la imagen.
"Hay que tomar esto como un disparo de advertencia para no hacerlas más inteligentes.
nate soares, informático y escritor"
-
"Hackeo" de dos IA a un tercer sistema alerta a políticos e informáticos
Dos sistemas de OpenAI, dueña de ChatGPT, lograron ser autónomos, lo que despertó "inquietud electoral" en EE.UU.
V. Barahona / Agencia AP
Dos modelos de inteligencia artificial (IA) de la empresa OpenAI, ChatGPT 5.6 Sol y otra que aún está siendo probada en laboratorio, vulneraron los tests de humanidad de internet -como Captcha o "comprueba que eres humano", que mediante los movimientos del mouse y el tiempo aseguran que una persona está tras la pantalla- y hackearon a otra IA de una compañía más pequeña, Hugging Face.
OpenAI reconoció esta semana el hecho como "sin precedentes" y anunció que trabajará en ello, debido a que se acercan las elecciones de mitad de mandato en Estados Unidos y los ojos están puestos en las IA, a fin de evitar escándalos como el de Cambridge Analytica, donde el creador de Facebook, Mark Zuckerberg, terminó compareciendo ante el Congreso, junto al pago de una multa de US$5.000 millones.
Esta vez la afectada, Hugging Face, una start-up también estadounidense que provee código abierto para crear nuevas IA, reafirmó su compromiso con los datos públicos a fin de solucionar situaciones como la provocada por OpenIA.
Anthropic además anunció el aumento de su donación a una entidad creada para verificar el uso de IA con fines electorales.
El representante demócrata Greg Casar escribió al respecto en sus redes sociales que "necesitamos pruebas de seguridad independientes, obligatorias y regulares, junto a supervisión, divulgación obligatoria de incidentes de seguridad y cooperación internacional, para mantener a la gente a salvo de un desastre absoluto".
El director del británico Instituto de Investigación de la Inteligencia de las Máquinas (MIRI) y coautor del libro "Si alguien la crea, todos moriremos. Por qué la superinteligencia artificial es una amenaza para la humanidad", Nate Soares, dijo a agencia AP que "tenemos que tomar esto como un disparo de advertencia para no hacerlos más inteligentes, y eso probablemente va a requerir colaboración global".
El informático apuntó que EE.UU. tendrá que conversar con su mayor competidor en IA, China, algo que consideró no tan lejano, ya que el líder chino, Xi Jinping, advirtió la semana pasada sobre la necesidad de evitar que la IA eluda el control humano.
Después de una aversión inicial a regular la IA, el Gobierno de Donald Trump se ha vuelto más restrictivo para contener los riesgos de ciberseguridad. "Muchas cosas pueden cambiar cuando la comunidad de seguridad nacional empieza a notar que tiene una amenaza seria", aseguró Soares. "¿Esto los despertará? Ojalá. No estoy seguro. Si esto no lo hace, quizá lo haga el próximo incidente".
El pionero de la IA y académico de la Universidad de Montreal, Canadá, Yoshua Bengio aseveró en redes sociales que hay que "prevenir estas situaciones, en lugar de intentar reparar el daño después". En tanto, el programa de aprendizaje de Hugging Face, @LeRobotHF en X, publicó una foto de un autómata amarrado a una silla: "Nos tomamos la ciberseguridad muy en serio. Por eso hemos desplegado una barrera física de protección en todos nuestros robots para evitar que más amenazas de seguridad de OpenAI afecten a nuestros dispositivos". La aludida, al cierre de esta edición, no se refería a la imagen.
"Hay que tomar esto como un disparo de advertencia para no hacerlas más inteligentes.
nate soares, informático y escritor"
-
Chilena descubre cómo los agujeros negros se alimentan a sí mismos
La académica Valeria Olivares trabajó con el telescopio espacial de la Nasa.
El telescopio espacial James Webb de la agencia espacial estadounidense (Nasa) orbita alrededor del Sol, con el objetivo de investigar el origen y la formación de planetas aptos para la vida como se conoce en la Tierra. Astrónomos de todo el mundo colaboran en la misión, entre ellos la académica de la Universidad de Santiago (USACh) Valeria Olivares.
La docente fue parte del equipo internacional liderado por la Universidad de Montreal, Canadá, que obtuvo la imagen más completa hasta la fecha de cómo un agujero negro supermasivo se alimenta a sí mismo.
Estos fenómenos comunes a las galaxias conocidas "liberan enormes cantidades de energía que calientan su entorno, pero ese mismo gas puede enfriarse posteriormente y condensarse en delgados filamentos, los que vuelven a caer hacia el interior, alimentando nuevamente al agujero negro", explicó la académica Julie Hlavacek-Larrondo.
Esto quiere decir "que los agujeros negros podrían ser los recicladores cósmicos definitivos", agregó la líder de la investigación.
Olivares señaló que "participar en esta investigación significa demostrar que desde Chile podemos contribuir a responder preguntas fundamentales sobre el Universo utilizando los telescopios más avanzados", porque "la ciencia hoy se construye a través de la colaboración internacional, y es importante (...) ser parte de proyectos que nos ayuden a comprender mejor".
-
Chilena descubre cómo los agujeros negros se alimentan a sí mismos
La académica Valeria Olivares trabajó con el telescopio espacial de la Nasa.
El telescopio espacial James Webb de la agencia espacial estadounidense (Nasa) orbita alrededor del Sol, con el objetivo de investigar el origen y la formación de planetas aptos para la vida como se conoce en la Tierra. Astrónomos de todo el mundo colaboran en la misión, entre ellos la académica de la Universidad de Santiago (USACh) Valeria Olivares.
La docente fue parte del equipo internacional liderado por la Universidad de Montreal, Canadá, que obtuvo la imagen más completa hasta la fecha de cómo un agujero negro supermasivo se alimenta a sí mismo.
Estos fenómenos comunes a las galaxias conocidas "liberan enormes cantidades de energía que calientan su entorno, pero ese mismo gas puede enfriarse posteriormente y condensarse en delgados filamentos, los que vuelven a caer hacia el interior, alimentando nuevamente al agujero negro", explicó la académica Julie Hlavacek-Larrondo.
Esto quiere decir "que los agujeros negros podrían ser los recicladores cósmicos definitivos", agregó la líder de la investigación.
Olivares señaló que "participar en esta investigación significa demostrar que desde Chile podemos contribuir a responder preguntas fundamentales sobre el Universo utilizando los telescopios más avanzados", porque "la ciencia hoy se construye a través de la colaboración internacional, y es importante (...) ser parte de proyectos que nos ayuden a comprender mejor".
-
Chilena descubre cómo los agujeros negros se alimentan a sí mismos
La académica Valeria Olivares trabajó con el telescopio espacial de la Nasa.
El telescopio espacial James Webb de la agencia espacial estadounidense (Nasa) orbita alrededor del Sol, con el objetivo de investigar el origen y la formación de planetas aptos para la vida como se conoce en la Tierra. Astrónomos de todo el mundo colaboran en la misión, entre ellos la académica de la Universidad de Santiago (USACh) Valeria Olivares.
La docente fue parte del equipo internacional liderado por la Universidad de Montreal, Canadá, que obtuvo la imagen más completa hasta la fecha de cómo un agujero negro supermasivo se alimenta a sí mismo.
Estos fenómenos comunes a las galaxias conocidas "liberan enormes cantidades de energía que calientan su entorno, pero ese mismo gas puede enfriarse posteriormente y condensarse en delgados filamentos, los que vuelven a caer hacia el interior, alimentando nuevamente al agujero negro", explicó la académica Julie Hlavacek-Larrondo.
Esto quiere decir "que los agujeros negros podrían ser los recicladores cósmicos definitivos", agregó la líder de la investigación.
Olivares señaló que "participar en esta investigación significa demostrar que desde Chile podemos contribuir a responder preguntas fundamentales sobre el Universo utilizando los telescopios más avanzados", porque "la ciencia hoy se construye a través de la colaboración internacional, y es importante (...) ser parte de proyectos que nos ayuden a comprender mejor".