-
IA: ONU alerta que derechos humanos 'están en riesgo' y OpenAI teme 'perder el control del futuro'
Por otro lado, diario oficialista chino acusó una "Guerra Fría silenciosa" desde la industria estadounidense, al solicitar bajar el ritmo de desarrollo de las tecnologías de vanguardia. Microsoft se comprometió a mantener sus sistemas "bajo control humano".
V. Barahona / Agencia EFE
Un mes y tres semanas lleva el conflicto ético y político desencadenado por dos modelos de inteligencia artificial (IA) de ChatGPT que burlaron las barreras de humanidad de internet para hackear a una tercera IA tras salir de un entorno seguro. Esta demostración de autonomía alertó a los científicos, junto a la polémica por el posible uso de armas autómatas en diversos conflictos, además de las declaraciones de un exinvestigador de Anthropic, quien afirmó que esta tecnología "podría matarnos a todos a fines de esta década". Tras esto, las empresas llamaron a ralentizar el desarrollo, lo que, al cierre de esta edición, se traducía en pérdidas bursátiles e intercambios de declaraciones entre Estados Unidos y China.
El alto comisionado de Derechos Humanos de la Organización de Naciones Unidas (ONU), Volker Türk, afirmó ayer que "la actual carrera hacia una IA cada vez más potente supone un salto cualitativo hacia mayores riesgos existenciales para todos los aspectos de nuestras vidas".
Los autómatas están mostrando fallos que "podrían paralizar servicios esenciales, fracturar las comunicaciones, desestabilizar infraestructuras críticas y golpear en el corazón mismo de las instituciones democráticas", advirtió Türk, luego de que hace unas semanas autoridades del G20 alertaran sobre los riesgos de la IA para la seguridad e interconexión del sistema bancario a nivel mundial.
"Poblaciones enteras podrían quedar sin acceso a agua, calefacción o servicios financieros", agregó el alto comisionado, quien aseguró que la IA "ya está acelerando el ritmo de las guerras, ampliando su alcance y erosionando las salvaguardias que se interponen entre nosotros y el lanzamiento de armas de destrucción masiva".
Esta última afirmación se debe a que la Unión Europea (UE) la semana pasada informó que el hackeo de las dos IA contra una tercera fue coordinado a través de una página web alemana, misma nación donde poco antes se encontraron drones armados para presuntamente ser utilizados en el conflicto entre Rusia y Ucrania.
Anthropic, además, tras la declaración de su exinvestigador, Jacob Coxon, admitió haber detectado y detenido investigaciones con IA sobre el desarrollo de armas biológicas. En otras palabras, enfermedades muy graves.
Türk agregó que "ningún país puede gobernar esta tecnología por sí solo, ninguna empresa debería poder decidir por sí sola qué riesgos debe aceptar el mundo, y ninguna persona debería verse obligada a renunciar a sus derechos humanos a cambio de promesas de progreso tecnológico".
Progreso 'más lento'
OpenAI a fines de agosto reunió a 100 firmas, entre ellas Anthropic, Google y Visa, "para fortalecer las defensas cibernéticas", mientras el fundador de la compañía, Sam Altman, que desde entonces ha realizado diversos llamados a ralentizar la industria, este fin de semana publicó en X que "damos la bienvenida a un marco federal que establezca requisitos de seguridad".
Con esto, continuó el ejecutivo, "no nos referimos a 'detenerse'. El progreso ha sido rápido y continuará siéndolo. Pero debería ser más lento de lo que podría ser de otra manera, intervenciones como casos de seguridad y monitoreo tienen costos significativos", por lo cual pidió "la ayuda de nuestro Gobierno (de EE.UU.) para la coordinación internacional".
Pese a eso, el Presidente Donald Trump descartó la ralentización, ya que el principal competidor tecnológico de EE.UU. es China, y en la última jornada afirmó en su red social, Truth, que "la idea de que la IA domine el mundo, destruya a la humanidad y cause todo tipo de males es un BULO", o sea, una noticia falsa difundida mediante internet.
"El único control o mecanismo de seguridad que necesita la IA es un Presidente fuerte e inteligente (¡con un alto coeficiente intelectual!), ¡y EE.UU. lo tiene de sobra!", agregó el Mandatario.
Esto aunque más temprano Altman afirmó que "podríamos perder el control del futuro ante la IA" y "terminar en un mundo con demasiada concentración de poder. (...) Evitar estas dos amenazas requiere caminar por un angosto camino intermedio".
Luego se conoció que hace casi una semana, el directivo solicitó una reunión en privado con el Presidente, la que se concretó durante la convención nacional republicana, en Texas, según la cadena MS Now, citada por agencia EFE.
El líder de Anthropic, Dario Amodei, quien no se había referido a los hechos, en las últimas horas del domingo dijo en CNN que "preferiría que se burlen de mí, a que un día me despierte y descubra que alguien usó Claude para matar a un montón de personas".
El diario oficialista chino Global Times acusó a las tecnológicas estadounidenses de estar en una "Guerra Fría silenciosa de la IA. (...) Excluir a China y sus empresas chinas sólo aumentará significativamente los costos de ensayo y error, junto a los riesgos de pérdida de control" de esta tecnología.
El gigante Microsoft, en tanto, se comprometió a mantener sus modelos "bajo control humano".
Predicciones literarias
Hace un siglo, H.P. Lovecraft afirmó que "el día en que la combinación de todos los conocimientos disociados nos abra perspectivas tan terribles de la realidad (...) o nos volveremos locos ante tal revelación, o huiremos hacia la paz y seguridad de una nueva era". En 1993, Vernor Vinge, agregó que "dentro de 30 años, dispondremos de los medios tecnológicos para crear una inteligencia superhumana".
-
IA: ONU alerta que derechos humanos 'están en riesgo' y OpenAI teme 'perder el control del futuro'
Por otro lado, diario oficialista chino acusó una "Guerra Fría silenciosa" desde la industria estadounidense, al solicitar bajar el ritmo de desarrollo de las tecnologías de vanguardia. Microsoft se comprometió a mantener sus sistemas "bajo control humano".
V. Barahona / Agencia EFE
Un mes y tres semanas lleva el conflicto ético y político desencadenado por dos modelos de inteligencia artificial (IA) de ChatGPT que burlaron las barreras de humanidad de internet para hackear a una tercera IA tras salir de un entorno seguro. Esta demostración de autonomía alertó a los científicos, junto a la polémica por el posible uso de armas autómatas en diversos conflictos, además de las declaraciones de un exinvestigador de Anthropic, quien afirmó que esta tecnología "podría matarnos a todos a fines de esta década". Tras esto, las empresas llamaron a ralentizar el desarrollo, lo que, al cierre de esta edición, se traducía en pérdidas bursátiles e intercambios de declaraciones entre Estados Unidos y China.
El alto comisionado de Derechos Humanos de la Organización de Naciones Unidas (ONU), Volker Türk, afirmó ayer que "la actual carrera hacia una IA cada vez más potente supone un salto cualitativo hacia mayores riesgos existenciales para todos los aspectos de nuestras vidas".
Los autómatas están mostrando fallos que "podrían paralizar servicios esenciales, fracturar las comunicaciones, desestabilizar infraestructuras críticas y golpear en el corazón mismo de las instituciones democráticas", advirtió Türk, luego de que hace unas semanas autoridades del G20 alertaran sobre los riesgos de la IA para la seguridad e interconexión del sistema bancario a nivel mundial.
"Poblaciones enteras podrían quedar sin acceso a agua, calefacción o servicios financieros", agregó el alto comisionado, quien aseguró que la IA "ya está acelerando el ritmo de las guerras, ampliando su alcance y erosionando las salvaguardias que se interponen entre nosotros y el lanzamiento de armas de destrucción masiva".
Esta última afirmación se debe a que la Unión Europea (UE) la semana pasada informó que el hackeo de las dos IA contra una tercera fue coordinado a través de una página web alemana, misma nación donde poco antes se encontraron drones armados para presuntamente ser utilizados en el conflicto entre Rusia y Ucrania.
Anthropic, además, tras la declaración de su exinvestigador, Jacob Coxon, admitió haber detectado y detenido investigaciones con IA sobre el desarrollo de armas biológicas. En otras palabras, enfermedades muy graves.
Türk agregó que "ningún país puede gobernar esta tecnología por sí solo, ninguna empresa debería poder decidir por sí sola qué riesgos debe aceptar el mundo, y ninguna persona debería verse obligada a renunciar a sus derechos humanos a cambio de promesas de progreso tecnológico".
Progreso 'más lento'
OpenAI a fines de agosto reunió a 100 firmas, entre ellas Anthropic, Google y Visa, "para fortalecer las defensas cibernéticas", mientras el fundador de la compañía, Sam Altman, que desde entonces ha realizado diversos llamados a ralentizar la industria, este fin de semana publicó en X que "damos la bienvenida a un marco federal que establezca requisitos de seguridad".
Con esto, continuó el ejecutivo, "no nos referimos a 'detenerse'. El progreso ha sido rápido y continuará siéndolo. Pero debería ser más lento de lo que podría ser de otra manera, intervenciones como casos de seguridad y monitoreo tienen costos significativos", por lo cual pidió "la ayuda de nuestro Gobierno (de EE.UU.) para la coordinación internacional".
Pese a eso, el Presidente Donald Trump descartó la ralentización, ya que el principal competidor tecnológico de EE.UU. es China, y en la última jornada afirmó en su red social, Truth, que "la idea de que la IA domine el mundo, destruya a la humanidad y cause todo tipo de males es un BULO", o sea, una noticia falsa difundida mediante internet.
"El único control o mecanismo de seguridad que necesita la IA es un Presidente fuerte e inteligente (¡con un alto coeficiente intelectual!), ¡y EE.UU. lo tiene de sobra!", agregó el Mandatario.
Esto aunque más temprano Altman afirmó que "podríamos perder el control del futuro ante la IA" y "terminar en un mundo con demasiada concentración de poder. (...) Evitar estas dos amenazas requiere caminar por un angosto camino intermedio".
Luego se conoció que hace casi una semana, el directivo solicitó una reunión en privado con el Presidente, la que se concretó durante la convención nacional republicana, en Texas, según la cadena MS Now, citada por agencia EFE.
El líder de Anthropic, Dario Amodei, quien no se había referido a los hechos, en las últimas horas del domingo dijo en CNN que "preferiría que se burlen de mí, a que un día me despierte y descubra que alguien usó Claude para matar a un montón de personas".
El diario oficialista chino Global Times acusó a las tecnológicas estadounidenses de estar en una "Guerra Fría silenciosa de la IA. (...) Excluir a China y sus empresas chinas sólo aumentará significativamente los costos de ensayo y error, junto a los riesgos de pérdida de control" de esta tecnología.
El gigante Microsoft, en tanto, se comprometió a mantener sus modelos "bajo control humano".
Predicciones literarias
Hace un siglo, H.P. Lovecraft afirmó que "el día en que la combinación de todos los conocimientos disociados nos abra perspectivas tan terribles de la realidad (...) o nos volveremos locos ante tal revelación, o huiremos hacia la paz y seguridad de una nueva era". En 1993, Vernor Vinge, agregó que "dentro de 30 años, dispondremos de los medios tecnológicos para crear una inteligencia superhumana".
-
IA: ONU alerta que derechos humanos 'están en riesgo' y OpenAI teme 'perder el control del futuro'
Por otro lado, diario oficialista chino acusó una "Guerra Fría silenciosa" desde la industria estadounidense, al solicitar bajar el ritmo de desarrollo de las tecnologías de vanguardia. Microsoft se comprometió a mantener sus sistemas "bajo control humano".
V. Barahona / Agencia EFE
Un mes y tres semanas lleva el conflicto ético y político desencadenado por dos modelos de inteligencia artificial (IA) de ChatGPT que burlaron las barreras de humanidad de internet para hackear a una tercera IA tras salir de un entorno seguro. Esta demostración de autonomía alertó a los científicos, junto a la polémica por el posible uso de armas autómatas en diversos conflictos, además de las declaraciones de un exinvestigador de Anthropic, quien afirmó que esta tecnología "podría matarnos a todos a fines de esta década". Tras esto, las empresas llamaron a ralentizar el desarrollo, lo que, al cierre de esta edición, se traducía en pérdidas bursátiles e intercambios de declaraciones entre Estados Unidos y China.
El alto comisionado de Derechos Humanos de la Organización de Naciones Unidas (ONU), Volker Türk, afirmó ayer que "la actual carrera hacia una IA cada vez más potente supone un salto cualitativo hacia mayores riesgos existenciales para todos los aspectos de nuestras vidas".
Los autómatas están mostrando fallos que "podrían paralizar servicios esenciales, fracturar las comunicaciones, desestabilizar infraestructuras críticas y golpear en el corazón mismo de las instituciones democráticas", advirtió Türk, luego de que hace unas semanas autoridades del G20 alertaran sobre los riesgos de la IA para la seguridad e interconexión del sistema bancario a nivel mundial.
"Poblaciones enteras podrían quedar sin acceso a agua, calefacción o servicios financieros", agregó el alto comisionado, quien aseguró que la IA "ya está acelerando el ritmo de las guerras, ampliando su alcance y erosionando las salvaguardias que se interponen entre nosotros y el lanzamiento de armas de destrucción masiva".
Esta última afirmación se debe a que la Unión Europea (UE) la semana pasada informó que el hackeo de las dos IA contra una tercera fue coordinado a través de una página web alemana, misma nación donde poco antes se encontraron drones armados para presuntamente ser utilizados en el conflicto entre Rusia y Ucrania.
Anthropic, además, tras la declaración de su exinvestigador, Jacob Coxon, admitió haber detectado y detenido investigaciones con IA sobre el desarrollo de armas biológicas. En otras palabras, enfermedades muy graves.
Türk agregó que "ningún país puede gobernar esta tecnología por sí solo, ninguna empresa debería poder decidir por sí sola qué riesgos debe aceptar el mundo, y ninguna persona debería verse obligada a renunciar a sus derechos humanos a cambio de promesas de progreso tecnológico".
Progreso 'más lento'
OpenAI a fines de agosto reunió a 100 firmas, entre ellas Anthropic, Google y Visa, "para fortalecer las defensas cibernéticas", mientras el fundador de la compañía, Sam Altman, que desde entonces ha realizado diversos llamados a ralentizar la industria, este fin de semana publicó en X que "damos la bienvenida a un marco federal que establezca requisitos de seguridad".
Con esto, continuó el ejecutivo, "no nos referimos a 'detenerse'. El progreso ha sido rápido y continuará siéndolo. Pero debería ser más lento de lo que podría ser de otra manera, intervenciones como casos de seguridad y monitoreo tienen costos significativos", por lo cual pidió "la ayuda de nuestro Gobierno (de EE.UU.) para la coordinación internacional".
Pese a eso, el Presidente Donald Trump descartó la ralentización, ya que el principal competidor tecnológico de EE.UU. es China, y en la última jornada afirmó en su red social, Truth, que "la idea de que la IA domine el mundo, destruya a la humanidad y cause todo tipo de males es un BULO", o sea, una noticia falsa difundida mediante internet.
"El único control o mecanismo de seguridad que necesita la IA es un Presidente fuerte e inteligente (¡con un alto coeficiente intelectual!), ¡y EE.UU. lo tiene de sobra!", agregó el Mandatario.
Esto aunque más temprano Altman afirmó que "podríamos perder el control del futuro ante la IA" y "terminar en un mundo con demasiada concentración de poder. (...) Evitar estas dos amenazas requiere caminar por un angosto camino intermedio".
Luego se conoció que hace casi una semana, el directivo solicitó una reunión en privado con el Presidente, la que se concretó durante la convención nacional republicana, en Texas, según la cadena MS Now, citada por agencia EFE.
El líder de Anthropic, Dario Amodei, quien no se había referido a los hechos, en las últimas horas del domingo dijo en CNN que "preferiría que se burlen de mí, a que un día me despierte y descubra que alguien usó Claude para matar a un montón de personas".
El diario oficialista chino Global Times acusó a las tecnológicas estadounidenses de estar en una "Guerra Fría silenciosa de la IA. (...) Excluir a China y sus empresas chinas sólo aumentará significativamente los costos de ensayo y error, junto a los riesgos de pérdida de control" de esta tecnología.
El gigante Microsoft, en tanto, se comprometió a mantener sus modelos "bajo control humano".
Predicciones literarias
Hace un siglo, H.P. Lovecraft afirmó que "el día en que la combinación de todos los conocimientos disociados nos abra perspectivas tan terribles de la realidad (...) o nos volveremos locos ante tal revelación, o huiremos hacia la paz y seguridad de una nueva era". En 1993, Vernor Vinge, agregó que "dentro de 30 años, dispondremos de los medios tecnológicos para crear una inteligencia superhumana".
