La primera cumbre global sobre seguridad en torno a la inteligencia artificial (AI) ha logrado que Estados Unidos y China, dos potencias rivales especialmente enfrentadas en el \u00e1mbito tecnol\u00f3gico, se hayan alineado con buena parte de la comunidad internacional para alertar sobre las amenazas potencialmente \u00abcatastr\u00f3ficas\u00bb de la nueva tecnolog\u00eda.<\/p>\n\n\n\n
Hasta 29 gobiernos, incluida la Uni\u00f3n Europea, se han dado cita este mi\u00e9rcoles en un encuentro auspiciado por el Reino Unido en el que debaten hasta ma\u00f1ana jueves, junto a representantes de las principales empresas tecnol\u00f3gicas globales, planes para identificar y mitigar los riesgos de la IA.<\/p>\n\n\n\n
El resultado m\u00e1s tangible de la cumbre es una declaraci\u00f3n conjunta en la que los pa\u00edses participantes, entre los que tambi\u00e9n se incluyen Espa\u00f1a, Alemania, Francia, Brasil, la India y Canad\u00e1, entre otros, se comprometen a impulsar la cooperaci\u00f3n internacional para evitar los peores augurios en torno a los nuevos sistemas inteligentes.<\/p>\n\n\n\n
Los l\u00edderes pol\u00edticos perciben peligros inmediatos como la capacidad de la nueva tecnolog\u00eda para generar desinformaci\u00f3n, pero alertan especialmente sobre futuros riesgos \u00abexistenciales\u00bb para el conjunto de la humanidad.<\/p>\n\n\n\n
Las amenazas van desde facilitar ataques inform\u00e1ticos a una escala no vista hasta ahora y dar las claves a grupos terroristas para fabricar armas biol\u00f3gicas, hasta la posibilidad de llegar a perder el control de un sistema aut\u00f3nomo, cuyos objetivos podr\u00edan comenzar a divergir de los que hab\u00edan previsto los humanos.<\/p>\n\n\n\n
\u00abAnte el veloz e incierto ritmo de los cambios en la IA, y en el contexto de una aceleraci\u00f3n de las inversiones en tecnolog\u00eda, afirmamos que profundizar en nuestra comprensi\u00f3n de esos riesgos potenciales y las acciones para mitigarlos es especialmente urgente\u00bb, subrayan los pa\u00edses en el comunicado conjunto.<\/p>\n\n\n\n
La cumbre de seguridad impulsada por el Reino Unido tendr\u00e1 continuidad en el futuro. Corea del Sur acoger\u00e1 una \u00abminicumbre\u00bb virtual dentro de seis meses, mientras que Francia ser\u00e1 la anfitriona de un nuevo encuentro internacional en el plazo de un a\u00f1o.<\/p>\n\n\n\n
A la cumbre en Blentchley Park (centro de Inglaterra), el enclave donde se decodificaban los mensajes secretos nazis durante la Segunda Guerra Mundial, han acudido responsables de las principales empresas tecnol\u00f3gicas que han iniciado al revoluci\u00f3n en el sector.<\/p>\n\n\n\n
OpenAI, Google DeepMind, Anthropic, Meta y Microsoft, entre otras, participan en los debates con acad\u00e9micos y pol\u00edticos, muchos de ellos a puerta cerrada, para tratar de establecer una visi\u00f3n com\u00fan sobre los retos que se presentan.<\/p>\n\n\n\n
Una de las estrellas de la cumbre es el fundador de Tesla y propietario de la red social X, Elon Musk, que durante la primera jornada de la cumbre particip\u00f3 en gran parte de los debates y alert\u00f3 de que la IA es uno de los principales peligros que afronta la humanidad.<\/p>\n\n\n\n
\u00abPor primera vez, estamos en una situaci\u00f3n en la que hay algo que va a ser m\u00e1s listo que el m\u00e1s listo de los humanos\u00bb, dijo el magnate estadounidense.<\/p>\n\n\n\n
\u00abNo est\u00e1 claro si podemos, de hecho, controlar algo como eso, pero creo que debemos aspirar a guiarlo hacia una direcci\u00f3n que sea beneficiosa para la humanidad\u00bb, agreg\u00f3 Musk, que apost\u00f3 por crear un \u00ab\u00e1rbitro independiente\u00bb que vele por la seguridad en el desarrollo de la IA.<\/p>\n\n\n\n
Poner el foco en los riesgos presentes<\/p>\n\n\n\n
Los organizadores de la cumbre quieren centrar el di\u00e1logo en la \u00abIA de frontera\u00bb, los modelos que todav\u00eda se est\u00e1n desarrollando y que podr\u00edan presentar amenazas \u00abexistenciales\u00bb, pero todav\u00eda hipot\u00e9ticas e indefinidas.<\/p>\n\n\n\n
Sin embargo, algunas voces en la cumbre llamaron a poner el foco en peligros inmediatos m\u00e1s acuciantes.<\/p>\n\n\n\n
Entre ellas, la vicepresidenta de Estados Unidos, Kamala Harris, que subray\u00f3 le necesidad de velar por que el uso de los actuales sistemas de inteligencia artificial generativa no afecten de manera desproporcionada a los colectivos m\u00e1s vulnerables.<\/p>\n\n\n\n
\u00abCuando una persona mayor es expulsada de su plan de salud debido a un fallo en un algoritmo de IA, \u00bfno es eso existencial para \u00e9l? Cuando una mujer se ve amenazada por una pareja abusiva con fotograf\u00edas ultrafalsas (‘deepfake’) \u00bfno es eso existencial para ella?\u00bb, dijo Harris.<\/p>\n","protected":false},"excerpt":{"rendered":"
La primera cumbre global sobre seguridad en torno a la inteligencia artificial (AI) ha logrado que Estados Unidos y China, dos potencias rivales especialmente enfrentadas en el \u00e1mbito tecnol\u00f3gico, se hayan alineado con buena parte de la comunidad internacional para alertar sobre las amenazas potencialmente \u00abcatastr\u00f3ficas\u00bb de la nueva tecnolog\u00eda. Hasta 29 gobiernos, incluida la […]<\/p>\n","protected":false},"author":2,"featured_media":123450,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[8],"tags":[],"class_list":["post-123449","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-internacionales"],"_links":{"self":[{"href":"http:\/\/elcuartopoder.com.mx\/nw\/wp-json\/wp\/v2\/posts\/123449","targetHints":{"allow":["GET"]}}],"collection":[{"href":"http:\/\/elcuartopoder.com.mx\/nw\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"http:\/\/elcuartopoder.com.mx\/nw\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"http:\/\/elcuartopoder.com.mx\/nw\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"http:\/\/elcuartopoder.com.mx\/nw\/wp-json\/wp\/v2\/comments?post=123449"}],"version-history":[{"count":1,"href":"http:\/\/elcuartopoder.com.mx\/nw\/wp-json\/wp\/v2\/posts\/123449\/revisions"}],"predecessor-version":[{"id":123451,"href":"http:\/\/elcuartopoder.com.mx\/nw\/wp-json\/wp\/v2\/posts\/123449\/revisions\/123451"}],"wp:featuredmedia":[{"embeddable":true,"href":"http:\/\/elcuartopoder.com.mx\/nw\/wp-json\/wp\/v2\/media\/123450"}],"wp:attachment":[{"href":"http:\/\/elcuartopoder.com.mx\/nw\/wp-json\/wp\/v2\/media?parent=123449"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"http:\/\/elcuartopoder.com.mx\/nw\/wp-json\/wp\/v2\/categories?post=123449"},{"taxonomy":"post_tag","embeddable":true,"href":"http:\/\/elcuartopoder.com.mx\/nw\/wp-json\/wp\/v2\/tags?post=123449"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}