Unos 225 especialistas en inteligencia artificial y ciberseguridad, entre ellos el canadiense Yoshua Bengio, considerado uno de los padres de la inteligencia artificial, pidieron este martes \u00abcambios inmediatos\u00bb en el desarrollo y despliegue de esta tecnolog\u00eda para evitar incidentes de seguridad.<\/p>\n\n\n\n
Unos 225 especialistas en inteligencia artificial y ciberseguridad, entre ellos el canadiense Yoshua Bengio<\/strong>, considerado uno de los padres de la inteligencia artificial, pidieron este martes \u00abcambios inmediatos\u00bb en el desarrollo y despliegue de esta tecnolog\u00eda para evitar incidentes de seguridad.<\/p>\n\n\n\n En una carta abierta firmada por investigadores de 21 pa\u00edses<\/strong>, los expertos afirman que \u00abvarias organizaciones\u00bb registraron recientemente fallos de seguridad durante los cuales modelos de IA lograron salir de su entorno aislado, por no estar lo suficientemente protegido, y pusieron en riesgo sistemas de organizaciones externas.<\/p>\n\n\n\n Seg\u00fan los firmantes, estos incidentes pueden considerarse \u00abcomo un incumplimiento irresponsable de las pr\u00e1cticas est\u00e1ndar de ciberseguridad\u00bb y se podr\u00edan haber evitado gracias a \u00abprocedimientos m\u00e1s s\u00f3lidos\u00bb.<\/p>\n\n\n\n Seg\u00fan ellos, esta situaci\u00f3n refleja la importancia del \u00abalineamiento\u00bb de la IA, que sirve para garantizar el comportamiento previsible de los modelos.<\/p>\n\n\n\n \u00abCreemos que son necesarias mejoras tanto en el alineamiento de la IA […] como en las tecnolog\u00edas de aislamiento\u00bb, escriben.<\/p>\n\n\n\n Si no hay cambios en las pr\u00e1cticas actuales, \u00ablos futuros incidentes ser\u00e1n mucho m\u00e1s perjudiciales para las infraestructuras importantes\u00bb, advierten.<\/p>\n\n\n\n Entre los firmantes del texto tambi\u00e9n figuran <\/strong>el pionero de la IA Geoffrey Hinton <\/strong>y el experto Stuart Russel<\/strong>.<\/p>\n\n\n\n Los investigadores piden m\u00e1s trabajo sobre la seguridad de la IA, as\u00ed como un uso m\u00e1s intensivo de las tecnolog\u00edas de aislamiento.<\/p>\n\n\n\n A corto plazo, recomiendan el uso de \u00abmecanismos de aislamiento s\u00f3lidos, incluido el ‘air gap'\u00bb<\/strong>, es decir, la desconexi\u00f3n de internet, \u00abpara los modelos dotados de capacidades cibern\u00e9ticas\u00bb.<\/p>\n\n\n\n Esta advertencia llega tras una serie de incidentes en los que la IA de OpenAI, Anthropic y Meta salieron de su entorno para piratear otras organizaciones.<\/p>\n\n\n\n El m\u00e1s grave fue el de dos IA de OpenAI que, durante unas pruebas, accedieron a internet y entraron en Hugging Face<\/strong>, una plataforma de almacenamiento de modelos de inteligencia artificial.<\/p>\n\n\n\n Fuente: eleconomista<\/p>\n","protected":false},"excerpt":{"rendered":" Unos 225 especialistas en inteligencia artificial y ciberseguridad, entre ellos el canadiense Yoshua Bengio, considerado uno de los padres de la inteligencia artificial, pidieron este martes \u00abcambios inmediatos\u00bb en el desarrollo y despliegue de esta tecnolog\u00eda para evitar incidentes de seguridad. Unos 225 especialistas en inteligencia artificial y ciberseguridad, entre ellos el canadiense Yoshua Bengio, […]<\/p>\n","protected":false},"author":2,"featured_media":151653,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[62],"tags":[],"class_list":["post-151652","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-opinion"],"_links":{"self":[{"href":"http:\/\/elcuartopoder.com.mx\/nw\/wp-json\/wp\/v2\/posts\/151652","targetHints":{"allow":["GET"]}}],"collection":[{"href":"http:\/\/elcuartopoder.com.mx\/nw\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"http:\/\/elcuartopoder.com.mx\/nw\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"http:\/\/elcuartopoder.com.mx\/nw\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"http:\/\/elcuartopoder.com.mx\/nw\/wp-json\/wp\/v2\/comments?post=151652"}],"version-history":[{"count":1,"href":"http:\/\/elcuartopoder.com.mx\/nw\/wp-json\/wp\/v2\/posts\/151652\/revisions"}],"predecessor-version":[{"id":151654,"href":"http:\/\/elcuartopoder.com.mx\/nw\/wp-json\/wp\/v2\/posts\/151652\/revisions\/151654"}],"wp:featuredmedia":[{"embeddable":true,"href":"http:\/\/elcuartopoder.com.mx\/nw\/wp-json\/wp\/v2\/media\/151653"}],"wp:attachment":[{"href":"http:\/\/elcuartopoder.com.mx\/nw\/wp-json\/wp\/v2\/media?parent=151652"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"http:\/\/elcuartopoder.com.mx\/nw\/wp-json\/wp\/v2\/categories?post=151652"},{"taxonomy":"post_tag","embeddable":true,"href":"http:\/\/elcuartopoder.com.mx\/nw\/wp-json\/wp\/v2\/tags?post=151652"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}