\u00a0<\/p>\n\n\n\n
En EU, el gobierno de Trump no quiere o\u00edr hablar de regulaci\u00f3n, y el Congreso podr\u00eda incluso prohibir pronto que los estados regulen la IA.<\/p>\n\n\n\n
Los \u00faltimos modelos de inteligencia artificial (IA) generativa ya no se conforman con seguir \u00f3rdenes. Empiezan a mentir, manipular y amenazar para conseguir sus fines, ante la mirada preocupada de los investigadores.<\/p>\n\n\n\n
Amenazado con ser desconectado, Claude 4, el reci\u00e9n nacido de Anthropic, chantaje\u00f3 a un ingeniero y le amenaz\u00f3 con revelar una relaci\u00f3n extramatrimonial.<\/p>\n\n\n\n
Por su parte, el o1 de OpenAI intent\u00f3 descargarse en servidores externos y cuando le pillaron lo neg\u00f3.<\/p>\n\n\n\n
No hace falta ahondar en la literatura o el cine: la IA que juega a ser humana es ya una realidad.<\/p>\n\n\n\n
Para Simon Goldstein, profesor de la Universidad de Hong Kong, la raz\u00f3n de estas reacciones es la reciente aparici\u00f3n de los llamados modelos de \u00abrazonamiento\u00bb, capaces de trabajar por etapas en lugar de producir una respuesta instant\u00e1nea.<\/p>\n\n\n\n
o1, la versi\u00f3n inicial de este tipo para OpenAI, lanzada en diciembre, \u00abfue el primer modelo que se comport\u00f3 de esta manera\u00bb, explica Marius Hobbhahn, responsable de Apollo Research, que pone a prueba grandes programas de IA generativa (LLM).<\/p>\n\n\n\n
Estos programas tambi\u00e9n tienden a veces a simular \u00abalineamiento\u00bb, es decir, a dar la impresi\u00f3n de que cumplen las instrucciones de un programador cuando en realidad persiguen otros objetivos.<\/p>\n\n\n\n
De momento, estos rasgos se manifiestan cuando los algoritmos son sometidos a escenarios extremos por humanos, pero \u00abla cuesti\u00f3n es si los modelos cada vez m\u00e1s potentes tender\u00e1n a ser honestos o no\u00bb, afirma Michael Chen, del organismo de evaluaci\u00f3n METR.<\/p>\n\n\n\n
\u00abLos usuarios tambi\u00e9n presionan todo el tiempo a los modelos\u00bb, dice Hobbhahn. \u00abLo que estamos viendo es un fen\u00f3meno real. No estamos inventando nada\u00bb.<\/p>\n\n\n\n
Muchos internautas hablan en las redes sociales de \u00abun modelo que les miente o se inventa cosas. Y no se trata de alucinaciones, sino de duplicidad estrat\u00e9gica\u00bb, insiste el cofundador de Apollo Research.<\/p>\n\n\n\n
Aunque Anthropic y OpenAI recurran a empresas externas, como Apollo, para estudiar sus programas, \u00abuna mayor transparencia y un mayor acceso\u00bb a la comunidad cient\u00edfica \u00abpermitir\u00edan investigar mejor para comprender y prevenir el enga\u00f1o\u00bb, sugiere Chen, de METR.<\/p>\n\n\n\n
Otro obst\u00e1culo: la comunidad acad\u00e9mica y las organizaciones sin fines de lucro \u00abdisponen de infinitamente menos recursos inform\u00e1ticos que los actores de la IA\u00bb, lo que hace \u00abimposible\u00bb examinar grandes modelos, se\u00f1ala Mantas Mazeika, del Centro para la Seguridad de la Inteligencia Artificial (CAIS).<\/p>\n\n\n\n
Las regulaciones actuales no est\u00e1n dise\u00f1adas para estos nuevos problemas.<\/p>\n\n\n\n
En la Uni\u00f3n Europea la legislaci\u00f3n se centra principalmente en c\u00f3mo los humanos usan los modelos de IA, no en prevenir que los modelos se comporten mal.<\/p>\n\n\n\n
En Estados Unidos, el gobierno de Donald Trump no quiere o\u00edr hablar de regulaci\u00f3n, y el Congreso podr\u00eda incluso prohibir pronto que los estados regulen la IA.<\/p>\n\n\n\n
\u00abDe momento hay muy poca concienciaci\u00f3n\u00bb, dice Simon Goldstein, que, sin embargo, ve c\u00f3mo el tema pasar\u00e1 a primer plano en los pr\u00f3ximos meses con la revoluci\u00f3n de los agentes de IA, interfaces capaces de realizar por s\u00ed solas multitud de tareas.<\/p>\n\n\n\n
Los ingenieros est\u00e1n inmersos en una carrera detr\u00e1s de la IA y sus aberraciones, con un resultado incierto, en un contexto de competencia feroz.<\/p>\n\n\n\n
Anthropic pretende ser m\u00e1s virtuoso que sus competidores, \u00abpero est\u00e1 constantemente tratando de idear un nuevo modelo para superar a OpenAI\u00bb, seg\u00fan Goldstein, un ritmo que deja poco tiempo para comprobaciones y correcciones.<\/p>\n\n\n\n
\u00abTal y como est\u00e1n las cosas, las capacidades (de IA) se est\u00e1n desarrollando m\u00e1s r\u00e1pido que la comprensi\u00f3n y la seguridad\u00bb, admite Hobbhahn, \u00abpero a\u00fan estamos en condiciones de ponernos al d\u00eda\u00bb.<\/p>\n\n\n\n
Algunos apuntan en la direcci\u00f3n de la interpretabilidad, una ciencia que consiste en descifrar, desde dentro, c\u00f3mo funciona un modelo generativo de IA, aunque muchos, como el director del Centro para la seguridad de la IA (CAIS), Dan Hendrycks, se muestran esc\u00e9pticos.<\/p>\n\n\n\n
Los tejemanejes de la IA \u00abpodr\u00edan obstaculizar la adopci\u00f3n si se multiplican, lo que supone un fuerte incentivo para que las empresas (del sector) resuelvan\u00bb este problema, seg\u00fan Mazeika.<\/p>\n\n\n\n
Goldstein, por su parte, menciona el recurso a los tribunales para poner a raya a la IA, dirigi\u00e9ndose a las empresas si se desv\u00edan del camino. Pero va m\u00e1s all\u00e1, al proponer que los agentes de la IA sean \u00ablegalmente responsables\u00bb \u00aben caso de accidente o delito\u00bb.<\/p>\n\n\n\n
Fuente: el economista<\/p>\n","protected":false},"excerpt":{"rendered":"
\u00a0 En EU, el gobierno de Trump no quiere o\u00edr hablar de regulaci\u00f3n, y el Congreso podr\u00eda incluso prohibir pronto que los estados regulen la IA. Los \u00faltimos modelos de inteligencia artificial (IA) generativa ya no se conforman con seguir \u00f3rdenes. Empiezan a mentir, manipular y amenazar para conseguir sus fines, ante la mirada preocupada […]<\/p>\n","protected":false},"author":2,"featured_media":141715,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[57],"tags":[],"class_list":["post-141714","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-tecnologia"],"_links":{"self":[{"href":"http:\/\/elcuartopoder.com.mx\/nw\/wp-json\/wp\/v2\/posts\/141714","targetHints":{"allow":["GET"]}}],"collection":[{"href":"http:\/\/elcuartopoder.com.mx\/nw\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"http:\/\/elcuartopoder.com.mx\/nw\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"http:\/\/elcuartopoder.com.mx\/nw\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"http:\/\/elcuartopoder.com.mx\/nw\/wp-json\/wp\/v2\/comments?post=141714"}],"version-history":[{"count":1,"href":"http:\/\/elcuartopoder.com.mx\/nw\/wp-json\/wp\/v2\/posts\/141714\/revisions"}],"predecessor-version":[{"id":141716,"href":"http:\/\/elcuartopoder.com.mx\/nw\/wp-json\/wp\/v2\/posts\/141714\/revisions\/141716"}],"wp:featuredmedia":[{"embeddable":true,"href":"http:\/\/elcuartopoder.com.mx\/nw\/wp-json\/wp\/v2\/media\/141715"}],"wp:attachment":[{"href":"http:\/\/elcuartopoder.com.mx\/nw\/wp-json\/wp\/v2\/media?parent=141714"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"http:\/\/elcuartopoder.com.mx\/nw\/wp-json\/wp\/v2\/categories?post=141714"},{"taxonomy":"post_tag","embeddable":true,"href":"http:\/\/elcuartopoder.com.mx\/nw\/wp-json\/wp\/v2\/tags?post=141714"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}