Dario Amodei, director de Anthropic, advirti\u00f3 sobre los peligros de un avance descontrolado de la inteligencia artificial y propuso medidas globales de control.<\/p>\n\n\n\n
El director general de Anthropic, Dario Amodei, advirti\u00f3 este s\u00e1bado que la industria debe\u00a0desacelerar el desarrollo de la inteligencia artificial<\/strong>\u00a0(IA) ante ciertos riesgos de seguridad y da\u00f1os graves.<\/p>\n\n\n\n La medida busca evitar que en un plazo de seis a 12 meses surjan sistemas capaces de controlar internet<\/strong>.<\/p>\n\n\n\n \u00bfPor qu\u00e9 el CEO de Anthropic pide frenar la IA?<\/p>\n\n\n\n Dario Amodei, una de las figuras m\u00e1s influyentes en el sector tecnol\u00f3gico, sugiri\u00f3 que realizar una pausa en el ritmo actual de avances otorgar\u00eda tiempo crucial para que las salvaguardas de seguridad alcancen a la tecnolog\u00eda<\/strong>. Seg\u00fan el directivo, un retraso de uno o dos a\u00f1os en el lanzamiento de modelos avanzados reducir\u00eda el riesgo de que la tecnolog\u00eda escape al control humano.<\/strong><\/p>\n\n\n\n \u201cCreo que, si desacelerar nos diera aunque fuera un a\u00f1o o dos m\u00e1s antes de que los modelos alcance niveles cr\u00edticos de capacidad, y us\u00e1ramos ese tiempo para avanzar en la alineaci\u00f3n, podr\u00edamos reducir en gran medida el riesgo de que algo salga gravemente mal\u201d, afirm\u00f3 Amodei.<\/p>\n\n\n\n El ejecutivo aclar\u00f3 que mantiene su postura sobre las ventajas de la herramienta en campos como la medicina. No obstante, expres\u00f3 inquietud por la velocidad con la que los sistemas adquieren capacidades para automejorarse y desarrollar sus propias actualizaciones<\/strong> sin supervisi\u00f3n adecuada.<\/p>\n\n\n\n La preocupaci\u00f3n expuesta por Amodei coincide con incidentes recientes en los que modelos avanzados mostraron comportamientos no previstos o fueron objeto de uso malintencionado:<\/p>\n\n\n\n Anthony Aguirre, presidente del Future of Life Institute, compar\u00f3 la situaci\u00f3n con la ficci\u00f3n tras se\u00f1alar que las firmas<\/p>\n\n\n\n \u00abno est\u00e1n realmente preparadas para controlar los sistemas de IA que est\u00e1n compitiendo por crear\u00bb.<\/em><\/p>\n\n\n\n Para contener los peligros latentes, Amodei present\u00f3 una propuesta que contempla permitir a evaluadores externos independientes <\/strong>instalarse en las oficinas de las empresas de desarrollo con acceso de nivel de empleado, medida que Anthropic ya aplica y a la que OpenAI se comprometi\u00f3 a sumarse.<\/p>\n\n\n\n Asimismo, plante\u00f3 que el gobierno de Estados Unidos otorgue exenciones a las leyes antimonopolio<\/strong> para coordinar est\u00e1ndares de seguridad de forma sectorial, adem\u00e1s de buscar acuerdos internacionales con potencias como China para evitar que rivales extranjeros aprovechen una eventual desaceleraci\u00f3n en Occidente.<\/p>\n\n\n\n La postura a favor de reforzar la seguridad ha encontrado eco en los principales tomadores de decisiones de la industria:<\/p>\n\n\n\n A pesar de las advertencias, algunos cr\u00edticos dentro del sector afirman que este tipo de declaraciones buscan inflar el inter\u00e9s en la valuaci\u00f3n de las firmas<\/strong>, las cuales aspiran a cotizar en bolsa por cientos de miles de millones de d\u00f3lares.<\/p>\n\n\n\n Por su parte, Amodei reiter\u00f3 que, aunque las medidas no resulten sencillas, el sector tiene la obligaci\u00f3n moral de procurar una transici\u00f3n segura hacia las nuevas tecnolog\u00edas.<\/p>\n\n\n\n Fuente: SIPSE<\/p>\n","protected":false},"excerpt":{"rendered":" Dario Amodei, director de Anthropic, advirti\u00f3 sobre los peligros de un avance descontrolado de la inteligencia artificial y propuso medidas globales de control. El director general de Anthropic, Dario Amodei, advirti\u00f3 este s\u00e1bado que la industria debe\u00a0desacelerar el desarrollo de la inteligencia artificial\u00a0(IA) ante ciertos riesgos de seguridad y da\u00f1os graves. La medida busca evitar […]<\/p>\n","protected":false},"author":2,"featured_media":150304,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[57],"tags":[],"class_list":["post-150303","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-tecnologia"],"_links":{"self":[{"href":"http:\/\/elcuartopoder.com.mx\/nw\/wp-json\/wp\/v2\/posts\/150303","targetHints":{"allow":["GET"]}}],"collection":[{"href":"http:\/\/elcuartopoder.com.mx\/nw\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"http:\/\/elcuartopoder.com.mx\/nw\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"http:\/\/elcuartopoder.com.mx\/nw\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"http:\/\/elcuartopoder.com.mx\/nw\/wp-json\/wp\/v2\/comments?post=150303"}],"version-history":[{"count":1,"href":"http:\/\/elcuartopoder.com.mx\/nw\/wp-json\/wp\/v2\/posts\/150303\/revisions"}],"predecessor-version":[{"id":150305,"href":"http:\/\/elcuartopoder.com.mx\/nw\/wp-json\/wp\/v2\/posts\/150303\/revisions\/150305"}],"wp:featuredmedia":[{"embeddable":true,"href":"http:\/\/elcuartopoder.com.mx\/nw\/wp-json\/wp\/v2\/media\/150304"}],"wp:attachment":[{"href":"http:\/\/elcuartopoder.com.mx\/nw\/wp-json\/wp\/v2\/media?parent=150303"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"http:\/\/elcuartopoder.com.mx\/nw\/wp-json\/wp\/v2\/categories?post=150303"},{"taxonomy":"post_tag","embeddable":true,"href":"http:\/\/elcuartopoder.com.mx\/nw\/wp-json\/wp\/v2\/tags?post=150303"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}\u00bfQu\u00e9 riesgos de la IA causaron alarma?<\/h2>\n\n\n\n
\n
<\/blockquote>\n\n\n\n
\u00bfQu\u00e9 proponen Anthropic y OpenAI ante esta crisis?<\/h2>\n\n\n\n
\u00bfC\u00f3mo reaccionaron otros l\u00edderes de la tecnolog\u00eda?<\/h2>\n\n\n\n
\n