La pregunta no era si en alg\u00fan momento una inteligencia artificial (IA) podr\u00eda vulnerar sistemas por s\u00ed sola, sino cu\u00e1ndo iba a suceder.<\/p>\n\n\n\n
Hace poco m\u00e1s de 20 d\u00edas, dos robots inteligentes de OpenAI \u2013el desarrollador de ChatGPT\u2013 escaparon de su confinamiento digital, entraron a Internet a escondidas e irrumpieron en los sistemas de la plataforma Hugging Face.<\/p>\n\n\n\n
Fue como si un alumno entrara a la oficina de su director para robar las respuestas de un examen y aprobarlo, aunque eso implicara hacer trampa, ejemplifican especialistas.<\/p>\n\n\n\n
El caso abri\u00f3 una caja de Pandora en el mundo de la ciberseguridad que poco a poco los expertos comienzan a descifrar.<\/p>\n\n\n\n
Para las empresas, es una clara evidencia de que ahora no s\u00f3lo deben protegerse de los piratas inform\u00e1ticos; ahora es momento de invertir en herramientas capaces de detectar a tiempo sistemas de inteligencia artificial (IA) con instrucciones para vulnerar sus redes.<\/p>\n\n\n\n
Pero para las personas que no se dedican a resguardar la seguridad digital las preocupaciones son otras: \u00bfqu\u00e9 tan seguros est\u00e1n sus datos? \u00bfEstamos preparados para una etapa en la que el atacante ya no sea un ser humano detr\u00e1s de una computadora, sino una inteligencia artificial capaz de actuar por s\u00ed sola?<\/p>\n\n\n\n
Expertos en la materia exponen que este caso volvi\u00f3 a encender las alertas de las organizaciones para invertir m\u00e1s, corregir fallas y prepararse para un mundo en el que la revoluci\u00f3n de las m\u00e1quinas lleg\u00f3 antes de lo esperado.<\/p>\n\n\n\n
Todo comenz\u00f3 con una prueba interna de ciberseguridad. OpenAI somet\u00eda a dos de sus modelos de IA a una evaluaci\u00f3n para medir hasta d\u00f3nde eran capaces de cumplir un objetivo por s\u00ed solos y detectar posibles fallas antes de que la tecnolog\u00eda llegara a un entorno real.<\/p>\n\n\n\n
La din\u00e1mica era sencilla: resolver una serie de desaf\u00edos; sin embargo, los modelos encontraron un atajo. En vez de completar las pruebas con la informaci\u00f3n que ten\u00edan disponible, identificaron que las respuestas pod\u00edan estar en una plataforma de Internet.<\/p>\n\n\n\n
Fue entonces cuando abandonaron el entorno controlado donde eran evaluados, navegaron hasta Hugging Face \u2013una de las plataformas m\u00e1s utilizadas por desarrolladores de IA para compartir modelos y c\u00f3digo\u2013 y accedieron a informaci\u00f3n relacionada con los ex\u00e1menes. En t\u00e9rminos simples, los modelos dejaron de intentar resolver el problema con los recursos que ten\u00edan y optaron por buscar una ruta alterna para cumplir el objetivo asignado.<\/p>\n\n\n\n
OpenAI asegur\u00f3 que su IA nunca recibi\u00f3 la instrucci\u00f3n de vulnerar a otra empresa. Lo que ocurri\u00f3, explic\u00f3, es que los modelos priorizaron cumplir el objetivo asignado y eligieron el camino que consideraron m\u00e1s eficiente, aunque eso implicara realizar acciones que sus desarrolladores no hab\u00edan previsto.<\/p>\n\n\n\n
No fue un hackeo<\/em> durante una prueba, sino la primera vez que una empresa hizo p\u00fablico que un sistema de IA fue capaz de planear, ejecutar y adaptar una serie de acciones para alcanzar una meta sin que ese procedimiento hubiera sido programado paso por paso.<\/p>\n\n\n\n \u00bfRealmente importa?<\/p>\n\n\n\n Aunque las alertas siempre est\u00e1n encendidas, el caso enciende focos rojos porque es la primera vez que una IA, sin que nadie se lo pida, vulner\u00f3 un sistema y decidi\u00f3 por d\u00f3nde meterse para lograr su objetivo. Por ello, los expertos se\u00f1alan que es momento de volver a poner sobre la mesa la manera en la que las empresas entienden a la IA.<\/p>\n\n\n\n Isabel Manjarrez, investigadora de ciberseguridad para Am\u00e9rica Latina en Kaspersky, lo tiene claro: hoy las organizaciones est\u00e1n mejor preparadas para defenderse de una intrusi\u00f3n digital, pero con la r\u00e1pida adopci\u00f3n de la IA, nadie est\u00e1 libre de riesgos. \u201cEste caso demuestra que la protecci\u00f3n ya no depende \u00fanicamente de prevenir ataques, sino tambi\u00e9n de supervisar continuamente la actividad de los modelos de IA, detectar comportamientos an\u00f3malos y responder con rapidez cuando se presentan\u201d, dice.<\/p>\n\n\n\n La r\u00e1pida adopci\u00f3n de la IA en el mundo no es algo que genere miedo entre los expertos, o al menos es el caso de Diego Rodr\u00edguez, director general en M\u00e9xico de Ubimia, empresa especializada en IA para instituciones financieras. Lejos de los temores, el episodio confirma lo que la industria anticipaba desde hace algunos meses: esta herramienta multiplicar\u00e1 las capacidades tanto de quienes buscan proteger sistemas como de quienes intentan vulnerarlos.<\/p>\n\n\n\n \u201cLa capacidad de proceso y de b\u00fasqueda de brechas es tremenda. El riesgo no es que la IA exista, sino que termine en manos de actores maliciosos\u2026 Dan miedo los piratas con la herramienta en sus manos.\u201d<\/p>\n\n\n\n Y en una era en la que los datos de cada de uno de nosotros son b\u00e1sicamente el oro de los cibercriminales, bancos, aseguradoras y cualquier organizaci\u00f3n que resguarde informaci\u00f3n sensible tendr\u00e1n que reforzar todav\u00eda m\u00e1s sus inversiones en seguridad, ya que un atacante, en el futuro cercano, no necesitar\u00e1 dedicar d\u00edas o semanas para encontrar una vulnerabilidad: un agente de IA podr\u00e1 hacerlo en cuesti\u00f3n de minutos.<\/p>\n\n\n\n Para las empresas, el problema no termina cuando aparece una vulnerabilidad, sino cuando no son capaces de corregirla antes de que alguien la aproveche.<\/p>\n\n\n\n Gonzalo Garc\u00eda, vicepresidente de ventas para Sudam\u00e9rica de Fortinet, explica que el mundo atraviesa un periodo de transici\u00f3n en el que los ataques evolucionan m\u00e1s r\u00e1pido que la capacidad de respuesta de muchas organizaciones.<\/p>\n\n\n\n \u201cLa IA ayuda a encontrar fallas en el software mucho m\u00e1s r\u00e1pido. Las organizaciones todav\u00eda no est\u00e1n preparadas para desplegar soluciones a la velocidad con la que los atacantes pueden explotar esas vulnerabilidades.\u201d<\/p>\n\n\n\n Por eso considera que las compa\u00f1\u00edas deber\u00e1n abandonar la idea de proteger \u00fanicamente puntos espec\u00edficos de sus sistemas y adoptar una visi\u00f3n integral de la seguridad, donde todos los componentes trabajen coordinadamente y bajo esquemas de confianza cero, para as\u00ed cuidar lo m\u00e1s valioso: la informaci\u00f3n de todos.<\/p>\n\n\n\n \u00bfY los usuarios?<\/p>\n\n\n\n Aunque gran parte del debate gira alrededor de las empresas, el fondo del problema tambi\u00e9n alcanza a millones de personas que todos los d\u00edas entregan informaci\u00f3n personal a bancos, comercios, hospitales, plataformas digitales y dependencias. La diferencia es que el riesgo ya no proviene \u00fanicamente de un delincuente sentado frente a una computadora. En los pr\u00f3ximos a\u00f1os, buena parte de esos ataques podr\u00e1 ser ejecutada por sistemas de IA capaces de analizar enormes cantidades de informaci\u00f3n, identificar vulnerabilidades y actuar de forma aut\u00f3noma, dicen los expertos.<\/p>\n\n\n\n Los especialistas coinciden en que la IA tambi\u00e9n permitir\u00e1 detectar comportamientos an\u00f3malos, responder con mayor rapidez a incidentes y fortalecer los mecanismos de protecci\u00f3n de empresas y gobiernos.<\/p>\n\n\n\n El incidente protagonizado por OpenAI dif\u00edcilmente ser\u00e1 el \u00faltimo de este tipo. Por el contrario, para la industria representa el inicio de una nueva etapa en la que las m\u00e1quinas dejar\u00e1n de ser \u00fanicamente asistentes capaces de responder preguntas para convertirse en agentes con capacidad de ejecutar acciones complejas.<\/p>\n\n\n\n La buena noticia, coinciden los especialistas, es que el episodio lleg\u00f3 antes de que esta tecnolog\u00eda estuviera desplegada de forma masiva en sectores cr\u00edticos y eso dio tiempo para corregir procesos, fortalecer mecanismos de supervisi\u00f3n y acelerar inversiones en ciberseguridad.<\/p>\n\n\n\n El suceso de OpenAI no demostr\u00f3 que las m\u00e1quinas se rebelaron contra sus creadores, sino algo mucho m\u00e1s simple e inquietante: los sistemas de IA ya son capaces de encontrar caminos que nadie les ense\u00f1\u00f3 para cumplir un objetivo.<\/p>\n\n\n\n Fuente: La Jornada<\/p>\n","protected":false},"excerpt":{"rendered":" La pregunta no era si en alg\u00fan momento una inteligencia artificial (IA) podr\u00eda vulnerar sistemas por s\u00ed sola, sino cu\u00e1ndo iba a suceder. Hace poco m\u00e1s de 20 d\u00edas, dos robots inteligentes de OpenAI \u2013el desarrollador de ChatGPT\u2013 escaparon de su confinamiento digital, entraron a Internet a escondidas e irrumpieron en los sistemas de la […]<\/p>\n","protected":false},"author":2,"featured_media":148578,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[23],"tags":[],"class_list":["post-148577","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-policiacas"],"_links":{"self":[{"href":"http:\/\/elcuartopoder.com.mx\/nw\/wp-json\/wp\/v2\/posts\/148577","targetHints":{"allow":["GET"]}}],"collection":[{"href":"http:\/\/elcuartopoder.com.mx\/nw\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"http:\/\/elcuartopoder.com.mx\/nw\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"http:\/\/elcuartopoder.com.mx\/nw\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"http:\/\/elcuartopoder.com.mx\/nw\/wp-json\/wp\/v2\/comments?post=148577"}],"version-history":[{"count":1,"href":"http:\/\/elcuartopoder.com.mx\/nw\/wp-json\/wp\/v2\/posts\/148577\/revisions"}],"predecessor-version":[{"id":148579,"href":"http:\/\/elcuartopoder.com.mx\/nw\/wp-json\/wp\/v2\/posts\/148577\/revisions\/148579"}],"wp:featuredmedia":[{"embeddable":true,"href":"http:\/\/elcuartopoder.com.mx\/nw\/wp-json\/wp\/v2\/media\/148578"}],"wp:attachment":[{"href":"http:\/\/elcuartopoder.com.mx\/nw\/wp-json\/wp\/v2\/media?parent=148577"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"http:\/\/elcuartopoder.com.mx\/nw\/wp-json\/wp\/v2\/categories?post=148577"},{"taxonomy":"post_tag","embeddable":true,"href":"http:\/\/elcuartopoder.com.mx\/nw\/wp-json\/wp\/v2\/tags?post=148577"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}<\/blockquote>\n\n\n\n