{"id":119422,"date":"2023-06-26T09:49:39","date_gmt":"2023-06-26T14:49:39","guid":{"rendered":"http:\/\/elcuartopoder.com.mx\/nw\/?p=119422"},"modified":"2023-06-26T09:49:42","modified_gmt":"2023-06-26T14:49:42","slug":"el-gran-peligro-de-chatgpt-como-la-ia-te-engana-para-que-te-creas-todo-lo-que-te-dice","status":"publish","type":"post","link":"http:\/\/elcuartopoder.com.mx\/nw\/qtp\/el-gran-peligro-de-chatgpt-como-la-ia-te-engana-para-que-te-creas-todo-lo-que-te-dice\/","title":{"rendered":"El gran peligro de ChatGPT: c\u00f3mo la IA te enga\u00f1a para que te creas todo lo que te dice"},"content":{"rendered":"\n

El desarrollo vertiginoso de la inteligencia artificial aspira a transformar, de forma radical, la vida misma del ser humano. Desde el exitoso lanzamiento de\u00a0ChatGPT\u00a0a finales del a\u00f1o pasado, compa\u00f1\u00edas de todo tama\u00f1o y condici\u00f3n corren, cada vez m\u00e1s r\u00e1pido, para poner a disposici\u00f3n de los usuarios herramientas capaces de generar contenido a demanda. Actualmente, cualquiera puede emplear esta tecnolog\u00eda para crear texto o im\u00e1genes de forma sencilla. Sin necesidad de tener el m\u00e1s m\u00ednimo conocimiento sobre los peligros que esconden estas plataformas. Entre ellos destacan, sin duda, la\u00a0proliferaci\u00f3n de informaci\u00f3n sesgada y falsa<\/strong>.<\/p>\n\n\n\n

Esto es algo que preocupa, y mucho, a Celeste Kidd, profesora de psicolog\u00eda en la Universidad de Berkeley, en California. La docente, primera firmante de un art\u00edculo publicado en\u00a0Science\u00a0en el que se analiza el peligro de que las m\u00e1quinas puedan alterar las creencias de los usuarios, llama la atenci\u00f3n, en conversaci\u00f3n con ABC, sobre nuestra tendencia a creernos a pies juntillas cualquier dato consultado en internet.<\/p>\n\n\n\n

\u00abTendemos a emplear sistemas que pretenden ofrecer respuestas simples y sucintas a las preguntas que a veces son complicadas. Cuando recibimos una respuesta clara y segura se resuelve la incertidumbre y continuamos con nuestras vidas. Independientemente de lo precisos que sean los datos\u00bb, se\u00f1ala Kidd. \u00abEl problema es que la gente no sabe lo que no sabe. No pueden detectar los errores, porque est\u00e1n consultando modelos en busca de respuestas que a\u00fan no conocen\u00bb, prosigue.<\/p>\n\n\n\n

La docente explica en su art\u00edculo que la enorme popularidad de sistemas como ChatGPT y de m\u00e1quinas capaces de generar im\u00e1genes a partir de palabras, como DALL-E o Midjourney, hace que los usuarios est\u00e9n m\u00e1s predispuestos a aceptar como buenos los resultados que generan. El hecho de que las herramientas, adem\u00e1s, no duden a la hora de responder a las consultas que reciben, que lo hagan con total seguridad, tampoco ayuda a que el usuario dude. Y esto, al final, puede afectar tanto a las creencias como a los sesgos de las personas<\/strong>.<\/p>\n\n\n\n

En el art\u00edculo, se remarca la importancia de realizar estudios ahora, cuando la tecnolog\u00eda todav\u00eda es joven, con el fin de comprender mejor c\u00f3mo estos sistemas pueden enga\u00f1arte y alterar tus creencias. Que pueden hacerlo, sobre todo en aquellos casos en los que el internauta no es consciente de que la IA sigue lejos, y mucho, de superar las capacidades humanas<\/strong>.<\/p>\n\n\n\n

Muy lejos de ser infalible<\/h3>\n\n\n\n

Lo hemos dicho muchas veces: los sistemas basados en inteligencia artificial no se inventan nada. Todo el contenido que crean es producto directo de la ingente cantidad de informaci\u00f3n con la que han sido entrenados por los desarrolladores. Alguna procede directamente de los propios usuarios que utilizan las herramientas. El resto, de todos los rincones de internet.<\/p>\n\n\n\n

Evidentemente, si los datos que comparte una persona pueden contener errores, o sesgos, los que crea una m\u00e1quina que ha sido capacitada con la misma informaci\u00f3n tendr\u00e1n los mismos problemas. Los sistemas est\u00e1n lejos de ser infalibles. El problema es que el usuario, como se\u00f1ala Kidd, tiende a aceptar como bueno el contenido que generan gracias a la seguridad con la que ofrecen sus respuestas y a la enorme expectaci\u00f3n que generaran. Todo esto provoca que la persona al otro lado de la pantalla tienda a acomodarse y dar por bueno lo que el sistema le dice. Y eso puede ser un problema grave. De hecho, ya lo ha sido.<\/p>\n\n\n\n

Hace apenas unas semanas,\u00a0un abogado neoyorquino recurri\u00f3 a ChatGPT\u00a0para buscar precedentes que apoyasen un caso en el que estaba trabajando. \u00bfQu\u00e9 ocurri\u00f3? Que no comprob\u00f3 los datos que escupi\u00f3 la m\u00e1quina y termin\u00f3 presentando un mont\u00f3n de informaci\u00f3n falsa ante el juez. Y este no es un caso aislado.<\/p>\n\n\n\n

El pasado abril, un alcalde de una localidad australiana amag\u00f3 con demandar a OpenAI<\/strong>, desarrolladora de ChatGPT despu\u00e9s de descubrir que la m\u00e1quina afirmaba err\u00f3neamente que hab\u00eda pasado por la c\u00e1rcel por sobornar a funcionarios extranjeros. En Estados Unidos, incluso, un profesor universitario amenaz\u00f3 con suspender a toda una clase despu\u00e9s de que una IA le dijese que los estudiantes hab\u00edan copiado sus trabajos.<\/p>\n\n\n\n

\u00abEl dinero y el ego\u00bb<\/h3>\n\n\n\n

\u00abNecesitamos estudiar mucho, especialmente sobre c\u00f3mo la exageraci\u00f3n que rodea a estos modelos afecta a la gravedad y la tasa de transmisi\u00f3n de contenido falso o sesgado\u00bb, zanja Kidd. La docente, adem\u00e1s, remarca la importancia de que las empresas detr\u00e1s de estos m\u00e1quinas sean transparentes acerca de los datos con los que las entrenan y su procedencia. Algo que, hasta el momento, no se cumple. La autora del art\u00edculo lo tiene claro: hay que regular la tecnolog\u00eda y formar a los usuarios sobre los riesgos que esconde.<\/p>\n\n\n\n

\u00abDebemos priorizar la educaci\u00f3n de la sociedad sobre cu\u00e1les son y cu\u00e1les no son las capacidades reales de estas tecnolog\u00edas. Los pol\u00edticos, los medios y el p\u00fablico merecen algo mejor que confiar en las palabras de los desarrolladores de modelos, cuyos intereses se basan en el dinero y el ego\u00bb, remata la profesora de Berkeley.<\/p>\n\n\n\n

Fuente: ABC<\/p>\n","protected":false},"excerpt":{"rendered":"

El desarrollo vertiginoso de la inteligencia artificial aspira a transformar, de forma radical, la vida misma del ser humano. Desde el exitoso lanzamiento de\u00a0ChatGPT\u00a0a finales del a\u00f1o pasado, compa\u00f1\u00edas de todo tama\u00f1o y condici\u00f3n corren, cada vez m\u00e1s r\u00e1pido, para poner a disposici\u00f3n de los usuarios herramientas capaces de generar contenido a demanda. Actualmente, cualquiera […]<\/p>\n","protected":false},"author":2,"featured_media":119423,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[58],"tags":[],"class_list":["post-119422","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-qtp"],"_links":{"self":[{"href":"http:\/\/elcuartopoder.com.mx\/nw\/wp-json\/wp\/v2\/posts\/119422","targetHints":{"allow":["GET"]}}],"collection":[{"href":"http:\/\/elcuartopoder.com.mx\/nw\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"http:\/\/elcuartopoder.com.mx\/nw\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"http:\/\/elcuartopoder.com.mx\/nw\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"http:\/\/elcuartopoder.com.mx\/nw\/wp-json\/wp\/v2\/comments?post=119422"}],"version-history":[{"count":1,"href":"http:\/\/elcuartopoder.com.mx\/nw\/wp-json\/wp\/v2\/posts\/119422\/revisions"}],"predecessor-version":[{"id":119424,"href":"http:\/\/elcuartopoder.com.mx\/nw\/wp-json\/wp\/v2\/posts\/119422\/revisions\/119424"}],"wp:featuredmedia":[{"embeddable":true,"href":"http:\/\/elcuartopoder.com.mx\/nw\/wp-json\/wp\/v2\/media\/119423"}],"wp:attachment":[{"href":"http:\/\/elcuartopoder.com.mx\/nw\/wp-json\/wp\/v2\/media?parent=119422"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"http:\/\/elcuartopoder.com.mx\/nw\/wp-json\/wp\/v2\/categories?post=119422"},{"taxonomy":"post_tag","embeddable":true,"href":"http:\/\/elcuartopoder.com.mx\/nw\/wp-json\/wp\/v2\/tags?post=119422"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}