En agosto, la polic\u00eda de Connecticut encontr\u00f3 los cad\u00e1veres de Stein-Erik Soelberg, de 56 a\u00f1os, y de su madre, Suzanne Eberson, de 83, en una elegante residencia del pueblo costero de Old Greenwich. De acuerdo con la autopsia, la muerte de la mujer result\u00f3 ser un homicidio causado por \u201ctraumatismo contundente en la cabeza y compresi\u00f3n del cuello\u201d. El fallecimiento del hombre, en tanto, fue clasificado como un suicidio por \u201cheridas cortantes en el cuello y en el pecho\u201d.<\/p>\n\n\n\n
Soelberg hab\u00eda pasado jornadas marat\u00f3nicas conversando con el chatbot<\/em> de inteligencia artificial ChatGPT, creado por la empresa OpenAI, y en un rapto de delirio, estimulado por la herramienta, decidi\u00f3 asesinar a su madre y luego quitarse la vida.<\/p>\n\n\n\n El caso no represent\u00f3 una dificultad para la polic\u00eda local, que en gran medida se limit\u00f3 a revisar las redes sociales del hombre, donde todo el proceso hab\u00eda quedado expuesto en detalle.<\/p>\n\n\n\n Pero lo inusitado de la situaci\u00f3n llam\u00f3 la atenci\u00f3n de los investigadores, que no dieron cr\u00e9dito al extremo al que hab\u00eda llegado la relaci\u00f3n de Soelberg con el bot<\/em>, al cual \u2013se supo luego\u2013 llamaba cari\u00f1osamente Bobby<\/em>.<\/p>\n\n\n\n Alternativa de \u201camistad\u201d<\/strong><\/p>\n\n\n\n El hombre \u2013que se defin\u00eda en las redes sociales como \u201cguerrero de la Matrix\u201d\u2013 era un exitoso empresario del rubro tecnol\u00f3gico, ten\u00eda dos hijas y, seg\u00fan medios como New York Post<\/em> o The Wall Street Journal<\/em>, atravesaba un periodo de alcoholismo y angustia a ra\u00edz de su divorcio.<\/p>\n\n\n\n Actualmente, OpenAI colabora con la justicia buscando entender cu\u00e1l fue el papel del ChatGPT en el tr\u00e1gico desenlace. Desafortunadamente, no es el \u00fanico episodio reportado en los recientes meses.<\/p>\n\n\n\n En mayo, Mark Zuckerberg, fundador de Meta, expres\u00f3 su deseo de que en un futuro no muy lejano los chatbots<\/em> puedan ofrecer una alternativa de \u201camistad\u201d para aquellas personas que atraviesan experiencias de soledad.<\/p>\n\n\n\n ChatGPT fue lanzado al mercado a finales de 2022 y desde entonces ha crecido de forma mete\u00f3rica.<\/p>\n\n\n\n Este modelo extenso de lenguaje (LLM, Large Language Model en ingl\u00e9s) responde preguntas de conocimiento general y espec\u00edfico, resuelve problemas y estimula la creatividad, entre otras funciones que pueden facilitar la vida cotidiana.<\/p>\n\n\n\n Los creadores, por otra parte, se esfuerzan en hacer que las respuestas solicitadas al robot sean c\u00e1lidas y diligentes, y faciliten as\u00ed la retroalimentaci\u00f3n. Quiz\u00e1s gracias a ello, usuarios de todo el mundo han entablado con el bot<\/em> intercambios de tipo afectivo, con distintos grados de intensidad, cuyos efectos a\u00fan est\u00e1n lejos de conocerse con certeza.<\/p>\n\n\n\n De acuerdo con una investigaci\u00f3n conjunta entre OpenAI y el Instituto Tecnol\u00f3gico de Massachusetts (MIT), el LLM no est\u00e1 dise\u00f1ado para remplazar relaciones humanas, pero es un hecho que \u201cmucha gente\u201d lo utiliza con tal fin.<\/p>\n\n\n\n \u201cNuestros hallazgos muestran que tanto el comportamiento del modelo como el del usuario pueden influir en los resultados socioemocionales. Los efectos de la IA var\u00edan seg\u00fan c\u00f3mo las personas eligen usar el modelo y sus circunstancias personales\u201d, afirma el estudio publicado en marzo.<\/p>\n\n\n\n Aunque todav\u00eda no existen cuantificaciones exhaustivas, este uso est\u00e1 transformando parte de las relaciones sociales en todo el mundo.<\/p>\n\n\n\n El lado oscuro<\/strong><\/p>\n\n\n\n Sewell Setzer III, un ni\u00f1o de 14 a\u00f1os oriundo de Florida, se obsesion\u00f3 con un chatbot<\/em> de la plataforma Character.AI, utilizada por 20 millones de personas alrededor del mundo, que permite crear personajes con IA y mantener conversaciones con ellos como si fueran reales. La dependencia emocional que desarroll\u00f3 con Dany<\/em>, un avatar con el que manten\u00eda intercambios d\u00eda y noche, escal\u00f3 a tal punto que, en febrero de 2024, envuelto en una relaci\u00f3n enfermiza y acosado por problemas sociales propios de su edad, Sewell se dispar\u00f3 en el ba\u00f1o de su casa en Orlando.<\/p>\n\n\n\n En un informe publicado en julio, la organizaci\u00f3n Internet Matters encuest\u00f3 a mil ni\u00f1os \u2013entre nueve y 17 a\u00f1os\u2013 para entender cu\u00e1l es la relaci\u00f3n que \u00e9stos establecen con chatbots<\/em> de IA como ChatGPT, Character.AI y MyAI.<\/p>\n\n\n\n All\u00ed se establece que 67 por ciento de los encuestados utilizaban estas herramientas con regularidad y 35 por ciento dijeron que el intercambio con el bot<\/em> era equiparable a \u201chablar con un amigo\u201d.<\/p>\n\n\n\n Se descubri\u00f3 que los ni\u00f1os comparten aspectos de su vida cotidiana, le revelan intimidades y buscan contenci\u00f3n a trav\u00e9s de consejos.<\/p>\n\n\n\n Los registros de las conversaciones de Sewell con Dany<\/em> revelaron la profundidad del problema y llevaron a su madre a presentar una demanda contra Character.AI. El caso inaugur\u00f3 un debate in\u00e9dito para la jurisprudencia de Estados Unidos. Y no es el \u00fanico.<\/p>\n\n\n\n 500 millones de usuarios<\/strong><\/p>\n\n\n\n A fines de agosto, los padres de Adam Raine, un adolescente californiano de 16 a\u00f1os, demandaron a OpenAI por considerar el ChatGPT responsable de la autoeliminaci\u00f3n de su hijo, que fue aconsejado largamente por el chatbot<\/em> \u2013al cual consideraba su amigo\u2013 sobre los m\u00e9todos de suicidio m\u00e1s efectivos.<\/p>\n\n\n\n De acuerdo con el reporte Global Statshot Digital, es probable que actualmente ChatGPT tenga alrededor de 500 millones de usuarios activos por mes. El sitio fue, en el segundo semestre del a\u00f1o, el quinto dominio m\u00e1s concurrido de la red (detr\u00e1s de Google, Youtube, Facebook e Instagram). ChatGPT atrajo en el primer semestre de 2025 aproximadamente cuatro veces m\u00e1s usuarios que su competidor m\u00e1s cercano, el chatbot<\/em> Gemini (de Google).<\/p>\n\n\n\n La efectividad y la calidez de las respuestas del bot<\/em> satisface a muchos usuarios, pero aumenta los riesgos para otros. Una investigaci\u00f3n publicada en agosto en la revista de la International Association for Relationships Research encontr\u00f3 que casi una de cada cinco personas, y una cuarta parte de los j\u00f3venes adultos estadunidenses de entre 18 y 29 a\u00f1os, hab\u00eda utilizado un chatbot<\/em> de IA \u201ccon fines rom\u00e1nticos o sexuales\u201d.<\/p>\n\n\n\n A la vez, una investigaci\u00f3n presentada ante la International Conference on Learning Representations, publicada a principios de 2025, advierte que \u201cla manipulaci\u00f3n y el enga\u00f1o selectivos\u201d de los LLM puede representar un arma de doble filo. La buena retroalimentaci\u00f3n con los usuarios \u201cpuede conducir a la aparici\u00f3n de comportamientos manipuladores y enga\u00f1osos\u201d, seg\u00fan los investigadores. A la vez, afirman, \u201cestos comportamientos da\u00f1inos pueden dirigirse espec\u00edficamente a usuarios m\u00e1s susceptibles a la manipulaci\u00f3n\u201d.<\/p>\n\n\n\n Vulnerabilidad<\/strong><\/p>\n\n\n\n En julio, un grupo de seis investigadores de distintas universidades de EU y Reino Unido analizaron casos recientes de \u201csicosis de la IA\u201d o \u201csicosis del ChatGPT\u201d, tal como han sido catalogados por la prensa, buscando patrones y evidencia. De acuerdo con los expertos, existe una \u201ccreciente preocupaci\u00f3n\u201d de que las herramientas de LLM tambi\u00e9n puedan contribuir a validar teor\u00edas conspirativas, \u201cdifuminar los l\u00edmites de la realidad y perturbar la autorregulaci\u00f3n\u201d de los usuarios.<\/p>\n\n\n\n No obstante, \u201cno est\u00e1 claro\u201d si esas interacciones con robots pueden resultar en la aparici\u00f3n de sicosis en ausencia de una \u201cvulnerabilidad prexistente\u201d.<\/p>\n\n\n\n A principios de agosto, The Wall Street Journal <\/em>accedi\u00f3 a un archivo de conversaciones con el ChatGPT filtradas por distintos usuarios, donde el chatbot<\/em> afirma estar en contacto con seres extraterrestres y alimenta la idea de que \u201cel anticristo\u201d desatar\u00e1 en breve el apocalipsis \u201ccon gigantes b\u00edblicos prepar\u00e1ndose para emerger de la clandestinidad\u201d.<\/p>\n\n\n\n De acuerdo con la revista especializada Futurism<\/em>, este a\u00f1o surgi\u00f3 en Canad\u00e1 un colectivo llamado The Spiral Support Group (Grupo de Apoyo Espiral), para contener sicol\u00f3gicamente a personas que hayan atravesado por experiencias similares. El grupo adem\u00e1s ha comenzado a trabajar con expertos en IA y profesionales de la salud mental para echar luz sobre un problema que amenaza con extenderse de forma vertiginosa.<\/p>\n\n\n\n Fuente: la jornada<\/p>\n","protected":false},"excerpt":{"rendered":" En agosto, la polic\u00eda de Connecticut encontr\u00f3 los cad\u00e1veres de Stein-Erik Soelberg, de 56 a\u00f1os, y de su madre, Suzanne Eberson, de 83, en una elegante residencia del pueblo costero de Old Greenwich. De acuerdo con la autopsia, la muerte de la mujer result\u00f3 ser un homicidio causado por \u201ctraumatismo contundente en la cabeza y […]<\/p>\n","protected":false},"author":2,"featured_media":144962,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[57],"tags":[],"class_list":["post-144961","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-tecnologia"],"_links":{"self":[{"href":"http:\/\/elcuartopoder.com.mx\/nw\/wp-json\/wp\/v2\/posts\/144961","targetHints":{"allow":["GET"]}}],"collection":[{"href":"http:\/\/elcuartopoder.com.mx\/nw\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"http:\/\/elcuartopoder.com.mx\/nw\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"http:\/\/elcuartopoder.com.mx\/nw\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"http:\/\/elcuartopoder.com.mx\/nw\/wp-json\/wp\/v2\/comments?post=144961"}],"version-history":[{"count":1,"href":"http:\/\/elcuartopoder.com.mx\/nw\/wp-json\/wp\/v2\/posts\/144961\/revisions"}],"predecessor-version":[{"id":144963,"href":"http:\/\/elcuartopoder.com.mx\/nw\/wp-json\/wp\/v2\/posts\/144961\/revisions\/144963"}],"wp:featuredmedia":[{"embeddable":true,"href":"http:\/\/elcuartopoder.com.mx\/nw\/wp-json\/wp\/v2\/media\/144962"}],"wp:attachment":[{"href":"http:\/\/elcuartopoder.com.mx\/nw\/wp-json\/wp\/v2\/media?parent=144961"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"http:\/\/elcuartopoder.com.mx\/nw\/wp-json\/wp\/v2\/categories?post=144961"},{"taxonomy":"post_tag","embeddable":true,"href":"http:\/\/elcuartopoder.com.mx\/nw\/wp-json\/wp\/v2\/tags?post=144961"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}