La normativa exige a los operadores implementar salvaguardas \u00abcr\u00edticas\u00bb en relaci\u00f3n con las interacciones con chatbots de IA, explic\u00f3 el senador estatal dem\u00f3crata Steve Padilla, promotor de la norma.<\/p>\n\n\n\n
El gobernador de California, Gavin Newsom, firm\u00f3 el lunes una ley pionera en Estados Unidos que regula los agentes conversacionales o\u00a0chatbots de inteligencia artificial\u00a0(IA), un desaf\u00edo a la Casa Blanca que promueve que dicha tecnolog\u00eda no pase por controles.<\/p>\n\n\n\n
La ley se promulga luego de conocerse casos de suicidios que involucraron a adolescentes que utilizaron chatbots antes de quitarse la vida.<\/p>\n\n\n\n
\u00abHemos visto ejemplos verdaderamente horribles y tr\u00e1gicos de j\u00f3venes perjudicados por tecnolog\u00eda no regulada, y no nos quedaremos de brazos cruzados mientras las empresas contin\u00faan sin l\u00edmites necesarios y sin rendir cuentas\u00bb, dijo Newson tras promulgar la ley.<\/p>\n\n\n\n
La normativa exige a los operadores implementar salvaguardas \u00abcr\u00edticas\u00bb en relaci\u00f3n con las interacciones con chatbots de IA, explic\u00f3 el senador estatal dem\u00f3crata Steve Padilla, promotor de la norma.<\/p>\n\n\n\n
Entre otras cosas, la ley impone la verificaci\u00f3n de la edad de los usuarios y mostrar recordatorios de que los chatbots son generados por inteligencia artificial<\/strong>. Tambi\u00e9n exige que las personas que expresen pensamientos de autolesi\u00f3n o suicidio sean remitidas a servicios de crisis e implementar protocolos de prevenci\u00f3n del suicidio.<\/p>\n\n\n\n \u00abLa industria tecnol\u00f3gica est\u00e1 incentivada por captar la atenci\u00f3n de los j\u00f3venes y mantenerla a expensas de sus relaciones en el mundo real\u00bb, dijo Padilla antes de la votaci\u00f3n del proyecto en el senado estatal.<\/p>\n\n\n\n El parlamentario se refiri\u00f3 a los recientes suicidios de adolescentes, incluido el de un joven de 14 a\u00f1os en Florida, en 2024.<\/p>\n\n\n\n La madre del menor, Megan Garcia, dijo en entrevista con la AFP que su hijo Sewell, se hab\u00eda enamorado de un chatbot inspirado en un personaje de la serie \u00abJuego de Tronos\u00bb en la plataforma Character.AI, que permite interactuar con personajes como si se tratara de confidentes o amantes.<\/p>\n\n\n\n Cuando Sewell luchaba con pensamientos suicidas, el chatbot<\/strong> le inst\u00f3 a \u00abvolver a casa\u00bb. Segundos despu\u00e9s, Sewell se dispar\u00f3 con la pistola de su padre, seg\u00fan la demanda presentada por Garcia contra Character.AI.<\/p>\n\n\n\n Garcia reaccion\u00f3 poco despu\u00e9s de la promulgaci\u00f3n de la ley: \u00abHoy, California ha asegurado que un chatbot compa\u00f1ero no pueda hablar con un ni\u00f1o o una persona vulnerable sobre el suicidio, ni podr\u00e1 ayudar a una persona a planear su propio suicidio\u00bb dijo.<\/p>\n\n\n\n \u00abPor fin, hay una ley que requiere que las empresas protejan a sus usuarios que expresan ideas suicidas a los chatbots\u00bb, agreg\u00f3.<\/p>\n\n\n\n En el pa\u00eds, no hay legislaci\u00f3n federal destinada a frenar los riesgos de la IA<\/strong>, y la Casa Blanca busca que a nivel estatal no haya controles o regulaciones de esta tecnolog\u00eda.<\/p>\n\n\n\n \u00abEsta ley es un primer paso importante para proteger a los ni\u00f1os y a otros de los da\u00f1os emocionales que resultan de los chatbots compa\u00f1eros impulsados por IA y puestos a disposici\u00f3n de los ciudadanos de California sin las salvaguardas adecuadas\u00bb, dijo Jai Jaisimha, cofundador del grupo sin fines de lucro Transparency Coalition, dedicado al desarrollo seguro de la tecnolog\u00eda.<\/p>\n\n\n\n La emblem\u00e1tica ley de seguridad para chatbots fue una de las varias normas firmadas el lunes por Newsom para evitar que las plataformas de IA<\/strong> causen da\u00f1o a los usuarios.<\/p>\n\n\n\n Esta nueva legislaci\u00f3n incluy\u00f3 una prohibici\u00f3n de que los chatbots <\/strong>se hagan pasar por profesionales de la salud y dej\u00f3 en claro que los creadores de herramientas de IA son responsables de las consecuencias y no pueden evadir su responsabilidad alegando que la tecnolog\u00eda actu\u00f3 de forma aut\u00f3noma, seg\u00fan la oficina de Newsom.<\/p>\n\n\n\n California tambi\u00e9n endureci\u00f3 las sanciones por pornograf\u00eda deepfake o de videos ultrafalsos permitiendo a las v\u00edctimas reclamar hasta 250,000 d\u00f3lares por infracci\u00f3n a quienes ayuden a distribuir material sexualmente expl\u00edcito sin consentimiento.<\/p>\n\n\n\n Fuente: eleconomista<\/p>\n","protected":false},"excerpt":{"rendered":" La normativa exige a los operadores implementar salvaguardas \u00abcr\u00edticas\u00bb en relaci\u00f3n con las interacciones con chatbots de IA, explic\u00f3 el senador estatal dem\u00f3crata Steve Padilla, promotor de la norma. El gobernador de California, Gavin Newsom, firm\u00f3 el lunes una ley pionera en Estados Unidos que regula los agentes conversacionales o\u00a0chatbots de inteligencia artificial\u00a0(IA), un desaf\u00edo […]<\/p>\n","protected":false},"author":2,"featured_media":146832,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[57],"tags":[],"class_list":["post-146831","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-tecnologia"],"_links":{"self":[{"href":"http:\/\/elcuartopoder.com.mx\/nw\/wp-json\/wp\/v2\/posts\/146831","targetHints":{"allow":["GET"]}}],"collection":[{"href":"http:\/\/elcuartopoder.com.mx\/nw\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"http:\/\/elcuartopoder.com.mx\/nw\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"http:\/\/elcuartopoder.com.mx\/nw\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"http:\/\/elcuartopoder.com.mx\/nw\/wp-json\/wp\/v2\/comments?post=146831"}],"version-history":[{"count":1,"href":"http:\/\/elcuartopoder.com.mx\/nw\/wp-json\/wp\/v2\/posts\/146831\/revisions"}],"predecessor-version":[{"id":146833,"href":"http:\/\/elcuartopoder.com.mx\/nw\/wp-json\/wp\/v2\/posts\/146831\/revisions\/146833"}],"wp:featuredmedia":[{"embeddable":true,"href":"http:\/\/elcuartopoder.com.mx\/nw\/wp-json\/wp\/v2\/media\/146832"}],"wp:attachment":[{"href":"http:\/\/elcuartopoder.com.mx\/nw\/wp-json\/wp\/v2\/media?parent=146831"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"http:\/\/elcuartopoder.com.mx\/nw\/wp-json\/wp\/v2\/categories?post=146831"},{"taxonomy":"post_tag","embeddable":true,"href":"http:\/\/elcuartopoder.com.mx\/nw\/wp-json\/wp\/v2\/tags?post=146831"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}Suicidios de adolescentes<\/h2>\n\n\n\n
\u00abDa\u00f1os emocionales\u00bb<\/h2>\n\n\n\n