La concentración de datos en pocas empresas, la falta de una personalidad jurídica para los sistemas automatizados y el impacto ambiental del procesamiento masivo amenazan la soberanía tecnológica del Sur Global
La inteligencia artificial se ha consolidado como un tema central en la agenda internacional debido a los desafíos éticos y de seguridad que plantea para la sociedad. Ximena Chao, directora de innovación educativa y académica de la Universidad Iberoamericana, señaló que el llamado del alto comisionado de las Naciones Unidas para los Derechos Humanos sobre un riesgo existencial para la humanidad no es una advertencia aislada, sino una preocupación compartida por diversos sectores tecnológicos y globales.
La experta en psicología educativa y del desarrollo subrayó que la falta de regulación en el uso de estas herramientas tecnológicas podría derivar en consecuencias graves para la estabilidad institucional y la seguridad de la población. Según Chao, el debate actual no es nuevo, pues ha sido abordado en foros internacionales y por empresas del sector tecnológico que han manifestado inquietudes sobre la seguridad y el control de los sistemas automatizados.
«Es necesario, primero que nada, un consenso global, preferentemente, sobre cuidado de riesgos con la inteligencia artificial.»
Riesgos en seguridad, monopolios y soberanía algorítmica ante la IA
«En lugar de que la tecnología sirva a las personas, estaríamos en una situación de poner primero a la tecnología en lugar de las personas y el planeta», dijo.
Uno de los puntos críticos mencionados por la especialista es la concentración de poder en un grupo reducido de empresas tecnológicas. Esta situación, advirtió, podría derivar en un monopolio de la información y los datos, facilitando la creación de campañas de manipulación masiva mediante el uso de herramientas como los deepfakes, lo cual erosiona la confianza pública y la veracidad de la información.
Asimismo, la falta de una personalidad jurídica para la inteligencia artificial genera un vacío legal preocupante, especialmente en el ámbito del armamento automatizado.
«Existe lo que se llama la brecha de responsabilidad legal, el accountability gap famoso, que no sabemos, por ejemplo, en el caso de que se use la inteligencia artificial para armamento de ataque automatizado.»
Ante este panorama, Chao enfatizó que México debe priorizar la soberanía algorítmica para evitar quedar relegado a ser únicamente un consumidor de tecnología o un proveedor de datos para grandes corporativos extranjeros. La experta argumentó que la desigualdad tecnológica profundiza las brechas geopolíticas, dejando a los países del Sur global en una posición de vulnerabilidad frente a los monopolios de infraestructura y conocimiento.
Educación crítica frente a la automatización en la inteligencia artificial
Más allá de los riesgos de seguridad, la especialista destacó el impacto de la inteligencia artificial en el ámbito laboral, donde se prevén disrupciones masivas y posibles desplazamientos de puestos de trabajo si no se implementan estrategias de transición adecuadas. A esto se suma el impacto ambiental derivado de los grandes centros de procesamiento de datos, que demandan un consumo elevado de energía y recursos hídricos.
Para enfrentar estos retos, Chao propuso un enfoque educativo integral que trascienda lo técnico. La especialista hizo un llamado a fomentar una visión ética y una responsabilidad digital ciudadana, subrayando que la solución no radica en prohibir el uso de dispositivos, sino en desarrollar una capacidad de análisis sociocrítico en los estudiantes.
«Hay que educar, hay que educar críticamente, sociocríticamente, no solamente técnica o funcional. Hay que educar también una visión ética, responsabilidad digital y ciudadana.»Temas
Fuente: Heraldo de México
