Ante la batalla sin fin que está sucediendo entre una inteligencia artificial (IA) que presuntamente escribe novelas, otra que intenta “humanizar” los textos y la que se empeña en detectar las diferencias, “la ética exige lo mismo a ambos lados: honestidad de quien escribe y justicia de quien juzga. Este ciclo es síntoma de un pánico moral que ha cambiado la discusión sobre el sentido y la calidad de una obra por una obsesión con su ‘pureza’”, afirma Saiph Savage, directora del Laboratorio de Inteligencia Artificial Cívica del Colegio Khoury de Ciencias de la Computación de la Universidad Northeastern, en Boston.
En entrevista con La Jornada, la profesora egresada de la Facultad de Ingeniería de la Universidad Nacional Autónoma de México (UNAM) señala que usar programas informáticos para fingir humanidad y engañar a los detectores “revela cobardía o cinismo. Apoyarse en una herramienta para explorar ideas u ordenar una trama no devalúa el oficio (de un escritor), siempre que el autor conserve el criterio y la dirección. Lo inmoral es atribuirse un mérito que no le pertenece o esconder su método. Quien firma debe poder explicar cada metáfora, cada giro y cada dato, sin escudarse en que ‘lo hizo la máquina’.
“Los detectores no son infalibles: calculan probabilidades, no ofrecen pruebas y suelen castigar la prosa clara, el estilo formal o a quienes escriben en una segunda lengua (que no sea el inglés, con el que son entrenados). Además, el origen de un texto no define su valor: una novela que conmueve no pierde su verdad por haber tenido mediación tecnológica. Acusar públicamente por sospechas algorítmicas destruye la confianza y arruina carreras; lo justo es revisar borradores, dialogar con el autor y discutir las ideas.
“El reto es dejar de leer como forenses que buscan rastros de máquina. Si una obra dice la verdad y su autor responde por ella, obsesionarse con el proceso sólo revela el miedo de quienes ya no saben dialogar con un texto, sino solo vigilarlo.”
Savage considera que las noticias cuyos titulares difunden “novela escrita por una IA” cometen una doble trampa: “conceden a un cálculo matemático un aura de autonomía que jamás ha tenido y, al mismo tiempo, borran la inmensa montaña de trabajo, cultura y lenguaje humano sobre la que ese cálculo opera.
“Una IA no tiene intencionalidad, conciencia ni nada en juego. No siente dolor, asombro ni miedo a la muerte. Es un espejo estadístico de alta resolución que predice y recombina los patrones que nosotros mismos dejamos escritos. La máquina no ‘crea’: interpola sobre el archivo de la experiencia humana.
“Convivir con la IA sin satanizarla ni arrodillarnos ante ella exige posturas fundamentales, principalmente desarmar el lenguaje antropomórfico. Nombrar las cosas por su mecanismo real. La máquina no comprende, predice; no siente, calcula; no escribe una novela, sino que ensambla fragmentos probabilísticos a partir de una consigna dada por una persona. Cada vez que le atribuimos verbos de concien-cia, le regalamos una agencia que nos resta a nosotros.
“Hay que evitar la seducción de la comodidad cognitiva, pues el verdadero peligro no es que la máquina cobre vida, sino que nosotros renunciemos voluntariamente a pensar. La elocuencia sintáctica de un modelo genera una falsa sensación de verdad cerrada. Si delegamos la duda, la síntesis, el conflicto ético y la búsqueda de matices por pura pereza, el costo no es técnico, sino espiritual: atrofiamos el criterio propio.
“La tecnología no es un fetiche que deba deslumbrarnos ni un monstruo que deba paralizarnos. Es un instrumento. La voluntad y la humanidad no se pierden porque una máquina procese texto; se pierden sólo si decidimos olvidar que el sentido, la ética y el propósito jamás salen del algoritmo, sino de quien lo sostiene entre las manos.
“Simular no es experimentar”
–Cómo se define el concepto “humanidad” frente a las más avanzadas IAs y robots que trabajan con esa tecnología?
–Frente a las IAs y robots más avanzados, la humanidad no se define por la inteligencia, sino por la vulnerabilidad encarnada, la experiencia consciente y la responsabilidad moral.
“Durante mucho tiempo se ha cometido el error de definir lo humano por lo que la técnica ya hace mejor: calcular rápido, recordar mucho o razonar con lógica. Al superarnos en esas tareas, la IA no borra nuestra condición, la aclara, porque nos obliga a buscar lo humano más allá de lo mecánico.
“En primer lugar, ser humano es ser vulnerable. Una máquina no arriesga nada al existir: no tiene un cuerpo que mantener con vida, no se cansa, no siente dolor ni sabe que va a morir. Nosotros sí, y de esa fragilidad nacen el valor, el deseo, la compasión y el arte. Creamos sentido porque nuestro tiempo es escaso y nuestro cuerpo puede romperse. La máquina ejecuta procesos; el ser humano los sufre, los celebra y los vive.
“En segundo lugar, ser humano es sentir de verdad. Una IA puede escribir un texto perfecto sobre la tristeza y un robot puede imitar el duelo, pero simular no es experimentar: no hay nadie dentro que lo sienta. La humanidad implica una vida interior arraigada en una comunidad real, hecha de memoria compartida, contradicciones y afectos.
“En tercer lugar, ser humano es ser responsable. Un sistema puede predecir o actuar, pero no sentir culpa ni vergüenza, ni responder ante los demás. La ética exige tener algo en juego. La técnica optimiza el camino hacia una meta dada; sólo el ser humano puede cuestionar esa meta, rebelarse contra la eficiencia y responder por sus actos.
“En definitiva, frente a la tecnología avanzada, la humanidad no es la de un procesador biológico defectuoso, sino la del único testigo consciente capaz de dar sentido, sostener la mirada del otro y cargar con el peso de sus decisiones.”
–Históricamente la tecnología ha cambiado al arte, como hizo la fotografía con la pintura. ¿Cómo imagina al escritor o periodista del futuro con una colaboración ética de la IA? ¿Hay que redefinir el concepto ‘escribir’?
–Imagino al escritor del futuro no como alguien que teclea frases, sino como un director que decide qué merece existir. Y sí, hay que redefinir “escribir”: ya no será redactar, sino elegir, descartar y dar testimonio.
“La fotografía no mató a la pintura, la liberó de copiar la realidad y abrió paso al impresionismo y la abstracción. La pintura descubrió que su valor estaba en la mirada de quien sostenía el pincel. Con la IA ocurre lo mismo, pero más rápido: redactar con corrección, resumir o armar una trama de género ya no tiene mérito.
“Una IA produce, por definición, la respuesta más probable: el cliché más pulido. Ahí está su utilidad ética más interesante. El escritor no la usa para que escriba por él, sino como un espejo del sentido común que le muestra exactamente qué es lo trillado, para empujar su obra hacia lo inesperado. La originalidad deja de medirse por el esfuerzo frente a la página en blanco y pasa a residir en la intención, la provocación y la capacidad de descartar.
“El periodista debe ir de vuelta a la calle. Buena parte del periodismo actual se ha reducido a rescribir comunicados y cables, algo que una máquina hace en segundos. Paradójicamente, eso puede salvarlo: obliga al periodista a volver a lo que ningún servidor puede hacer, estar en el lugar de los hechos, mirar a un testigo a los ojos y ganarse su confianza. En un mundo saturado de textos impecables pero vacíos o falsos, su valor ya no será la rapidez, sino la firma que garantiza una verdad comprobada y el riesgo de asumir sus consecuencias.
“Si juntar palabras correctas se vuelve barato y abundante, escribir pasa a ser un acto de juicio estético, ético y de conocimiento: construir un punto de vista irrepetible desde un cuerpo finito, con memoria, contradicciones y dolor. Frente a la pulcritud de la máquina, la literatura viva se refugiará en la grieta: el silencio deliberado, el corte abrupto, la imperfección honesta.
“Así como la fotografía liberó al lienzo de la copia fiel, la IA liberará a la palabra del texto genérico. Escribir dejará de ser llenar páginas para convertirse en el compromiso de dar testimonio de lo humano.”
Fuente: lajornada
