Con el big data tenemos la capacidad de ver la sociedad en toda su complejidad a través de los millones de interconexiones de los intercambios humanos. Si tuviéramos un “ojo divino”, una visión global, podríamos lograr una verdadera comprensión del funcionamiento de la sociedad y tomar medidas para resolver nuestros problemas.

Alex Pentland, director del Human Dynamics Lab, del Massachusetts Institute of Technology (MIT)

7:30 A.M, mañana otoñal, vapor helado impregnado en ventanales con vista al valle de Tumbaco. Martín, un chico alto, barbado, con un acento levemente francés, expone los elementos fundamentales del existencialismo. Mira a sus compañeros y al profesor, maneja bien los tonos y el escenario, muestra un cierto dominio de las principales categorías sartreanas: “la existencia precede a la esencia”. Cierra su exposición planteando una muy buena pregunta para entender como nuestra esencia, siempre mutable, depende de nuestras decisiones, siempre somos posibilidad. Los chicos aplauden.

Converso animadamente con mis estudiantes sobre CHATGPT, la herramienta de inteligencia artificial que ha levantado polémica alrededor del mundo, incluso ha sido prohibida en algunos países, entre ellos Suiza, Hungría, Dinamarca, Rusia, Italia y China. Martín confiesa que utilizó la herramienta para realizar la exposición en la que obtuvo la máxima calificación. Realizamos una digresión, le pedimos a CHATGPT que realice un resumen sobre la teoría existencialista en Jean Paul Sartre. El texto de 600 palabras está bien organizado pero contiene una imprecisión de contenido: menciona que, según Sartre, el ser humano está condenado al fracaso, lo real es que Sartre planteó que estamos condenados a las vicisitudes y a ser libres. Pregunto a Martín, de dónde sacaste el ejemplo, responde que esa fue una creación suya. Realmente fue la mejor parte de la exposición, por la que obtuvo la nota más alta. Conclusión rápida: puede ser útil en ciertas ocasiones pero tiene limitaciones y si dejas todo en manos de CHATGPT estás jugando a la ruleta rusa.

Realizamos otro experimento: pedimos a este simulador de redacción académica que realice un escrito de 1000 palabras sobre el DASEIN y DASMAN de Heidegger. El texto elaborado en segundos por CHATGPT contiene los elementos fundamentales de las categorías heideggerianas, pero no profundiza en las mismas y, por otro lado, repite la misma información en diferentes párrafos. Es un ensayo poco interpretativo, algo superficial pero que podría sorprender a cualquier académico que no lee atentamente el escrito, porque no sería detectado por los diversos rastreadores de plagio. Al final de la clase pedí a CHATGPT que realice un poema sobre DASEIN y DASMAN. Resultó un bodrio total. 

Leí a mis estudiante un poema de Arthur Rimbaud, El barco ebrio, repetí varias veces: “Sé de cielos que estallan en rayos, sé de trombas, resacas y corrientes; sé de noches… del alba exaltada como una bandada de palomas. ¡Y, a veces, yo sí he visto lo que alguien creyó ver!” Les pregunté algo eufórico: ¿ustedes creen que la inteligencia artificial puede crear belleza? 

El experimento lo continué en casa. Ordené a CHATGPS redactar un texto de 600 palabras acerca del libro Historias de aerosol de mi autoría. El simulador redactó un texto plagado de errores de contenido porque mencionó tres relatos que no constaban en mi libro. Es decir, hablamos de una herramienta que deslumbra por la velocidad con la que construye textos pero que algorítmicamente tiene muchos defectos.

Algunos catedráticos plantean no demonizar a esta herramienta digital, incluso creen que debería ser aceptada como fuente de consulta, siempre y cuando sea citada. Otros profesores universitarios ven en ella un peligro para la construcción discursiva argumentada y reflexiva de textos académicos. ¿Puede la academia convertirse en una administradora de información algorítmica?, ¿tiene sentido utilizar simuladores de redacción académica en una población estudiantil con problemas de comprensión y redacción de textos académicos?

En Infocracia, Byung Chul Han plantea: "La inteligencia artificial no razona, sino que computa. Los algoritmos sustituyen a los argumentos. Los argumentos pueden mejorarse en el proceso discursivo. Los algoritmos, en cambio, se optimizan continuamente en el proceso maquinal. Esto les permite corregir sus errores de forma independiente. La racionalidad digital sustituye el aprendizaje". La pregunta fluye, ¿basta la racionalidad digital para garantizar aprendizaje reflexivo? En el caso de Martín, sí, pero obviamente fue un caso aislado porque este chico utiliza a la herramienta de IA como apoyo, pero él tiene claro cómo utilizar información de CHATGPT.

Los gurús de la inteligencia artificial, entre ellos Elon Musk, piden una pausa de seis meses en el entrenamiento de “los poderosos sistemas de inteligencia artificial”. Para mí, Musk tiene claro que sus herramientas poseen demasiadas falencias y que si no las perfecciona generarán un caos social, académico y laboral. Si el manejo de CHATGPS no es realizado por usuarios con inteligencia reflexiva y autocrítica, tendremos nuevas generaciones de estudiantes con información ilimitada pero sin capacidad para articular discursos articulados, meditados y creativos. Es decir, más mediocridad académica y más mediocridad social.

Para Byung Chul Han: "La información circula ahora, completamente desconectada de la realidad, en un espacio hiperreal. Se pierde la creencia en la facticidad. Vivimos en un universo desfactificado. Junto con las verdades fácticas desaparece también el mundo común al que podríamos referirnos en nuestras acciones."

En tiempos de resurgimiento de totalitarismos en el mundo, el dataísmo podría ser la dictadura algorítmica más sutil y depredadora de lo humano.