Hay gente metida en un juego, que es a la vez negocio, consistente en hacer pronósticos acerca del futuro de los chatbots, un tipo de modelos extensos de lenguaje, denominados también LLMs por sus siglas en inglés. Jugar a las profecías presupone que la convivencia generalizada con chatbots es una realidad inevitable del futuro próximo. En un sentido, no hay manera de refutar esa inevitabilidad. Puesto que miles de millones están siendo invertidos, y que ya muchos usuarios han encontrado algún uso de la herramienta, negar la inevitabilidad raya con lo absurdo.
Pero presuponer la inevitabilidad conlleva un sacrificio. A nivel individual y colectivo, cuando uno presupone en sus planes que algo es inevitable, uno sacrifica capacidad de maniobra. Como sea que vaya a terminar el partido, lo vamos a jugar de visitantes en las canchas de los Zuckerbergs y los Altmans. Chatbots contra cerebros es, en parte, entregar gratuitamente la capacidad de decisión sobre si ellos van o no a entrar en nuestras vidas, y cómo: eso sacrificamos de entrada.
Un caso concreto sugiere el mecanismo por el que perdemos capacidad de maniobra. Recientemente, Laura Rodríguez Salamanca reportó para Rest of World sobre los efectos de la entrada de chatbots en unos colegios rurales de Colombia. En niveles básicos de formación, los estudiantes usan chatbots para evitar hacer la tarea. Nada nuevo, claro: de forma similar, antes muchos les pedían el favor a las primas o a los papás de hacerles la tarea, y salían a montar en bicicleta o a coquetear. Para los profesores, los chatbots pueden ser una solución para ahorrar tiempo en diseño de material y calificaciones, pero los estudiantes no necesariamente saben dónde, o siquiera pueden, poner las fronteras.
Cuando tiene que ver con el aprendizaje de habilidades básicas o con la mejora continua de esas habilidades, un fenómeno similar de chatbots contra cerebros puede estar pasando. Un estudio reciente de Nataliya Kosmyna y sus colegas en el MIT, citado en el reportaje de Rest of World, sugiere cómo puede suceder. Simplificando, el estudio sugiere que, en contextos de formación, los chatbots pueden competir contra los cerebros como los carros de carreras compiten contra las bicicletas. En procesos de aprendizaje, encargarle la tarea a un chatbot es como entrenar para un sprint en bicicleta montado en un carro de carreras: al encargarle el entrenamiento al carro, uno va más rápido, pero empeora en la habilidad relevante involucrada en ganar la carrera.
Aunque preliminar, limitado a la escritura de ensayos, y a pocos participantes usando solamente el modelo de OpenAI, el estudio apoya la idea de que la cantidad de conectividad neuronal involucrada en la escritura de ensayos difiere de forma significativa entre quienes usan chatbots y quienes no. Esa diferencia podría explicar, por ejemplo, por qué quienes solo utilizan un chatbot para escribir un ensayo tuvieran dificultades para recordar lo que dijeron en su propio texto. Este y otros patrones de fallos sugieren la acumulación gradual de algo que los autores del estudio llaman deuda cognitiva: “una condición en la que fiarse repetidamente de sistemas externos, como LLMs, reemplaza los procesos cognitivos dificultosos que se requieren para el pensamiento independiente”.
¿Qué hace aceptable usar un chatbot para hacer la tarea? Lo interesante no está en decir que «depende de la tarea», sino en desarrollar algún criterio explícito para distinguir unas tareas de otras. Hay algunas tareas donde es previsible que no estamos sacrificando mucho al dejar entrar al chatbot al proceso: buscar en la web, traducir un menú, transcribir texto. Pero, como sugiere el caso de los chatbots en contextos educativos, no es necesariamente obvio que podamos hacer esa distinción por pura intuición; poderla hacer depende de tener precauciones en la experimentación, de un conocimiento sobre efectos de largo plazo y de reclamar nuestra capacidad de maniobra. Tanto a nivel individual como colectivo, moderar el uso de chatbots pasa por dejar de asumir que la injerencia generalizada de chatbots en nuestras vidas es inevitable. Al perder de vista las partes opcionales, entregamos gratuitamente otra parte de nuestra ya limitada independencia digital.
