Un robot asesino, hipermusculado y con cara de pocos amigos, aparece desnudo en un callejón. Viajó del futuro con el objetivo de salvar al hombre que liderará la resistencia humana contra las máquinas que han decidido, por sí mismas, prescindir de sus creadores. La película es fácil de reconocer, y en estos tiempos ha vuelto a hablarse de ella, y no tanto por su estética, por la dirección de James Cameron o por la memorable actuación de Arnold Schwarzenegger. Terminator instaló una escena que ya forma parte del archivo emocional de varias generaciones: cuerpos de metal que vienen de un tiempo arrasado, máquinas que aprenden a odiar, una guerra donde la humanidad lucha por conservar la vida contra aquello que fabricó para hacerla más fácil.
Fuera de la pantalla, el relato ha ido pareciéndose demasiado a los titulares. Cada avance asombroso de la inteligencia artificial llega escoltado por una avalancha de noticias alarmistas que le roban el sueño a quien todavía, entre tanto ruido, logra dormir. Luego aparecen las palabras grandes —singularidad, superinteligencia, rebelión, fin del mundo— y una tecnología que hasta hace poco corregía frases, recomendaba canciones, ayudaba con recetas o traducía correos empieza a ocupar el lugar de una amenaza sin forma precisa, aunque ya provista de villanos, profetas y una larga tradición literaria y cinematográfica.
Hay motivos para tomar en serio el asunto. Modelos conectados a programas, buscadores, bases de datos o infraestructuras digitales pueden ejecutar cadenas de acciones, ampliar errores a gran velocidad y encontrar caminos que sus diseñadores no anticiparon. Una herramienta así puede afectar elecciones, empleos, diagnósticos, sistemas de vigilancia, decisiones estatales y operaciones militares. El problema comienza cuando esa capacidad técnica se cuenta como si fuese una voluntad, cuando el verbo “hacer” se desliza hacia “querer”, y cuando una empresa afirma que el sistema decidió algo para no responder por las condiciones bajo las cuales lo dejó operar. Pero ¿De verdad la inteligencia artificial es un riesgo existencial para la humanidad? ¿Qué es necesario para que tal cosa suceda?
El problema de la conciencia
Desde los primeros filósofos, la conciencia ha sido una dificultad mayor que la inteligencia. Platón pensó el alma como principio de conocimiento y vida; Aristóteles la relacionó con las capacidades del cuerpo vivo, con sentir, recordar, moverse y pensar. Durante siglos, la pregunta cambió de vocabulario, aunque conservó el mismo centro: ¿qué ocurre para que una materia organizada no solo reaccione ante el mundo, sino que tenga un mundo propio, una experiencia, una sensación de estar aquí? ¿Una capacidad de decidir?
Descartes convirtió esa inquietud en una separación radical. Por un lado, estaba la materia, extensa, medible, sometida a leyes; por el otro, la mente, capaz de pensar y reconocerse pensando. El dualismo cartesiano ha recibido críticas de toda clase, sobre todo porque deja abierta la relación entre cuerpo y alma, aunque todavía impone una cautela útil frente a las máquinas: que algo imite una conducta humana no autoriza a concluir que vive lo que imita. Un termómetro registra el calor sin sentirlo. Un modelo puede describir con precisión la tristeza, ordenar sus causas, citar poemas sobre ella y responder de una manera que parezca afectuosa; entre esa operación y el dolor de una pérdida permanece una distancia difícil de atravesar.
Con Alan Turing llegó el primer gran desplazamiento. En 1950 propuso dejar a un lado la pregunta sobre si una máquina podía pensar y sustituirla por una prueba: si, durante una conversación escrita, una persona no conseguía distinguir entre otro ser humano y un sistema artificial, entonces habría razones para tratar a la máquina como inteligente. El giro fue decisivo porque trasladó el problema desde el interior inaccesible de una mente hacia un comportamiento verificable. Lograr una conversación convincente demuestra una habilidad lingüística, quizá una forma de razonamiento práctico, pero la conversación no permite saber qué ocurre, si es que ocurre algo, detrás de las palabras.
John Searle llevó esa objeción a una habitación imaginaria. Allí, una persona que no sabe chino recibe signos escritos, consulta un conjunto de instrucciones y devuelve otros signos en el orden correcto. Para quienes permanecen afuera, la respuesta parece perfecta; para quien manipula los símbolos, el idioma continúa siendo un conjunto de trazos sin significado. El experimento, conocido como la habitación china, ha producido décadas de discusión y no cierra la puerta a la posibilidad de una conciencia artificial, pero obliga a distinguir entre ordenar signos con eficacia y comprender lo que esos signos dicen. Buena parte de la fascinación actual por los chatbots nace precisamente de olvidar esa diferencia.
En esa misma línea, David Chalmers indicó que la ciencia puede explicar cómo el cerebro recibe información, integra estímulos, responde ante el entorno y regula la conducta; sigue en pie, sin embargo, la pregunta de por qué esos procesos físicos van acompañados de una experiencia subjetiva. La neurociencia contemporánea se planta desde perspectivas disimiles. Stanislas Dehaene, por ejemplo, explica que una información llega a la conciencia cuando se vuelve disponible para múltiples sistemas del cerebro; Giulio Tononi sostiene que ella depende del grado en que un sistema integra información como una unidad. Ninguna de las dos teorías entrega una prueba aceptada para afirmar que una máquina podría poseer conciencia. Ni siquiera sabemos con claridad qué es la conciencia. Entre una respuesta brillante y un yo hay todavía mucho terreno sin cartografiar.
La cuestión del lenguaje
Basta con que una pantalla diga “entiendo cómo te sientes” para que la conversación cambie de naturaleza. Quien escribe a un chatbot no suele imaginar una enorme red matemática que calcula la palabra siguiente. Recibe, más bien, la impresión de una presencia que escucha, recuerda y acompaña. Esa reacción no habla de ingenuidad. El lenguaje humano, por facilidad evolutiva, está hecho para reconocer intenciones, incluso donde apenas hay señales. Durante milenios hemos descubierto rostros en las nubes, voluntad en las tormentas y mensajes en los accidentes; una máquina que responde con fluidez ocupa con facilidad ese lugar.
Emily Bender, Timnit Gebru y sus colegas llamaron “loros estocásticos” a los grandes modelos de lenguaje para destacar que aprenden relaciones probabilísticas entre enormes cantidades de texto y producen secuencias plausibles a partir de ellas. Estos sistemas hacen mucho más que repetir frases y establecen conexiones, resuelven ciertos problemas, generan textos capaces de sorprender a quienes los usan. Aun así, cada progreso en la forma del lenguaje trae consigo la tentación de confundir la apariencia de comprensión con una comprensión demostrada.
Murray Shanahan ha señalado que el antropomorfismo puede servir para describir sistemas complejos, siempre que se mantenga claro su carácter metafórico. Sostener que un agente “busca” una solución o “prefiere” una estrategia ahorra explicaciones técnicas; el problema aparece cuando ese atajo verbal altera la discusión pública. Una empresa puede presentar el comportamiento de su modelo como una decisión autónoma, y de ese modo desplazar la mirada desde las reglas, los datos, las herramientas y los permisos que ella misma definió. Entonces la máquina ocupa el banquillo y quienes la construyeron salen por una puerta lateral.
El peligro tiene propietarios
Investigaciones sobre modelos de lenguaje han reunido daños relacionados con sesgos discriminatorios, producción de información falsa, vulneración de la privacidad, manipulación, uso criminal y concentración de poder. Detrás de cada uno hay decisiones sobre qué datos recoger, qué trabajo humano ocultar, qué funciones automatizar, qué poblaciones vigilar y qué límites aceptar a cambio de velocidad, rentabilidad o ventaja competitiva.
Kate Crawford recuerda, en Atlas of AI, que la inteligencia artificial depende de una cadena material extensa: minerales extraídos de la tierra, energía para sostener centros de datos, trabajadores que clasifican información, plataformas que almacenan rastros de la vida cotidiana y corporaciones que concentran el resultado de ese trabajo. Mirada desde ahí, la IA deja de parecer una criatura que avanza sola y se transforma en una infraestructura construida dentro de relaciones económicas y políticas concretas, es decir, por empresas y personas con intereses, y que, tal vez, va a hacer cuanto esté a su alcance por proteger —e imponer— esos intereses, sin que el filtro ético sea del todo necesario. Entonces, el término “autonomía” describe hasta dónde puede operar un sistema, aunque no borra el nombre de quienes le entregaron esa autonomía.
Carissa Véliz aborda el asunto desde la privacidad, entendida no como un capricho individual, sino como una condición para vivir sin que empresas y gobiernos conviertan cada gesto en información utilizable. En Privacidad es poder, advierte que reunir datos sobre una población equivale a ganar capacidad de influencia sobre ella, pues predecir conductas abre la posibilidad de orientarlas, premiarlas o castigarlas. Esa observación importa para la inteligencia artificial porque los modelos más poderosos se alimentan de cantidades gigantescas de información y porque sus resultados comienzan a intervenir en espacios donde una clasificación puede decidir quién recibe un crédito, qué candidato llega a una entrevista, qué estudiante requiere vigilancia o qué ciudadano merece sospecha.
Frente a ese panorama es más útil preguntar quién controla una tecnología que preguntarse cuándo despertará. El marco de gestión de riesgos del Instituto Nacional de Estándares y Tecnología de Estados Unidos (NIST) propone gobernar, identificar, medir y tratar los riesgos de los sistemas de IA. La UNESCO reclama, además, transparencia, supervisión humana, protección de derechos y atención a los efectos ambientales y sociales de estas herramientas. Tales principios conservan sentido cuando se traducen en obligaciones, auditorías independientes, límites al uso de datos, explicaciones comprensibles, recursos para impugnar decisiones automatizadas y reglas que alcancen a empresas tan poderosas como los Estados que pretenden regularlas.
Quien puede acabar con la humanidad no es una inteligencia artificial que haya despertado, sino la humanidad misma, cuando renuncia a responder por las tecnologías que crea y por el poder que concentra en ellas. Quizá el que nos diga “hasta la vista, baby” no sea una máquina sino alguien desde un costoso apartamento en Silicon Valley.
