La discusión estuvo excelente y creo que a esta altura del partido todo el mundo tiene claro lo que Beatriz piensa y lo que pienso yo. Ella piensa que hay confusión de categorías, que hablamos de cosas distintas, intentando dialogar desde posiciones que no se superponen, en una especie de compartimentos estancos. Habla de dos dominios explicativos que conviven en paz mientras que cada uno se quede en su lugar. Yo creo, sin embargo, que no es así, que la diferencia entre nuestras posturas es epistemológica y antropológica, además de extensión de texto, que al final termina por cansar.
Yo trato de responder la pregunta de ¿qué es un humano? considerándolo una categoría abierta, definida por capacidades y funciones que pueden ser igualadas, superadas o reconfiguradas por entes no humanos, y por eso la aparición de la IA te obliga a repensar qué cuenta como humano. Propongo que el humano es simplemente una etapa dentro de una evolución que nunca ha terminado, algo que está científicamente probado (Razib Khan, «Humanity is still evolving — and fast«; Ali Akbari,… David Reich, Ancient DNA reveals pervasive directional selection across West Eurasia) y que condice con nuestro LCA (Last Common Ancestor) hace 6-8 millones de años que dio origen a los patriarcales chimpancés, los matriarcales bonobos y los lenguajeantes humanos. Es decir, para mí el humano no es nada especial, cerrado, culminado, perfecto en su esencia y estable por interación significativa y frecuente con otros como él.
Beatriz en cambio trata al humano como una categoría cerrada, definida ontológicamente por su modo de ser biológico (sistema vivo en acoplamiento estructural), de modo que ninguna capacidad externa puede afectar esa definición porque está blindada por construcción. Mientras que mi definición de humano es puramente empírica y tiene consecuencias filosóficas, Beatriz hace al revés, presenta una postura filosófica (yo diría que hasta teológica) y la reviste de empiricismo. El ser humano, en la concepción de Beatriz, es el fin último de la creación, la obra máxima de la evolución (o de un dios representado por ese Jesús del final, esa fe interior, y ese profeta Maturana con el cual Beatriz tuvo una vez la oportunidad de conversar, muy hagiográfico y de creyente convencido).
Esas dos posturas tienen consecuencias claras. Mi respuesta puede estar equivocada, sin duda, pero es falsable, puede demostrarse por la evolución de los acontecimientos que no tengo razón y que efectivamente el humano no evoluciona (lo dudo, pero es legítimo testearlo). La postura de Beatriz es infalsale, cualquier evidencia en contrario se reabsorbe en el sistema. Como ejemplo (podría citar más, pero no quiero hacer esto más largo) Beatriz define lenguajear como «coordinación de coordinaciones conductuales entre seres vivos«, con cuerpo, emoción que antecede, deriva histórica, y después concluye que un LLM no lenguajea. Eso es una tautología, porque si vos incluís entre definición que sólo lenguajean los seres vivos, ya excluiste la LLM en ella, ninguna evidencia en contrario te va a convencer (y cito acá de nuevo a El Robot Bicentenario). Por lo tanto no es posible concluir nada, es una declaración de principios, de fe, de una negativa a considerar la posibilidad de que no seamos la obra cumbre de la creación, sino simplemente un paso más en la evolución hacia un ser superior. Esta es una falacia que en inglés se conoce como el «no true Scotsman» y que se describe generalmente así:
- Persona A: «Ningún escocés pone azúcar en la avena.»
- Persona B: «Mi tío Angus es escocés y le pone azúcar a la avena.»
- Persona A: «¡Ah! Pero entonces tu tío no es un verdadero escocés.»
Beatriz hace lo mismo, pero con el lenguajear y los LLM.
Como dato anecdótico, si el output de un LLM es «ruido sintácticamente bien formado» hasta que un humano lo recibe y lo integra a su coordinación con otros, entonces un libro o una carta también lo son. La distinción «lenguaje vs. sombra del lenguaje» no soporta el peso que le piden. O todo texto producido fuera del cuerp
o en presencia es sombra, con lo cual entonces la humanidad escrita entera queda fuera del lenguajear, o la categoría es más permisiva de lo que el argumento necesita para ser sólido.
De hecho, Beatriz misma me proporciona el mejor ejemplo de que efectivamente el humano lenguajea con los LLM al haber escrito su texto con un uso evidente de Claude. Si bien los sistmas de detección de IA son muy inexactos, las imágenes muestran dos resultados de dos programas diferentes. No se lo echo en cara, todo lo contrario, porque mi argumento es justamente que los LLM y, en general, la AIG son aumentativos de la condición humana en nuestra ruta hacia el futuro y yo los uso todos los días.
Pero Beatriz misma, para negarlo, lo demuestra.