La inteligencia artificial vista desde un rizoma

Apertura

Algo importante que debo aclarar es que utilicé IA para ordenar y pulir la redacción. Las ideas, los argumentos y la responsabilidad sobre el contenido son míos. Lo hice porque la noción de cognición extendida de Andy Clark y David Chalmers resulta especialmente pertinente aquí;¹ si escribo sobre el impacto de la IA en la sociedad, experimentar con ella como una posible extensión de mi propio pensamiento forma parte del problema que este texto intenta explorar.

Esto también plantea una pregunta: ¿hasta qué punto incorporar una herramienta al proceso de pensamiento permite considerarla parte de nuestra cognición? En el caso de la IA, la pregunta se vuelve todavía más difícil porque no estoy frente a una herramienta pasiva, sino frente a un sistema que responde, propone conexiones y puede llevarme a cuestionar aquello que estoy pensando. La respuesta del sistema introduce variaciones que pueden modificar el desarrollo del proceso, y es justamente esa participación la que vuelve más difícil establecer dónde termina la herramienta y dónde comienza el proceso cognitivo.

Al incorporarla al proceso de escritura, cambia también la forma en que estoy construyendo el mapa. Si el mapa es también una construcción del observador, entonces yo tampoco puedo quedarme completamente afuera de aquello que intento representar. Cada cosa que escribo o leo se vuelve una conexión más. Este texto no explica el rizoma, lo atraviesa.

La IA no necesita aportar una capacidad cognitiva propia para modificar la dinámica del proceso cognitivo en el que participa. Esto no significa que las herramientas anteriores hayan sido cognitivamente pasivas: un libro, un lápiz, una calculadora o un buscador también pueden transformar aquello que podemos pensar y hacer. Lo particular de este acoplamiento aparece en la posibilidad de que la IA genere una respuesta que vuelve sobre el proceso y puede modificar su curso. No se trata, entonces, de abandonar lo instrumental, sino de reconocer una forma de instrumentalidad capaz de intervenir en el desarrollo del circuito cognitivo sin que eso implique atribuirle una intención propia.

Hay una dificultad que me parece importante reconocer; este texto no puede pretender representar el rizoma de manera neutral. Construir el mapa implica seleccionar algunas conexiones y dejar otras afuera, y la IA agrega ahora una nueva capa a ese proceso. El mapa no solo representa el rizoma; también modifica nuestra percepción de él, y quien lo construye tampoco está fuera de aquello que intenta representar. Este recorrido, que comenzó como una reflexión personal, me lleva ahora a construir un mapa para observar cómo distintas relaciones y tensiones atraviesan los ensamblajes y se concentran en nudos que permiten seguir la expansión de la IA.

En la apertura de una charla para la Asociación Técnica de Diarios Latinoamericanos en 2010, planteaba una idea que todavía me resulta vigente: no existen dos mundos separados, uno tecnológico y otro social, sino uno solo, en el que la tecnología y la sociedad se transforman mutuamente. También observaba cómo las tecnologías que alguna vez fueron nuevas terminan incorporándose a la vida cotidiana hasta convertirse en parte de la cultura. Hoy, frente a la expansión de la IA, esa relación vuelve a aparecer bajo nuevas condiciones. Esta idea quedó plasmada en el texto “Sobre la tecnología y la sociedad”.

Ese mismo año, en “Vení a mi nube que te cuento”, me preocupaba por el crecimiento de la información y por la necesidad de encontrar relevancia dentro de volúmenes que ya excedían nuestra capacidad de procesarlos directamente. Lo que entonces aparecía como un problema de búsqueda hoy adquiere otra dimensión. Grandes cantidades de información pueden formar parte de los datos con los que se entrenan los modelos, que a partir de ellos aprenden patrones y construyen representaciones que luego utilizan para generar nuevas respuestas.

También escribí “La tecnología vista desde un rizoma”, donde exploraba la noción de rizoma como dinámica de conexiones y ensamblajes. Hoy puedo reconocer esas tres preocupaciones: la relación entre tecnología y sociedad, la expansión de la información y la mirada rizomática. Ahora puedo retomarlas en un nuevo recorrido para analizar la expansión de la IA.

Un nudo aparece cuando determinadas conexiones acumulan tensión hasta formar una concentración reconocible dentro del campo. Esa concentración puede, a su vez, modificar otras relaciones. El nudo no debería pensarse solamente como un punto dentro del mapa, sino como un proceso de transición en el que esas relaciones comienzan a reorganizarse. El concepto de ensamblaje me permite captar configuraciones relativamente estables de relaciones y tensiones dentro de un dominio general, en las que se concentran determinados nudos. El sustrato nombra las condiciones materiales y tecnológicas que habilitan, limitan y condicionan el desarrollo y la expansión de estas dinámicas. Los nudos inter-tallo aparecen cuando esas relaciones y tensiones atraviesan el límite entre ensamblajes o dominios diferentes y modifican sus condiciones de funcionamiento, generando transformaciones que pueden propagarse más allá del punto de encuentro. Cuando esa configuración produce una dinámica que depende de las relaciones entre los elementos y no puede atribuirse adecuadamente a ninguno de ellos por separado, podemos hablar de emergencia.

Aunque este enfoque puede ser útil, también tiene un límite; los nudos no nacen en el vacío, sino que emergen sobre relaciones previas de conocimiento, materialidad y poder. Existen múltiples relaciones y posibilidades que pueden adquirir consistencia a partir de nuevas interacciones o de transformaciones en las metas de uno o más actores. En este proceso intervienen personas, instituciones y Estados, cuyas decisiones e intereses pueden modificar las relaciones que dan lugar a nuevas concentraciones.

El rizoma es cambiante y, entre las múltiples trayectorias posibles, algunas conexiones llegan a configurarse y otras no. El mapa captura solo un momento de esas conexiones y quien lo construye selecciona qué representar y qué dejar afuera. Por eso, cuando hablo de rizoma, no me refiero simplemente a una red de conexiones: me interesa observar cómo esas conexiones pueden producir relaciones nuevas entre elementos diferentes y modificar las que ya existen.

La clasificación de los nudos es una herramienta del mapa que permite hacer reconocibles determinadas concentraciones de relaciones y tensiones, pero no constituye una propiedad del territorio que intento representar. Necesito ordenar el rizoma para poder pensarlo, sabiendo que ese orden simplifica inevitablemente la representación que construyo de él.

A partir de estas ideas, propongo entonces una primera cartografía de algunas de las concentraciones de relaciones y tensiones que participan en la expansión de la IA.

El ensamblaje científico

A partir de este marco, la pregunta deja de ser qué disciplinas "inventaron" la IA para convertirse en el rastreo de las relaciones que fueron haciendo posible su aparición. No se trata tanto de identificar campos que se encuentran como de observar qué ocurre cuando problemas, métodos, conceptos y formas de representación provenientes de territorios diferentes empiezan a operar unos sobre otros. Esos cruces no ocurren todos al mismo tiempo ni responden a un plan común; algunos permanecen sin adquirir consistencia durante décadas y otros cobran una importancia inesperada cuando encuentran nuevas condiciones para desarrollarse.

Decimos habitualmente que los modelos "entienden" o "manejan" el lenguaje, pero lo que aparece allí en primer lugar es una serie de operaciones mediante las cuales el lenguaje pudo empezar a ser tratado computacionalmente. Grandes cantidades de texto fueron convertidas en corpus digitales, procesadas mediante tokenizadores y etiquetadores morfosintácticos y sometidas a distintos tipos de análisis estadístico.² En ese movimiento, la práctica humana de producir y comprender el lenguaje comenzó a relacionarse con operaciones que permitían representarlo y manipularlo dentro de una máquina. El lenguaje empieza a anudarse con la computación ya en estas operaciones. Representarlo, sin embargo, jamás equivalió a comprenderlo. Cuando el análisis del discurso intenta ir más allá de la oración para rastrear coherencia, relaciones y estructuras en grandes volúmenes de texto, ese anudamiento se profundiza: aparecen nuevas formas de conectar unidades lingüísticas, representaciones matemáticas y capacidad de procesamiento.

Pero esas representaciones necesitan operaciones capaces de trabajar con ellas a una escala que excede ampliamente el cálculo manual. Allí aparece otra relación decisiva: las representaciones del lenguaje comienzan a apoyarse en estructuras matemáticas capaces de transformarlas y compararlas masivamente. Tendemos a asumir que el álgebra lineal estaba allí, disponible como una caja de herramientas pasiva que los modelos simplemente utilizaron. Sin embargo, la escala introduce una transformación en la relación entre esas operaciones y la infraestructura que debe ejecutarlas. En mecanismos como la atención, por ejemplo, la paralelización de las operaciones y el movimiento de datos entre distintos niveles de memoria modifican las condiciones materiales bajo las cuales pueden realizarse de manera eficiente. El álgebra habilitó determinadas operaciones; la necesidad de ejecutarlas a esa escala concentró un nuevo nudo en la relación entre matemática, algoritmos y arquitectura de cómputo.

A medida que estos sistemas intentaban representar un mundo y un lenguaje que no son completamente determinados, apareció otra tensión: si se quería incorporar explícitamente la incertidumbre al proceso de generación, no bastaba con trabajar con un único resultado posible; era necesario representar y utilizar distribuciones de probabilidad. Las herramientas matemáticas de la estadística y la probabilidad permitieron introducir esa dimensión. En un modelo de lenguaje autoregresivo, cada nuevo token se produce a partir de una distribución de probabilidades condicionada por el contexto y por los patrones aprendidos.² Ahí se anudan lo aprendido y lo que el sistema puede producir a continuación. Si cambia una variable en ese contexto, la distribución puede desplazarse y llevar la generación hacia un territorio completamente distinto. La incertidumbre deja entonces de aparecer solamente como algo que debe reducirse o resolverse y pasa a formar parte de las condiciones mismas bajo las cuales el sistema produce.

En otro punto de este ensamblaje aparece una relación diferente. La ciencia cognitiva y la neurociencia no funcionan aquí como modelos que la computación intenta copiar fielmente, sino como fuentes de conceptos e intuiciones que pueden ser abstraídos y transformados. Las redes neuronales incorporan ideas enormemente simplificadas inspiradas, entre otras cosas, en la posibilidad de modificar la fuerza de una conexión a partir de la experiencia, en analogía con la plasticidad sináptica. Lo interesante no está tanto en que una disciplina haya "aportado" una idea a otra, sino en lo que sucede cuando esa intuición cambia de territorio. Al trasladarse al plano sintético, la idea de plasticidad pasa a formar parte de arquitecturas cuyos parámetros pueden ajustarse mediante algoritmos. La biología no desaparece, pero tampoco dicta las reglas: una relación conceptual se desprende de su origen y adquiere nuevas posibilidades dentro de otro ensamblaje.

Algo similar ocurre con la teoría de la información. La noción de entropía, formulada por Claude Shannon para cuantificar la incertidumbre asociada a una distribución de probabilidad, permite relacionar información e incertidumbre. En los modelos de aprendizaje, estas relaciones se articulan con procesos probabilísticos de predicción y ajuste. La distribución de probabilidades cambia, el error orienta nuevos ajustes y esos ajustes modifican las condiciones para la siguiente predicción. El nudo no está entonces en la teoría de la información por un lado y el aprendizaje automático por otro, sino en la relación que se produce entre ambos y que permite reorganizar el proceso de aprendizaje.

Pero esta capacidad de encontrar regularidades y producir predicciones introduce otra tensión. En la investigación científica, los modelos pueden identificar relaciones complejas en grandes volúmenes de datos y producir predicciones o hipótesis difíciles de interpretar. La capacidad de encontrar regularidades puede superar, en algunos casos, nuestra capacidad para comprender por qué esas regularidades funcionan. El problema no es simplemente la existencia de una “caja negra”, sino la posible separación entre producir conocimiento útil y comprender el mecanismo que lo sustenta. La IA puede así ampliar nuestra capacidad para anticipar ciertos fenómenos sin que esa capacidad predictiva implique necesariamente una comprensión equivalente de por qué esas predicciones funcionan.

Visto de esta manera, el ensamblaje científico de la IA no aparece como una suma de disciplinas que fueron aportando piezas a una máquina previamente imaginada. Aparece como una serie de relaciones en las que conceptos, operaciones y problemas cambian de función al entrar en contacto con otros. Algunas conexiones habilitan nuevas operaciones; otras trasladan intuiciones de un territorio a otro; otras generan problemas que obligan a reorganizar relaciones existentes. Es en esas transformaciones, más que en las disciplinas consideradas aisladamente, donde comienzan a concentrarse los nudos que forman este ensamblaje.

El ensamblaje tecnológico (materialidad, formalización, documentación e integración)

Acá la infraestructura, el silicio, el algoritmo y los datos no son capas estáticas, sino componentes que se condicionan, se reorganizan y se transforman entre sí para sostener el cálculo.

Si la dimensión científica ofreció el marco formal, este movimiento exige mirar dónde descansa esa formalidad. Solemos pensar en la inteligencia artificial como una abstracción que flota en la nube, pero al observar el ensamblaje tecnológico, nos encontramos de frente con una materialidad densa, palpable y con un camino que podría haber sido diferente dentro del rizoma. Y resulta fascinante notar cómo uno de los soportes materiales que permitió llevar la IA a gran escala no fue diseñado para este fin.

Decimos habitualmente que las GPUs desempeñaron un papel central en la expansión del aprendizaje profundo, pero lo que aparece allí en primer lugar es un encuentro entre una arquitectura desarrollada para el procesamiento gráfico y las necesidades de cálculo de las redes neuronales. Una arquitectura pensada para resolver en paralelo miles de operaciones geométricas por segundo terminó encajando con la matemática de las redes neuronales.³ La tarjeta gráfica del entretenimiento se convirtió en laboratorio formal, una conexión que no estaba en el mapa original, pero que contribuyó a reconfigurar la industria. En paralelo con esa convergencia, el hardware comenzó también a especializarse deliberadamente: aparecieron aceleradores diseñados específicamente para cargas de aprendizaje automático en centros de datos, como las TPUs, y también unidades especializadas integradas en teléfonos y dispositivos locales, como las NPUs.⁴⁵ Parte de esa capacidad de cómputo se desplaza así hacia los bordes del sistema.

Pero la materia no solo se especializa; también comenzamos a diseñarla para incorporar algunas de las dinámicas que observamos. La idea de plasticidad, inspirada en la biología y desarrollada en el ámbito del software, también comenzó a explorarse en el diseño del hardware. Pero no se trata de un único fenómeno: hay arquitecturas que buscan reducir el movimiento de datos, propuestas de entrenamiento directamente sobre el hardware, formas de almacenar físicamente parámetros y enfoques de computación analógica o especializada. Cada una aborda de manera diferente la relación entre el modelo y el sustrato material. Las arquitecturas neuromórficas buscan reproducir en el silicio, de manera simplificada, algunos patrones de activación e interacción presentes en las redes biológicas. Algunas de estas arquitecturas aproximan memoria y cálculo y buscan reducir el movimiento de datos, modificando así la relación entre procesamiento, memoria y consumo de recursos.⁶ En paralelo, otra línea de desarrollo lleva la integración entre lo biológico y lo sintético hacia una zona diferente. Las interfaces cerebro-computadora (BCI) hacen que el límite entre el tejido biológico y el circuito sintético deje de ser una frontera conceptual para convertirse en una cuestión de diseño arquitectónico. Todavía no sabemos qué formas podría adquirir esa relación cuando estas interfaces se articulen con sistemas de IA, pero su sola posibilidad desplaza la frontera entre inteligencia biológica y sistemas artificiales hacia un territorio que todavía apenas podemos anticipar.

Ahora bien, toda esta capacidad de cálculo depende de un sustrato infraestructural enorme. Los centros de datos pueden entenderse cada vez menos como simples espacios de alojamiento de servidores y más como sistemas distribuidos en los que miles de máquinas operan como una infraestructura coordinada. Y debajo de ellos, sosteniendo el ensamblaje, aparece una capa material que suele quedar fuera de las discusiones abstractas sobre la inteligencia: la energía y el agua.⁷ Las redes eléctricas y los sistemas de refrigeración no son el escenario pasivo donde la IA sucede; forman parte de las condiciones materiales que hacen posible el cálculo. El funcionamiento de estos sistemas requiere energía, disipación térmica, infraestructura y recursos físicos que deben sostenerse en el tiempo. La capacidad de procesar información depende, por tanto, de un sustrato material que no desaparece cuando la inteligencia se vuelve digital.

Sin embargo, toda esta capacidad material necesita formas lógicas que organicen aquello que debe calcularse, y allí aparece una relación de condicionamiento mutuo entre infraestructura e innovación algorítmica. La retropropagación permitió calcular cómo modificar los parámetros de una red a partir del error⁸, haciendo posible que el aprendizaje ajustara esos parámetros sin tener que especificar manualmente sus valores. Más adelante, arquitecturas como Transformer reorganizaron nuevamente esa relación al introducir mecanismos de atención⁹ que permitieron procesar en paralelo grandes partes de una secuencia durante el entrenamiento. Cada modificación en la forma de organizar el cálculo transforma también las exigencias sobre la infraestructura que debe ejecutarlo. El algoritmo no flota en el vacío; condiciona cómo la materia debe organizar sus operaciones.

A esta arquitectura lógica le faltaba, sin embargo, el sedimento sobre el cual construir. La digitalización masiva acumulada durante décadas transformó el volumen y la disponibilidad de los materiales sobre los que podían entrenarse estos sistemas. Grandes corpus de texto, imágenes y audio alcanzaron escalas que hicieron posible trabajar con modalidades y volúmenes de datos antes difíciles de procesar.² Ya en 2011 aparecían arquitecturas de aprendizaje profundo capaces de articular diferentes modalidades dentro de una misma representación.¹⁰ Ese archivo documental no es un mero depósito inerte de datos; es la materia prima a partir de la cual los modelos extraen regularidades, construyen representaciones del lenguaje y reconstruyen contextos.

Cuando la infraestructura material, la arquitectura lógica y el archivo documental alcanzan un grado extremo de integración, ocurre el movimiento más sugerente de este ensamblaje; las fronteras entre hardware, software y datos empiezan a hacerse menos nítidas. En esquemas como el In-Memory Computing, el sistema busca reducir el movimiento de datos hacia el procesador ejecutando determinadas operaciones allí donde los datos están almacenados.¹¹ En el On-Chip Training, esa integración avanza un paso más cuando determinadas arquitecturas permiten que el proceso de aprendizaje modifique estados físicos del dispositivo mientras el sistema opera. Y en otras aproximaciones de computación especializada, los parámetros de un modelo pueden quedar incorporados físicamente en el dispositivo, reduciendo la distancia entre el modelo y el soporte material que lo ejecuta.¹² La plasticidad del modelo empieza así a encontrarse con los límites físicos de la materia. No porque el movimiento se detenga, sino porque cada vez resulta más difícil separar aquello que el modelo es, aquello que hace y aquello sobre lo que está hecho.

Esta integración también vuelve visible una tensión entre la apertura de las arquitecturas y las condiciones materiales que permiten utilizarlas. La disponibilidad de modelos con pesos abiertos, software de código abierto o herramientas que pueden modificarse y redistribuirse puede ampliar las posibilidades de experimentación y despliegue, pero esa apertura necesita una infraestructura capaz de sostenerla. Ejecutar, adaptar o entrenar un modelo requiere memoria, aceleradores, energía, dispositivos y conocimientos técnicos. Incluso cuando parte del procesamiento se desplaza hacia dispositivos locales, el sustrato no desaparece: redistribuye sus exigencias entre dispositivo, red y centro de datos. La posibilidad de acceder a un modelo no garantiza poder ejecutarlo; poder ejecutarlo no garantiza poder entrenarlo; y poder modificarlo no implica necesariamente disponer de las condiciones materiales para sostener su desarrollo. La apertura de una capa no equivale, por tanto, a la apertura del ensamblaje completo.

El ensamblaje tecnológico muestra así una paradoja: la expansión de capacidades que parecen cada vez más abstractas depende de una integración material cada vez más profunda. La apertura puede ampliar los puntos de entrada al sistema, pero las posibilidades efectivas de acceder, ejecutar, modificar o desarrollar esas capacidades continúan dependiendo de cómo están organizadas sus condiciones materiales y formales.

El ensamblaje tecnológico no constituye, por tanto, un simple soporte de los otros territorios. Sus configuraciones materiales y formales condicionan qué formas de cálculo pueden existir, dónde pueden desplegarse y qué relaciones pueden establecerse entre quienes producen, ejecutan, modifican y utilizan los sistemas. La tecnología no solo transporta las relaciones que vienen de otros ensamblajes: al organizar las condiciones materiales y formales del cálculo, participa activamente en su transformación.

El ensamblaje sociocultural

Mirar el ensamblaje sociocultural es abordar el momento en que esta trama material y formal se despliega en nuestras formas cotidianas de habitar el mundo. Las prácticas sociales, las instituciones y los marcos jurídicos no son el escenario pasivo donde la tecnología cae; condicionan activamente qué sistemas se desarrollan, cómo se adoptan y qué lugar terminan ocupando. La IA no solo introduce nuevas capacidades técnicas: al incorporarse a prácticas existentes, modifica las condiciones en las que trabajamos, aprendemos, producimos y circulamos información, mientras esas mismas prácticas pueden producir nuevas demandas, datos, restricciones y orientaciones que intervienen en el siguiente ciclo de desarrollo técnico. El ensamblaje sociocultural aparece así como un circuito de retroalimentación en el que la tecnología transforma las prácticas y las prácticas vuelven sobre la tecnología.

Una primera concentración aparece en la reorganización de las prácticas de trabajo y aprendizaje. La IA ingresa también en actividades que antes asociábamos principalmente con trabajo intelectual, creativo y administrativo.¹³ El cambio no radica en la mera sustitución de tareas aisladas, sino en la reconfiguración de cómo se organiza la producción, qué capacidades se vuelven valiosas y cómo se redistribuye la responsabilidad entre personas y sistemas. Al redefinir qué formas de organización son posibles, las propias prácticas de trabajo pueden producir nuevos datos, nuevas demandas y orientaciones que intervienen en el siguiente ciclo de desarrollo técnico.

Una transformación similar aparece en las prácticas de aprendizaje. La interacción con sistemas capaces de adaptar explicaciones, ejemplos y ejercicios puede facilitar procesos de aprendizaje, pero también puede reducir parte del esfuerzo cognitivo que el estudiante debe invertir en determinadas tareas, modificando las condiciones bajo las cuales formula problemas, se equivoca y construye sus propias respuestas.¹⁴ La misma herramienta que amplía las posibilidades de aprendizaje puede modificar las condiciones en las que ese aprendizaje se produce. La cuestión no consiste simplemente en determinar si la IA facilita o dificulta el aprendizaje, sino en observar cómo su intervención redistribuye el esfuerzo cognitivo y transforma las prácticas mediante las cuales se aprende.

Una segunda concentración aparece cuando la expansión de estos sistemas comienza a modificar las condiciones bajo las cuales producimos, verificamos y regulamos aquello que circula socialmente. Frente a los medios sintéticos, aparece una dificultad que no se limita a determinar si la información contenida en un mensaje es verdadera o falsa, sino a establecer si una imagen, una voz o un video, cuya autenticidad puede resultar difícil de determinar, pueden seguir funcionando como prueba de que algo efectivamente ocurrió. La dificultad para establecer la autenticidad no destruye simplemente la confianza previa; puede impulsar el desarrollo de nuevos dispositivos de autenticación y verificación que, a su vez, pueden transformar la manera en que producimos y circulamos información.¹⁵

Esta reproducción del mundo trae consigo las huellas de su propio origen. Si los modelos se alimentan de volúmenes masivos de datos producidos por la sociedad, los patrones históricos de desigualdad, sesgo y discriminación inscritos en esos registros no desaparecen necesariamente; pueden reproducirse, transformarse o, en determinadas condiciones, amplificarse. La dimensión ética deja de ser un añadido exterior o un listado de principios normativos para convertirse en un problema estructural del diseño. Decidir qué datos se seleccionan, cómo se ponderan y qué usos se autorizan son decisiones políticas y sociales que pueden modelar directamente la arquitectura del sistema que vendrá. De este modo, las relaciones sociales no solo quedan inscritas en los sistemas: también vuelven sobre ellos a través de las decisiones que determinan qué datos pueden utilizarse, qué objetivos se priorizan y qué usos se consideran aceptables.

Y ese lenguaje que en el ensamblaje científico comenzó a traducirse, tokenizarse y procesarse computacionalmente, regresa ahora al plano sociocultural bajo la forma de un conflicto sobre la autoría. Si el entrenamiento se alimenta del sedimento acumulado de la producción intelectual y cultural, la tecnología tensiona las reglas con las que históricamente regulamos la cultura. El entrenamiento con obras protegidas abre encrucijadas jurídicas que tensionan las categorías tradicionales con las que regulamos el uso de las obras. La propiedad intelectual no aparece aquí como un conjunto de leyes fijas a aplicar, sino como una categoría en mutación que intenta adaptarse a las nuevas condiciones creadas por la escala de la computación y el entrenamiento de modelos.¹⁶¹⁷

El ensamblaje sociocultural no aparece entonces como una colección de efectos sociales producidos por una tecnología ya constituida. Aparece como una configuración en la que prácticas, instituciones, normas y sistemas técnicos se modifican mutuamente. La IA puede reorganizar formas de trabajo y aprendizaje, y también puede modificar las condiciones de confianza, autoría, regulación y legitimación. Es en esa transformación recíproca donde se concentra la dinámica sociocultural de la IA.

Nudos inter-tallo

Los nudos inter-tallo aparecen cuando las relaciones y tensiones de la IA atraviesan otros ensamblajes y generan transformaciones que modifican las relaciones entre ellos. No se trata simplemente de temas que combinan dos territorios, sino de concentraciones en las que el cruce comienza a modificar las condiciones de funcionamiento de los ensamblajes involucrados.

IA + Filosofía de la mente: conciencia, comprensión y agencia

Este nudo se concentra en el cruce entre el ensamblaje tecnológico y las configuraciones conceptuales y epistemológicas con las que intentamos interpretar las capacidades mentales. Por un lado, los sistemas de IA producen comportamientos que pueden parecer asociados con capacidades como comprender, razonar o actuar; por otro, esos comportamientos vuelven sobre los criterios con los que intentamos decidir qué cuenta como comprensión, conciencia o agencia. La relación no consiste simplemente en aplicar conceptos filosóficos a una tecnología ya constituida. La aparición de estos comportamientos pone en tensión las condiciones bajo las cuales esas categorías pueden ser discutidas, mientras que las categorías y criterios que utilizamos para interpretarlos también modifican qué preguntas hacemos sobre los sistemas y qué tipo de evidencia consideramos relevante. Es en esa retroalimentación donde el cruce adquiere una concentración propia.

El problema, entonces, no es decidir de antemano si una IA piensa o comprende, sino observar qué ocurre cuando un sistema tecnológico comienza a producir comportamientos frente a los cuales nuestras categorías de atribución mental dejan de funcionar de manera tan estable como antes. La transformación central de este nudo no consiste en demostrar que la IA posee una mente, sino en desplazar las condiciones bajo las cuales atribuimos, o rechazamos atribuir, capacidades mentales a un sistema.

Cognición extendida: La interacción con una IA generativa vuelve más compleja la idea de cognición extendida. Si una herramienta puede modificar de manera recurrente el desarrollo de un proceso cognitivo, la cuestión ya no es solamente qué hace la herramienta, sino en qué condiciones una operación puede considerarse parte de un sistema cognitivo. La dificultad está en que la IA introduce respuestas que no son simplemente almacenadas o consultadas, sino que pueden ser incorporadas al proceso y modificar las operaciones que siguen. Esto desplaza la pregunta desde la localización de la cognición hacia los límites del sistema cognitivo y las condiciones bajo las cuales una relación con una herramienta puede considerarse constitutiva de ese proceso.
La tensión entre sintaxis y semántica: Los modelos pueden manipular estructuras lingüísticas y producir respuestas que parecen adecuadas al contexto sin que esto demuestre que comprenden su significado del mismo modo que lo hacemos nosotros. La tensión entre sintaxis y semántica permanece abierta. Pero la dificultad aparece justamente porque el comportamiento puede ser funcionalmente convincente. Si una máquina puede utilizar conceptos, relacionarlos, reformularlos y responder de manera contextualizada, entonces los criterios que utilizamos para reconocer comprensión dejan de ser tan estables. La cuestión no es concluir que la IA comprende, sino preguntarnos qué entendemos por comprensión cuando un comportamiento que asociamos con ella puede aparecer sin que podamos determinar qué tipo de comprensión, si alguna, está involucrada.
Comportamiento complejo y conciencia: La IA permite observar sistemas capaces de producir conductas cada vez más complejas, pero esa complejidad no implica necesariamente experiencia fenomenológica. Se abre así una tensión entre capacidad funcional y experiencia subjetiva: podemos observar lo que un sistema hace sin que eso nos permita determinar qué, si algo, experimenta. El problema no es decidir si la IA es consciente, sino revisar qué evidencia consideramos suficiente para atribuir conciencia a un sistema cuya conducta puede ser compleja sin que podamos acceder directamente a su experiencia. La IA introduce así una situación que modifica la relación entre conducta observable, capacidad mental y experiencia.
Agencia y autonomía: Algo similar ocurre con la agencia. Una IA puede intervenir causalmente en una decisión, modificar una acción o producir una recomendación que después alguien adopta, sin que eso implique que tenga una intención propia o que pueda atribuírsele responsabilidad en el mismo sentido que a una persona. La tensión aparece cuando intervenir en una acción, determinar su curso y asumir responsabilidad por ella dejan de coincidir.

Esto desplaza la pregunta desde quién tiene agencia hacia cómo se configura una acción cuando intervienen personas, modelos, datos, interfaces, instituciones y reglas. La autonomía deja de ser simplemente una propiedad del sistema y pasa a relacionarse con el grado en que su intervención puede modificar el curso de una acción sin reducirse a la ejecución de una operación previamente definida. La cuestión no es atribuir agencia a cada componente, sino observar cómo la incorporación de la IA modifica las condiciones bajo las cuales atribuimos acción, intención y responsabilidad.

Estas tensiones no permanecen dentro de la filosofía de la mente. La cuestión de la comprensión se proyecta hacia los territorios donde la IA participa en la producción y reconocimiento del conocimiento; la reconfiguración de la acción y la responsabilidad se relaciona con las formas de poder y decisión que atraviesan otros ensamblajes. La cuestión no es decidir desde afuera si la IA piensa, sino observar qué ocurre cuando comportamientos que asociamos con capacidades mentales vuelven inestables las categorías con las que intentamos interpretarlos. La herramienta con la que pienso también forma parte del ensamblaje que intento describir: al interactuar con ella, el problema no es decidir si tiene una mente, sino observar cómo un sistema que produce variaciones entra en circuitos humanos de pensamiento, escritura y decisión. El límite entre mente y herramienta no desaparece necesariamente, pero deja de funcionar como una frontera simple y estable.

IA + Biología: de describir a diseñar

El espacio donde este cruce se vuelve más radical es la intersección entre la IA y la biología. Si en el ensamblaje científico la biología aparecía principalmente como fuente de intuiciones para la arquitectura algorítmica, como en la abstracción de la plasticidad sináptica, al constituirse en nudo inter-tallo la relación cambia de naturaleza: la biología deja de ser solamente un objeto que la IA puede analizar y comienza a convertirse también en un espacio de simulación, predicción y diseño. A su vez, los problemas propios de la biología empiezan a exigir nuevas formas de procesamiento y modelado. La relación pasa así de una lógica de aplicación a una lógica de retroalimentación, en la que la IA modifica las condiciones de funcionamiento de la práctica biológica y, al mismo tiempo, los problemas que surgen en esa práctica vuelven sobre las formas de procesamiento y modelado.

Esta transformación puede observarse en distintos niveles de la biología. En el diseño de secuencias de ADN y ARN, la IA comienza a incorporarse a procesos de diseño que ya existían, ampliando la posibilidad de explorar y proponer secuencias dentro de espacios de posibilidades difíciles de recorrer manualmente. En el caso de las proteínas, la predicción de estructuras tridimensionales modifica la relación entre secuencia, estructura y experimentación, permitiendo orientar el trabajo del laboratorio hacia la validación y el refinamiento de hipótesis generadas computacionalmente. La combinación de datos genómicos, transcriptómicos, proteómicos y metabolómicos extiende esta lógica hacia modelos de procesos celulares, donde las relaciones entre múltiples niveles pueden ser exploradas como un sistema dinámico.¹⁸ Finalmente, la simulación de grandes cantidades de variantes desplaza parte de la exploración biológica hacia un espacio computacional en el que pueden recorrerse posibilidades antes de llevarlas al laboratorio. En conjunto, estos desplazamientos muestran que la IA no solo permite representar con mayor escala y velocidad aquello que existe, sino también explorar anticipadamente aquello que podría llegar a existir.¹⁹

De este desplazamiento surgen varias tensiones que atraviesan la relación entre IA y biología:

Representación y diseño: La representación de lo biológico deja de funcionar únicamente como descripción o interpretación de aquello que existe y comienza también a participar en la generación de posibilidades que todavía no existen. El modelo ya no se limita a representar un objeto biológico, sino que puede intervenir en la definición de aquello que podría llegar a diseñarse.
Exploración computacional y validación experimental: La capacidad de recorrer grandes espacios de posibilidades mediante modelos computacionales modifica la función de la experimentación. El laboratorio no desaparece, pero puede pasar de explorar directamente un espacio amplio de posibilidades a validar y refinar aquellas hipótesis seleccionadas o generadas computacionalmente. Se configura así un circuito de retroalimentación entre modelo, hipótesis, experimentación y nuevos datos.
Complejidad biológica y capacidad de modelización: La integración de información genómica, transcriptómica, proteómica y metabolómica permite explorar relaciones entre distintos niveles de organización biológica, pero también hace visible la distancia entre la capacidad de modelización y la complejidad del fenómeno que se intenta representar. La posibilidad de integrar más variables no implica que el modelo pueda capturar completamente la dinámica del sistema biológico.
Posibilidad computacional y posibilidad biológica: La expansión del espacio de posibilidades que pueden generarse o explorarse mediante IA no implica que todas ellas sean biológicamente realizables. Entre aquello que puede proponerse computacionalmente y aquello que puede materializarse, existen restricciones experimentales, materiales, energéticas y biológicas que vuelven a introducir al laboratorio y al sustrato dentro del proceso.

Cuando estas variaciones salen de los procedimientos internos de la ciencia, el nudo inter-tallo comienza a propagarse hacia otros ensamblajes y genera nuevas tensiones:

Geopolítica y bioeconomía: El diseño asistido por IA de microorganismos y sistemas biológicos capaces de producir combustibles, degradar materiales o sintetizar compuestos puede modificar el valor estratégico de los recursos y desplazar parte de la soberanía industrial hacia quienes controlen las plataformas de diseño, los datos y la capacidad de producción. La capacidad de intervenir computacionalmente sobre el diseño de sistemas biológicos comienza a convertirse también en un recurso estratégico.
Salud y medicina de precisión: La integración entre modelos biomédicos y datos individuales puede desplazar parte de la medicina hacia una lógica más predictiva, generando nuevas tensiones sobre privacidad, acceso, seguros, responsabilidad médica y los límites de lo que consideramos modificable en el cuerpo.
Seguridad y bioseguridad: La misma capacidad de explorar y diseñar sistemas biológicos que abre posibilidades terapéuticas e industriales también introduce nuevos riesgos. A medida que los modelos aumentan su capacidad para trabajar sobre información biológica, los mecanismos tradicionales de bioseguridad deben adaptarse a un escenario donde parte de la exploración que antes requería infraestructura experimental puede comenzar con herramientas computacionales.¹⁹ El problema ya no consiste solamente en controlar qué puede hacerse en un laboratorio, sino también qué capacidades pueden habilitarse mediante sistemas de diseño y predicción.

El nudo aparece aquí en la transformación de la relación entre representación e intervención: la IA pasa de funcionar principalmente como instrumento para representar y analizar sistemas biológicos a intervenir en el espacio de posibilidades de aquello que puede ser diseñado dentro de ellos. La representación deja así de funcionar únicamente como descripción y comienza a formar parte de un circuito en el que modelar, predecir, proponer y experimentar se retroalimentan. A partir de ese desplazamiento, la distinción entre analizar y producir comienza a perder estabilidad.

La transformación no queda contenida en la práctica científica. Cuando la capacidad de diseñar materia viva se conecta con la producción industrial, la medicina o la seguridad, las posibilidades generadas computacionalmente empiezan a modificar otros ensamblajes. Es en esa propagación, y no simplemente en la aplicación de IA a la biología, donde el cruce adquiere su carácter de nudo inter-tallo.

IA + Geopolítica y Soberanía Tecnológica

La expansión de la IA comienza a modificar las relaciones geopolíticas cuando la capacidad de producir y utilizar estos sistemas deja de ser solamente una ventaja tecnológica y pasa a convertirse en una capacidad estratégica. El acceso al cómputo, a los semiconductores, a los centros de datos, al talento especializado y a la energía adquiere entonces un valor que excede el ámbito técnico. La tecnología entra en la lógica de la soberanía y, al hacerlo, transforma también aquello que los Estados consideran necesario controlar.

La producción de semiconductores necesaria para desarrollar y desplegar sistemas de IA no se distribuye de manera homogénea. Esta producción depende de una cadena de valor global altamente fragmentada, con una fuerte especialización de determinadas economías, concentración de insumos críticos y dependencias entre distintos segmentos de producción.²⁰

Pero esta capacidad estratégica no existe en un espacio abstracto. Un modelo depende de una infraestructura material; esa infraestructura depende de cadenas de suministro, energía, capital, territorio y conocimiento; y esas dependencias se encuentran distribuidas de manera desigual entre distintos actores y territorios.²⁰ La IA puede operar como un servicio aparentemente deslocalizado, pero sus condiciones de posibilidad permanecen ancladas en una geografía concreta. La nube no elimina el territorio: lo redistribuye y, en algunos casos, vuelve menos visible su importancia.

Esta dinámica concentra varias tensiones:

Soberanía tecnológica frente a dependencia: La capacidad de un Estado para desarrollar IA no implica necesariamente autonomía tecnológica. Puede depender de procesadores producidos en otros territorios, de plataformas de cómputo externas, de cadenas de suministro que no controla o de infraestructuras energéticas y de conectividad que limitan sus posibilidades de acción. La soberanía tecnológica no aparece entonces como una condición absoluta de independencia, sino como la capacidad de negociar, reducir o redistribuir determinadas dependencias. Al mismo tiempo, la concentración de capacidades de cómputo puede reforzar esas dependencias, mientras que la interdependencia entre actores hace que incluso quienes poseen recursos estratégicos dependan de otros componentes del sistema.
Apertura tecnológica frente a concentración material: La disponibilidad abierta de modelos, conocimientos o código puede ampliar formalmente el acceso a determinadas capacidades, pero esa apertura no elimina las condiciones materiales necesarias para utilizarlas. Un modelo disponible públicamente puede seguir requiriendo grandes cantidades de memoria, capacidad de cómputo, aceleradores especializados, energía o infraestructura para ser entrenado, adaptado o ejecutado a determinada escala. La apertura de una tecnología puede convivir así con una concentración de las condiciones materiales que permiten hacerla efectiva. Lo abierto y lo accesible dejan de ser equivalentes.
Política tecnológica frente a trayectoria técnica: Cuando la IA adquiere valor estratégico, las decisiones sobre investigación, fabricación, infraestructura, transferencia tecnológica y formación de talento dejan de ser únicamente decisiones técnicas y pasan a formar parte de estrategias nacionales. La política comienza a intervenir sobre la trayectoria tecnológica, mientras que las capacidades técnicas disponibles vuelven a delimitar las opciones políticas. Las inversiones, las restricciones comerciales, los estándares y las políticas industriales pueden favorecer determinadas trayectorias, pero esas trayectorias también generan inercias y dependencias que condicionan las decisiones posteriores.
Territorio frente a infraestructura transnacional: Los centros de datos, las redes, las fábricas de semiconductores y los sistemas de energía y refrigeración están ubicados en territorios concretos, pero las infraestructuras que sostienen la IA funcionan mediante relaciones que atraviesan fronteras. Esto produce una tensión entre la localización material de los recursos y la escala transnacional de las redes que los articulan. El territorio concentra costos, recursos, energía y efectos ambientales, mientras que los beneficios y las capacidades que dependen de esas infraestructuras pueden distribuirse mucho más allá del lugar donde están instaladas.

Estas tensiones forman un circuito de retroalimentación: la capacidad tecnológica modifica las relaciones de poder; las relaciones de poder orientan inversiones, restricciones y políticas industriales; esas decisiones reorganizan las infraestructuras y las cadenas de suministro; y las nuevas infraestructuras vuelven a modificar las capacidades tecnológicas disponibles. La soberanía, la apertura y las decisiones políticas no aparecen entonces como condiciones externas al desarrollo tecnológico, sino como relaciones que participan en la configuración de sus trayectorias.

La geopolítica deja así de funcionar solamente como contexto en el que la IA se despliega y comienza también a participar en la configuración de las condiciones de su desarrollo. La infraestructura material deja de funcionar como un simple soporte de la tecnología y pasa a convertirse en un componente de las relaciones de poder que condicionan quién puede desarrollar determinadas capacidades, bajo qué condiciones y con qué grado de dependencia.

Estas transformaciones se propagan hacia otros ensamblajes:

Reorganización de las cadenas de suministro: La búsqueda de autonomía tecnológica puede impulsar la relocalización, diversificación y protección de determinados segmentos de las cadenas de producción. La infraestructura de la IA puede contribuir así a reorganizar territorios industriales y relaciones comerciales que antes no estaban vinculados de la misma manera con esta tecnología.
Transformación de la política industrial: El cómputo, los semiconductores y otras capacidades consideradas críticas pueden integrarse cada vez más en estrategias nacionales de inversión, subsidios, investigación y desarrollo. La política tecnológica puede dejar de operar solamente como apoyo a la innovación y comenzar a intervenir sobre la construcción deliberada de capacidades estratégicas.
Reconfiguración de las relaciones entre Estado y empresas: Cuando una parte significativa de la capacidad de IA se concentra en empresas que controlan modelos, plataformas, infraestructura y conocimiento especializado, las relaciones entre poder público y actores privados adquieren nuevas formas. La capacidad tecnológica de determinadas empresas comienza a convertirse también en un componente de la capacidad estratégica de los Estados, generando relaciones de cooperación, dependencia y negociación que atraviesan las fronteras institucionales tradicionales.
Desplazamiento territorial de los costos materiales: La concentración del cómputo en determinados territorios puede trasladar hacia ellos demandas de energía, agua, suelo e infraestructura, mientras otros territorios permanecen vinculados a la expansión de la IA mediante la extracción de minerales, la producción energética o el trabajo asociado a sus cadenas de suministro. La distribución espacial de las capacidades y de sus costos comienza así a adquirir una nueva dimensión geopolítica.

El nudo conecta de este modo distintos territorios del mapa. Sus dependencias materiales se relacionan con el ensamblaje tecnológico y con el sustrato que sostiene el cálculo; sus efectos sobre cadenas de producción y política industrial se proyectan hacia las relaciones entre tecnología, economía y poder; y la disputa por las capacidades tecnológicas establece una conexión con IA + Poder, Relevancia y Autoridad, donde la cuestión aparece desde la capacidad de intervenir en las mediaciones mediante las cuales el conocimiento se organiza y adquiere autoridad.

El nudo inter-tallo no queda entonces reducido a la competencia entre Estados. Su dinámica aparece cuando una capacidad tecnológica se convierte en una capacidad estratégica y, al hacerlo, reorganiza simultáneamente las relaciones de soberanía, dependencia, infraestructura y territorio que condicionan su propia expansión.

IA + Poder, Relevancia y Autoridad

En la articulación entre conocimiento y poder aparece una concentración de relaciones y tensiones particularmente significativa. La IA participa en los mecanismos mediante los cuales la información se organiza, se jerarquiza, adquiere visibilidad y es presentada como conocimiento válido. Los sistemas que incorporan IA no solo procesan información: también pueden intervenir en su selección, síntesis y circulación, modificando las condiciones bajo las cuales algo puede adquirir relevancia, autoridad y legitimidad. De este modo, la IA no determina por sí misma qué es válido, pero puede intervenir en las condiciones mediante las cuales determinadas informaciones, interpretaciones o respuestas llegan a ocupar una posición relevante y a adquirir autoridad.

La cuestión no reside solamente en si una respuesta es verdadera o falsa. Antes de llegar a ese punto, existe una serie de operaciones que condicionan qué información aparece, cómo se relaciona con otra, qué queda fuera de la respuesta y desde qué posición puede ser interpretada. La IA comienza así a participar en una dimensión del poder que no consiste únicamente en controlar información, sino en intervenir en las condiciones bajo las cuales esa información puede adquirir relevancia y autoridad.

La autoridad tampoco equivale a verdad. Una afirmación puede adquirir autoridad dentro de una comunidad, una institución o un sistema de circulación y, sin embargo, ser falsa o posteriormente cuestionada. La autoridad refiere aquí a la posición desde la cual una afirmación puede orientar el juicio de otros, no a la garantía de que esa afirmación sea verdadera. La legitimidad introduce otra dimensión: no refiere solamente a la capacidad de orientar el juicio, sino al reconocimiento de la posición, del procedimiento o de las condiciones desde las cuales esa autoridad se ejerce.

Esta cuestión se diferencia de la evaluación del conocimiento porque relevancia y autoridad no determinan por sí mismas que una producción constituya evidencia de conocimiento. D se ocupa de las condiciones mediante las cuales una información, interpretación o respuesta adquiere visibilidad, relevancia y autoridad; E, en cambio, se ocupa de las condiciones bajo las cuales una producción puede funcionar como evidencia y permitir la atribución de conocimiento. Una producción puede adquirir relevancia y autoridad sin constituir por ello evidencia suficiente para atribuir conocimiento.

Relevancia y autoridad tampoco son equivalentes: algo puede adquirir una posición relevante dentro de una circulación sin que por ello adquiera autoridad, del mismo modo que una fuente puede conservar autoridad sin ocupar necesariamente una posición de máxima visibilidad.

La tensión central del nudo aparece entonces entre la capacidad de los sistemas de IA para organizar, seleccionar y mediar información y la distribución del poder para determinar qué adquiere visibilidad, relevancia y autoridad dentro de un campo de conocimiento. La concentración no está solamente en la información producida, sino en las condiciones que permiten que determinadas informaciones, interpretaciones o respuestas sean encontradas, relacionadas, sintetizadas, legitimadas y tomadas en consideración.

Centralización de la relevancia: los sistemas de IA pueden concentrar la determinación de qué información adquiere visibilidad y relevancia en los sistemas, instituciones y actores que los diseñan, entrenan, implementan o controlan.
Opacidad de la mediación: la síntesis producida por la IA puede dificultar la reconstrucción de por qué determinadas fuentes, relaciones o interpretaciones adquirieron mayor peso que otras.
Apariencia de neutralidad: la mediación algorítmica puede presentarse como una operación técnica o neutral, aunque sus resultados dependan de datos, criterios de diseño, objetivos, restricciones y decisiones humanas e institucionales.
Síntesis y reducción de la complejidad: condensar grandes cantidades de información facilita el acceso, pero también puede desplazar diferencias, contradicciones y contextos que formaban parte del problema original.
Apertura y concentración del poder epistémico: el acceso, la modificación o la apertura de los modelos pueden ampliar la capacidad de intervenir sobre las formas de mediación del conocimiento, pero no eliminan las concentraciones existentes en el cómputo, los datos, la infraestructura o el conocimiento especializado.
Auditabilidad y complejidad: a medida que aumentan la complejidad de los sistemas, sus procesos de entrenamiento y las condiciones de su funcionamiento, puede resultar más difícil reconstruir las operaciones que producen determinados resultados.
Reconfiguración de la producción y circulación del conocimiento: la incorporación de IA en tareas de búsqueda, síntesis, interpretación y distribución modifica no solo las prácticas mediante las cuales se produce conocimiento, sino también los recorridos por los que ese conocimiento circula y adquiere visibilidad.

Estas tensiones producen una transformación que puede propagarse hacia otros espacios. La IA puede modificar las condiciones bajo las cuales la información adquiere relevancia y autoridad, pero esas condiciones no permanecen estáticas frente a su expansión. Las instituciones, los usuarios, los productores de conocimiento y otros actores comienzan a adaptar sus prácticas a una mediación cada vez más presente, generando nuevas formas de búsqueda, validación, circulación y control. Se configura así un circuito en el que la IA transforma las condiciones de mediación y las transformaciones de esas prácticas vuelven a modificar las condiciones bajo las cuales la IA participa en ellas.

Esta dinámica puede propagarse en distintas direcciones:

Transformación de la autoridad epistémica: cuando las respuestas de IA se convierten en puntos privilegiados de acceso a la información, puede modificarse la relación entre fuentes, expertos, instituciones y usuarios, desplazando parcialmente las formas tradicionales mediante las cuales se reconoce autoridad.
Transformación de la mediación: las operaciones de búsqueda, selección, síntesis y presentación pueden concentrarse en una misma interfaz, modificando el papel de mediadores que anteriormente se encontraban distribuidos entre distintas instituciones, herramientas y actores.
Reconfiguración de la circulación del conocimiento: la información comienza a recorrer circuitos en los que la mediación algorítmica participa activamente en su selección, presentación y distribución, modificando las condiciones bajo las cuales determinados contenidos llegan a distintos públicos.
Reconfiguración del espacio del conocimiento: al hacer visibles determinadas relaciones entre informaciones y dejar otras en segundo plano, la IA puede modificar la estructura desde la cual un campo de conocimiento es explorado, haciendo que algunas conexiones sean más accesibles que otras.
Disputa por la soberanía cognitiva: la capacidad de decidir qué información puede encontrarse, qué sistemas se utilizan y qué criterios operan introduce una dimensión de soberanía que excede la infraestructura material y alcanza las condiciones de acceso y mediación del conocimiento.
Redistribución de la capacidad de mediación: la apertura, modificación y auditabilidad de los sistemas pueden ampliar quiénes tienen capacidad de intervenir sobre esas condiciones, aunque esa posibilidad permanezca limitada por las concentraciones materiales, económicas y técnicas que atraviesan el ensamblaje.

Este nudo se conecta directamente con IA + Evaluación del conocimiento, pero desde una posición diferente. Allí la cuestión central es qué permite atribuir conocimiento a un sujeto cuando su producción puede estar mediada por IA. Aquí la cuestión es cómo una información, interpretación o respuesta adquiere relevancia y autoridad dentro de un campo de conocimiento, y quién puede intervenir en esas condiciones. También se conecta con IA + Geopolítica y Soberanía Tecnológica, aunque nuevamente desde otro nivel: allí la soberanía se relaciona con el control estratégico de capacidades materiales, infraestructura y recursos; aquí aparece una dimensión cognitiva de esa soberanía, vinculada con la capacidad de intervenir en las condiciones de acceso, mediación y legitimación del conocimiento. La disputa por modelos abiertos, auditables o modificables introduce una dimensión adicional: quien puede intervenir sobre el sistema puede disputar, al menos parcialmente, las condiciones de esa mediación, aunque esa posibilidad permanezca atravesada por las concentraciones materiales, económicas y técnicas del ensamblaje. La IA interviene así no solo en aquello que circula, sino también en las condiciones bajo las cuales algo puede adquirir relevancia y autoridad.

IA + Evaluación del conocimiento

La evaluación del conocimiento parte de una operación que muchas veces permanece implícita: inferir algo que no podemos observar directamente, el conocimiento de un sujeto, a partir de aquello que sí podemos observar, como sus respuestas, producciones, explicaciones o resoluciones. La incorporación de IA generativa introduce una mediación adicional en esa relación. Una respuesta puede ser producida mediante la interacción entre una persona y un sistema, y su corrección no permite determinar por sí sola qué operaciones corresponden al sujeto, cuáles fueron realizadas con asistencia y qué capacidades pueden atribuirse efectivamente a quien presenta el resultado.

La tensión no consiste solamente en determinar si una producción fue realizada con IA, sino en que comienza a volverse menos estable la relación entre producción, evidencia y atribución de conocimiento. La evaluación pretende reconocer una capacidad a partir de una manifestación observable, pero cuando esa manifestación surge de una interacción entre sujeto y sistema, el resultado puede dejar de ofrecer una evidencia tan directa de aquello que se intenta evaluar. La IA modifica así las condiciones bajo las cuales una producción puede funcionar como evidencia de que alguien sabe algo.

Resultado y comprensión: Un resultado correcto puede coexistir con distintos grados de comprensión por parte de quien lo presenta. La IA vuelve menos directa la relación entre la calidad de una producción y la capacidad cognitiva que se pretende evaluar. El resultado conserva su valor, pero su capacidad para funcionar como evidencia cambia cuando parte de las operaciones que condujeron a él pueden haber sido realizadas mediante una interacción con IA.
Producto y proceso: Cuando la producción final no es suficiente, por sí sola, para reconstruir cómo se llegó a ella, la evaluación puede desplazarse hacia el proceso: qué decisiones tomó el sujeto, qué puede explicar, defender, modificar o reconstruir y cómo intervino sobre el resultado. La evaluación comienza así a buscar nuevas formas de hacer visible aquello que el producto final ya no permite inferir por sí solo. El proceso deja de ser solamente el camino hacia el resultado y comienza a convertirse también en parte de la evidencia.
Saber y demostrar que se sabe: La IA hace más visible una separación que la evaluación suele mantener relativamente unida: poseer una capacidad y producir una demostración de esa capacidad. Utilizar una herramienta no implica necesariamente ausencia de conocimiento, pero tampoco permite asumir que el conocimiento demostrado en el resultado existe de manera independiente de ella. La cuestión pasa a ser qué relación con la herramienta permite atribuir una capacidad al sujeto y cuándo esa relación transforma aquello que la evaluación pretendía reconocer.
Evidencia y trazabilidad: Cuando una producción puede resultar de una interacción entre sujeto e IA, la evaluación puede intentar reconstruir qué operaciones corresponden a cada participante. Explicar, defender, modificar o reconstruir una respuesta adquiere entonces valor como evidencia. Pero esta búsqueda de trazabilidad no es neutral: al intentar recuperar la atribución del conocimiento, también modifica las condiciones bajo las cuales la IA puede intervenir en la producción y demostración evaluada.

Estas tensiones producen una transformación que puede propagarse hacia otros espacios. La IA modifica aquello que puede funcionar como evidencia de conocimiento, pero las prácticas de evaluación no permanecen simplemente a la espera de esa modificación. Al cambiar sus formas de observar, demostrar y atribuir capacidades, comienzan a establecer nuevas condiciones para la participación de la IA. Se configura así un circuito de retroalimentación en el que la IA transforma las condiciones de evaluación y las transformaciones de la evaluación vuelven a modificar las condiciones bajo las cuales la IA puede participar en la producción y demostración del conocimiento.

Esta dinámica puede propagarse en distintas direcciones:

Reorganización de las prácticas de evaluación: cambian las formas de observar, demostrar y reconstruir el conocimiento cuando una producción puede estar mediada por IA.
Transformación de los criterios de conocimiento: cuando el resultado deja de ser suficiente por sí solo, pueden adquirir mayor peso la comprensión, la explicación, la toma de decisiones, la modificación y la capacidad de reconstruir el proceso.
Redistribución de la autoridad evaluativa: al modificarse las condiciones de evidencia, también cambia quién puede intervenir en la atribución de conocimiento y con qué criterios.
Transformación de las capacidades valoradas: cuando cambian las condiciones bajo las cuales se reconoce que alguien sabe, también se modifica qué capacidades pasan a considerarse relevantes para aprender, trabajar y actuar con IA.

El nudo se conecta con IA + Filosofía de la mente, pero desde un problema diferente: allí se pregunta qué significa comprender cuando un sistema produce comportamientos asociados con la comprensión; aquí, qué permite reconocer que un sujeto comprende cuando su producción puede estar mediada por una IA. También se conecta con IA + Poder, Relevancia y Autoridad, porque toda evaluación supone criterios que determinan qué puede funcionar como evidencia y quién tiene autoridad para establecerlos.

La IA no elimina la necesidad de evaluar el conocimiento; modifica las condiciones bajo las cuales una producción puede funcionar como evidencia de que alguien sabe algo. Cuando la relación entre resultado y capacidad deja de ser relativamente directa, evaluar implica determinar qué puede atribuirse a partir de esa producción y bajo qué condiciones.

Cierre

¿Qué relaciones permanecen fuera de lo que podemos ver, precisamente porque las herramientas con las que intentamos observar también condicionan aquello que somos capaces de reconocer?

Notas y referencias

Clark, A., & Chalmers, D. (1998). The extended mind. Analysis, 58(1), 7–19.↩
Jurafsky, D., & Martin, J. H. (2026). Speech and Language Processing: An Introduction to Natural Language Processing, Computational Linguistics, and Speech Recognition with Language Models, 3rd ed., online manuscript.↩
Dally, W. J., & Hanrahan, P. (2026). The origins of GPU computing. Communications of the ACM.↩
Intel Corporation. (2026). What is an AI PC? Intel Support Knowledge Base.↩
Google Cloud. (s.f.). Cloud TPU. Google. Recuperado el 7 de septiembre de 2026.↩
Roy, K., Jaiswal, A., & Panda, P. (2019). Towards spike-based machine intelligence with neuromorphic computing. Nature.↩
International Energy Agency. (2025). Energy and AI. IEA.↩
Rumelhart, D. E., Hinton, G. E., & Williams, R. J. (1986). Learning representations by back-propagating errors. Nature, 323, 533–536.↩
Vaswani, A., Shazeer, N., Parmar, N., Uszkoreit, J., Jones, L., Gomez, A. N., Kaiser, Ł., & Polosukhin, I. (2017). Attention is all you need. Advances in Neural Information Processing Systems, 30.↩
Ngiam, J., Khosla, A., Kim, M., Nam, J., Lee, H., & Ng, A. Y. (2011). Multimodal deep learning. Proceedings of the 28th International Conference on Machine Learning (ICML 2011), 689–696.↩
IBM Research. In-memory computing.↩
Li, J., Wu, Z., Liu, G., Gokmen, T., & Chen, T. (2026). In-memory Training on Analog Devices with Limited Conductance States via Multi-tile Residual Learning. Proceedings of the 29th International Conference on Artificial Intelligence and Statistics, 300, 3664–3672.↩
Gmyrek, P., Berg, J., Kamiński, K., Konopczyński, F., Ładna, A., Nafradi, B., Rosłaniec, K., & Troszyński, M. (2025). Generative AI and jobs: A 2025 update. International Labour Organization.↩
Lim, K. Y. T., Hilmy, A. H., & Kuok Zi Wei, B. (2025). AI operators or creators? Two visions of agency and learning. UNESCO IdeasLAB.↩
National Institute of Standards and Technology (NIST). (2024). Reducing risks posed by synthetic content: An overview of technical approaches to digital content transparency. U.S. Department of Commerce.↩
U.S. Copyright Office. (2025). Copyright and Artificial Intelligence, Part 3: Generative AI Training* (Pre-Publication Version). May 9, 2025.↩
Bartz v. Anthropic PBC, No. C 24-05417 WHA, Document 231 (N.D. Cal. June 23, 2025).↩
Morabito, A., De Simone, G., Pastorelli, R., Brunelli, L., et al. (2025). Algorithms and tools for data-driven omics integration to achieve multilayer biological insights: A narrative review. Journal of Translational Medicine, 23(1), 425.↩
National Academies of Sciences, Engineering, and Medicine. (2025). The age of AI in the life sciences: Benefits and biosecurity considerations. The National Academies Press.↩
OECD. (2025). Mapping the semiconductor value chain: Working towards identifying dependencies and vulnerabilities. OECD Science, Technology and Industry Policy Papers, No. 182. OECD Publishing.↩

El archivo fuente se encuentra en un repositorio de GitHub junto con las herramientas (skills) de IA utilizadas.

La tinta en la sopa