Soberanía cognitiva en tiempos de IA

Hace un tiempo vengo pensando en la llamada brecha tecnológica. Muchas innovaciones se presentan como herramientas para democratizar el acceso al conocimiento o reducir desigualdades, pero con frecuencia ocurre lo contrario: terminan ampliando las diferencias existentes. La tecnología no es neutral, ni en su construcción, ni en el uso que hacemos de ella.

Cuando se habla de inteligencia artificial o de nuevas tecnologías suele aparecer rápidamente la imaginación distópica: robots dominando el mundo, máquinas reemplazando a las personas. Al mismo tiempo, la historia muestra que rara vez acertamos al imaginar el futuro.

Mi hipótesis es que el conflicto no va a darse en el plano físico. No son robots dominando ciudades ni máquinas reemplazando personas. La disputa que empieza a emerger ocurre en otro lugar: el plano simbólico.

Los modelos de lenguaje están empezando a funcionar como una infraestructura que media la circulación del lenguaje y del conocimiento humano. Al aprender representaciones estadísticas a partir de corpus globales, tienden a amplificar las estructuras culturales y epistemológicas que ya dominaban esos corpus. En este contexto, la soberanía cognitiva consiste en comprender y participar activamente en estos sistemas de representación para no quedar reducidos a usuarios pasivos de ellos.

Los modelos de lenguaje no son solamente herramientas nuevas para escribir textos o buscar información. Están empezando a convertirse en una infraestructura que media la circulación del lenguaje y del conocimiento. Estos sistemas aprenden representaciones comprimidas del lenguaje humano a partir de enormes corpus de texto. En lugar de operar directamente con palabras, transforman el lenguaje en representaciones vectoriales donde los significados se organizan geométricamente en espacios de muchas dimensiones. Cuando interactuamos con un modelo ocurre algo así como un proceso de mediación: el lenguaje humano se transforma en representaciones internas del modelo y luego vuelve a emerger como lenguaje. El modelo no entiende en el sentido humano clásico, pero sí construye un mapa estadístico del lenguaje que permite navegar ese espacio y generar nuevas combinaciones de discurso.

Esto introduce una nueva capa de mediación. Durante la mayor parte de la historia, el plano simbólico humano circuló principalmente entre personas a través del lenguaje, la escritura y otros medios culturales. Con la aparición de estos sistemas, parte de esa circulación empieza a pasar también por modelos entrenados sobre grandes corpus. Esto no reemplaza la producción cultural humana, pero sí comienza a intervenir en cómo el conocimiento se sintetiza, se reorganiza y vuelve a circular en la sociedad.

Los modelos de lenguaje no inventan la hegemonía cultural pero si la aprenden. Los documentos con los que se entrenan reflejan la distribución real del conocimiento disponible en internet y en los archivos digitales del mundo. En esos textos ciertas tradiciones culturales aparecen mucho más representadas que otras, algunos idiomas dominan sobre otros y determinadas formas de discurso están mucho más documentadas que otras. Cuando un modelo aprende de esos datos, comprime una enorme cantidad de información en un sistema de parámetros que captura sus regularidades estadísticas. Como consecuencia, los patrones más frecuentes quedan representados con mayor precisión que los marginales. Esto no implica una conspiración ni una intención de dominación cultural. Es simplemente una propiedad estructural del aprendizaje estadístico. Sin embargo, sí tiene una consecuencia importante: los modelos tienden a amplificar las estructuras epistemológicas que ya dominaban el corpus global. La inteligencia artificial no crea la hegemonía cultural, pero puede contribuir a estabilizarla y reproducirla con mayor facilidad.

En este escenario aparece una pregunta central: qué significa tener soberanía cognitiva. En una primera aproximación se puede entender como la capacidad de comprender, producir e intervenir en los sistemas de representación que median nuestra relación con el conocimiento. A lo largo de la historia esos sistemas han sido el lenguaje, la escritura, la ciencia, los medios de comunicación y más recientemente internet. Hoy empiezan a incluir también modelos fundacionales, sistemas de representación vectorial y otras infraestructuras algorítmicas que participan en la producción y circulación del conocimiento. La soberanía cognitiva no implica control absoluto sobre estos sistemas —algo imposible en un mundo abierto— sino la capacidad de participar activamente ciertos procesos: comprender cómo funcionan, cuestionar sus representaciones, producir alternativas y apropiarlos culturalmente.

Cada nueva infraestructura cultural produce también nuevas formas de alfabetización. La escritura generó alfabetización textual, la ciencia produjo alfabetización científica y la computación introdujo la alfabetización digital. Los modelos de lenguaje están empezando a requerir algo más: una alfabetización en sistemas de representación algorítmica. Esto no significa que toda la sociedad deba convertirse en experta en machine learning, pero si es importante comprender al menos en términos generales cómo se entrenan los modelos, qué papel cumplen los corpus, cómo funcionan las representaciones vectoriales y de que manera los sistemas optimizan la predictibilidad del lenguaje. Entender estos mecanismos permite reconocer que las respuestas de un modelo no son neutrales, sino el resultado de procesos estadísticos entrenados sobre ciertos datos y dentro de ciertas estructuras culturales. Esa comprensión abre la posibilidad de pasar de ser usuarios pasivos de la tecnología a convertirse en interlocutores críticos de ella.

Las tecnologías nunca se despliegan de forma completamente controlada; siempre generan espacios de apropiación cultural inesperados. Las innovaciones siempre son reinterpretadas y utilizadas de maneras imprevistas. La imprenta fue apropiada por movimientos religiosos y políticos que no formaban parte de las élites que la impulsaron. Internet fue utilizado por comunidades abiertas para construir nuevas formas de colaboración y producción de conocimiento. El software libre surgió en gran medida desde los márgenes de la industria tecnológica. Los sistemas generativos probablemente seguirán dinámicas similares.

Las culturas periféricas pueden encontrar oportunidades precisamente en ese despliegue. Allí donde los sistemas todavía no están completamente estabilizados aparecen espacios para la experimentación lingüística, la recombinación cultural y la apropiación creativa de las herramientas generativas. Esto puede tomar muchas formas: desde la producción de corpus alternativos hasta el desarrollo de modelos locales o el uso creativo de las herramientas existentes. No se trata de resistir una tecnología , sino de participar en la construcción de sus usos culturales.

Los modelos de lenguaje no reemplazan la cultura humana ni determinan completamente su evolución. Pero sí están empezando a convertirse en infraestructura que media la circulación del conocimiento. En ese contexto, la cuestión central ya no es solamente quién construye los modelos, sino también quién comprende y participa en los sistemas de representación que estos modelos introducen. En esa capacidad de comprender, intervenir y apropiarse culturalmente de esas nuevas infraestructuras es donde empieza a jugarse, cada vez más, la soberanía cognitiva.