Cómo la IA destruye las instituciones (Hartzog y Silbey)
Cómo la IA destruye las instituciones (Hartzog y Silbey)
Hartzog, W. y Silbey, J. (2025). How AI Destroys Institutions [Borrador de manuscrito no publicado]. Boston University School of Law.Resumen Ejecutivo
Este documento sintetiza el argumento central de que los sistemas de inteligencia artificial (IA), en su diseño y función actuales, representan una amenaza fundamental para la supervivencia de las instituciones cívicas esenciales para la vida democrática. La tesis principal sostiene que la IA no es una herramienta neutral, sino que sus funcionalidades inherentes —o «potencialidades de uso»— son antitéticas a los principios de cooperación, transparencia, rendición de cuentas y evolución que sustentan a dichas instituciones. El despliegue de la IA equivale a una «sentencia de muerte» para estas estructuras vitales. Los puntos críticos se resumen en tres «potencialidades de uso» destructivas de la IA:-
Socava la Pericia:
La IA fomenta la delegación de tareas cognitivas («descarga cognitiva») y la atrofia de habilidades humanas. Al sustituir el juicio humano, interrumpe la transferencia de conocimiento intergeneracional y devalúa la experiencia, ya que sus sistemas son retrospectivos y propensos a errores fácticos («alucinaciones»).
-
Cortocircuita la Toma de Decisiones:
La automatización de decisiones importantes externaliza elecciones morales a los desarrolladores de IA, ocultando las reglas y los valores subyacentes bajo un velo de eficiencia neutral. Esto aplana las jerarquías necesarias para la reflexión y el debate, osificando la capacidad de las instituciones para asumir riesgos intelectuales y adaptarse a nuevas circunstancias.
-
Aísla a los Seres Humanos:
Al reemplazar las interacciones interpersonales, la IA erosiona la solidaridad, la empatía y el capital social. Fomenta un individualismo que debilita los lazos comunitarios y la capacidad colectiva para deliberar y resolver problemas, minando la base de la vida cívica y la democracia.
El análisis concluye que instituciones como el estado de derecho, la educación superior, la prensa libre y la propia democracia están en un «corredor de la muerte» debido a estas dinámicas. La integración generalizada de la IA en estas áreas no las optimiza, sino que las vacía de su propósito y las debilita hasta el punto del colapso.
Introducción: La Tesis Central sobre la IA y la Destrucción Institucional
Las instituciones cívicas —el estado de derecho, las universidades y una prensa libre— constituyen la columna vertebral de la vida democrática. Funcionan como mecanismos que permiten a las sociedades complejas fomentar la cooperación y la estabilidad, al tiempo que se adaptan a circunstancias cambiantes. Su principal fortaleza reside en su capacidad para evolucionar dentro de una jerarquía de autoridad y un marco de reglas, manteniendo la legitimidad del conocimiento que producen y las acciones que emprenden.
El argumento central presentado en los textos de origen es que los sistemas de IA están diseñados de manera que degradan y destruyen estas instituciones cruciales. Las funcionalidades inherentes de la IA, o «potencialidades de uso», erosionan la pericia, cortocircuitan la toma de decisiones y aíslan a las personas entre sí. Estas características son un anatema para la evolución, la transparencia, la cooperación y la rendición de cuentas que dan propósito y sostenibilidad a las instituciones.
Lejos de ser herramientas neutrales que simplemente aumentan la eficiencia, los sistemas de IA predictivos y generativos, cuando se utilizan según su diseño, imponen un coste progresivo que debilita las instituciones hasta la invalidez.
Las Tres «potencialidades de uso» Destructivas de la Inteligencia Artificial
El término «potencialidades de uso» se refiere a las propiedades de los objetos y sistemas que sugieren cómo pueden o deben ser utilizados. Estas propiedades facilitan ciertos tipos de interacción mientras que disuaden o impiden otros. En el caso de la IA, se identifican tres potencialidades de uso principales que son inherentemente perjudiciales para las instituciones cívicas.
1. La IA Socava la Pericia (Expertise)
La primera posibilidad de uso destructiva es la capacidad de la IA para minar y degradar la pericia institucional a través de múltiples mecanismos:
-
Descarga Cognitiva y Atrofia de Habilidades:
La aparente precisión y fiabilidad de la IA incentiva a los humanos a delegar tareas cognitivas. Este proceso de «descarga» conduce a una atrofia de las habilidades críticas y a una disminución de la capacidad de resolución de problemas de forma independiente.
-
Reemplazo del Juicio Humano:
La presión financiera motiva a las instituciones a reemplazar a los humanos por la IA en los procesos de decisión. Esto elimina la transferencia estructurada de conocimiento y experiencia que ocurre en las interacciones humanas, como cuando un empleado aprende de otro.
-
Naturaleza Retrospectiva:
Los sistemas de IA están fundamentalmente limitados por los datos con los que fueron entrenados; solo pueden mirar hacia atrás. Son sistemas cerrados que carecen de adaptabilidad iterativa y no pueden gestionar la «incertidumbre radical», donde los datos históricos no ofrecen una guía fiable. Sam Altman, CEO de OpenAI, ha reconocido que la IA no puede resolver grandes problemas científicos solo con datos existentes, ya que necesita la experimentación del mundo real.
-
El Coste de los Errores:
Las «alucinaciones» de la IA no son fallos ocasionales, sino una «inevitabilidad matemática» de su diseño. Corregir estos errores, cuando son detectados, exige un esfuerzo humano significativo, lo que reduce la productividad y la eficacia.
-
La Paradoja de la IA:
Cuando la IA «acierta», los humanos se vuelven menos cualificados y la institución pierde su capacidad de actualizar su conocimiento. Cuando «falla», sus errores deben ser compensados en otros lugares o se propagarán. En ambos escenarios, la institución se debilita.
2. La IA Cortocircuita la Toma de Decisiones
La segunda posibilidad de uso fatal es que la IA cortocircuita los procesos de toma de decisiones institucionales al eliminar la autorreflexión y los puntos de debate necesarios para un análisis riguroso.
-
Externalización de Decisiones Morales:
La implementación de la IA no es una mera cuestión de eficiencia; oculta el hecho de que decisiones morales que deberían ser tomadas por humanos se están delegando en máquinas. Por ejemplo, un filtro de IA que deniega la cobertura de un seguro médico toma una decisión moral bajo el disfraz de una eficiencia neutral.
-
Opacidad y Legitimidad:
Al ocultar las reglas y sus fundamentos lógicos dentro de una «caja negra» algorítmica, la IA degrada la legitimidad de las decisiones institucionales. Impide que los participantes entiendan, cuestionen o adapten las reglas, lo que tiene un «efecto corrosivo y osificador» sobre la gobernanza deliberativa.
-
Incapacidad para el Riesgo Intelectual:
La IA carece de la capacidad de asumir riesgos intelectuales, es decir, de expresar ideas que puedan ser erróneas o desafiantes. Está optimizada para la precisión y la seguridad, no para la creatividad genuina que va más allá de los patrones existentes.
-
Falta de Valor Moral:
Un sistema de IA no puede desafiar el statu quo ni actuar con valor moral. A diferencia de figuras humanas como el oficial soviético Stanislav Petrov, quien desobedeció las órdenes y evitó una guerra nuclear, la IA no tiene «nada en juego» y, por tanto, no puede oponerse a decisiones jerárquicas erróneas.
3. La IA Aísla a los Seres Humanos
Finalmente, los sistemas de IA aíslan a las personas al desplazar las oportunidades de conexión humana, lo que priva a las instituciones de la solidaridad necesaria para el debate y la adaptación.
-
Erosión de la Solidaridad:
La IA degrada las relaciones interpersonales y la resiliencia organizativa. La interacción con sistemas aduladores y personalizados reduce nuestra capacidad para gestionar la fricción social, un elemento necesario para la transmisión de conocimiento y el cambio iterativo.
-
Fragmentación y Desconfianza:
El uso de la IA en el trabajo puede generar desconfianza entre compañeros. Un estudio reveló que los empleados que reciben «workslop» (resultados de IA que generan más trabajo) comienzan a percibir a sus colegas como menos capaces, creativos y fiables.
-
Agotamiento del Capital Social:
Al sustituir las interacciones humanas por la automatización, se agota el propósito humano colectivo de las instituciones. Este aislamiento mina la confianza, la reciprocidad y la sabiduría colectiva que son cruciales para el funcionamiento de la vida cívica.
Instituciones en el Corredor de la Muerte de la IA
La aplicación de estas potencialidades de uso destructivas ya es visible en múltiples instituciones críticas para la democracia.
El Estado de Derecho
La integración de la IA en las decisiones legales corrompe los principios fundamentales del estado de derecho: previsibilidad, transparencia y rendición de cuentas.
-
Decisiones Inexplicables:
Cuando un sistema de IA determina una sentencia penal o una sanción fiscal sin una justificación comprensible, el uso de la fuerza estatal se vuelve arbitrario e irresponsable.
-
Violación de la Igualdad ante la Ley:
Si las razones detrás de una decisión son desconocidas, es imposible predecir si se aplicaría de la misma manera a una persona en una situación similar, violando así el principio de igualdad de justicia.
-
Incapacidad para el Juicio Narrativo:
La justicia requiere el manejo de «categorías difusas» y narrativas humanas, como factores atenuantes, que no son reducibles a estadísticas. Como afirman John Kay y Mervyn King, la justicia se administra a través de «una cuenta narrativa persuasiva», no de promedios algorítmicos.
La Educación Superior
Las universidades, como instituciones dedicadas a la búsqueda de la verdad, se ven amenazadas por la IA en sus funciones más esenciales.
-
Inhibición del Aprendizaje:
La IA fomenta la descarga de tareas cognitivas que son esenciales para el desarrollo de la pericia y la capacidad de «aprender a aprender».
-
Producción de Mediocridad:
Los sistemas de IA tienden a generar contenido promedio u homogeneizado, lo que margina las ideas excepcionales que impulsan los avances científicos e intelectuales.
-
Distorsión de la Investigación:
La dependencia de herramientas de IA prioriza la cuantificación, lo que puede marginar a las ciencias sociales cualitativas y a las humanidades.
-
Erosión de la Confianza:
El uso de IA por parte de los profesores para crear material o calificar puede hacer que los estudiantes pierdan la fe en sus educadores, socavando la reputación de la institución.
La Prensa Libre y el Periodismo
En un entorno mediático contaminado por el «AI slop» (contenido barato y automático), la institución de la prensa libre es particularmente vulnerable.
-
Devaluación de la Pericia:
El diluvio de contenido generado por IA devalúa la experiencia de los medios de comunicación fiables y contamina el debate público. Se aplica la «Ley de Brandolini» o «Principio de Asimetría de la Estupidez»: «la cantidad de energía necesaria para refutar la estupidez es un orden de magnitud mayor que la necesaria para producirla».
-
Autofagia de los Modelos (MAD):
Existe el riesgo de que los modelos de IA se degeneren al ser alimentados con una cantidad excesiva de sus propios resultados, un fenómeno que los investigadores denominan «Enfermedad de Autofagia del Modelo» (MAD), comparándolo con la enfermedad de las vacas locas.
-
Falta de Atributos Periodísticos:
La IA es incapaz de mostrar el valor moral, la sensibilidad al poder y la capacidad para hacer preguntas incisivas que son el sello del periodismo de calidad.
La Democracia y la Vida Cívica
La IA representa una amenaza directa para el capital social, que el politólogo Robert Putnam define como las redes sociales y las normas de reciprocidad que sustentan la democracia.
-
Destrucción del Capital Social:
La IA es incapaz de «reciprocidad generalizada» y desplaza las oportunidades de conexión humana. Cada minuto dedicado a un chatbot es un minuto menos para desarrollar lazos sociales reales.
-
Obstáculo a la Deliberación Colectiva:
Al aislar a los individuos, la IA debilita la capacidad de la sociedad para deliberar y organizarse para resolver problemas políticos.
-
La Tiranía Tecnológica:
Las propuestas de líderes tecnológicos para reemplazar la gobernanza democrática con una «IA Constitucional» o un «presidente de IA» son descritas como una forma de tiranía corporativa, donde las decisiones son tomadas por máquinas propiedad de corporaciones sin supervisión democrática.
Conclusión y Advertencia Final
El argumento concluyente es que las potencialidades de uso de la IA —socavar la pericia, cortocircuitar las decisiones y aislar a los humanos— son como un cáncer para las instituciones que sostienen la vida democrática. La implementación indiscriminada y generalizada de la IA conducirá a la disolución de estas instituciones.
Para hacer frente a esta amenaza, se rechazan las «medias tintas» como los principios éticos autorregulados, el consentimiento individual o los marcos de gestión de riesgos, por ser insuficientes. En su lugar, se proponen los siguientes puntos de partida:
-
Abordar las Causas Raíz:
Enfocarse en problemas sociales fundamentales como la desigualdad y la necesidad de una reforma democrática, que ya desestabilizan la vida cívica.
-
Actuar a Nivel Local:
Las escuelas y la gobernanza municipal ofrecen oportunidades para que las comunidades implementen cambios positivos y significativos.
-
Establecer Reglas Claras:
Es hora de adoptar prohibiciones directas («bright-line rules») para las aplicaciones de IA más dañinas, como la vigilancia mediante reconocimiento facial o la venta masiva de datos personales.
La advertencia final es severa: las potencialidades de uso de la IA degradan la pericia, la responsabilidad y la conexión humana, una receta que debilita hasta el punto de la demolición las instituciones creadas para la supervivencia y el florecimiento colectivo. Sin una acción decisiva, «el centro no podrá sostenerse».
