Derecho crítico: la inteligencia artificial como instrumento útil

En el proceso de fortalecimiento de la autonomía, los tejidos sociales y los Derechos Humanos

Oscar Arévalo

La convergencia de la Inteligencia Artificial (IA) y el Derecho Crítico se encuentra en su capacidad compartida para transformar estructuras sociales y fortalecer tanto la autonomía individual como colectiva. Pero la pregunta central aquí es: ¿Puede la IA ser un instrumento útil en el proceso de fortalecimiento de la autonomía (según el concepto de Castoriadis), de los tejidos sociales y los derechos humanos? ¿Es posible desde la corriente del “Derecho Crítico” contribuir a un mejor uso de esta? Nuestra respuesta es afirmativa. No obstante, partimos de algunas premisas básicas que explicitamos de previo:

1. El derecho, y la esfera de lo normativo, no se bastan a sí mismos para auto-explicarse. Es menester echar mano de otras disciplinas y saberes para poder hacer un ejercicio crítico y por eso mismo constructivo desde las disciplinas del derecho. Y es a partir de esa mirada crítica que se puede hacer una reflexión válida para construir verdaderas alternativas que no reproduzca el “statu quo” de forma acrítica o ingenua.
2. Las inteligencias artificiales llegaron para quedarse. Y no tienen ningún sentido su negación, ni acciones de tipo laudista, pues la ola simplemente nos pasará por encima.
3. Ningún relato crítico es posible, ni tiene utilidad alguna, si este no es apropiado por algún Sujeto Social y Político que lo lleve a cabo.

Para este análisis echamos mano del concepto de “autonomía” que, según Cornelius Castoriadis, filósofo y pensador social, trasciende la simple autogestión, abarcando la capacidad de cuestionar y modificar normas y leyes existentes a través de la auto-reflexión y deliberación colectiva. En este marco, la autonomía se convierte en un proceso de constante evolución y redefinición de las estructuras sociales. El concepto de autonomía en Castoriadis, no sólo es una categoría de análisis, sino además una brújula ética que nos indica el grado de apropiación y auto-administración de las propias vidas de las personas, las comunicades y eventualmente naciones.

Desde esta perspectiva, la IA puede ser vista bajo dos luces: como una herramienta para perpetuar estructuras de poder existentes o como un medio para cuestionar y transformar estas estructuras. El Derecho Crítico, que se enfoca en cómo el derecho y las instituciones legales interactúan con las desigualdades sociales, ofrece un marco valioso para evaluar el impacto potencial de la IA.

IA y la Autonomía en el Contexto de los Derechos Humanos: La IA tiene el potencial de fortalecer la autonomía individual y la apropiación colectiva de nuestras vidas y nuestro futuro, al proporcionar a las personas acceso a información y recursos que anteriormente estaban fuera de su alcance. Por ejemplo, sistemas de IA en el campo del derecho pueden hacer más accesible la información legal, permitiendo a los individuos una mayor comprensión y participación en los procesos legales.

Sin embargo, existe el riesgo de que la IA perpetúe sesgos existentes, reforzando estructuras de poder discriminatorias. La IA debe ser diseñada y auditada cuidadosamente para asegurar que promueva la equidad y no infrinja los derechos humanos.

IA y el Fortalecimiento de Tejidos Sociales: Además del impacto en los derechos humanos, la IA también juega un papel crucial en el fortalecimiento de los tejidos sociales, como se evidencia en su capacidad para analizar grandes conjuntos de datos sociales y económicos, identificando patrones y necesidades no atendidas en comunidades específicas. Esto puede guiar la creación de políticas públicas más efectivas y pertinentes a las realidades locales.
El uso de tecnologías de IA en la movilización social y la creación de redes de apoyo también es relevante. Plataformas que utilizan IA para conectar individuos con intereses y necesidades similares pueden fortalecer la solidaridad y el apoyo mutuo en comunidades.

Desafíos Éticos y Legales: La implementación de IA plantea importantes cuestiones éticas y legales, especialmente en cuanto a la privacidad, el consentimiento y la transparencia. El Derecho Crítico puede proporcionar una lente para evaluar cómo la regulación de la IA puede diseñarse para proteger los derechos individuales y colectivos.
La autonomía en el contexto de la IA también incluye la capacidad de los individuos y comunidades para entender y cuestionar las decisiones tomadas por sistemas de IA, lo que requiere transparencia y explicabilidad en los algoritmos utilizados.

La Perspectiva de Habermas: Ampliando desde el marco teórico de Jürgen Habermas y su Teoría de la Acción Comunicativa, exploramos cómo la IA podría influir en la autonomía, los tejidos sociales y los derechos humanos. Habermas enfatiza la importancia del diálogo democrático, la deliberación y el consenso en la formación de normas y leyes. Desde esta perspectiva, la IA puede jugar varios roles:

1. Facilitación del Diálogo y la Deliberación Democrática: La IA puede ser utilizada para crear plataformas que faciliten la comunicación y el debate público. Estas herramientas podrían ayudar a organizar y sintetizar grandes cantidades de opiniones y argumentos, haciendo el proceso de deliberación más inclusivo y eficiente.
2. IA y la Racionalidad Comunicativa: Habermas distingue entre «acción estratégica», guiada por el auto-interés, y «acción comunicativa», orientada hacia el entendimiento mutuo. La IA puede ser programada para promover una acción comunicativa, identificando y corrigiendo malentendidos o proporcionando información que facilite el consenso.
3. IA en la Construcción y Mantenimiento de Normas Sociales: Habermas ve las normas sociales como productos de la acción comunicativa. La IA puede ayudar a analizar las dinámicas sociales y culturales, ofreciendo insights para la formación de políticas que reflejen los valores y necesidades de la sociedad.
4. Desafíos de Implementación y Regulación: La regulación de la IA debe ser el resultado de un proceso democrático y deliberativo, involucrando un amplio espectro de actores sociales.

El Concepto de Esfera Pública y el Autoritarismo: En un contexto mundial de resurgimiento del lenguaje y los relatos autoritarios, el concepto de esfera pública de Habermas adquiere una relevancia crítica. El retorno a formas de comunicación autoritarias desafía los principios de la acción comunicativa y el diálogo democrático, fundamentales para la salud y el funcionamiento de la esfera pública.

La tecnología y la IA pueden ser herramientas para combatir la influencia del lenguaje autoritario, promoviendo el acceso a información diversa y contrarrestando la desinformación. Sin embargo, también pueden ser empleadas para fortalecer el control autoritario sobre la información y la opinión pública.

En un mundo inclinado hacia el autoritarismo, la defensa y el fortalecimiento de la esfera pública tal como la concibe Habermas es más crucial que nunca. Esto implica no solo resistir el lenguaje y las prácticas autoritarias, sino también emplear de manera crítica y consciente las herramientas tecnológicas como la IA para promover un discurso público basado en el respeto, la racionalidad y la pluralidad.

Todo esto dentro de un contexto fatal de auto-destrucción de nuestro propio hábitat a un ritmo, no sólo acelerado, sino que además, aparentemente imparable.

Este es apenas un esbozo de ideas que claramente debemos de desarrollar y discutir más en el futuro breve.

– Abogado y Asesor Parlamentario