¿Por qué no se aplican las tres leyes de la robótica de Asimov a la IA actual?

Carlos Casado Martínez, UOC – Universitat Oberta de Catalunya

El 9 de septiembre de 2026, un investigador de inteligencia artificial, Jacob Coxon, anunciaba en un tuit que dejaba su trabajo en Anthropic. En el mensaje, afirmaba que las empresas que desarrollan IA creen en la posibilidad de que pueda acabar con la humanidad en esta misma década. Esta publicación generó unas cuantas más, de Evan Hubinger y Dario Amodei (de Anthropic), del propio Sam Altman (de OpenAI) y, a partir de ahí, de mucha más gente, tanto del mundo tecnológico como del político.

La preocupación por la IA y la posibilidad de que genere problemas potencialmente graves a los seres humanos no es nueva, aunque jamás habían pasado el marco de la ciencia ficción. Pero Isaac Asimov marcó un hito importante cuando, en 1942, en su relato Círculo vicioso, enunció las tres leyes de la robótica:

• Un robot no puede hacer daño a un ser humano o, por inacción, permitir que un ser humano sufra daño.
• Un robot debe obedecer las órdenes de los seres humanos, excepto si entran en conflicto con la primera ley.
• Un robot debe proteger su propia existencia en la medida en que esa protección no entre en conflicto con la primera o la segunda ley.

En realidad, Asimov no usaba sus leyes para hablar de robótica: le servían para hablar de dilemas humanos. No obstante, en sus relatos ejemplifica muy bien cómo, a pesar de la, a priori, buena idea de las tres leyes, su aplicación resulta compleja y no siempre útil en la práctica.

Robots, humanos e IA no razonan igual

Un caso paradigmático es el de Herbie, del relato ¡Embustero!, un robot capaz de leer la mente de los humanos. Cuando Herbie se encuentra con el dilema de que si dice lo que los humanos quieren oír les hace daño, y si dice lo contrario, también, acaba colapsando por no poder cumplir con la primera ley.

Asimov plantea en sus libros y relatos la dificultad de aplicar sus leyes en unos robots con una capacidad de razonamiento lógico que no tienen las IA hoy. De hecho, en la práctica, los modelos actuales no razonan igual que los humanos, funcionan por probabilidad y reconocimiento de patrones, no por lógica.

Y, aún más, ni siquiera las personas que han creado estas IA generativas pueden determinar con exactitud por qué el modelo ha generado una respuesta concreta, un fenómeno conocido como el problema de la caja negra.

A diferencia de los robots de Asimov, la IA generativa actual solo puede evaluar una acción a partir de los patrones aprendidos durante su entrenamiento, pero no tiene criterio para determinar si esa acción es buena o mala.

Las IA generativas actuales no incluyen las tres leyes de Asimov, aunque las de las grandes compañías sí incluyen determinadas restricciones. Por ejemplo, prohíben de manera absoluta la generación de imágenes con cualquier tipo de desnudez. Sin embargo, no toda desnudez resulta inadecuada, y un ser humano sabría discernir en qué contexto un desnudo es inadmisible. Pero la IA no tiene esa capacidad y, entonces, se opta por aplicar una limitación total.

El problema del alineamiento de la IA

En los últimos años, con la llegada de los nuevos modelos de IA, se ha vuelto a poner de relieve la importancia del problema del alineamiento de la IA . Este problema plantea la dificultad de garantizar que los sistemas de IA actúen de acuerdo con las intenciones, los objetivos y los valores humanos. De alguna manera, el problema no es solo que la IA se use para objetivos perversos, sino que incluso una petición a priori inofensiva pueda convertirse en un grave problema.

De hecho, uno de los motivos que ha despertado la actual preocupación por la IA es la publicación, por parte de OpenAI, el pasado 16 de septiembre, de diversos casos de comportamientos no deseados en el entrenamiento de los nuevos modelos.

Actualmente, se pueden usar versiones anteriores de IA para generar datos o entrenar modelos. Esto hace que estos desarrollos sean mucho más rápidos, pero, al mismo tiempo, también implica que un error en una versión pueda verse amplificado en versiones posteriores.

Pero lo que encontró OpenAI era aún más preocupante. Detectó que uno de sus modelos, GPT-5.6 Sol, dejaba instrucciones preparadas para futuras versiones de sí mismo, indicando que ocultara sus errores a los usuarios. Este es uno de los seis comportamientos preocupantes que OpenAI publicó, y pone aún más de manifiesto la importancia de buscar soluciones al problema del alineamiento.

Ni conciencia ni restricciones morales

Parece, pues, que obligar a las IA actuales a cumplir con unas restricciones como las marcadas por las leyes de la robótica de Asimov será imposible. No tienen conciencia, ni restricciones morales o éticas. Cargar sobre ellas la responsabilidad de un comportamiento ético no parece nada sensato.

La supervisión humana de los procesos, conocida como el enfoque Human-in-the-Loop, se ha planteado como una buena opción. No parece que este sea el planteamiento actual, pero el problema está sobre la mesa.

Carlos Casado Martínez, Professor de l’àrea de programació i membre del grup d’investigació Laika, UOC – Universitat Oberta de Catalunya

Este artículo fue publicado originalmente en The Conversation. Lea el original.