Marcos Pérez Esquer
Hace unos días le comenté a una persona que soy profesor en la Facultad de Derecho de la Universidad La Salle. Su respuesta me dejó perplejo: “¿Todavía se siguen inscribiendo alumnos a Derecho? Porque ahora, con la inteligencia artificial, ¿qué sentido tiene aprenderse las leyes?”. Me fui de espaldas. La pregunta no solo subestimaba la profesión, condensaba una idea muy extendida y profundamente equivocada acerca de ella: creer que estudiar Derecho consiste en aprenderse las leyes para después aplicarlas literalmente.
Si así fuera, efectivamente tendríamos motivos para preocuparnos. Una IA puede almacenar, localizar y relacionar normas, jurisprudencia y precedentes muchísimo mejor y más rápido que cualquier ser humano. Sin embargo el Derecho nunca ha consistido solamente en eso. Curiosamente, uno de los mayores desafíos que enfrentan hoy quienes desarrollan las IA más avanzadas del mundo está demostrando precisamente por qué. Se llama “problema del alineamiento”: ¿cómo conseguir que una IA haga no solamente aquello que literalmente le ordenamos, sino aquello que realmente esperamos que haga?
Una de las respuestas más interesantes ha sido desarrollada por Anthropic, creadora de Claude, mediante la llamada “IA Constitucional”. En términos muy simplificados, consiste en entrenar al modelo conforme a una especie de Constitución integrada por principios éticos y declaraciones de derechos humanos.
Para un constitucionalista, la idea resulta fascinante: controlar una inteligencia potencialmente superior mediante una Constitución. Pero aquí aparece un problema que el Derecho estudia desde hace siglos: la regla nunca puede preverlo todo.
Los investigadores de IA llaman “specification gaming” a una conducta sorprendente: se fija al sistema determinado objetivo y éste descubre una manera de satisfacer literalmente la instrucción traicionando completamente su propósito.
Google DeepMind ha documentado ejemplos elocuentes. En un experimento se pretendía que una IA colocara un bloque rojo encima de uno azul (con el propósito no expresado de formar una torre) y se le recompensaba según la altura alcanzada por la base del bloque rojo. La máquina encontró una solución impecablemente lógica: en lugar de apilarlo, simplemente volteó el bloque. Cumplió la regla. Incumplió su espíritu. En otro caso, una IA debía ganar una carrera de lanchas y recibía puntos al atravesar determinados objetivos. Descubrió que podía maximizar su puntuación dando vueltas indefinidamente alrededor de ellos. Jamás terminó la carrera, pero obtuvo una puntuación insuperable.
Parece divertido hasta que imaginamos inteligencias mucho más poderosas operando sistemas financieros, infraestructura crítica o instalaciones militares.
El filósofo Nick Bostrom ha explicado otro aspecto del problema mediante la llamada “convergencia instrumental”: una inteligencia suficientemente avanzada podría concluir que acumular recursos, aumentar sus capacidades o evitar ser apagada son medios racionales para cumplir casi cualquier objetivo que le hayamos asignado. No necesitaría rebelarse ni adquirir conciencia. Le bastaría con optimizar eficazmente una instrucción deficientemente formulada.
Y aquí la IA tropieza con Aristóteles. La phronesis, la prudencia, es precisamente aquello que permite deliberar sobre qué debe hacerse ante circunstancias concretas que ninguna norma pudo anticipar completamente. Es lo que hace el jurista: aplicar el Derecho interpretándolo. La literalidad es apenas un punto de partida. Existen interpretación sistemática, histórica, funcional, teleológica; principios jurídicos, precedentes, ponderación, proporcionalidad, razonabilidad. No para que el juez haga lo que se le antoje, sino justo para evitar que la aplicación mecánica de una norma termine contradiciendo aquello que la propia norma pretendía proteger.
Así, el problema del alineamiento de la IA es una versión tecnológicamente sofisticada de un antiquísimo problema jurídico: conseguir que quien aplica una norma comprenda no solamente lo que ésta dice, sino para qué existe.
Por eso recordé aquella conversación: ¿tiene todavía sentido estudiar Derecho cuando una máquina puede aprenderse todas las leyes? Curiosamente, algunos de los científicos más brillantes del mundo intentan enseñar Derecho a las máquinas; a interpretar principios, resolver conflictos entre valores, comprender excepciones, distinguir entre una regla y un principio, o entre cumplir la norma y realizar su propósito. Y hasta ahora no han tenido éxito. Las máquinas ya pueden aprenderse las leyes. Eso era lo fácil. Lo que ha sido imposible es enseñarles prudencia.
El asunto es tan relevante, que es justo esa falta de prudencia lo que en estos días ha detonado la preocupación por una eventual aniquilación de la humanidad a manos de una IA mal alineada.
