Joaquín Díaz Boils. Profesor del Departamento de Economía Aplicada de la Universitat de València.
De entre los problemas filosóficos de la Inteligencia Artificial (IA) en el sentido antropocéntrico, es decir, la que nos ayuda a entender cómo funciona la mente o qué es exactamente la inteligencia humana, El Problema del Marco es de los menos divulgados. Eso se debe -según me parece- a que la otra IA, la del diseño de artefactos, la del negocio, ha dejado atrás hace tiempo la comprensión de la estructura mental de los seres humanos como un objetivo a perseguir. Quizá sea una buena propuesta recuperar los dilemas que este paradigma plantea y lo que nos permite inferir sobre quiénes somos y cómo organizamos nuestras prioridades. Tanto como individuos como parte de una estructura social.
El Problema del Marco, enunciado en formas similares como El Problema de la Determinación de la Relevancia o El Problema del Sentido Común, nos enfrenta a nuestras limitaciones como grupo humano en la medida en que nos obliga a pensar en ciertos mecanismos automáticos de sumisión. Esos que tienen que ver con la domesticación de la persona. Me propongo confrontar los automatismos de la obligación social, las inercias de lo implícitamente admitido, con el paradigma de la Inteligencia Artificial de los humanos como punto de apoyo.
Cómo me volví idiota de forma inesperada
El elemento en el que las máquinas nos superan, el campo donde ellas son invencibles es, sin duda, el cálculo. Ahí son infalibles, estamos seguros porque nos fiamos de ellas cuando controlan el tráfico aéreo, asignan citas médicas o dirigen satélites artificiales: su potencia de cálculo nos da una seguridad a la que ya no vamos a renunciar como usuarios y usuarias. Esa derrota de las humanas, aunque admitida, nos deja un fondo de amargura como especie.
Es en este contexto que nos alegramos estúpidamente cuando somos testigos de los errores cometidos por nuestros competidores los artilugios artificiales, y más aún si estos se producen en su propio campo de excelencia, en ese en el que les consideramos expertos. Esa zozobra nos reconforta.
Sucede en ocasiones muy concretas, pero nos hace sentir tan bien, es como alguien extremadamente competente en una materia que mete la zarpa en su propio elemento de modo insospechado. Como el alumno listillo que un día suspende un examen y todos nos reímos. Las máquinas se comportan como de ellas se espera, pero puede suceder que al final del cálculo, de su lista de operaciones, cometan un grueso y elemental error, uno de esos que como humanos no nos perdonaríamos. Cuando esta posibilidad acontece puede que estemos ante un caso de El Problema del Marco.
El flujo de la vida
El problema sobreviene cuando, al final de complejas operaciones, el sistema toma una decisión absurda porque juzga de manera errática la prioridad de los acontecimientos. El Problema del Marco destapa la idiotez absoluta de entidades a las que precisamente necesitamos por su precisión y su capacidad de cálculo. ¿Dónde nos hemos equivocado?, se preguntará el diseñador de sistemas inteligentes ¿por qué mi gestor de conocimientos universal toma decisiones absurdas como administrar plaguicida a una de las lechugas de mi invernadero a la que hace ya una semana dejaron seca las orugas?
Una de las áreas que mayor relevancia adquiere en este contexto es la Representación del Conocimiento: para que nuestra entidad artificial pueda tomar decisiones ha de disponer de una base de conocimiento suficiente sobre la realidad del marco en el que se va a mover. Así que nuestra tarea ha de ser elaborar una descripción de ese conocimiento y transmitirlo al robot de forma efectiva. Un sistema inteligente es un gestor de conocimientos y un programador es un administrador de ese conocimiento. La cantidad y la forma en que se le proporcione determinará su conducta, que deberá representar en todo caso un conocimiento diferente al que se le inoculó.
Los intentos por superar las dificultades señaladas arriba se basan en considerar la realidad como un flujo de información. Los seres humanos, en tanto entidades que interactúan con un entorno (con un marco), ejecutamos centenares de operaciones de forma automática a medida que esa interacción tiene lugar: al entrar en una habitación elaboramos un diagnóstico sobre aspectos tales como la temperatura de la estancia, la luz, la distancia entre los objetos, los huecos libres, la consistencia de las cosas. A partir de ese momento prestamos atención a la evolución en el tiempo de las características de ese diagnóstico inicial: cambios en la disposición de las cosas, en el estado o la composición de la materia, en la aparición de nuevas entidades, en el humor de los otros humanos… Es sobre esta corriente de información sobre la que una Inteligencia Artificial debe elaborar nuevos diagnósticos y actualizar sus creencias.
Cualesquiera reglas de cambio que puedan programarse en una Inteligencia Artificial deben considerar inferencias de la forma si esto es verdadero en este momento entonces aquello es verdadero en aquel momento. La base del Problema del Marco es que la parte que dice si esto es verdadero puede llegar a ser tan grande que no tenga ningún uso práctico. Es decir: el flujo de la vida es potencialmente infinito.
Por ejemplo, si queremos ser precisos con nuestras predicciones, para inferir que una bola que rueda en cierta dirección continuará haciéndolo debemos verificar que no hay vientos fuertes, que nadie va a coger la bola, que la bola no consiste en explosivos que vayan a explotar al momento siguiente… y podemos continuar la lista hasta hacerla arbitrariamente ridícula. O bien, cuando apretamos el gatillo de una pistola, querríamos predecir que seguirá un ruido intenso, pero estrictamente hablando hay una gran cantidad de factores que deben ser verificados: que el revólver tenga un disparador, que las balas no estén hechas de algodón, que haya aire para llevar el sonido.
Viviendo juntos
La experiencia física una vez más muestra sus limitaciones: los casos más interesantes son aquéllos que tienen que ver con la interacción entre seres, con los pactos implícitos de la vida en sociedad. El Problema del Marco puede estar apuntando en el contexto de lo social a vivencias que devienen dramáticas.
El mecanismo de cierre de las puertas del metro es un buen ejemplo: imaginemos una madre empujando un carrito de bebé al tiempo que toma de la mano a un niño no mayor de seis años. Para el sistema de control de cierre de puertas no hay diferencia operativa entre este sujeto dramático y, pongamos, un grupo que entra en el metro a la carrera. El conocimiento que motiva su acción no distingue entre las posibilidades de ambos: diez segundos y activo el mecanismo de cierre. Del mismo modo podemos pensar en un sistema inteligente encargado de adjudicar ayudas de la asistencia social y que propone como beneficiaria de cinco de las siete disponibles a la misma familia o a un dispensador electrónico de dosis de un cierto medicamento que considera el peso y la edad, pero no el hecho de que la paciente esté embarazada o le falten las dos piernas. El resultado de la operación convierte inmediatamente a esos gestores de conocimiento en basura cibernética.
En la película I.A. de Steven Spielberg hay una escena en la que el hijo artificial juega a hacer amiguitos humanos integrándose en sus bromas al borde de una piscina, juegan a empujarse unos a otros al agua. El niño biónico, en su intento por comprender la génesis y elaboración de la idea de juego en los humanos, transforma con su torpeza ese juego en una tragedia doméstica. Nos ha sucedido alguna vez a todos y a todas: una broma, sacada de contexto, puede devenir en conflicto. Es precisamente cuando utilizamos la expresión sacar de contexto cuando estamos haciendo referencia a una actualización inadecuada de las condiciones del marco en el que la broma tiene lugar.
El menos común de los sentidos
Para comprender cómo es posible que los sistemas inteligentes se queden fuera de lugar en cálculos en apariencia elementales hemos de pensar en la parte del diagnóstico sobre el marco operacional que los humanos hacemos de forma instantánea. Es lo que se denomina el conocimiento de sentido común o conocimiento de la realidad consensuada. Hay algo que no puede programarse (afortunadamente diríamos): un conocimiento que no tiene representación en base de datos alguna, un saber automático y privativo de la especie humana en tanto gestora del conocimiento. El problema al que se enfrentan los recopiladores de datos es que no puede programarse el sentido común.
Sea lo que sea el sentido común lo que parece claro es que nosotros lo usamos y que, del mismo modo que el hecho de que emerjan cualidades en un sistema compuesto aparece en nuestro historial evolutivo, pero no en el de las máquinas. Alguien dirá que el sentido común no es el mismo aquí que en Pakistán o en Tanzania. Seguro que no, lo que aquí importa es el reconocimiento y la posibilidad de sistematización de lo que no necesito aprender para tomar decisiones en un contexto de actividad humana organizada. Ése es el reto de la Inteligencia Artificial en el contexto de la resolución del Problema del Marco.
Haz el favor de comportarte
Mientras que lo expuesto hasta aquí supone una presentación del problema, una introducción breve a uno de los paradigmas de la Filosofía de la Mente en relación con la Inteligencia Artificial, lo que sigue es una forma de poner en cuestión las bases del problema desde una perspectiva subversiva. Porque opino que el consenso social es condición de existencia de la dominación y que ciertos rasgos propios de la realidad consensuada conllevan alguna idea de domesticación.
La vida en sociedad significa la observación de reglas y normas en ocasiones no escritas, sobrevivir entre semejantes supone contemplar un marco operacional donde un pedazo importante de los mecanismos de interpretación de la realidad viene dado por defecto. Es ese subconjunto de lo posible que contiene las instrucciones que nos permiten etiquetarnos como sujetos asimilados: a medida que ese pedazo se agranda nuestra capacidad de intervención sobre el marco disminuye.
Sin embargo, la instauración del comportamiento social, del consenso automático, no responde como podría creerse a una motivación solidaria o de fortalecimiento del apoyo mutuo. El diseño de artefactos inteligentes de los que cada vez más interactúan con la especie humana viene condicionado por objetivos nada inocentes, más bien se orientan a facilitar la perpetuación del sometimiento del ser humano por el ser humano.
Propongo por lo tanto pensar de otro modo. Propongo hacernos preguntas como: ¿qué parte de lo que se conoce como realidad consensuada responde a necesidades propias del sistema capitalista de producción? ¿Qué margen nos deja eso? ¿En qué consistiría una base de conocimiento no sometida al funcionamiento social de las reglas de mercado? ¿Cómo diseñar una entidad artificial que nos haga más libres?
En ocasiones el conocimiento de sentido común señala justamente a lo que no puede cambiarse sin alterar la estructura de dominación. Está en nuestra mano filtrar su contenido aleccionador, su autoritarismo implícito porque no toda base de conocimiento sobre la que interpretar el flujo de la realidad ha de conllevar la perpetuación de la injusticia. Más bien al contrario: en cuanto cuestionamos sus paradigmas estamos en condiciones de imaginar nuevos marcos.
Este artículo se publicó en el Libre Pensamiento nº 116, invierno 2024
