Instituto John Henry Newman, Universidad Francisco de Vitoria

Cuando el código binario nos hable como hombre

A. C.

La inteligencia artificial es un tema muy mediático y un claro filón que explota el mundo del cine con películas como “2001:Una odiosea en el espacio” o “Transcendece”, última película en ahondar sobre los límites morales y físicos de este campo de estudio tan reconcomido agrandes rasgos  por el gran público pero de por sí tan poco asimilado en profundidad como para hablar sobre el tema abiertamente, para ello hablamos con  Juan Jesús Álvarez Álvarez, profesor agregado del departamento de formación humanística de la Universidad Francisco de Vitoria,  centro en el que ha impartido, entre otras, las asignaturas de Antropología, Ética General y Filosofía Fundamental y autor del libro “Aproximación a la crítica a la inteligencia artificial: Claves filosofías y prospectivas de futuro” que   ahonda sobre esta temática, a la vez que apunta las prospectivas hacia las que parece dirigirse el futuro de las tecnologías «inteligentes» y su influencia en la visión que el ser humano tiene de sí mismo.

Según su libro…

“De lo dicho podemos entresacar una importancia lección: todo indica que de la actividad mental humana lo único que se puede emular por parte de la IA es el razonamiento deductivo, no tanto el inductivo (y menos aun el analógico)"

¿Por lo tanto una fluida deducción es lo máximo a lo que aspiran los programadores de IA?

Juan Jesús Álvarez Álvarez: Bueno, creo que, tal y como la pregunta está formulada, resulta algo ambigua. Además, la frase que usted recoge efectivamente de mi libro está sacada de su contexto y requiere, por tanto, de alguna explicación. Empecemos por este último punto. Lo que quiero decir con ella es que el razonamiento deductivo parece ser la única actividad mental humana que la IA puede aspirar a emular con cierta fidelidad, no sólo desde el punto de vista operativo o de sus resultados (ámbitos en los que en muchos casos las máquinas ya nos han superado) sino, en cierto modo, desde la perspectiva –digámoslo así- de su naturaleza. Digo “en cierto modo” porque en el ser humano el razonamiento deductivo nunca se da en estado puro ni la lógica empleada es única y exclusivamente formal: incluso en este ámbito trabajamos con preconcepciones, significados múltiples y referencias que forman parte no sólo de lo que pensamos sino de lo que a fin de cuentas somos en interacción con los otros, con nuestra historia y con el medio en que vivimos. Dos ejemplos quizás puedan ayudarnos a entender lo que digo. Es obvio que, al menos algunos ordenadores especialmente programados al efecto, parecen habernos superado ya en el ajedrez: son mucho más consistentes y contienen una cantidad de información imposible de alcanzar por el cerebro humano que les permite anticiparse sin error a los movimientos del adversario obteniendo una ganancia material que acaba dándoles la victoria. Pero como ha indicado Penrose, eso no significa que el ordenador tenga idea ni conocimiento global alguno acerca del juego, ni que de hecho emplee las mismas estrategias que nuestra inteligencia. Algo parecido podría suceder –es mi segundo ejemplo- con las matemáticas: quizás el rigor y la eficacia con los que los ordenadores son capaces de trabajar en este campo ni siquiera sea el resultado de matemáticas verdaderas sino –como ha advertido Roszak- de una “tosca caricatura mecánica del funcionamiento de la mente matemática”. Dicho de otro modo: su eficacia procedimental puede no tener que ver en modo alguno con nuestro pensar real (que incluye como algunos de sus ingredientes fundamentales la capacidad de invención y la intuición).

A fortiori, respecto de los razonamientos inductivo y analógico, las dificultades son, en mi opinión, insuperables, aunque obviamente los investigadores en IA (en especial los defensores de lo que Searle denominó “versión fuerte”) no sólo no estarían de acuerdo conmigo sino que creen estar legitimados para aspiraciones incluso mucho más ambiciosas que algún día –nos dicen desde hace décadas- cambiarán tanto la faz de la tierra (algunos osan hablar incluso en clave cósmica) como al hombre mismo.

¿LA IA débil (simulación de pensamiento a través de programación avanzada) debe ser el límite para evitar crear que maquinas piensen sin conciencia?

Yo no utilizaría esos términos. Si mi libro aboga por la IA débil no es sólo porque  advierta de las implicaciones y peligros inherentes a la IA fuerte, sino porque me parece que esta última está orientada y estimulada por falsas promesas, y porque sus reflexiones a menudo carecen del rigor debido y están, en mi opinión, llenas de prejuicios infundados que se dan por supuestos y que, no obstante, le resultan imprescindibles para llevar a cabo su tarea.

La desaparición del horizonte ético en el amanecer de la IA ¿Es la ética un deber exigido en este campo sobre todo para sus programadores?

Diría que, en general, hay una dimensión moral inherente al ser humano que nunca puede ni debe ser obviada, sobre todo cuando se trata de investigaciones que –se quiera o no- nos afectan de manera sustancial. Desde este punto de vista, la IA es sólo uno entre otros muchos campos, aunque hoy quizás especialmente significativo. Además, lo ideal sería que la reflexión ética no fuera algo exigido desde fuera sino que surgiera de la atención que los investigadores pueden y deben prestar a su propio ser. Sin embargo, no soy demasiado optimista en este punto pues cuando se trata de ciencias o de tecnologías que avanzan con rapidez y parecen prometer el cumplimiento cercano de expectativas que hace poco parecían inverosímiles, pedir un momento de reflexión suele ser interpretado como algo propio de agoreros enemigos del progreso.

¿La “explosión combinatoria” es una limitación infinita?

Como explico en el libro, la llamada “explosión combinatoria” es una limitación de hecho, una cuestión empírica, una dificultad que sólo el tiempo dirá hasta qué punto es salvable o no y en qué medida. Si me pregunta mi opinión, le diré que probablemente esta limitación sea superable con el progreso técnico en los materiales o en la arquitectura de los programas.

La I.A. al simular la concepción de la experiencia, la memoria y pensamiento intimo… ¿Simulan nuestra originalidad?

No me parece una mala forma de expresarse. Por lo demás, me resulta difícil de entender la extraña tendencia –especialmente patente hoy en día- que consiste en intentar homologar al resto de los animales o a las máquinas con el ser humano elevando de categoría a aquellos o rebajando a éste, sobre todo porque –a menudo- esa pretensión se apoya en simples presunciones e interpretaciones reduccionistas que en absoluto prueban lo que se dice. Es curioso que, a pesar de que muchos investigadores manifiestan su rechazo o indiferencia respecto de la filosofía y abogan por planteamientos puramente científicos, al final pocos consiguen evitar la tentación de difundir sus interpretaciones filosóficas (no pocas veces teñidas de ideología) como conclusiones exclusivamente científicas y, por tanto, a su parecer irrebatibles. Y los que lo consiguen, rara vez son conscientes por desgracia de que sus planteamientos obedecen en realidad a presupuestos de índole filosófica, por ejemplo pragmatistas.

Libre albedrio. ¿Inexistente en el hombre y más aún en la maquina?

Aunque en el libro no trato de este importantísimo asunto con detenimiento (me hubiera llevado demasiado lejos), yo sí creo que el ser humano goza de libre albedrío. Eso no significa que nuestro libre arbitrio sea ilimitado y que no esté lleno de condicionamientos de diverso cariz, pero al menos en determinadas circunstancias esos factores pueden ser superados o limitados en su fuerza. Cada uno de nosotros, en realidad, sabe y experimenta con certeza cuándo nos compete (y hasta en qué medida lo hace) la responsabilidad que acompaña a algunas de nuestras decisiones y acciones. Disociar el concepto de libre albedrío de esta experiencia bajo la pretensión de analizar aquel de manera pretendidamente aséptica no sólo es ilusorio sino que es erróneo: ¿qué quedaría de la libertad si la abstraemos de su ejercicio y de la experiencia que lo acompaña?

En cuanto a las máquinas, aunque algunos filósofos de la IA defiendan una posición compatibilista (lo que significa que el determinismo y el libre arbitrio no tienen por qué ser necesariamente incompatibles), y esa posición permitiría otorgar en su opinión un cierto grado de “libre albedrío” tanto al ser humano como a las máquinas, en el libro defiendo que esa actitud no es otra cosa que un puro voluntarismo: si uno defiende una postura mecanicista, el libre albedrío no tiene cabida. De ahí que, en mi opinión, el hombre –que posee libre albedrío- no puede identificarse con una máquina, y que la máquina no pueda tener libre albedrío.

¿Usurpamos el poder de Dios al intentar crear una morada espiritual para una I.A?

Aunque formulada de otro modo, esa pregunta fue recogida en forma de objeción por Alan Turing, el matemático inglés que pasa por ser el padre de la IA. En un famoso artículo, que muchos consideran el texto fundacional de esta disciplina, respondía a lo que él mismo calificaba como “objeción teológica” a la construcción de máquinas inteligentes, y lo hacía de forma no exenta de cierto sarcasmo pues él no era precisamente un entusiasta de la filosofía o de la teología. Su respuesta era obviamente negativa: lejos de usurpar el poder de Dios, lo que estaríamos haciendo sería cooperar en su proyecto creador “facilitándole” moradas para que él infundiera en nosotros el alma que supuestamente nos permite llevar a cabo las actividades que nos son más propias.

Más allá de que la respuesta evidencia el profundo desconocimiento que Turing tenía acerca de algunas cuestiones filosóficas y teológicas básicas, quizás la pregunta que usted formula pueda ser interpretada en otro sentido. Sartre llegó a decir que el hombre es aquel ser que quisiera ser Dios. Puede que, al menos parcialmente, no se equivoque en su descripción y que esto explique determinadas ambiciones humanas. El problema es que resulta difícil esperar que ese deseo pueda ser satisfecho por el propio hombre, tan difícil como esperar que podamos escapar de unas arenas movedizas en las que nos hemos visto atrapados y nos hundimos tirando nosotros mismos de nuestro cabello.

¿Qué película considera que ha tratado mejor desde un punto de vista didáctico las carencias de la IA debido a nuestras propias limitaciones humanas?

Me resulta difícil contestar a esta pregunta pues no he visto todas las películas relacionadas con este tema. De lo que sí estoy seguro es de que no hay una película que responda al 100% a lo que está planteando. Al fin y al cabo, no creo que la finalidad principal del cine sea didáctica. No obstante, si tuviera que elegir una creo que optaría por Blade Runner, aunque no sea más que porque fue una pionera en este campo y abrió interesantes perspectivas para otras muchas que la siguieron, frecuentemente sin llegar a alcanzar su nivel.

  • facebook (en nueva ventana)
  • twitter (en nueva ventana)
  • linkedin (en nueva ventana)