De un tiempo a esta parte se ha popularizado, hasta cierto punto, el uso de la conocida como Inteligencia Artificial. Al tiempo, existe cierto debate sobre si su uso puede ser o no beneficioso para las personas.
Conviene, como siempre, acotar aunque sea mínimamente los términos para saber de qué tratamos. La IA es una tecnología que imita, o trata de imitar, la inteligencia humana, es decir, nuestro modo de entender las cosas, de analizarlas, de resolver problemas, de sacar conclusiones… De hecho, en cualquier búsqueda en internet sobre qué es y cómo funciona la IA, la palabra que más encontramos es ‘aprender’. ¿Y cómo aprenden estas máquinas? Analizando datos en cantidades ingentes. Los datos son la gasolina de las máquinas de inteligencia artificial. Por eso su desarrollo ha corrido en paralelo a lo que conocemos como Big Data. Estos datos son procesados con potentes algoritmos que determinarán el funcionamiento de cada IA, pues, como sabrán, no hay una sola. Por tanto, quien implemente estos algoritmos es quien le marcará las pautas de comportamientos a la máquina. Este es, sin duda, uno de los mayores peligros de la Inteligencia Artificial: la arbitrariedad.
Así pues, la IA analiza datos mediante un/unos algoritmos y establece patrones, recordando éstos y así aprendiendo. Ahora bien, la máquina como tal no aprende. Aprender significa tener la capacidad de entender o comprender1. Más bien lo que hace es recordar —almacenar información, en definitiva—, analizar datos y establecer relaciones causa-efecto, pero siempre condicionadas por el algoritmo base.
Pero, más allá de los aspectos técnicos, lo que importa aquí es el aspecto ético que implica el uso de la Inteligencia Artificial y las dudas que plantea.
Ética de la IA
Imaginemos que es usted, apreciado lector, un padre de familia y que tiene una pistola. Alguien con las peores intenciones entra en su casa, donde descansan su mujer e hijos, y usted, con buen criterio, le pega un tiro. Imaginemos ahora que usted, padre de familia, tiene una simple discusión de tráfico y, con mal criterio, le pega un tiro al otro conductor. ¿La pistola es buena o es mala? Pues ni una cosa ni la otra; depende del uso que se le dé. Lo mismo pasa con la IA, a grandes rasgos. No se puede absolutizar.
Ahora bien, hay una serie de cosas que, sin lugar a dudas, deben ponernos en alerta ante el desarrollo de la IA. Habría que pensar, primeramente, en qué fines persigue su desarrollo.
En primer lugar, su uso generalizado va a conseguir que no se tenga que hacer el menor esfuerzo para tener conocimiento de ciertas cosas; traducido, se va a fomentar la cultura del mínimo esfuerzo. Estudiar, conducir, pensamiento abstracto, creatividad… Alguien malpensado sospecharía que quieren que seamos cada día más inútiles.
En segundo lugar, se está alejando al hombre de su propia naturaleza. Santo Tomás de Aquino definía a la persona como sustancia individual de naturaleza racional. Es decir, lo propio del ser humano es el raciocinio, es lo que nos distingue de las bestias. Si se produce una merma en esta capacidad, pues, podemos aseverar que se produce un mal objetivo.
En tercer lugar, se va a producir, en la línea de las últimas décadas con la exposición en las redes sociales y el uso de teléfonos móviles, una pérdida de privacidad aún mayor si cabe de la ya producida.
En cuarto lugar, la ya mencionada arbitrariedad en la implementación de los algoritmos de IA supone un gran peligro, pues facilitará enormemente el control social y político, permitiendo la criminalización de aquellos que no comparten los postulados de las élites y su marginación y/o anulación civil y favoreciendo a los afines.
Y en quinto lugar, si la arbitrariedad da miedo, la autonomía absoluta de las máquinas da más miedo aún. Cualquiera podría pensar que hemos enloquecido viendo Terminator, pero no. Lo cierto es que se investiga en el desarrollo de máquinas con conciencia de sí mismas. Sólo por mero interés especulativo adjuntaremos al final de este escrito unos párrafos de ‘La sociedad industrial y su futuro’, de Theodore Kaczynski, más conocido como Unabomber, donde reflexiona sobre esto. Lo cierto es que, objetivamente, es imposible predecir qué pasaría en caso de que finalmente se desarrollase ese tipo de tecnología.
Podríamos continuar, pero lo dicho parece ya suficiente para ponerse en guardia ante la IA.
La cuestión de fondo es si el hombre tiene que hacer todo lo que puede hacer. Dejaremos que Nicolás Gómez Dávila responda por nosotros: «El hombre tiende a ejercer todos sus poderes. Lo imposible le parece el único límite legítimo. Civilizado, sin embargo, es el que por razones diversas se niega a hacer todo lo que puede». El hombre, pues, no puede obrar sin criterio. No sin lamentar las consecuencias, al menos.
Dudas sobre el uso de la IA
Convendría plantearse una serie de preguntas: ¿No es paradójico que, cuanto más nos hablan del cambio climático, de conservar la naturaleza, de no contaminar, de no comer carne, del exceso de población, de lo saludable, etcétera, se potencie precisamente la inteligencia artificial? ¿No será más bien que las élites oligarcas quieren acabar con el pensamiento crítico, es decir, con la verdadera inteligencia? ¿No nos hará la IA, a la larga, dependientes de ella y por tanto menos libres? ¿No nos hace la IA menos hombres privándonos de nuestra razón y de nuestra capacidad de decisión? ¿No nos hace también menos responsables? ¿Se aleja el hombre de Dios para librarse absurdamente en brazos de máquinas inteligentes? Piénsenlo, antes de que una máquina lo haga por usted.
Y acabamos, si nos lo permiten, citando una vez más al bueno de Gómez Dávila: «Un mundo tecnificado no es tanto testimonio del éxito de la técnica como de la bancarrota de la inteligencia».
Lo Rondinaire
La sociedad industrial y su futuro (Theodore Kaczynski)
EL FUTURO
171. Pero supongamos ahora que la sociedad industrial sobrevive las próximas décadas y que los microbios a la larga salen del sistema, por lo que funciona suavemente. ¿Qué clase de sistema será? Consideremos algunas posibilidades.
172. Primero permítenos postular que los científicos de ordenadores son afortunados desarrollando máquinas inteligentes que pueden hacer todo mejor que los seres humanos. En ese caso presumiblemente todo el trabajo lo harán enormes sistemas de máquinas altamente organizadas y no será necesario ningún esfuerzo humano. Cualquiera de los dos casos puede ocurrir. Se puede permitir a las máquinas que tomen sus propias decisiones sin supervisión humana o se puede retener el control humano de las máquinas.
173. Si se permite a las máquinas tomar sus propias decisiones no podemos hacer ninguna conjetura hasta los resultados, porque es imposible adivinar como se comportarán. Sólo señalamos que la suerte de la raza humana estará a su merced. Se puede argumentar que nunca será tan estúpida como para entregar todo el poder a las máquinas. Pero no estamos sugiriendo que la raza humana voluntariamente transfiera el poder a las máquinas ni que estas se apoderen de él deliberadamente. Lo que sugerimos es que fácilmente se permita derivar a una posición de tal dependencia que no tendría elección práctica sino aceptar todas sus decisiones. Como la sociedad y los problemas con que se enfrenta se vuelven más y más complejos y las máquinas más y más inteligentes, la gente dejará que tomen cada vez más decisiones por ellos, simplemente porque éstas conducirán a mejores resultados que las hechas por los seres humanos. A la larga se puede alcanzar una etapa en que las decisiones necesarias para mantener el sistema en marcha serán tan complejas que los seres humanos serán incapaces de tomarlas inteligentemente. En esa etapa las máquinas poseerán el control efectivo. La gente no podrá simplemente apagarlas, porque tendrán tal dependencia que desenchufarlas equivaldría al suicidio.
174. Por otra parte es posible que se conserve el control humano sobre las máquinas. En ese caso el hombre medio puede tener control sobre ciertas máquinas propias, tales como su coche o su ordenador personal, pero el control sobre grandes sistemas de máquinas estará en las manos de una minúscula élite simplemente como es hoy, pero con dos diferencias. Debido a la mejora de las técnicas la élite tendrá mayor control sobre las masas y, como no será necesario por más tiempo el trabajo humano, las masas serán superfluas, una carga inútil en el sistema. Si la élite es despiadada, simplemente decidirán exterminarlas. Si son humanos, pueden usar propaganda u otras técnicas psicológicas o biológicas para reducir la tasa de nacimiento hasta que se extingan, dejando el mundo a la élite. O, si ésta consiste en liberales bondadosos, pueden decidir desempeñar el papel de buenos pastores del resto de la humanidad. Para esto, se encargarán de que todo el mundo satisfaga sus necesidades físicas, que todos los niños se críen bajo condiciones psicológicamente higiénicas, que todo el mundo tenga una afición sana para mantenerlo ocupado y que cualquiera que pueda estar insatisfecho reciba un «tratamiento» para curar su «problema». Por supuesto, la vida estará tan vacía de sentido que la gente tendrá que estar diseñada biológica o psicológicamente, ya sea para extirpar su necesidad por el proceso de poder o para hacerlos «sublimar» su impulso por el poder en una afición inofensiva. Estos seres humanos diseñados pueden ser felices en tal sociedad, pero desde luego la mayoría no serán libres. Habrán sido reducidos a la categoría de animales domésticos.
175. Pero supongamos ahora que los científicos de ordenadores no son afortunados desarrollando la inteligencia artificial, por lo que el trabajo humano seguirá siendo necesario. Aun así, las máquinas cuidarán de cada vez más tareas simples por lo que habrá un excedente de trabajadores humanos en los niveles más bajos de habilidad. (Vemos que esto ya está pasando. Hay bastante gente que encuentra difícil o imposible encontrar un trabajo, porque por razones intelectuales o psicológicas no pueden adquirir el nivel de entrenamiento necesario para hacerse útiles en el presente sistema). Para aquellos que están empleados las exigencias irán siempre en aumento: necesitarán más y más entrenamiento, más y más habilidad, y tendrán que ser incluso más fieles, conformistas y dóciles, porque serán cada vez más como células de un organismo gigante. Sus tareas serán cada vez más especializadas, por lo que su trabajo estará, en un sentido, fuera de contacto con el mundo real, estando concentrados en una minúscula porción de realidad. El sistema tendrá que usar cualquier medio que pueda, sea psicológico o biológico, para diseñar a la gente para ser dócil, para tener las habilidades que requiera el sistema y «sublimar» su impulso por el poder en alguna tarea especializada. Pero la afirmación de que la gente de tal sociedad tendrá que ser dócil puede requerir reservas. Esta puede encontrar útil la competitividad, siempre que se encuentren maneras de dirigirla dentro de canales que sirvan a las necesidades del sistema. Imaginamos una sociedad futura en la que hay una competición inacabable por la posición de prestigio y poder. Pero muy poca gente alcanzará la cima, donde está el verdadero poder. Una sociedad en la cual una persona puede satisfacer su necesidad de poder sólo empujando a gran cantidad de otra gente fuera del camino y privándolos de su oportunidad por el poder es muy repugnante.
176. Uno puede imaginar escenarios que incorporen aspectos de más de una de las posibilidades que acabamos de tratar. Por ejemplo, puede ser que las máquinas se encarguen de la mayoría del trabajo que sea de importancia real y práctica, pero que se mantengan ocupados a los seres humanos dándoles trabajos relativamente triviales. Se ha sugerido, por ejemplo, que un gran desarrollo de las industrias de servicios puede dar trabajo a los seres humanos. Así, la gente pasaría su tiempo limpiándose los zapatos unos a otros, llevándose unos a otros en taxi, haciéndose artesanía, esperando en la mesa de otros, etc. Nos parece una manera profundamente despreciable de terminar, y dudamos que mucha gente encuentre su vida realizada en tal atareado trabajo sin sentido. Buscarán otras peligrosas salidas (drogas, crimen, «cultos», grupos de odio) a no ser que estén diseñados biológica o psicológicamente para adaptarse a semejante clase de vida.
177. Huelga decir que los escenarios arriba esbozados no agotan todas las posibilidades. Sólo indican la clase de resultados que nos parecen más probables. Pero podemos imaginar escenarios inverosímiles que son más aceptables que los que acabamos de describir. Es arrolladoramente probable que, si el sistema tecnológico-industrial sobrevive los próximos 40 a 100 años, habrá desarrollado para ese tiempo ciertas características generales: las personas (al menos aquellas del tipo «burgués», que están integradas en el sistema y lo hacen funcionar y quienes, por lo tanto, tienen todo el poder) serán más dependientes que nunca de las grandes organizaciones, estarán más «socializados» que nunca y sus cualidades físicas y mentales a una extensión significativa (posiblemente a una muy grande) serán aquellas diseñadas para ellos antes que el resultado del azar (o la voluntad de dios, o lo que sea); y lo que quede de naturaleza salvaje será reducido a restos preservados para el estudio científico y mantenidos bajo la supervisión y dirección de estos (por lo tanto no será nunca más verdaderamente salvaje). A la larga (digamos a pocos siglos de ahora) es probable que ni la raza humana ni ninguno de los otros organismos importantes existan tal y como los conocemos hoy, porque una vez empiezas a modificar organismos a través de la ingeniería genética no hay razón para parar en ningún punto en particular, por lo que las modificaciones probablemente continuarán hasta que el hombre y otros organismos hayan sido transformados completamente.
178. El caso puede ser cualquier otro, pero es seguro que la tecnología está creando un nuevo ambiente físico y social radicalmente diferente al espectro de medios a los que la selección natural ha adaptado a la raza humana física y psicológicamente. Si el hombre no se adapta a ese nuevo ambiente, siendo rediseñado artificialmente, entonces lo hará a través de un proceso largo y doloroso de selección natural. Lo primero es bastante más probable que lo segundo.
179. Sería mejor deshacerse de todo el fétido sistema y aguantar las consecuencias.
NOTAS
- Definición de la RAE ↩
