(Por Carlos Beorlegui) La lectura de los textos del escritor mediático Yuval Noah Harari producen una serie de sentimientos muy enfrentados: van de la admiración a la perplejidad. Admiración: su gran capacidad de síntesis, neologismos muy logrados, aportación de ideas sugerentes y acertadas, tanto respecto al pasado como a nuestro futuro cercano, etc. Pero también perplejidad: presencia de numerosas contradicciones, que no acierto a dilucidar si son conscientes y provocativas, o tan solo expresión de un modo confuso diferente de entender los problemas. Eso ocurre de forma especial cuando el intelectual israelí reflexiona sobre la libertad humana, uno de sus temas recurrentes, que está presente de forma especial en sus trabajos últimos, así como en sus diversas entrevistas a los medios de comunicación.
“La libertad, Sancho, es uno de los más preciosos dones que a los hombres dieron los cielos;
con ella no pueden igualarse los tesoros que encierra la tierra y el mar encubre;
por la libertad, así como por la honra, se puede aventurar la vida y, por el contrario,
el cautiverio es el mayor mal que puede venir al hombre”
(Miguel de Cervantes, El Quijote de La Mancha[1]).
INTRODUCCIÓN
Tengo que reconocer que la lectura de los textos de Yuval N. Harari[2]me producen una serie de sentimientos muy enfrentados: van de la admiración a la perplejidad. Admiración: su gran capacidad de síntesis, neologismos muy logrados, aportación de ideas sugerentes y acertadas, tanto respecto al pasado como a nuestro futuro cercano, etc.[3]
Pero también perplejidad: presencia de numerosas contradicciones, que no acierto a dilucidar si son conscientes y provocativas, o tan sólo expresión de un modo confuso diferente de entender los problemas. Eso me ocurre de forma especial cuando el intelectual israelí reflexiona sobre la libertad humana, uno de sus temas recurrentes, presente de forma especial en sus trabajos últimos [4], así como en sus diversas entrevistas a los medios de comunicación [5].
Es precisamente la lectura de esos textos lo que me ha empujado a realizar un análisis crítico sobre el modo como entiende la libertad humana, su naturaleza y las fuertes posibilidades de que sea manipulada y “hackeada” en un futuro no muy lejano, dados las potencialidades que la infotecnología y la biotecnología están poniendo ya en manos de los humanos para incidir e influir en las decisiones humanas, tanto a través de técnicas de persuasión externa como de manipulación de nuestro interior cerebral y mental. Mi intención en las páginas siguientes se centra en mostrar las limitaciones y contradicciones de su forma de pensar, si las estudiamos a la luz de las aportaciones más lúcidas y consistentes significativas de la historia filosófica sobre la libertad y la filosofía de la mente.
LA LIBERTAD DIFUMINADA
Las tesis de Harari sobre la libertad humana, como ya he señalado, están presentes de forma reiterada y dispersa por sus diferentes escritos, y las ha ido explicitando y concretado en escritos y entrevistas más recientes [6]. Por un lado, nos hace ver que cada vez están más controladas y vigiladas nuestras decisiones, pudiéndose manipular totalmente nuestra libertad, dado el conocimiento que estamos logrando sobre el funcionamiento de nuestros cerebros. Esto le lleva a concluir que nuestra libertad es casi un relato mítico, un autoengaño, construido por el humanismo. Pero no duda, por otro lado, en alertarnos de la necesidad de reaccionar frente a estos peligros, haciendo una llamada a nuestra responsabilidad ética. ¿No resulta esto contradictorio? ¿Podemos mantener un flirteo con el determinismo y apelar al mismo tiempo a la responsabilidad ética?
EL CREPÚSCULO DEL HUMANISMO
En el primer libro de su conocida y mult-ieditada trilogía (Sapiens. De animales a dioses), Harari realiza un rápido e interesante itinerario histórico de nuestra especie, señalando los principales hitos a través de los cuales los humanos hemos ido construyendo nuestra propia identidad y la realidad cultural en la que cada uno vive, pasando de emerger de las especies homínidas anteriores (los australopitecos) a soñar con ocupar el lugar de los dioses.
Fruto de la revolución cognitiva, el homo sapiens no se ha limitado a una simple adaptación al entorno, sino que ha construido un mundo a su medida, a través de las sucesivas revoluciones tecnológicas que ha ido construyendo. Y es eso lo que nos está permitiendo situarnos en un momento histórico singular, a las puertas de una nueva era, la trans-humana, consecuencia de las potencialidades que nos aportan las biotecnologías, la inteligencia artificial y la construcción de seres completamente inorgánicos, robots con cualidades similares a las humanas.
De este modo, el ser humano habrá conseguido superarse a sí mismo, habrá roto sus propios límites, y habrá empezado a conseguir el sueño prometeico de alcanzar la morada de los dioses, sueño que persiguen los humanos desde la antigüedad (el mito de Prometeo), pero que sólo ahora contamos al parecer con los instrumentos necesarios y adecuados para conseguirlo.
En Homo Deus, su segundo libro, nos presenta los grandes retos que los humanos parece que estamos tocando con los dedos en un futuro ya muy cercano: alargar la vida y vencer a la muerte (ser amortales[7]),perseguir la felicidad y conseguir llegar a ser dioses. Es la consecuencia del vertiginoso avance de las nuevas tecnologías, que nos llevan a la era post-humana o trans-humana, sin que tan siquiera podamos frenar esta tendencia. Lo curioso es que, con la consecución de estos logros, Harari nos asegura que se está produciendo el resultado contrario: la centralidad de la humanidad que ha defendido el viejo humanismo, está llegando a su fin.
El humanismo lleva dentro su propia autodestrucción
De este modo, la tesis básica de este libro es que el humanismo, que se había constituido en una especie de religión dominante en la historia reciente de nuestra especie, lleva en su interior larvada su propia destrucción y desintegración (p. 81). Pero no hay que preocuparse, nos dice Harari, porque esto de ninguna manera supone una catástrofe sino algo beneficioso para todos, además de inevitable.
Debido a nuestra inteligencia y a la capacidad de transformar el entorno ambiental para construir los diversos mundos culturales que han conformado la historia humana, nos hemos creído siempre superiores a los demás seres vivos, creyendo que ocupa de alguna manera el centro del universo. No en vano nos creemos poseedores de una chispa especial, el alma, concepción que, según nuestro autor, se han encargado de echar abajo los diversos descubrimientos científicos sobre la mente humana, como veremos más adelante. Con la posesión de una mente tan superdotada, tenemos capacidad de dar sentido al mundo y a nuestra propia realidad, y de ese modo hemos construido los grandes relatos de la historia, basados en la centralidad y el superior valor y dignidad de los humanos (no otra cosa es el humanismo).
Pero este extraordinario desarrollo de nuestra inteligencia nos ha llevado a un enfrentamiento entre las dos instancias que, en la actualidad, según Harari, ejercen de fuentes de sentido: las religiones y las ciencias. Ahora bien, frente a quienes consideran que ambas perspectivas son radicalmente contrarias e incapaces de complementarse, Harari entiende que, debido a la colaboración y al pacto de ambas, se ha construido la ideología humanista, aunque también es cierto que “bien pudiera ser que el contrato entre la ciencia y el humanismo se desmoronara y diera paso a un tipo de pacto muy diferente entre la ciencia y alguna nueva religión posthumanista” (pp. 223-224).
Estaríamos, por tanto, a las puertas del desmoronamiento de ese pacto que ha cimentado la hegemonía del humanismo, el mito de la centralidad de lo humano. Bien es verdad que el humanismo se ha entendido de múltiples formas (liberalismo, socialismo y nacionalismo), pero es evidente que está siendo ya superado como consecuencia de sus propias y extraordinarias potencialidades, de tal forma que en la actualidad está perdiendo el control sobre sus propias obras. Para Harari, de las tres formas de entender el humanismo, la versión liberal es la que domina actualmente nuestro mundo.
El sistema capitalista se ha impuesto en la mayor parte de la geografía planetaria, teniendo como eje central la libertad política y económica. Pero la propia dinámica del liberalismo capitalista le está llevando a su obsolescencia y superación, puesto que, según nos dice, nos estamos dando cuenta de que el libre albedrío ya no existe, se trata de un autoengaño.
Para Harari, la toma de conciencia de la superación de la libertad se produce de varios modos: a través de la infotecnología, en la medida en que son las máquinas inteligentes las que nos suplantarán en la toma de decisiones que antes realizábamos nosotros (o así lo creíamos), y a través del avance de la genética y de las neurociencias, que nos hacen ver que las decisiones que creíamos libres, no son más que una serie de conexiones neuronales que son las que deciden, al margen del yo. Así, estamos fatalmente en manos de algoritmos y de redes neuronales. Ellos son los que deciden, y nos los humanos.
Por tanto, habríamos llegado en la actualidad a la toma de conciencia de que la libertad humana está siendo secuestrada, “hackeada” y desmitificada o difuminada, como vamos a ir viendo en pasos sucesivos. Veremos también al final, desde una valoración crítica de estas reflexiones, hasta qué punto la propuesta de Harari está llena de ambigüedades, trampas y contradicciones.
El desmoronamiento de la libertad
Siguiendo, pues, las reflexiones de Harari sobre la libertad humana, nos vamos a detener en analizar tres ámbitos donde, según él, se advierte la crisis o la pérdida de nuestra libertad. En primer lugar, asistimos a un progresivo secuestro de nuestra libertad, en la medida en que nos encaminamos a un tipo de sociedad en la que, desde instancias externas a nosotros mismos, se nos está sustrayendo progresivamente la capacidad de decidir. Es el triunfo de los algoritmos.
En segundo lugar, la libertad está siendo “hackeada”, por medio de la infotecnología, sobre todo con la implantación de robots y del uso de máquinas inteligentes, que nos ayudarán a tomar nuestras decisiones, puesto que poseerán más datos de nosotros que nosotros mismos, con lo que será una cosa muy positiva que las máquinas nos suplanten en la toma de todo tipo de decisiones. Pero, de este modo, bastará que otros humanos tengan acceso al funcionamiento de nuestros cerebros, así como a las máquinas inteligentes que nos ayudan, para que pueden “hackear” nuestras mentes y sean los sujetos de nuestras decisiones.
Pero esto nos lleva, en tercer lugar, a descubrir que la libertad puede quedar totalmente negada y desmitificada. El avance de las neurociencias nos está mostrando que, en realidad, la idea de una mente autónoma y libre, la referencia al alma y demás mitos humanistas no son más que invenciones nuestras. La verdad auténtica es que no somos más que una máquina neurológica compuesta y guiada por redes neuronales. De este modo, Harari se adscribe, en el ámbito de la filosofía de la mente, a las tesis de la teoría de la identidad y, y si se es consecuente con ello, al determinismo neurológico, que desmitifica y echa por tierra cualquier idea de libertad y de responsabilidad humanas. Con todo, como veremos, no deja de apelar a la responsabilidad humana ante este horizonte futuro, y de hacernos recomendaciones de tipo ético y sociopolítico.
La libertad secuestrada: el imperio o dictadura de los algoritmos
Hemos visto que el análisis que hace Harari sobre la sociedad humana actual le lleva a constatar que la lucha que se dio en el siglo XX entre las tres grandes ideologías, el fascismo, el comunismo y el liberalismo, ha sido proclamada como vencedora absoluta la tercera, el liberalismo. Pero nos dice también que va creciendo la decepción sobre esta ideología filosófico-política, en la medida en que nos encaminamos hacia una sociedad en la que las libertades individuales están cada vez más recortadas, como nos va mostrando el autor en su tercer libro, 21 lecciones para el siglo XXI.
Desde hace tiempo, los humanos éramos conscientes de la capacidad manipuladora de la propaganda y de los medios de comunicación. Ya muchos intelectuales críticos, sobre todo los teóricos de la primera generación de la Escuela de Frankfurt, tomaron conciencia, desde finales de la primera mitad del siglo XX, de que, al querer escapar del autoritarismo nazi y de la dictadura del proletariado comunista, también el paraíso de las libertades, los EE. UU., no pasaba de ser un modo más sofisticado de engañar, someter y esclavizar las voluntades humanas, de tal forma que constituía una sociedad vigilada, un “mundo administrado” por poderes fácticos camuflados bajo los artilugios de la propaganda.
Las contradicciones de la racionalidad ilustrada
Así, el triunfo de la racionalidad ilustrada estaba llena de contradicciones, en la medida en que se tendía a imponerse en impero de la razón científica, que reducía la racionalidad a mera razón instrumental, olvidándose de las cuestiones que velaban por la emancipación de los humanos [8].
Pero esas manipulaciones son juego de niños comparados con los cambios que están introduciendo en la actualidad las nuevas tecnologías, sobre todo la infotecnología. El internet de las cosas, con el manejo y control de los big data, permite a los poderes económicos, y a quienes controlan las empresas de internet, saber mejor que nosotros mismos nuestros gustos y preferencias, y, por ello mismo, controlarlas. De tal modo que, cuando creemos elegir, son los algoritmos los que realmente lo hacen. Por eso, los individuos vamos tomando conciencia de que son los grandes poderes de las empresas informáticas los que manejan el mundo, sin que al parecer podamos hacer nada por evitarlo. Hasta ahora, pensábamos que los individuos controlábamos de alguna manera a los poderes políticos, a través de las elecciones democráticas.
Pero en la actualidad vamos tomando conciencia de que son los poderes económicos y tecnológicos los que deciden y orientan las grandes decisiones de la historia humana. De este modo, la gente de a pie va experimentando que las nuevas tecnologías no les tienen en cuenta; ante ellas son irrelevantes, siendo, por ello, más grave y más difícil de luchar contra la irrelevancia que contra la explotación [9]. Esta irrelevancia la sitúa Harari en el ámbito económico y militar, en la medida en que la infotecnología, con la presencia de robots inteligentes, dejará como superfluos a muchos trabajadores y ocuparán el lugar de los soldados.
Esto supondrá también la tendencia hacia una sociedad cada vez más desigual e injusta, en la que una minoría tendrá el poder económico, y también el político, y la gran mayoría nos sólo serán explotados por esa minoría, sino que se harán superfluos y prescindibles. Será la expresión más fiel y cruel del darwinismo social, y las diferencias ya no serán sólo de tipo económico, sino que afectarán a aspectos tan importantes como el estilo de vida, o su duración, la atención sanitaria, etc. Así, “la época de las masas habrá terminado” [10], para irse constituyendo una humanidad de élites residuales en las zonas más pujantes del mundo, que lucharán y se disputarán el poder entre ellas.
Los humanos consumidores en la sociedad del mercado
Ahora bien, la cuestión que ante esto se plantea Harari es si los humanos podemos ser del todo irrelevantes en el entramado económico, porque al fin y al cabo somos los consumidores de los productos del mercado, y si no tenemos poder adquisitivo, recibido a través del sueldo de nuestro trabajo, no podremos comprar y consumir, por lo que las empresas se quedarán sin poder vender sus productos [11]. No cabe duda de que se trata de una dificultad seria. Pero se puede también atisbar, como hemos señalado, una sociedad futura en la que el contingente de los humanos se reduzca de forma significativa, y queden sólo los que pertenezcan a la cadena productiva [12].
Así, el final del humanismo supone para Harari la permanencia de los humanos, pero no de los individuos, en la medida en que no parece tener importancia cada individuo en su irrepetibilidad, sino que los humanos quedamos reducidos a meros entes repetibles de la clase numérica de los humanos, siendo suficiente para el mantenimiento de la humanidad la presencia y el mantenimiento de las diversas élites residuales.
De este modo se impone, según Harari [13], el triunfo de una nueva visión de nuestra realidad vehiculada por las actuales ciencias de lo humano, contribuyendo de este modo al declive total del paradigma del humanismo clásico, basado en tres tesis: la irrepetibilidad de cada individuo (“Yo soy un in-dividuo, es decir, poseo una esencia única que no puede dividirse en ninguna parte del sistema”, p. 359), la libertad (“Mi yo auténtico es completamente libre”, p. 360), y el conocimiento y el acceso exclusivo a la intimidad de mi yo, que nadie puede tener, esto es, la presencia de lo que la filosofía de la mente denomina los qualia(“Puedo conocer cosas acerca de mí que nadie más puede descubrir.
Porque solo yo tengo acceso a mi espacio interior de libertad y solo yo puedo sentir los susurros de mi yo auténtico”, p. 360). Estos presupuestos los están echando abajo los avances de la infotecnología y la robótica, en opinión de Harari, ciencias que nos están haciendo ver que los humanos no somos ni irrepetibles, ni libres, ni poseedores de una mente subjetiva a la sólo cada individuo puede acceder. La conclusión es que nuestra mente puede ser invadida, “hackeada” y sometida.
La libertad “hackeada”
Ya hemos visto que, en un futuro no muy lejano, las máquinas podrán saber de nosotros más datos que nosotros mismos, llegando a controlarnos y a sustituirnos en nuestras decisiones. Esto es así por cuanto “los organismos son algoritmos, y los humanos no son individuos: son “dividuos”. Es decir, los humanos son un conjunto de muchos algoritmos diferentes que carecen de una voz interior o un yo único” (p. 360); por otro lado, “los algoritmos que conforman un humano no son libres.
Están modelados por los genes y las presiones ambientales, y toman decisiones, ya sea de manera determinista, ya sea al azar, pero no libremente” (p. 360). Por ello, las máquinas pueden desde fuera suplirnos y superarnos en las decisiones que tomemos, puesto que “un algoritmo externo puede teóricamente conocerme mucho mejor de lo que nunca me conoceré. Un algoritmo supervisa cada uno de los sistemas que componen mi cuerpo y mi cerebro puede saber exactamente quién soy, qué siento y qué deseo. Una vez desarrollado, dicho algoritmo puede sustituir al votante, al cliente y al espectador” (p. 360).
De este modo, las personas ya no serán vistas como seres autónomos y libres que toman sus propias decisiones, sino que las máquinas nos suplirán y tomarán decisiones sobre nosotros para ayudarnos y mejorarnos. Esto está ocurriendo ya en el terreno de la medicina y en otros muchos campos, a través de la utilización de los big data. “En el hospital ya no somos individuos” (p. 361), nos dice Harari, sino organismos biológicos unidos a otras máquinas que nos analizan, cuidan y operan de una forma más eficaz que si lo hiciéramos nosotros o cualquier otro humano. Son las máquinas las que tomarán decisiones, y ya lo están haciendo, sobre nosotros, sin que nadie se queje por ello. Al contrario, los algoritmos “serán tan buenos a la hora de tomar decisiones por nosotros que sería una locura no seguir sus consejos” (365).
Pero lo mismo ocurrirá en ámbitos como la prevención de enfermedades, el control de la seguridad, y otros entornos de nuestra vida que pertenecen a terrenos de la vida íntima y privada. Esto nos podría llevar, comenta Harari, a situaciones en las que “un deseo similar de mejorar la salud humana podría hacer que la mayoría desmantelemos voluntariamente las barreras que protegen nuestros espacios privados y permitamos que las burocracias del Estado y las compañías internacionales accedan a nuestros recovecos más íntimos” (366).
De este modo, si concedemos a Google y a sus competidores en el ámbito de internet el acceso a todos nuestros datos, públicos y privados, no tendríamos que hacer más que consultar a esas compañías para que tomen las decisiones por nosotros (en todos los campos de nuestra vida: salud, estudios, trabajo, elección de pareja, votaciones políticas, e incluso creencias religiosas), ya que están mucho mejor informados que nosotros mismos.
Por qué tener miedo a ello, podríamos preguntarnos, por qué no ceder gustosamente nuestra libertad, ya que tienen muchos más datos que nosotros para suplirnos en la toma de las decisiones más adecuadas. Por tanto, se ve claro que el liberalismo, basado en la idea humanista del individuo irrepetible, libre y dueño de sus decisiones, está siendo superado por el dataísmo, la religión del futuro, según Harari.
El historiador israelí advierte que, ante este panorama, hay quienes se horrorizan y hay también quienes se sienten encantados por esta “transferencia de la autoridad de los humanos a los algoritmos” (p. 377). Pero no debemos preocuparnos por esta deriva, puesto que, según Harari, “el resultado no será un estado policiaco orwelliano”, ya que, “los defensores de la individualidad humana hacen guarda frente a la tiranía del colectivo, sin darse cuenta de que la individualidad humana está ahora amenazada desde la dirección opuesta. El individuo no será aplastado por el Gran Hermano: se desintegrará desde dentro” (pp. 377-378). Se verá claramente entonces que “el individuo no es más que una fantasía religiosa. La realidad será una malla de algoritmos bioquímicos y electrónicos sin fronteras claras, y sin núcleos individuales” (p. 378).
De este modo, tomamos conciencia no sólo de que nuestra libertad puede estar recortada y ser “hackeada”, sino que se nos difumina, al darnos cuenta de que se trata de un autoengaño, un espejismo inventado. ¿Por quién? ¿Podemos nosotros engañarnos a nosotros mismos?
La libertad negada y desmitificada
Comprobamos de este modo que Harari pasa de describir con acierto y brillantez el panorama futuro de la sociedad humana (aunque en las ideas de fondo no es nada original), conformada al parecer por “dictaduras digitales” y desempleados irrelevantes, a tratar de convencernos de que la idea de lo humano apoyada en la autonomía, la irrepetibilidad individual y la libertad responsable, es el mito en el que se apoya el humanismo clásico, auténtica religión de nuestro pasado reciente, vigente todavía en la actualidad. Pensar que somos libres es un autoengaño, que conviene que despertemos cuanto antes de él.
Así, el problema al que nos enfrentamos los humanos no es sólo la manipulación externa de nuestras opiniones, o el que las nuevas tecnologías se metan en nuestro interior y manipulen y “hackeen” nuestras decisiones, sino que nos van a convencer de que nuestras pretensiones de autonomía y libertad son sólo un sueño. En definitiva, estamos determinados por nuestros genes, nuestro cerebro y el entorno ambiental, aunque no sepamos dilucidar en qué proporción intervienen en tal determinación cada uno de estos tres factores.
Es evidente, para Harari, que la libertad es una ilusión, aceptable y comprensible tan sólo en una época en la que se desconocía el funcionamiento de nuestros genes y del cerebro, momento en el que los humanos nos percibíamos como “una misteriosa caja negra, cuyos mecanismos internos trascendían nuestra comprensión” [14]. Por eso, seguir creyendo en el mito de que somos libres sólo se puede entender como consecuencia de nuestra ignorancia. Al igual que, en su momento, se defendió el origen divino del poder y otras creencias superadas, del mismo modo se pensó que los humanos éramos libres. Pero las supuestas acciones libres no son más que impulsos de los sentimientos, y “nuestros sentimientos no son una cualidad espiritual exclusivamente humana y que no reflejan ningún tipo de “libre albedrío”. Por el contrario, los sentimientos son mecanismos bioquímicos que todos los mamíferos y aves emplean para calcular rápidamente probabilidades de supervivencia y reproducción. Los sentimientos no están basados en la intuición, la inspiración o la libertad; están basados en el cálculo” [15].
Si los humanos somos entidades vivas movidas por leyes biológicas, podemos defender que somos más complejos que otras especies inferiores, pero no nos diferenciamos tanto de ellas como para creer que actuamos libremente. Cuando no nos conocíamos tan bien como ahora, resultaba fácil echar mano del mito de la libertad, pero en la actualidad los avances en genética, neurología e informática nos están abriendo los ojos, teniendo que reconocer que la idea de la libertad se nos está disolviendo como un terrón de azúcar. Las aportaciones de las nuevas ciencias nos indican que la creencia en la libertad se ha diluido, atribuyendo la autoría de nuestras acciones al determinismo o la aleatoriedad, “y no han dejado ni una migaja a la “libertad”” [16].
A pesar de los avances de la IA y la robótica, que están llevando a muchos teóricos a defender la extensión de la humanidad a otros entes, pudiéndose implantar y copiar mentes humanas en máquinas inteligentes, de tal manera que podrían llegar a tener conciencia y libertad como los humanos [17], Harari es muy escéptico ante estas propuestas. Considera que es fundamental distinguir entre inteligencia y conciencia. La primera es capacidad de resolver problemas, y la segunda, “la capacidad de sentir dolor, alegría, amor e ira. Tendemos a confundir ambas porque en los humanos y otros mamíferos la inteligencia va de la mano de la conciencia. Los mamíferos resuelven la mayoría de los problemas con los sentimientos. Sin embargo, los ordenadores los resuelven de una manera diferente” [18].
Esta forma de enfocar Harari la comparación entre la inteligencia animal, humana y robótica, tiene la virtud de considerar que la mente humana tiene las virtualidades que posee porque está posibilitada por un cerebro biológico, fruto del proceso evolutivo, a través del cual conecta y recoge las habilidades sensoriales y sentimentales de los mamíferos; de ahí que resulte acertada la distinción entre el modo de comportarse los mamíferos y las máquinas inteligentes.
Pero no acaba de entender lo humano como el resultado de la asunción del proceso evolutivo y el salto emergente de un estilo nuevo de vida, que ha dotado a los humanos de una intelección sentiente y una sensibilidad intelectiva (Zubiri). De este modo, la IA, por muy inteligente que sea, siempre será un producto de la ingeniería humana, y resulta difícil aceptar que llegue a poseer autoconciencia y libertad, al no poseer la base biológica y cerebral que posibilita a los humanos ser dueños del tipo de mente que nos define.
Tres formas diferentes de situarse ante el problema de la libertad
Harari plantea tres formas diferentes de situarse ante este problema [19]: considerar, en primer lugar, que la conciencia sólo puede ser propiedad de cerebros bioquímicos como los nuestros; defender, en segundo lugar, que conciencia e inteligencia pueden ir unidas en los robots; y, por último, pensar que, “no existen conexiones esenciales entre la conciencia y la bioquímica orgánica o inteligencia superior” [20], y así, aunque los ordenadores puedan estar dotados cada vez de mayor inteligencia, nunca llegarán a poseer conciencia.
Harari no se decanta claramente por ninguna de esas posturas, pues considera que necesitamos más avances en informática para saber qué solución es la correcta. De momento, la IA seguirá siendo un mero producto de la inteligencia humana. Por eso mismo, en la medida en que avancemos en las investigaciones sobre IA, no haremos otra cosa más que “fortalecer la estupidez humana”, puesto que serán máquinas que servirán para suplir a los humanos, y herramientas de dominación de las élites triunfadoras sobre el resto de los humanos.
Estas perspectivas de futuro es lo que hacen afirmar a Harari que las nuevas religiones que se están imponiendo, en sustitución del humanismo, son el tecnohumamismo y el dataísmo, la religión de los datos. La primera todavía se aferra, en cierta medida, a la centralidad del humanismo, pero muy mejorado, por medio de los avances de las biotecnologías y la infotecnología. Son los sueños utópicos de los post-humanismos y trans-humanismos, que desean construir especies humanas nuevas, introduciendo mejoras en los humanos actuales, mejoras tanto de tipo genético y biológico, como cognitivo y moral [21].
Pero el tecnohumanismo no tiene mucho recorrido, según Harari [22], puesto que es enfrenta a fuertes dilemas y contradicciones: su presupuesto es que la voluntad humana es el centro del universo, y utiliza sus descubrimientos científicos en hacer un tipo superior de humanos, pero esos mismos avances técnicos nos van mostrando que los humanos somos organismos conformados por datos que se pueden manipular de múltiples formas. Al final, todo queda reducido a datos, a algoritmos, haciendo del dataísmola religión más potente del futuro, la que desbancará al humanismo [23].
De esta forma, nos dice Harari, se invierte la pirámide: antes, los datos constituían el primer eslabón (los mecanismos con los que manipulaban los humanos las cosas), mientras que ahora representan el punto final. De las dos grandes ciencias en las que se apoya el dataísmo, la informática y la biología, será ésta la más importante: en ella se advierte que todo es procesamiento de datos, también el ADN. Ahí es donde está encerrada toda la información de los humanos, de cada individuo. De este modo, el poder ha ido a parar a los centros de información y de datos. Ahora bien, “la información quiere ser libre”, y, aunque en el capitalismo empezó siendo una “teoría científica neutral”, ahora quiere convertirse en “una religión que pretende determinar lo que está bien y lo que está mal” [24]. Por eso, tiene normas éticas específicas: estar conectados lo más posible, creer en los beneficios de la libertad de información, y compartir información.
Pero Harari nos tranquiliza diciendo que, aunque el dataísmo no es liberal ni humanista, tampoco es anti-humanista. “No tiene nada en contra de las experiencias humanas. Simplemente, no cree que sean intrínsecamente valiosas” [25]. Somos sólo una aglomeración de elementos biológicos y datos informáticos, bien ensamblados, que funcionan regidos por algoritmos, condicionados también por procesos azarosos, consecuencia de la gran pluralidad de los entornos ambientales. De tal forma que “el dataísmo sólo adopta un enfoque estrictamente funcional, y tasa el valor de las experiencias humanas según su función en los mecanismos de procesamiento de datos” [26]. Nos enfrentamos, por tanto, a un cambio de un mundo humano-céntrico a otro data-céntrico, cambio que no tendrá sólo una dimensión filosófica sino práctica, puesto que cambiará de forma drástica nuestro comportamiento [27].
Conclusiones de esta primera parte
Harari es consciente de que todas estas afirmaciones son muy problemáticas y no fáciles de aceptar. Por eso, se detiene en describir y analizar algunos de los problemas que sus teorías tienen de fondo, así como las críticas que reciben [28]. Así, es problemático y dudoso que la vida pueda reducirse a un mero flujo de datos. Como también, en relación a las propuestas de construir mentes robóticas similares a los humanos, no sabemos qué datos serán capaces de producir conciencia y experiencias subjetivas, si es que se consigue alguna vez esa meta. Y, por otro lado, Harari es consciente de que su dataísmo puede representar una concepción demasiado sesgada de la vida, reducida a la mera toma de decisiones (estrategias de manejar datos y utilizarlos para un fin concreto), dejando fuera otras muchas realidades importantes de la vida humana.
Por otro lado, Harari es consciente de que está planteando y reflexionando continuamente sobre aspectos y decisiones éticas. Pero está claro que “los algoritmos no entienden de ética. Pero no hay ninguna razón para suponer que no serán capaces de superar al humano medio incluso en ética” [29]. Como ejemplo de ello se refiere a los dilemas que se plantean en relación a los coches sin conductor, o a otros experimentos en los que las máquinas nos ayudan a decidir mejor, e incluso nos pueden suplir en esas decisiones, como ya lo hemos indicado. Harari es consciente, aunque no sabe salir con buen pie de esta problemática, de que los programas de coches sin conductor, o los de cualquier máquina que tenga que realizar cualquier tarea, está programada por mentes humanas, que son inteligentes y capaces de diseñar esos programas que son capaces de tomar decisiones éticas. Por eso, tiene claro que se necesitan filósofos para que diluciden estos dilemas, porque una cosa es construir máquinas que “decidan” qué hacer, y otra, evaluar qué tipo de decisiones y de programas son éticos y cuáles no. Aunque también es cierto que no todos los filósofos, y los humanos, coincidimos siempre (más bien lo contrario) a la hora de evaluar la moralidad de determinadas forma de actuar [30]. Advertimos, en definitiva, que nos enfrentamos a dilemas éticos que son muy difíciles de resolver, y que cada individuo lo suele hacer de diferente forma en las situaciones concretas en las que se sitúe. La pregunta es si no se está aquí Harari contradiciendo, en la medida en que, si no somos libres, porque estamos determinados por nuestros genes y cerebro, ¿a cuenta de qué nos planteamos dilemas y cuestiones éticas? ¿No tendríamos que dejar de lado toda evaluación ética de nuestras acciones, como algo ya superado y que no tiene sentido? Profundizaremos en esto en el apartado siguiente.
Otra de las críticas al dataísmo, según Harari, proviene del miedo a que se apodere de nosotros, del mundo, como lo han hecho el resto de las religiones. Y, si lo hace, nos tenemos que preguntar si nos hará más saludables y felices. Parece que al principio nos dará más poder y podremos conseguir mayores cotas de salud y de felicidad, pero, con el tiempo, nos convenceremos de que los algoritmos nos dominarán y las máquinas nos sustituirán. Harán de nosotros lo que nosotros hemos hecho con los animales. En ese momento, pensábamos que lo podíamos todo, pero el dataísmo nos ha hecho despertar de nuestro sueño: “descubriremos que, después de todo, no somos la cúspide de la creación (…). En retrospectiva, la humanidad resultará ser sólo una onda en el flujo cósmico de datos” [31].
Claro que Harari se cura en salud diciendo que estos análisis son meras posibilidades que se podrán dar en el futuro, pero nadie, él tampoco, tiene la capacidad de un profeta para adivinar y diseñar las concreciones del futuro. De todas formas, sí se pueden tener algunas evidencias seguras, entre las cuales está, en primer lugar, que la ciencia nos asegura que “los organismos son algoritmos y que la vida es procesamiento de datos”; “la inteligencia se desconecta de la conciencia”; y que, en un futuro no lejano, “algoritmos no conscientes pero inteligentísimos podrían conocernos mejor que nosotros mismos” [32]. Pero él mismo es consciente de que cada uno de esos tres supuestos “dogmas” presentan serios interrogantes: ¿los organismos son sólo algoritmos? ¿es más valiosa la inteligencia que la conciencia: qué son ambas cosas? ¿qué consecuencias sociales y políticas se darán en una sociedad dominada por los datos y los algoritmos, y en que las máquinas nos conozcan mejor que nosotros, y nos dominen, al servicio quizás de otros humanos?
En la segunda parte de este artículo intentaremos responder a estas cuestiones…
Notas
[1]Madrid, Ed. Real Academia Española, 2004, segunda parte, cap. LVIII, pp. 984-985.
[2]Cfr. HARARI, Yuval Noah, Sapiens. De animales a dioses. Breve historia de la humanidad, Barcelona, Debate, 2014; Id., Homo Deus. Breve historia del mañana, Barcelona, Debate, 2016; Id., 21 lecciones para el siglo XXI, Barcelona, Debate, 2019. Sus éxitos de ventas alcanzan, según los datos periodísticos, la cifra de cerca de 15 millones de libros.
[3]
[4]Cfr. HARARI, Y.N., “Los cerebros “hackeados” votan”, El País, Ideas, domingo 6 de enero de 2019, pp. 1-4.
[5]Cfr. la entrevista de Cristina GALINDO a Y. N. Harari: “La tecnología permitirá “hackear” a seres humanos”, El País Semanal, 28 de agosto de 2018, nº 2.187, pp. 46-51; entrevista de Carlos M. SÁNCHEZ, “Es muy probable que en cien años seamos sustituidos por otras entidades en este planeta”, XL SEMANAL, 23-29 DE ABRIL, 2017, Nº 1539, pp. 48-53.
[6]Dedica un capítulo específico a ello en 21 lecciones para el siglo XXI:cap. 2, “Libertad. Los macrodatos están observándote”.
[7]Harari prefiere hablar deamortalidad, en vez de inmortalidad, en la medida en que, aunque podamos tener potencialidades de vivir para siempre, podríamos morir voluntariamente o a consecuencia de una acción agresiva o un accidente imprevisto.
[8]Cfr. HORKHEIMER, M./ADORNO, Th., Dialéctica del Iluminismo, Buenos Aires, Sur, 1971 (Dialéctica de la Ilustración, Madrid, Trotta, 1998); Id., Crítica de la razón instrumental, Buenos Aires, Ed. Sur, 1973 (Madrid, Trotta, 2010).
[9]Cfr. HARARI, Y.N., 21 lecciones para el Siglo XXI,o.c., p. 26.
[10]Id., Homo Deus, o.c., p. 381.
[11]Cfr. Ibídem, p. 54. A raíz de esto, Harari reflexiona sobre las diferentes fórmulas de ayuda social que se proponen hoya día para paliar los efectos del desempleo en ese colectivo humano que quedaría en la irrelevancia laboral y social: la renta básica universal y la ampliación de la gama de empleos a muchas actividades sociales y familiares, que hoy no se consideran valiosas desde la óptica económica. Pero es consciente de que son fórmulas que tienen muchos aspectos problemáticos (pp. 58-64).
[12]Cfr. HARARI, Y. N., Homo Deus, o.c., cap. 9.
[13]Las citas que a continuación indican son de Homo Deus.
[14]HARARI, Y.N., Homo Deus, o.c.,
[15]HARARI, Y.N., 21 lecciones para el siglo XXI, o.c., 68.
[16]Id., Homo Deus, p. 313.
[17]Cfr. KUZWEIL, Ray, La singularidad está cerca, Berlín, Lola Books2012; BEORLEGUI, C., “El post-humanismo robótico de Ray Kurzweil. Una reflexión crítica de su propuesta antropológica”, Estudios Filosóficos(Valladolid), vol. LXIV (2015), nº 187, pp. 439-472.
[18]HARARI, Y. N., 21 lecciones para el siglo XXI, o.c., p. 92.
[19]Cfr. Ibídem, pp. 92-93.
[20]Cfr. Ibídem, p. 93.
[21]Cfr. FERRY, Luc, La revolución transhumanista, Madrid, Alianza, 2017; DIEGUEZ, A., Transhumanismo, Barcelona, Herder, 2017; BOSTROM, Nick/SAVULESCU, Julian (eds.), Mejoramiento humano, TEELL Editorial, 2017; BOSTROM, Nick, Superinteligencia, TEELL Editorial, 2016; BRAIDOTTI, Rosi, Lo Posthumano,Barcelona, Gedisa, 2015; POULIQUEN, T. M., Transhumanismo y fascinación por las nuevas teconologías, Madrid, Rialp, 2018; BEORLEGUI, C., Humanos. Entre lo pre-humano y los pos- y trans-humano,Santander/Madrid, Sal Terrae/UPCO, 2019, cap. 7 y 8.
[22]Cfr. HARARI, Y.N., Homo Deus, o.c., pp. 383-393.
[23]Cfr. Ibídem, cap. 11, “la religión de los datos”.
[24]Ibídem, p. 414.
[25]Ibídem, p. 421.
[26]Ibídem, p. 422.
[27]Cfr. Ibídem, pp. 423-424.
[28]Cfr. Ibídem, pp. 427-431.
[29]Id., 21 lecciones para el siglo XXI, o.c., p. 78.
[30]Cfr. Ibídem, pp. 82-83.
[31]Id., Homo Deus, o.c., p. 429.
[32]Ibídem, p. 431.
Artículo elaborado por Carlos Beorlegui, Profesor de Filosofía en la Universidad de Deusto (Bilbao), Miembro de la Asociación Interdisciplinar José de Acosta (ASINJA) y colaborador de FronterasCTR.
