Frecuentemente, los puntos de inflexión de la historia apenas afectaron ni preocuparon a sus coetáneos. Hasta 1439, los campesinos de la actual región de Renania-Palatinado pasaban sus cortas vidas sembrando, arando y segando sin acceso a la cultura; un siglo después de que su vecino Johannes Gutenberg inventara la imprenta, vivían prácticamente igual. La inmensa mayoría de la humanidad tardó décadas en enterarse que James Watt había patentado el motor a vapor, perfeccionando una técnica conocida desde el siglo I gracias a Herón de Alejandría, y espolvoreando la Revolución Industrial. Y los hombres y mujeres entre los Montes Urales y Beijing que, en su tiempo, conocieron el Tratado de Tordesillas probablemente no llenasen los bajos del fondo sur del Bernabéu.

En nuestro mundo moderno e hiperconectado, una revolución silenciosa como las anteriores parece imposible. Sin embargo, cuando las futuras generaciones reflexionen sobre los puntos de inflexión de nuestro tiempo, posiblemente apunten a temas a los que apenas prestamos atención. Por un lado, esto podría deberse a que en la política, como en la tecnología o en el fútbol, el universo de lo imaginable no cubre el universo de lo posible. Pero, por otro lado, esta discrepancia entre los asuntos que priorizamos y los que marcaran el destino de la humanidad podría deberse a una negligencia tácita. ¿Qué problemas podrían cambiar el curso de la historia sin encabezar un telediario?

 

Los problemas del berlinés

Demos un breve rodeo para responder. Imagine a un berlinés del barrio de Friedrichshain que, el 13 de agosto de 1961, percata la construcción de un muro aislándolo de Berlín Oeste. Al principio hace cábalas sobre la temporalidad de la situación, pero no tarda en desengañarse. Una mezcla de estrecheces económicas y asfixia ideológica le invita a saltar el muro. La decisión le angustia. Reconoce la incertidumbre asociada, pues desconoce si fracasará en el intento o qué futuro le espera al otro lado. Solo sabe que cruzar la frontera transformaría su vida por completo y que, de hacerlo, un error sería incorregible: como prófugo, no podría volver a pisar la República Democrática Alemana.

Las tres características que marcan la decisión del berlinés, cautivo tras el telón de acero, son las que definen los problemas críticos pero desapercibidos de nuestro tiempo. Primero, suelen ser altamente inciertos en varias dimensiones: probabilidad y plazos de materialización, población impactada y virulencia. Segundo, son transformacionales en cuanto que afectarían sensiblemente la experiencia vital de miles de millones de personas. Tercero, son irreversibles: solo tenemos un intento de abordarlos correctamente, con lo que no podremos aprender de la experiencia. No es corta la lista de problemáticas que cumplen estas condiciones. Recapitulemos las principales.

Tres características definen los problemas críticos pero desapercibidos de nuestro tiempo: son inciertos, transformacionales e irreversibles

1. Cambio climático

Paliar el cambio climático es, probablemente, el mayor reto de la humanidad en el siglo XXI. Frente al resto de problemas del berlinés, existe un amplio consenso científico e institucional —minado por la elección de Trump— acerca de su gravedad. La incertidumbre intrínseca al cambio climático se refiere a la agresividad de su desarrollo, pero el fenómeno ya está aquí. Los cinco años más calurosos jamás registrados se han producido desde 2010, los océanos se han acidificado un 30 % desde la Revolución Industrial; la Antártida lleva más de veinte años perdiendo unas 120 mil millones de toneladas al año, y su ritmo se ha triplicado en la última década; el nivel del mar está subiendo dos veces más rápido desde principios de siglo que en el siglo XX; las fenómenos naturales extremos, como El Niño, han intensificado su frecuencia e intensidad; y la lista podría seguir hasta saturar el servidor de nuestra web.

La evidencia abrumadora apunta al factor humano como principal causante del calentamiento global, pero el debate sigue inverosímilmente abierto. La concentración de CO2 en la atmósfera, en los últimos 150 años, ha pasado de 280 partes por millón a rebasar las 400, reforzando el efecto invernadero; el ritmo de recuperación térmica desde la última glaciación es hoy 10 veces más rápido que la media y la sexta gran extinción amenaza con una de las mayores caídas de biodiversidad desde el inicio de la vida en la Tierra. Apenas se disputa que, desde una perspectiva económica global, el análisis coste-beneficio justifica sobradamente invertir miles de millones en mitigar el cambio climático. Desde que la Stern Review estimara en 2006, a falta de medidas preventivas, una pérdida a largo plazo del 5 % anual del PIB mundial, las proyecciones económicas han tendido a empeorar.

Ni los planes ni la práctica nos abocan a un escenario optimista y, sin embargo, el cambio climático sigue en la periferia del debate público

Sin embargo, la acción contra el cambio climático es, en términos eufemísticos, insuficiente. Los acuerdos de la COP21 en París de 2015 eran vagos y buenistas. Se establecían los límites aceptables de calentamiento global (incremento hacia finales de siglo no superior a 2, preferiblemente a 1,5℃, vs. niveles preindustriales) pero apenas se acordaron medidas para alcanzarlo, delegando la fijación de objetivos nacionales a la voluntad de cada país. Imagínense un quirófano donde entra un paciente con la pierna gangrenada; los médicos discuten acaloradamente sobre qué hacer con el herido y tras horas de deliberación acuerdan «trabajar para que se ponga bien». Algo así ocurrió en París y, dado el punto de partida (algún médico sugería que una pierna morada tenía sex appeal), supuso un avance importante. Pero ni siquiera estos objetivos están en vías de cumplimiento, y menos tras la espantada de EE. UU.

Según un borrador del nuevo informe de IPCC previsto para octubre de 2018, vamos encaminados a superar la frontera de los 1,5 de sobrecalentamiento en el año 2040. Para evitarlo con un 50 % de probabilidades, según el documento, la humanidad debería dejar de emitir gases de efecto invernadero masivamente en 12 o 16 años (empezando en 2016). Ni los planes ni la práctica nos abocan a un escenario optimista y, sin embargo, el cambio climático sigue en la periferia del debate público. Hace unos meses analizaba las causas del olvido climático en este artículo. El resumen es que, en este tema, el tiempo corre más rápido que nosotros.

Fotografía de Ciprian Morar publicada en Unsplash

2. Explosión de la Inteligencia Artificial

En Superintelligence, el filósofo nórdico Nick Bostrom, afincado en Oxford, defiende que el advenimiento de una inteligencia artificial (IA) que nos exceda cambiará el curso de la humanidad. Una máquina dispone de inteligencia artificial cuando, para resolver un problema cognitivo, es capaz de mejorar su desempeño aprendiendo de la experiencia. Para Bostrom, esta definición ha llevado a antropomorfizar la inteligencia artificial, asignándole preferencias y apariencias humanoides tanto en la ficción como en el ensayo. Sin embargo, deberíamos entenderla como un sofisticado proceso de optimización cuyo objetivo final, ya sea jugar al ajedrez o reconocer señales de tráfico, podemos programar.

En los últimos años, y gracias a la combinación de redes neuronales con una capacidad computacional sin precedentes, se han logrado grandes avances en IA «débil» o «estrecha» (weak o narrow). Este tipo de inteligencia artificial logra resultados fantásticos en tareas muy específicas, pero no puede extrapolar su aprendizaje a otras áreas. El gran reto científico de la disciplina es lograr una IA general, capaz de emular, o superar, al ser humano en un vasta gama de actividades. Según una encuesta de Bostrom, la mayoría de los filósofos y tecnólogos especializados estiman en un 50 % las probabilidades de alcanzar de la IA general en 2050 o antes. Para sostener esta tesis, con frecuencia se basan en que si la evolución, aún tardando millones de años, pudo producir inteligencia de forma «aleatoria» (es decir, no direccionada), nosotros también podríamos lograrlo. Una vía sería replicar el cerebro humano, aprovechando que el hardware electrónico carece de nuestras limitaciones biológicas (p. ej. restricción espacial, caducidad). Otra vía podría ser potenciar la selección natural de algoritmos «genéticos» que replicasen el proceso evolutivo.

De alcanzarse la IA general, podría desencadenarse rápidamente una explosión de inteligencia. Las IA generales podrían mejorarse recursivamente, refinando su código (software) e incrementando su poder computacional (hardware). La inteligencia que podrían alcanzar estas máquinas podría compararse a la humana, como esta a la de un chimpancé o un ratón. Llegados a este punto, sería crucial que la IA no contuviese errores de programación. En otras palabras, la IA tendría que entender qué queremos de ella, y este es un problema de primera magnitud. En cualquier caso, el impacto de una hipotética superinteligencia dependería de su propiedad y de las preferencias y limitaciones que se le incorporasen. Para que estas y otras muchas cuestiones no las diriman exclusivamente un pequeño círculo de tecnólogos, es necesario ampliar el debate público sobre la inteligencia artificial.

Una sociedad dataísta tiene dos grandes escenarios distópicos. El primero implicaría la disolución del humanismo. En el segundo, un estado omnisciente podría sofisticar su represión hasta cotas insospechadas

3. Dataísmo y sociedad abierta

Para el pensador israelí, Yuval Noah Harari, catapultado a la fama por Sapiens, «el mayor problema político, legal y filosófico de nuestro tiempo es cómo regular la propiedad de los datos». Fuera de contexto, esta parece una afirmación hiperbólica, pero gana pertinencia cuando analizamos el concepto de dataísmo, que Harari describe en Homo Deus. Simplificando bastante, el dataísmo pregona que, en lo relativo a nuestras decisiones vitales, la introspección y la reflexión personal irán cediendo terreno frente a algoritmos que analicen nuestros datos. En última instancia, acabaríamos abandonando la máxima humanista de «escucharnos a nosotros mismos» al elegir estudios, pareja, profesión o lugar de residencia para delegar estas decisiones en una máquina que nos conociese mejor que nosotros mismos.

Conforme la digerimos, esta idea suele hacerse menos peregrina. Piense en la cantidad de datos suyos accesibles en Internet: todos sus correos y mensajes de WhatsApp, sus amigos de Facebook, su localización exacta durante la última década, todas sus búsquedas en Google, los artículos que leyó, los pagos de sus tarjetas, compras online y transferencias bancarias… Es probable que no recuerde ni una centésima parte de toda esa información. Y si lo hiciera, seguiría sin tener la cada vez mayor cantidad de datos biométricos (p. ej. tensión, pulsaciones, horas de sueño) y psicológicos (p. ej. estado emocional, felicidad) que ya podríamos registrar. Por último, piense que toda esa información existe no solo para usted, sino para miles de millones de personas. Aprovechando una ínfima parte de esos datos, ya se emplean algoritmos para personalizar anuncios (Facebook), recomendar lecturas (Amazon) o encontrar nuestra pareja ideal (Dating Apps). El incremento de su poder predictivo depende más de la cesión de nuestros datos que de grandes avances en IA, más allá de un mayor poder computacional.

Una sociedad dataísta tiene dos grandes escenarios distópicos. El primero, esquematizado por Harari, implicaría la disolución del humanismo. La introspección y la reflexión individual dejarían de ser las guías privilegiadas de nuestras decisiones y seguiríamos los dictámenes de algoritmos deificados. De ellos dependería nuestro éxito profesional, nuestras relaciones afectivas y los hobbies que coparían nuestro tiempo de ocio. En el segundo escenario pesimista, clásicamente orwelliano, un estado omnisciente podría sofisticar su represión hasta cotas insospechadas. Incluso se podría castigar preventivamente a quienes parezcan, por su patrón de conducta, proclives a contestar al régimen. Este peligro es más tangible de lo deseable. Por ejemplo, en China, el Gobierno ha adelantado recientemente una propuesta, aún de alto nivel, según la cual todos sus ciudadanos contarán con una puntuación cívica, basada en su comportamiento virtual, de la que dependerá, entre otras cosas, el acceso al crédito. En ambos casos, la revolución dataísta triunfaría a expensas de la libertad individual.

Fotografía de Franki Chamaki publicada en Unsplash

4. Transhumanismo e ingeniería genética

Los apóstoles del transhumanismo son pocos pero influyentes: Ray Kurzweil, Elon Musk, Peter Thiel… En pocas palabras, el transhumanismo defiende la conveniencia, e incluso inevitabilidad, de explotar la tecnología para modificar la condición humana. El controvertido politólogo, Francis Fukuyuma, la eligió recientemente como la idea más peligrosa de la humanidad. Esta ideología pretende convertir la ciencia ficción en ciencia a secas, gracias a un amplio abanico tecnológico: cibernética, interfaces integrados entre humanos y máquinas, robótica, nanotecnología… Entre las técnicas potencialmente transhumanistas, destaca la ingeniería genética, en ebullición desde inicios de nuestra década. Demos un par de pinceladas.

Durante milenios, el ser humano practicó una ingeniería genética de baja intensidad. Con la crianza selectiva, nuestros ancestros cultivaban las cepas vegetales más resistentes y nutritivas y «escogían», sin saberlo, los mejores genomas. El descubrimiento del ADN como manual de instrucciones para el desarrollo y funcionamiento de los seres vivos permitió la intensificación y sofisticación de la ingeniería genética en los sesenta. En la década posterior, el biólogo de MIT Rudolf Jaenisch creó el primer animal, un ratón, genéticamente modificado. Desde entonces, los transgénicos han proliferado en nuestra dieta y sirven para producir medicamentos sin producir, por el momento, efectos negativos contrastados sobre la salud. Además, la ingeniería genética ha producido peces fluorescentes, salmones de crianza rápida y pollos sin plumas, entre otras «innovaciones».

“Tengo miedo de todo” — George Church, genetista de Harvard

Pese a sus avances, la ingeniería genética solía ser complicada, cara y relativamente imprecisa. Esto empezó a cambiar en 2013, cuando se popularizó la técnica CRISPR para la edición genética, basada en la proteína Cas9 (explicación visual aquí). Esta tecnología reduce más de un 90 % los costes experimentales y, según Nature, permite focalizar el trabajo en una secuencia acotada del ADN. La caída de las barreras económicas y técnicas ha abierto vías de investigación prometedoras, especialmente en medicina. Por ejemplo, científicos han logrado reducir en un 50 % el número de células infectadas por el VIH en ratones gracias a CRISPR, que también podría erradicar otras enfermedades retrovirales, como el herpes. En China, según The Wall Street Journal, al menos 86 personas habían sido alteradas genéticamente con CRISPR con motivos curativos, a principios de 2018.

En teoría, esta tecnología podría emplearse para modificar embriones genéticamente. El futuro distópico de Brave New World aún parece lejano, porque casi cualquier fenotipo deseable (inteligencia, virtud, sentido del humor) depende de la interacción de miles de genes, cuya expresión varía con el entorno. Sin embargo, pequeñas mejoras son fácilmente imaginables, como la eliminación de genes asociados con un enfermedad hereditaria. Además, no existe, en principio, un obstáculo innegociable para que mejoras graduales puedan ir introduciéndose en nuestro genoma. Si la tecnología llega a estar disponible, y no es improbable que así sea, será difícil negarse a emplearla: si no lo hacemos, nuestra descendencia partirá con una desventaja competitiva en relación a los demás. En tal escenario, nos alejaríamos paulatinamente de la naturaleza humana que la evolución ha forjado durante cientos de miles de años. Por sí solo, este ya sería motivo suficiente para una reflexión pausada. En palabras de una de las pioneras de CRISPR, Jennifer Doudna: «En la comunidad científica, no hemos tenido tiempo de discutir la ética y la seguridad [de esta tecnología]».

Además, la ingeniería genética, aplicada al ser humano o no, podría incurrir en errores fatales. El genetista de Harvard, George Church, sintetiza este sentimiento: «Tengo miedo de todo». Los protocolos de seguridad tardan tiempo en adaptarse y, en algunos casos, podrían llegar demasiado tarde. Merece la pena destacar que, con CRISPR y la tecnologías que la desplacen, cualquier diletante con mucho tiempo libre y dos mil euros en la cuenta bancaria puede jugar a ser Dios.

Los problemas apremiantes merecen recursos y atención pública, pero no su monopolio

Fotografía de Alex Knight

¿En qué estábamos pensando?

Los problemas del berlinés generan acalorados debates en conferencias universitarias, pero estos apenas permean al resto de la sociedad. Penan en diarios e informativos sin copar portadas y solo interpretan roles secundarios, con suerte, en los programas de los partidos políticos mayoritarios. Esto es natural al tratarse de problemas sin fecha fija de caducidad, de largo plazo y, en muchos sentidos, inciertos.

Se podrá argumentar que este desinterés público es deseable. ¿Por qué preocuparse de lejanos y azarosos problemas cuando existen tantos otros, inmediatos y seguros? ¿Acaso no sería deseable centrarnos, exclusivamente, en la crisis catalana, la reforma tributaria o la inmigración? No lo creo. Los problemas apremiantes merecen recursos y atención pública, pero no su monopolio. Los problemas del berlinés pueden ser inciertos, pero, en términos probabilísticos, la expectativa de su impacto es apabullante. Por ejemplo, usted puede pensar que los avances en deep learning de los últimos años se basan en una técnica ya exprimida (backpropagation) y que el advenimiento de la inteligencia artificial general es una utopía. ¿Pero qué probabilidad asignaría entonces a equivocarse? ¿Un 1 %, un 5 %, un 10 %? Teniendo en cuenta que una explosión de inteligencia cambiaría el curso de la humanidad e, incluso, la propia condición humana, una probabilidad del 5 % o 10 % de materialización ya justificaría un foco público mucho mayor. Además, su carácter irreversible debería preocuparnos de evitar errores. Lo mismo ocurre con la ingeniería genética o la amenaza de guerra nuclear. En este sentido, el cambio climático juega en su propia liga, porque sabemos que va a ocurrir, que está ocurriendo, y que supone un riesgo existencial de primera magnitud en el medio plazo.

Si continuamos ignorando estos problemas transformacionales, inciertos e irreversibles, se pueden anticipar dos consecuencias plausibles y no exclusivas. Por un lado, la carencia de foco, recursos y reflexión nos llevaría a abordar peor estos problemas. En el caso del cambio climático, por ejemplo, esta negligencia conduciría a la inacción y al consecuente drama medioambiental. Por otro lado, si los problemas del berlinés no son ampliamente discutidos en sociedad, no reciben editoriales, ni protagonizan campañas electorales, serán solventados por minorías selectas. Comités de bioética y genetistas marcarán las fronteras de la ingeniería genética, emprendedores y programadores definirán la inteligencia artificial del mañana y los Estados mayores de las grandes potencias mundiales seguirán pudiendo apretar el botón nuclear. Y las democracias no servirían para encauzar los mayores cambios de nuestro siglo.