Los dilemas éticos del progreso tecnológico

Show Notes

En el último episodio de la segunda temporada de #HoraLibre, Mario Zúñiga analiza algunos de los dilemas éticos que nos presenta el progreso tecnológico y cómo podemos gestionarlos para evitar los malos usos de ciertas tecnologías sin privarnos de los enormes beneficios que pueden reportar a la sociedad. 

What is Hora Libre?

Mario Zuñiga nos comparte sus reflexiones desde un enfoque liberal y busca promover un liberalismo más empático, sensible a la evidencia, humilde y abierto al compromiso.

Hola, soy Mario Zúñiga. Bienvenidos a Hora Libre, un podcast de opinión del Comité de Lectura para conversar sobre coyuntura, políticas públicas y otros temas relevantes, desde un liberalismo empático y aterrizado.

“En la primavera de 2014, Jennifer Doudna tuvo un sueño. O, más precisamente, una pesadilla. En esta pesadilla, un prominente investigador le pide conocer acerca de la edición genética. Cuando entra a la habitación donde estaba esta persona, retrocedió asustada. Sentada en frente de ella estaba sentado, con papel y lápiz y listo para tomar notas, Adolfo Hitler con la cara de un cerdo. ‘Me gustaría aprender sobre los usos y aplicaciones de esta maravillosa tecnología que has desarrollado’. Doudna se despertó sudando frío preguntándose si la tecnología CRISPR desarrollada por ella no era un set de herramientas para futuros doctores Franskentein o, peor aún, futuros Hitlers”.

Cito este párrafo de la biografía de Jennifer Doudna escrita por Walter Isaacson. Ya hemos mencionado este libro en el episodio en el que tratamos precisamente la tecnología CRISPR (la traducción es libre y he omitido y cambiado ligeramente algunas frases para un mejor entendimiento y brevedad) para introducir el episodio de hoy, en el que quiero hablarle de los dilemas éticos que puede presentarnos la tecnología.

Este es el episodio 10, el último, de la segunda temporada de #HoraLibre y, tal como hicimos la temporada pasada, sería bueno cerrarla con una reflexión final sobre el tema central de todos estos episodios.

Como les comenté también en episodios pasados, me considero un tecnófilo o un tecno-optimista. Creo que muchos de los problemas que enfrenta la humanidad van a poder solucionarse si le damos libertad a nuestros científicos y emprendedores para que sigan expandiendo las fronteras del conocimiento y las posibilidades de la tecnología. En realidad es sorprendente todo lo que el hombre puede hacer. Uno puede leer la explicación o puede haber cosas que ya hemos hecho hace décadas, pero no deja de asombrarnos. Mientras preparo este episodio, hace algunos días la NASA acaba de lograr con éxito que un satélite colisione con un asteroide para desviar su trayectoria, algo que hace algunos años podíamos ver en una película de ciencia ficción.

Pero CLAAARO, este optimismo debe ser un “optimismo racional”; no debe impedirnos apreciar los costos o riesgos que pueden derivar del uso de determinadas tecnologías o puntualmente de determinados usos. Ello sería tan miope como el otro extremo que precisamente criticamos en este espacio: dejar de aprovechar los beneficios de la tecnología por un excesivo énfasis en los riesgos.

Creo que es buenísimo tratar el tema partiendo de la biotecnología. Como nos recuerda el episodio que leía del libro de Doudna, la posibilidad de editar el genoma humano nos da la posibilidad no sólo de tratar enfermedades terribles como la anemia de células falciformes o la enfermedad de Hungtington (esto es lo que se conoce como edición terapéutica); sino además la posibilidad de editar el genoma humano para evitar la transmisión de enfermedades (edición genética que sería hereditaria) o incluso para “mejorar” al ser humano.

En 2015 los principales biólogos del mundo se reunieron en una conferencia en Napa, California con la finalidad de discutir, con énfasis en los aspectos éticos de hacer ediciones genéticas hereditarias.

Rápidamente se generó un consenso que desde mi punto de vista es positivo: no se debería sugerir una prohibición estricta a las ediciones genéticas hereditarias. Una prohibición no tendría mucho sentido porque podríamos estarnos privando de desarrollos importantísimos en la medicina: piensen en las terribles enfermedades que hemos mencionado, como la enfermedad de Hungtington que es bastante dolorosa para los pacientes y para sus familias. ¿por qué no erradicarla si pudiésemos? Por otro lado, hay que ser realistas y ser conscientes de que la tecnología para realizar edición genética está ya ampliamente disponible. Se pueden comprar online kits para realizarla y laboratorios en varios países del mundo la vienen practicando. En línea con ello, una prohibición dura en determinados países lo que va a hacer es que la demanda se traslade a otros países.

Dicho esto, es necesario ir con mucha precaución; ya que en la biología se presenta un fenómeno del que hemos hablado mucho en este podcast al hablar de la regulación. Los efectos no deseados. Pese a los grandes avances de la ciencia todavía no entendemos completamente cómo funcionan nuestros genes y qué funciones cumplen o inhiben. En ese sentido, las ediciones genéticas hereditarias podrían tener consecuencia modificaciones genéticas imperceptibles al principio pero con un impacto negativo a futuro. Es por eso que el grupo convocado por Doudna en 2015 sugirió que la edición genética hereditaria se llevase a cabo sólo en casos en los que la medicina no provea alternativas razonables para curar o prevenir condiciones o enfermedades serias.

Esta “línea roja” o frontera para la biogenética fue cruzada por el biofísico chino He Jiankui en 2018, cuando utilizando la tecnología CRISPR buscó editar el genoma de dos niñas hijas de padres con SIDA; eliminando una proteína que aparentemente es necesaria para que el HIV se desarrolle. Este hecho fue bastante criticado más que nada porque He aparentemente no se detuvo a analizar todas las implicancias morales que implicaba el realizar ediciones genéticas heredables. La proteína CCR5 que He Jiankui eliminó, por ejemplo, no sólo es necesaria para que el HIV se desarrolle, también nos proteja contra el virus del nilo occidental. Este procedimiento, por lo demás, no habría sido necesario considerando que hay otras formas de prevenir el contagio del SIDA a embriones.

Una vez cruzada esta frontera, hay quienes postulan que se debería poder realizar edición genética hereditaria no sólo para curar enfermedades; sino también para hacernos “mejores” humanos: podemos aumentar nuestro coeficiente intelectual? podemos tener mayor masa muscular? Esto podría ser bastante peligroso, especialmente en las manos de individuos o gobiernos con mucho poder y aspiraciones autoritarias. La pesadilla de Doudna podría materializarse. La biotecnología podría ser utilizada para la eugenesia.

Algo parecido puede pasar con la energía nuclear. En el segundo episodio de la temporada hablamos principalmente de sus bondades; pero claro, ésta también puede ser utilizada para hacer bombas. Y nos vienen a la mente episodios como los de Hiroshima y Nagasaki. Y sabemos que Rusia tiene actualmente miles de armas nucleares que, no es altamente probable que use; pero que constituyen un riesgo en manos de un gobierno autoritario, que puede recurrir a medidas extremas mientras se ve acorralado.

La inteligencia artificial, por otro lado, y como vimos en el episodio pasado; también es una tecnología que ofrece amplísimas posibilidades en campos como la medicina o agricultura; pero que también puede ser utilizada con fines nada santos como la manipulación o la vigilancia. Como decíamos en esa conversación, más que un escenario “Skynet” es probable un escenario “1984”. Si uno ve lo que pasa en China por ejemplo y las tecnologías de reconocimiento facial en la calle; más ahora que siguen aplicando sus cuarentenas super estrictas, con drones que te filman y te gritan instrucciones… la verdad es que es distópico.

Otro dilema ético importante en el caso de la inteligencia artificial es que, si la usamos para tomar decisiones como resolver determinadas controversias legales o, por ejemplo, contratar personas, ¿qué nos garantiza que las decisiones no discriminarán o aplicarán algún otro tipo de sesgos? En el ejemplo de la solución de controversias, claro, uno podría alegar que las partes se sometieron voluntariamente a este tipo de mecanismo pero, ¿qué pasa si el Estado lo usa para tomar decisiones que implican la adjudicación de derechos o beneficios sociales?

Es aquí entonces donde llegamos a la parte del debate que ha sido el pan de cada día en este podcast ¿cuál debería ser la respuesta regulatoria frente a estos dilemas éticos o posibles abusos de las tecnologías?

Creo que es importante, para empezar, regular en función a riesgos y no a tecnologías. Es decir, una norma no debería prohibir o establecer permisos previos de manera general para usar un tipo particular de tecnología, ya sea la técnica CRISPR para edición genética o la “inteligencia artificial”. Lo que debe estar prohibido o regulado son determinadas actividades puntuales que generan daños o riesgo de daños a la sociedad. Por ejemplo, está prohibida la edición genética hereditaria (aunque como hemos mencionado, esa línea ya se cruzó en China) o está prohibida la edición genética hereditaria que no es para curar enfermedades sino para “mejorar” a las personas.

También podría regularse, dependiendo del nivel de riesgo, que ciertas actividades están permitidas, pero sujetas a una aprobación previa. Ahora bien, incluso en estos casos en los que regulamos prohibiciones puntuales o permisos previos deberá especificarse que sí se permitirá la investigación en con dichas tecnologías y además establecer los procedimientos apropiados para ello. Menciono esto último a propósito de la irracional moratoria al uso de transgénicos que tenemos en el país, y que comentamos también esta temporada, en la que, para añadir insulto al daño ya realizado, además de una prohibición que no tenía sentido, incluso la investigación, que supuestamente estaba permitida, era prácticamente imposible de realizar. Los procedimientos para importar material genético eran sumamente complicados; e incluso llegó a darse un caso de un científico al que le abrieron un proceso penal.

Otra cosa importante es que haya mucha transparencia en lo que se refiere al uso de nuevas tecnologías; y esto principalmente en lo que se refiere al uso de las tecnologías por parte del sector público. El Estado es el que más daño puede hacer dado el enorme alcance que tiene, al hecho de que tiene la capacidad de modificar las leyes y porque tiene el monopolio del uso legal de la fuerza. El Estado es el que realmente, puede volverse un “gran hermano” o el que puede lanzar una bomba atómica.

Somos conscientes de que no es que sólo el Estado pueda abusar de la tecnología, ciertamente; pero los daños que el sector privado podría causar usando estas tecnologías, recordemos, ya están prohibido o regulados por leyes de alcance general. Las leyes de protección al consumidor obligan a las empresas a advertirnos de los riesgos previsibles que los productos conlleven. La legislación de protección de datos personales demanda que el uso de nuestros datos sea consentido. La responsabilidad civil debería (y digo “debería” porque esa es un gran reforma pendiente) debería desincentivar el uso negligente de tecnologías y productos. El derecho penal, finalmente, debería desincentivar cualquier tipo de agresión.

Para el caso puntual de la Inteligencia Artificial, Adam Thierer, profesor de la George Mason University, y un gran estudioso de los regímenes regulatorios de las nuevas tecnologías, debería apuntarse a un régimen de auto-regulación con sistemas voluntarios de acreditación y auditoría. En ese sistema pueden implementarse altos estándares éticos, pero con la flexibilidad que la innovación demanda.

En cualquier caso, antes de establecer las reglas que gobernarán tenemos que tener cuidado de, como señala el mismo Adam Thierer, “no vivir con un miedo constante a que se presente el peor escenario; ni diseñar la política pública en función a este; ya que ello significa que los mejores escenarios nunca llegarán”.

Eso fue todo por hoy… y por esta temporada… No se olviden que me encuentran en Twitter como @MZunigaP. Déjenme por allí algunos comentarios, contraargumentos, preguntas o críticas sobre las ideas tratadas en esta edición, y… por supuesto, si tienen sugerencias de temas para tratar en la próxima temporada.

Hasta dentro de algunas semanas. Un fuerte abrazo y cuídense mucho.