Artículo publicado previamente por Esther Paniagua para INNOVADORES de El Mundo.
La llamada a la reflexión sobre la ‘tecnología deshonesta’ se escucha cada vez más alto, bajo la premisa de que estamos sobreestimando sus capacidades y subestimando sus efectos no deseados (y a menudo imprevistos).
«Los aviones no tripulados pilotados por inteligencia artificial (IA) y los avances biotecnológicos podrían acabar con las poblaciones de peces mundiales. ¿Qué pasa si la tecnología se usa para aniquilar a las plantas y los animales que sustentan los ecosistemas y nuestra seguridad alimentaria mundial?». Con estas premisas, el Foro de Davos sentó este año a la mesa a líderes empresariales y académicos para explorar los impactos posibles, plausibles y probables de la cuarta revolución industrial.
Las reflexión de fondo: estamos sobreestimando las capacidades de la tecnología y subestimando sus efectos no deseados. Incluso los sistemas más inteligentes cometen errores estúpidos. Pueden ser muy buenos solucionando algo en concreto y, al tiempo, provocar daños en otro aspecto. Es lo que se llama ‘tecnología deshonesta’. Y, a medida que los avances se hacen más exponenciales, mayor es el riesgo.
Como señaló en la sesión de Davos Mary Cummings -directora del Laboratorio de Humanos y Autonomía de la Universidad de Duke (Estados Unidos)- el problema no es el uso malévolo intencional de la tecnología sino sus consecuencias malévolas accidentales. La inteligencia artificial -junto con la robótica y el aprendizaje automático- por una parte, y la biotecnología, por otro, son los campos que más preocupan.
Cummings asegura que la primera «está abriendo una caja de Pandora, dado que no comprendemos cómo funcionan los algoritmos subyacentes». También que sistemas como los que mueven a los coches autónomos «se pueden piratear fácilmente colocando calcomanías en las señales de parada para confundir a los algoritmos». Y que «los avances en biotecnología podrían terminar diezmando en lugar de aumentar las poblaciones de peces en el mundo».
Cuestión de (bio)ética
Aquí entra en juego la edición genética y, en concreto, la técnica de edición genética CRISPR impulsada por el español Francisco Mojica, que está logrando avances sin precedentes con aplicaciones como por ejemplo la eliminación de enfermedades genéticas suprimiendo la mutación que las causa. También podría permitir la transferencia de rasgos de un organismo a otro para conferirles características que faciliten su adaptación y prevenir su extinción, como señaló en Davos Feng Zhang, profesor de neurociencia en el Instituto Tecnológico de Massachusetts (MIT), donde dirige su propio laboratorio. El mismo Zhang -pionero en el uso de CRISPR- advirtió, sin embargo, que los bioorganismos fabricados pueden tener consecuencias imprevistas, ya que la investigación sobre cómo programar los organismos vivos está aún en sus comienzos.»
Gemma Marfany, investigadora y profesora de genética en la Universidad de Barcelona (UB), añade otros ejemplos: «Puedes crear una planta muy resistente a ciertas plagas y reemplazar las que había en su lugar, pero tal vez estas últimas realizaban una función importante en su entorno y puede haber consecuencias no previstas inicialmente. O si quieres eliminar la malaria, o el virus del Zika en una región, puedes modificar genéticamente el embrión del mosquito para evitar su reproducción, pero es posible que este realice otra función positiva en su ecosistema y que su inexistencia sea perjudicial en otro aspecto».
De igual modo, el corta y pega genético en humanos puede tener consecuencias imprevistas. «Un ejemplo claro es su posible uso en embriones, ya que esto modifica no solo el genoma del individuo en cuestión, sino el de su descendencia; estaríamos hablando de modificar de forma permanente el genoma humano», comenta la genetista en conversación con INNOVADORES. Marfany -miembro también del Observatorio de Bioética y Derecho de la UB, CIBERER y la Sociedad Española de Genética- explica que, en algunos casos, el gen que se corrige tiene una función positiva que se elimina. Por ejemplo, la hemocromatosis -que causa un exceso de hierro en el organismo- es negativa en hombres y positiva en mujeres, ya que evita las anemias, muy frecuentes en mujeres jóvenes. Así que no siempre está claro qué gen es deseable modificar.
Marfany asegura que la inconsciencia y la falta de control no es una buena aliada cuando estamos tratando de modificar el genoma humano para curar pacientes. Lo dice en referencia a una noticia en The Wall Street Journal sobre la aplicación de CRISPR en al menos 86 pacientes de cáncer en China. Marfany critica la falta de evidencias de que, antes de proceder, se haya hecho un estudio exhaustivo de seguridad del tratamiento, con protocolos «aprobados en una tarde».
«Las fases de ensayo clínico existen para demostrar la seguridad, las dosis y la eficacia de los tratamientos, así como para determinar los posibles efectos secundarios. No somos conejillos de indias», asegura. A no ser que queramos serlo, pero de nosotros mismos. Biohackers. Es lo que propone el bioquímico Josiah Zayner, que ha causado una gran polémica por poner a la venta en internet un kit de edición genética ‘hazlo tú mismo’ que había probado consigo mismo. Ahora, además de prepararnos sopas instantáneas, podremos editarnos los genes, con el riesgo que eso supone. Tomar el control de nuestra salud o arruinarla del todo jugando a ser científicos (o, peor, creyéndonos Dios).
Investigación e innovación responsables
Marfany, habla sobre el papel de la sociedad en la prevención de los riesgos asociados a estas tendencias y en la toma de decisiones asociadas. Una puesta en común de hacia dónde queremos ir. Por eso, la genetista reclama que se establezcan debates sociales sobre qué queremos y cómo. «Los científicos debemos favorecer la educación de la opinión pública para facilitar una toma de decisiones informada. Ni prohibición, ni inconsciencia. Debemos hacer ciencia responsable, de ninguna manera, ciencia irresponsable», afirma.
En otra universidad barcelonesa -la Pompeu Fabra- se empeñan también en la importancia de tener en cuenta la opinión pública. El Centro de Estudios de Ciencia, Comunicación y Sociedad (CCS) de esta universidad participa -a través de su directora, Gema Revuelta- en un estudio publicado en Nature Biotechnology a finales de 2017 sobre la percepción que tiene la población de varios países sobre la edición genética en humanos. Las encuestas realizadas revelan que tres de cada cuatro personas aprobarían el uso de esta técnica en adultos con fines terapéuticos. Las reticencias aumentan, sin embargo, cuando sólo se busca la mejora de las capacidades del individuo y no el tratamiento de enfermedades.
Para Revuelta, «esta encuesta es un primer esfuerzo para comprender que debe escucharse la opinión de la sociedad en la toma de decisiones sobre el futuro de las tecnologías, especialmente en aquellas tan prometedoras como la edición genética». El proyecto en sí mismo es un ejemplo de aplicación del concepto de Innovación e Investigación Responsable (RRI, por sus siglas en inglés) impulsado por la Comisión Europea.
El propósito del RRI es reflexionar acerca de las potencialidades y de los posibles problemas relacionados con la investigación y la innovación para anticiparse y tomar mejores decisiones en materia de I+D+i. La propia Revuelta coordina un curso online introductorio al concepto de RRI y a sus diferentes aproximaciones y prácticas, en el marco del proyecto europeo HEIRRI (Instituciones de Educación Superior e Investigación e Innovación Responsables).
Problema y solución
El concepto de RRI nos devuelve al comienzo: las consecuencias inesperadas -e indeseadas- de la tecnología, que pueden evitarse si su desarrollo se realiza de forma responsable. Es más, la propia tecnología se presenta como problema y como solución a esos efectos de los cuales es, en parte, causante (o más bien, lo son o lo somos quienes la usamos). Por nombrar uno de dichos efectos: el cambio climático.
En este ámbito, el Foro Económico Mundial (WEF) lanzó en su I Cumbre del Impacto del Desarrollo Sostenible -en septiembre de 2017- una iniciativa global para ayudar a aprovechar la tecnología frente a los retos de sostenibilidad y medio ambiente. Se trata de una colaboración entre el WEF, la Universidad de Stanford (EE.UU.) y PwC, con fondos de la Fundación Mava. Su misión es identificar, financiar y escalar nuevas empresas, asociaciones y modelos comerciales que aprovechen las tecnologías de la cuarta revolución industrial para transformar el abordaje de los problemas ambientales.
En un documento de análisis elaborado por la iniciativa -denominada 4IR for the Earth- se esbozan algunas posibles soluciones y ejemplos de tecnologías y propuestas innovadoras. En él se recomienda a los gobiernos «reformar regímenes de gestión arraigados, a menudo osificados, para aprovechar las herramientas disponibles para una gestión dinámica de los recursos, una aplicación de la ley más eficaz y una mejor comprensión y control de los riesgos». Nada nuevo bajo el sol, por otra parte.
Entre los casos citados está el programa TurtleWatch (EE.UU.), que proporciona a una pesquería de Hawái datos en tiempo (casi) real para identificar puntos de alta concentración de tortugas y reducir la captura incidental. También menciona el uso, en 2015, de Global Fishing Watch -un sistema web de vigilancia pública de la actividad de pesca comercial- para atrapar un barco pesquero que operaba ilegalmente y cobrar una multa de dos millones de dólares. El informe destaca asimismo el papel «clave» de los emprendedores para crear modelos de negocio que puedan apoyar el desarrollo y la aplicación global de innovaciones para los océanos. Y puntualiza que las empresas ajenas al sector tecnológico también tienen roles cruciales «para crear las demandas que impulsan la innovación».
ODS, sí o sí
En línea con la idea de la tecnología y la innovación como parte de la solución, y como previa a la Conferencia Iberoamérica sobre los Objetivos de Desarrollo Sostenible (ODS) este verano en Salamanca, diversos expertos se preguntaban recientemente en un evento qué innovación necesitamos para el futuro del planeta. Entre ellos Carlos Mataix, director del Centro de Innovación en Tecnología para el Desarrollo de la Universidad Politécnica de Madrid (itdUPM), entrevistado por INNOVADORES.
Mataix asegura que es fundamental poner la tecnología y la innovación en el centro para la consecución de los ODS. Es optimista sobre «la capacidad de dirigir la creación de conocimiento hacia los problemas que más presionan a la humanidad. Asegura que los ODS son alcanzables -«y lo serán porque no tenemos otra alternativa»- siempre que el sector público, las universidades y sector privado se pongan de acuerdo para dirigir el desarrollo a estos fines. Entre otras cosas, con incentivos y con políticas que lo favorezcan.
Como ejemplo, Mataix hace referencia a los objetivos relacionados con energía y medio ambiente. «Hemos visto que tenemos tecnología suficiente para llegar en 2030 a un escenario que esté prácticamente descarbonizado. Nos falta aprovecharla de la manera más inteligente posible, de forma cooperativa, y que los sistemas regulatorios acompañen su desarrollo y generalización», afirma.
Por su parte, Michele Morgante, director científico del Instituto de Genómica Aplicada de la Universidad de Údine (Italia), apunta a la aplicación de la agricultura inteligente como parte de la estrategia de abordaje de los ODS. El genetista -ponente en el Foro Transfiere (Málaga)- subraya el potencial de la modificación genética de alimentos para afrontar el reto de alimentar el mundo con el menor impacto ambiental posible. Lo dice con conocimiento de causa, ya que lidera un grupo de investigación sobre plataformas genómicas para incrementar la productividad de los cultivos.
Mataix anima a tomar nota de tecnologías e innovaciones como esta y de pruebas piloto y prototipos que están llevando a cabo algunas ciudades, gobiernos, empresas y centros de investigación como el que él mismo dirige. «Demostramos que es posible -en una universidad- actuar de forma coordinada internamente, con el talento multidisciplinar necesario para abordar la complejidad de los retos que afrontamos y con apertura a la colaboración con empresas y con la sociedad civil», asegura.
Se repite la conversación sobre el avance tecnológico y la innovación y sus consecuencias; sobre el papel de la ética su desarrollo; sobre investigación responsable, auditoría y control de daños, y sobre el imperativo de un mundo regido por un sistema sostenible en todas sus vertientes. La toma de conciencia se hace inevitable y son cada vez más los lugares comunes. Pocos dudan ya -como Trump- de que nos estamos cargando el planeta. No queda otra que actuar, aunque solo sea por egoísmo.
Clonación deshonesta
Este año hemos asistido al ‘nacimiento’ de los primeros clones de primates creados con el mismo método usado con la oveja Dolly, del que se hacen eco revistas científicas como Science. El fin es -supuestamente- usarlos para estudiar los mecanismos que intervienen o desencadenan el desarrollo de las enfermedades y probar nuevos medicamentos. El desconocido efecto que esto puede tener en su interferencia con los ecosistemas se suma a los dilemas éticos que plantea en relación a la experimentación con animales y a la posible aplicación de la técnica en humanos. La clonación humana ya no es una proeza reservada a la ciencia ficción sino algo factible, según el artífice del trabajo, el chino Mu-ming Poo. No obstante, Poo no cree que ni la sociedad ni los gobiernos lo llegasen a permitir. El debate sobre la clonación de primates con fines cuestionables y posibles usos y efectos deshonestos está abierto.
Recent Comments