Este texto es una versión actualizada de un artículo anterior.

Los avances de la tecnología y la ciencia son maravillosos, gracias a ellas podemos vivir más tiempo y mejor, tenemos más comodidades, mejores servicios y herramientas para enfrentar los desafíos del mundo digital moderno.

Las posibilidades de usar la tecnología para beneficio de todos son infinitas, pero también existe la probabilidad de que sea utilizada con fines malignos, o simplemente se salga de nuestro control hasta el punto de convertirse en una amenaza para nuestra propia seguridad.

Hoy más que nunca, nos encontramos en un punto de inflexión en el que las tecnologías emergentes que florecerán en el futuro plantean serios problemas éticos y filosóficos, que pueden ser bastante aterradores para la humanidad.

Por ello, si queremos sobrevivir a esta revolución tecnológica, lo mejor será vigilar de cerca, regular, informarnos e investigar más a fondo, para evitar que se usen estas tecnologías en los siguientes espeluznantes escenarios.

1. El demonio de la súper IA

En la actualidad, la Inteligencia Artificial (IA) se encuentra en todos lados. Aunque no nos demos cuenta, convivimos con ella diariamente con el simple hecho de usar un teléfono inteligente. La IA ya está cambiando la medicina, la política, la economía y muchos otros aspectos de nuestra vida cotidiana.

Una IA puede aprender cualquier cosa en un tiempo bastante corto; sin embargo, el gran problema ético es qué tipo de datos le estamos enseñando, ya que al entrenar soluciones de Inteligencia Artificial se pueden replicar y maximizar los mismos sesgos sociales que hemos tratado de eliminar por años, como la discriminación, racismo, desigualdad de género y más.

Pero esto sólo es la punta del iceberg, porque con el paso del tiempo la IA se volverá cada vez más inteligente hasta alcanzar la llamada “singularidad”, un punto sin retorno en el que las máquinas serán más inteligentes que los humanos.

La singularidad no es algo a tomar a la ligera, incluso tecnólogos y futuristas han advertido sobre el riesgo que representa el desarrollo de una IA avanzada sin control para la civilización humana.

Te puede interesar: Membrana: breve historia del siglo XXI narrada por la Inteligencia Artificial, por Jorge Carrión

Lo más aterrador es que existe la posibilidad de que las IA avanzadas adquieran autoconciencia y dominen el mundo. Stephen Hawking advirtió que el surgimiento de una súper IA augura el fin de la raza humana. Mientras que Elon Musk se ha referido a ella como “un demonio” que si convocamos podría decidir borrar a los humanos del planeta como una plaga.

2. Robots asesinos

El miedo a los robots se remonta desde los inicios de la primera Revolución Industrial, cuando muchas personas fueron reemplazadas por máquinas en las grandes fábricas.

Este miedo es ahora mucho más latente, ya que los robots y la automatización han ido eliminando los trabajos humanos, especialmente los que requieren tareas repetitivas. Se estima que al menos el 50 por ciento de los empleos en el futuro serán realizados por robots, dejando menos oportunidades para los humanos.

Pero a medida que los robots se vuelven más sofisticados con movimientos mucho más controlados y además son impulsados por IA avanzada, serán capaces no sólo de reemplazarnos en tareas repetitivas, sino que también podrán hacer lo mismo que un profesional o un creativo. Ya existen robots pintores, cirujanos y hasta cocineros.

La pesadilla no acaba aquí, porque el futuro de los robots se vuelve más sombrío cuando agregamos armas poderosas a la fórmula. En los últimos años han aparecido titulares sobre ejercicios militares con robots y aficionados que agregan metralletas a perros robot modificados.

Recomendamos: Robots que asustan: lo que hay que evitar a la hora de diseñar Inteligencia Artificial

Los robots pueden convertirse en una poderosa máquina de matar que podría ser aprovechada con fines militares o incluso por el crimen organizado. Las películas populares de ciencia ficción como “Terminator” o “Yo Robot” nos han mostrado un escenario hipotético en donde los robots se cansan de estar bajo el yugo de los humanos y terminan rebelándose.

Ante esta posible amenaza, varias empresas de la industria que se encuentran desarrollando robots avanzados, como Boston Dynamics, se han comprometido a no militarizar o agregar armas a sus creaciones. No obstante, siempre puede encontrarse un actor sin escrúpulos que se encargue del trabajo sucio.

3. La plaga de los drones

Desde que los drones se han vuelto más populares y asequibles, sus funciones se han diversificado con usos amigables, como la fotografía y grabación de video, hasta la entrega de paquetes.

No obstante, los drones también pueden representar una gran amenaza para la seguridad, ya que son capaces de portar armas o explosivos y podrían usarse para el combate militar avanzado o hasta para llevar a cabo un ataque terrorista.

Sería muy fácil para un individuo perturbado o un grupo de criminales programar un enjambre de drones asesinos y comenzar un tiroteo en una escuela o espacio público o perpetrar un ataque terrorista a gran escala contra la población civil. También pueden hacerlos volar y estrellarse contra edificios e infraestructura crítica causando grandes daños.

Además, los drones pueden ser usados para vigilar, acosar o espiar a otras personas de forma remota. Esta pesadilla distópica la podemos ver claramente representada en las películas de suspenso “La Purga”, en donde el gobierno utiliza drones para emboscar a vagabundos y personas pobres que se vuelven el blanco perfecto para identificar y eliminar durante la noche.

4. Guerra y destrucción en el ciberespacio

Los ataques cibernéticos no son un problema del futuro, sino del presente. Cada día se producen más de 300 mil ataques de malware en todo el mundo, según datos de IDC. El cibercrimen está en aumento y los piratas informáticos son más organizados empleando tácticas avanzadas.

Tipos de malware como el ransomware, phishing y spyware como Pegasus se han convertido en la pesadilla moderna de gobiernos, organizaciones y personas de interés como periodistas o activistas de derechos humanos. Personas comunes pierden sus ahorros de toda la vida o son estafados por sólo dar clic en un correo electrónico o enlace malicioso.

Las guerras ahora se libran en el ciberespacio y los daños aumentan hasta el punto de que nada es totalmente seguro si está en Internet. Los ciberataques ya son considerados por agencias de inteligencia –como el FBI– como la mayor amenaza para la seguridad nacional de cualquier país, por encima del terrorismo.

Mientras el mundo se vuelve más digital y todo es controlado por un sistema informático, el escenario más devastador es que un grupo de hackers decida secuestrar la infraestructura crítica de todo un país obteniendo el control de todo: servicios de emergencias, bancos, red eléctrica, suministro de alimento, tuberías de agua y combustible o hasta el armamento nuclear de una nación.

En los últimos tres años se han registraron varios casos terribles que nos demuestran que este riesgo es real: un hacker intentó envenenar el suministro de agua de una planta en Florida; la empacadora de carne más grande del mundo fue inmovilizada con ransomware; una persona murió en un hospital secuestrado por ransomware en Alemania, y lo más reciente es la guerra cibernética entre Ucrania y Rusia.

5. Autos que se chocan solos

“Volver al futuro” nos prometió autos voladores, pero la industria nos trajo autos robot que se pueden conducir solos mientras disfrutamos el viaje viendo una película, jugando videojuegos, trabajando o simplemente tomando una siesta.

Gracias a la tecnología de red 5G, el Aprendizaje Automático y sensores avanzados, esta fantasía puede ser realidad. Aun así, la historia nos ha demostrado que la tecnología a veces se puede volver en nuestra contra.

Si bien los sistemas de conducción autónoma han avanzado mucho en la última década, aún no están lo suficientemente desarrollados como para ser totalmente seguros y confiables en un camino no controlado.

Por ejemplo, los automóviles semiautónomos de Tesla han sido noticia por accidentes con personas que no supervisan el vehículo. El proyecto de conducción autónoma de Google llamado Waymo aún necesita supervisores humanos durante algunos viajes.

Esto sólo es el inicio, pero una vez que los vehículos autónomos tomen su curso en ascenso, las amenazas y posibles riesgos florecerán. La imagen más aterradora sería que un pirata informático tome el control de un vehículo autónomo para secuestrarte y provocar un accidente automovilístico de forma remota sin ser detectado. O peor aún, una colisión masiva que resulte en innumerables muertes.

Otro escenario sería un robo perfecto en el que un camión autónomo sea secuestrado con valiosa mercancía. Los impactos nefastos dependen de la imaginación de los malos actores y del control en los estándares de ciberseguridad para estos vehículos.

6. Reemplazaron mi rostro

Imagina navegar en Internet y encontrar un video porno con una persona que no eres tú, pero tiene tu rostro. Esta es una pesadilla digital que algunas personas (en su mayoría mujeres) en todo el mundo han vivido debido a los avances en las falsificaciones de video profundas o deep fakes.

Los deep fakes emplean Inteligencia Artificial para reemplazar las caras de las personas en un video de alta resolución de forma digital. Lo más espeluznante es que los movimientos y adaptación de los rostros parecen tan reales que se convierten en una maldición para la reputación y carrera profesional de las víctimas.

Relacionado: DeepNude: la Inteligencia Artificial no es el problema, son nuestras creencias misóginas

La mayoría de los deep fakes se usan con fines maliciosos, como la creación de videos de porno venganza y campañas políticas de desinformación durante elecciones. Además, la tecnología para hacerlos es accesible y fácil de usar.

7. Un ente que vigila

La tecnología de reconocimiento facial es un sueño realizado de las agencias de policía como una herramienta para atrapar a delincuentes. Pero este tipo de software automatizado también puede ser explotado para usarse como un sistema de vigilancia masiva, socavando la privacidad y libertad de las personas.

Un gobierno podría abusar de ella para el seguimiento de personas de interés como inmigrantes indocumentados, activistas o disidentes. Esta tecnología también presenta sesgos alarmantes, ya que se han registrado casos de arrestos injustificados de mujeres y personas de color.

8. Cyborgs y control mental

Las Interfaces cerebro-computadora (BCI, en inglés) consisten en implantar un chip en nuestro cerebro con el objetivo de fusionarnos con la Inteligencia Artificial. La promesa es que con un chip en el cerebro nuestra habilidad cerebral aumentará para evitar quedar obsoletos por el avance de las máquinas.

Esta tecnología ya es una realidad y hay empresas que trabajan seriamente en esto. Por ejemplo, Elon Musk creó Neuralink para desarrollar chips implantables que permitan restaurar la movilidad y sensibilidad de las personas discapacitadas por accidentes cerebrovasculares y otros trastornos neurológicos.

También ha dicho que podría ayudar a mejorar enfermedades mentales como la depresión y ansiedad, o como apoyo para superar adicciones. A pesar de las buenas intenciones médicas, las BCI llegan con fuertes implicaciones de ciberseguridad y muchas otras incógnitas sobre sus posibles impactos no sólo a nivel físico, sino también mental y emocional.

Un pirata informático podría vulnerar la seguridad del chip para controlar tu cuerpo, mente y hasta tus emociones. El futuro lo dirá, pero aun así ya hay gente que quiere convertirse en cyborg y le gusta implantar chips en sus manos para abrir su auto o pagar la cuenta. El siguiente paso será agregar otro chip en su cerebro para ser más inteligentes o comunicarse telepáticamente con otras máquinas y personas.

9. La casita inteligente del terror

Hoy en día muchas personas tienen un dispositivo conectado a Internet en su hogar. Desde altavoces inteligentes con asistentes como Alexa, Siri o Google, hasta focos, lámparas, conectores, televisores, cámaras de vigilancia, entre otros.

El avance del Internet de las Cosas (IoT) y de la domótica es cada vez más accesible, popular y útil. Pero como todo dispositivo conectado a Internet, también son vulnerables a los ciberataques sin la debida protección y cuidado.

La mayoría de estos dispositivos tienen un micrófono o cámara y la capacidad de recolectar muchos más datos de tus hábitos personales y rutinas. Además de la publicidad dirigida, la pesadilla existe en la posibilidad de que se puedan convertir en la puerta de entrada de un ciberdelincuente a tu vida íntima, grabando conversaciones e incluso espiarte a través de las cámaras o grabarte desnudo.

10. La dimensión virtual desconocida 

Tecnologías como la Realidad Virtual (RV) y Realidad Aumentada (RA) están en auge y la industria se está moviendo hacia el metaverso, un concepto que empresas como Meta nos han vendido como la próxima generación de Internet en donde tendremos interacciones más naturales dentro de entornos virtuales que tendrán una economía activa y podremos trabajar, estudiar y divertirnos.

Aún no sabemos qué será exactamente el metaverso o cuáles serán los impactos que tendrá una vez construido. Pero uno de los peligros es que se repliquen los mismos problemas de la sociedad en la vida física y el ciberespacio, desde abusos, acoso sexual y hasta bullying.

En un punto extremo, las realidades inmersivas avanzadas pueden volverse tan adictivas que puedan hacernos perder contacto con la realidad, en donde las personas prefieran vivir en una simulación virtual. Nuevamente, todo depende de cómo se vaya desarrollando y de las normas que imponga la sociedad para regular este tipo de experiencias.

11. Un gran poder conlleva una gran responsabilidad

Muchos de estos escenarios caóticos ya son una realidad y otros son meras especulaciones, pero el objetivo de este texto no es satanizar a las tecnologías emergentes, sino reflexionar sobre el gran poder que tenemos en nuestras manos.

La evolución tecnológica es un tren que ya no podemos parar; sin embargo, lo importante es que la innovación se debe construir con sabiduría y responsabilidad, tal y como lo dijo el Premio Nobel de la Paz, Muhammad Yunus: “La tecnología es importante, pero lo único que realmente importa es qué hacemos con ella”.

El debate en la Organización de las Naciones Unidas (ONU) sobre el uso y desarrollo de armas autónomas no ha presentado grandes avances. En la reunión en Ginebra, los países miembros de la Convención sobre Armas Convencionales (CCW) no pudieron ponerse de acuerdo y decidieron continuar las conversaciones en los próximos dos años.

Los diplomáticos de la ONU expresaron su decepción porque “los próximos dos años se desperdiciarán en conversaciones vagas en lugar de trabajo legal concreto”. Según ellos, la principal razón para el desacuerdo fue “Rusia diluyendo el contenido de la agenda y empujando hacia atrás en todos los frentes, mientras desarrolla su ejército de robots hasta 2025”.

Las armas autónomas son tecnologías como aviones no tripulados, tanques y otra maquinaria controlada por una computadora que funciona con sistemas de Inteligencia Artificial (IA) y programada para seleccionar y atacar objetivos, sin control humano.

A nivel de la ONU, al menos 28 gobiernos exigen la prohibición de las armas de IA, mientras que Estados Unidos y Rusia han bloqueado cualquier movimiento para formar acuerdos legalmente vinculantes sobre armamento autónomo.

Otras grandes potencias militares, como China, Israel, Corea del Sur y el Reino Unido, también están compitiendo para desarrollar sistemas de armas autónomos.

Asia

Cabe destacar que China se ha mantenido tímida en estas discusiones, que han tenido lugar al menos una vez al año desde 2014. Sus delegados contribuyen con el mínimo y, a menudo, envían señales ambiguas sobre su posición. Han llamado a los robots asesinos una “preocupación humanitaria”, pero han intervenido para diluir el texto que se debate.

Por el contrario, Mary Wareham, coordinadora global de la campaña para detener a los robots asesinos, ha instado a otro gigante asiático, Japón, a que se posicione como líder en la campaña de prohibición del desarrollo de sistemas de armas.

La Unión Europea adoptó una postura contra los “robots asesinos” el año pasado, cuando el Parlamento Europeo aprobó una resolución que pedía una prohibición internacional del desarrollo, producción y uso de armas autónomas.

Sin embargo, los expertos señalan que el desarrollo tecnológico podría haber progresado demasiado para implementar una prohibición total, por lo que deberían debatir medidas regulatorias.

Seguramente has visto los videos de los robots de Boston Dynamics, una compañía que ha estado fabricando robots desde 1992. A veces estos parecen lindos como un perro, y otros dan algo de miedo como el androide Atlas haciendo parkour.

Casi todos los videos de Boston Dynamics han despertado comentarios en Internet sobre cómo estamos condenados a un apocalipsis robot. Claro que es lógico que respondamos con miedo frente a robots que parecen tan sofisticados para poder hacer lo mismo que un humano.

Esta narrativa apocalíptica del reemplazo de los humanos por robots ha sido explotada por Hollywood durante años en películas como Yo Robot, Terminator, 2001: A Space Odyssey, y recientemente con la serie de HBO, Westworld.

El principal propósito de estas historias ha sido utilizar a los robots como un reflejo de la humanidad, a fin de obligarnos a reflexionar sobre cuestiones como la explotación laboral, la esclavitud, la intolerancia y revolución. La narrativa de los robots nos habla de nuestros miedos más profundos como seres humanos.

Sin embargo, Boston Dynamics ha aprovechado este concepto de ciencia ficción en sus videos como una estrategia de marketing muy astuta, no sólo para vender su primer robot comercial, el SpotMini, sino también para distraer la atención sobre cuestiones de ética y responsabilidad.

Recordemos que Boston Dynamics ha sido financiada en repetidas ocasiones por Darpa, una agencia del Departamento de Defensa de Estados Unidos. La compañía también anunció que vendería al robot SpotMini para tareas de vigilancia.

Lo más inquietante por ahora no es el apocalipsis robótico, sino el hecho de que una empresa privada está construyendo máquinas ágiles, potentes y autónomas para fines aún desconocidos.

Mary Wareham, coordinadora global de la campaña para detener a los robots asesinos, presentó a la mascota oficial del movimiento.

Creado por un inventor del programa de la BBC Robot Wars, el droide, conocido como David Wreckham, ha sido reclutado para instar a la comunidad internacional a dejar de desarrollar sistemas letales de armas autónomas o robots asesinos.

La “mascota” enviará una carta a los diplomáticos de la ONU exigiendo que los robots no guiados por el control remoto humano, que puedan iniciar accidentalmente guerras o causar atrocidades masivas, sean prohibidos por el mismo tipo de tratado internacional que prohíbe las armas químicas.

Los drones, en comparación con estos robots, son controlados por equipos militares a menudo a miles de millas de distancia de donde están desplegados.

Noel Sharkey, profesor emérito de Inteligencia Artificial y Robótica en la Universidad de Sheffield, destacado activista contra los robots asesinos y creador del robot David, señaló que los robots asesinos autónomos tienen el potencial de hacer cosas desastrosas para las que no fueron programados originalmente.

“Aspiramos a crear un movimiento de base amplia que genere tanta presión que los gobiernos inicien negociaciones sobre un nuevo tratado internacional para prohibir los sistemas de armas que seleccionarían y atacarían objetivos sin un control humano significativo. Estas armas totalmente autónomas también se llaman armas letales autónomas”, señaló la coordinadora Wareham.

De acuerdo con un reciente informe global de PAX, que examina la postura del sector tecnológico internacional sobre las armas de Inteligencia Artificial (IA), Microsoft y Amazon son parte de las compañías tecnológicas de “más alto riesgo” del mundo que podrían poner en riesgo a la humanidad a través del desarrollo de robots asesinos.

La encuesta global califica a 50 compañías de 12 países, todas trabajando en grandes tecnologías, hardware, software de IA e integración de sistemas.

PAX establece la preocupación de que las compañías tecnológicas, especialmente aquellas que trabajan en contratos militares, carecen actualmente de una política pública para garantizar que su trabajo no contribuya a las armas letales autónomas. Por el contrario, Google lidera el camino entre las grandes firmas tecnológicas que implementan las garantías adecuadas.

¿Cómo adoptar un camino antibélico?

Comprometerse públicamente a no contribuir al desarrollo de armas letales autónomas. Establecer una política clara que establezca que la compañía no contribuirá al desarrollo o la producción de sistemas letales de armas autónomas. Asegurarse de que los empleados estén bien informados sobre lo que trabajan, y permitir discusiones abiertas sobre cualquier inquietud relacionada.

Durante la Conferencia de Desarme respaldada por las Naciones Unidas, en Ginebra, el embajador de Japón, Nobushige Takamizawa, habló sobre el futuro de los sistemas de armas autónomas letales, conocidos como “robots asesinos”. Aseguró que su país no ha desarrollado sistemas de armas totalmente autónomos y no planea hacerlo.

Takamizawa mencionó los “efectos positivos” de los sistemas de armas autónomos bajo supervisión humana, pero también habló que la preocupación es que estas máquinas algún día puedan conducir guerras sin el control humano o representen una amenaza a la seguridad nacional, sobre todo utilizados por países como Corea del Norte, que ha probado misiles disparándolos sobre territorio japonés.