Este texto es una versión actualizada de un artículo anterior.

Los avances de la tecnología y la ciencia son maravillosos, gracias a ellas podemos vivir más tiempo y mejor, tenemos más comodidades, mejores servicios y herramientas para enfrentar los desafíos del mundo digital moderno.

Las posibilidades de usar la tecnología para beneficio de todos son infinitas, pero también existe la probabilidad de que sea utilizada con fines malignos, o simplemente se salga de nuestro control hasta el punto de convertirse en una amenaza para nuestra propia seguridad.

Hoy más que nunca, nos encontramos en un punto de inflexión en el que las tecnologías emergentes que florecerán en el futuro plantean serios problemas éticos y filosóficos, que pueden ser bastante aterradores para la humanidad.

Por ello, si queremos sobrevivir a esta revolución tecnológica, lo mejor será vigilar de cerca, regular, informarnos e investigar más a fondo, para evitar que se usen estas tecnologías en los siguientes espeluznantes escenarios.

1. El demonio de la súper IA

En la actualidad, la Inteligencia Artificial (IA) se encuentra en todos lados. Aunque no nos demos cuenta, convivimos con ella diariamente con el simple hecho de usar un teléfono inteligente. La IA ya está cambiando la medicina, la política, la economía y muchos otros aspectos de nuestra vida cotidiana.

Una IA puede aprender cualquier cosa en un tiempo bastante corto; sin embargo, el gran problema ético es qué tipo de datos le estamos enseñando, ya que al entrenar soluciones de Inteligencia Artificial se pueden replicar y maximizar los mismos sesgos sociales que hemos tratado de eliminar por años, como la discriminación, racismo, desigualdad de género y más.

Pero esto sólo es la punta del iceberg, porque con el paso del tiempo la IA se volverá cada vez más inteligente hasta alcanzar la llamada “singularidad”, un punto sin retorno en el que las máquinas serán más inteligentes que los humanos.

La singularidad no es algo a tomar a la ligera, incluso tecnólogos y futuristas han advertido sobre el riesgo que representa el desarrollo de una IA avanzada sin control para la civilización humana.

Te puede interesar: Membrana: breve historia del siglo XXI narrada por la Inteligencia Artificial, por Jorge Carrión

Lo más aterrador es que existe la posibilidad de que las IA avanzadas adquieran autoconciencia y dominen el mundo. Stephen Hawking advirtió que el surgimiento de una súper IA augura el fin de la raza humana. Mientras que Elon Musk se ha referido a ella como “un demonio” que si convocamos podría decidir borrar a los humanos del planeta como una plaga.

2. Robots asesinos

El miedo a los robots se remonta desde los inicios de la primera Revolución Industrial, cuando muchas personas fueron reemplazadas por máquinas en las grandes fábricas.

Este miedo es ahora mucho más latente, ya que los robots y la automatización han ido eliminando los trabajos humanos, especialmente los que requieren tareas repetitivas. Se estima que al menos el 50 por ciento de los empleos en el futuro serán realizados por robots, dejando menos oportunidades para los humanos.

Pero a medida que los robots se vuelven más sofisticados con movimientos mucho más controlados y además son impulsados por IA avanzada, serán capaces no sólo de reemplazarnos en tareas repetitivas, sino que también podrán hacer lo mismo que un profesional o un creativo. Ya existen robots pintores, cirujanos y hasta cocineros.

La pesadilla no acaba aquí, porque el futuro de los robots se vuelve más sombrío cuando agregamos armas poderosas a la fórmula. En los últimos años han aparecido titulares sobre ejercicios militares con robots y aficionados que agregan metralletas a perros robot modificados.

Recomendamos: Robots que asustan: lo que hay que evitar a la hora de diseñar Inteligencia Artificial

Los robots pueden convertirse en una poderosa máquina de matar que podría ser aprovechada con fines militares o incluso por el crimen organizado. Las películas populares de ciencia ficción como “Terminator” o “Yo Robot” nos han mostrado un escenario hipotético en donde los robots se cansan de estar bajo el yugo de los humanos y terminan rebelándose.

Ante esta posible amenaza, varias empresas de la industria que se encuentran desarrollando robots avanzados, como Boston Dynamics, se han comprometido a no militarizar o agregar armas a sus creaciones. No obstante, siempre puede encontrarse un actor sin escrúpulos que se encargue del trabajo sucio.

3. La plaga de los drones

Desde que los drones se han vuelto más populares y asequibles, sus funciones se han diversificado con usos amigables, como la fotografía y grabación de video, hasta la entrega de paquetes.

No obstante, los drones también pueden representar una gran amenaza para la seguridad, ya que son capaces de portar armas o explosivos y podrían usarse para el combate militar avanzado o hasta para llevar a cabo un ataque terrorista.

Sería muy fácil para un individuo perturbado o un grupo de criminales programar un enjambre de drones asesinos y comenzar un tiroteo en una escuela o espacio público o perpetrar un ataque terrorista a gran escala contra la población civil. También pueden hacerlos volar y estrellarse contra edificios e infraestructura crítica causando grandes daños.

Además, los drones pueden ser usados para vigilar, acosar o espiar a otras personas de forma remota. Esta pesadilla distópica la podemos ver claramente representada en las películas de suspenso “La Purga”, en donde el gobierno utiliza drones para emboscar a vagabundos y personas pobres que se vuelven el blanco perfecto para identificar y eliminar durante la noche.

4. Guerra y destrucción en el ciberespacio

Los ataques cibernéticos no son un problema del futuro, sino del presente. Cada día se producen más de 300 mil ataques de malware en todo el mundo, según datos de IDC. El cibercrimen está en aumento y los piratas informáticos son más organizados empleando tácticas avanzadas.

Tipos de malware como el ransomware, phishing y spyware como Pegasus se han convertido en la pesadilla moderna de gobiernos, organizaciones y personas de interés como periodistas o activistas de derechos humanos. Personas comunes pierden sus ahorros de toda la vida o son estafados por sólo dar clic en un correo electrónico o enlace malicioso.

Las guerras ahora se libran en el ciberespacio y los daños aumentan hasta el punto de que nada es totalmente seguro si está en Internet. Los ciberataques ya son considerados por agencias de inteligencia –como el FBI– como la mayor amenaza para la seguridad nacional de cualquier país, por encima del terrorismo.

Mientras el mundo se vuelve más digital y todo es controlado por un sistema informático, el escenario más devastador es que un grupo de hackers decida secuestrar la infraestructura crítica de todo un país obteniendo el control de todo: servicios de emergencias, bancos, red eléctrica, suministro de alimento, tuberías de agua y combustible o hasta el armamento nuclear de una nación.

En los últimos tres años se han registraron varios casos terribles que nos demuestran que este riesgo es real: un hacker intentó envenenar el suministro de agua de una planta en Florida; la empacadora de carne más grande del mundo fue inmovilizada con ransomware; una persona murió en un hospital secuestrado por ransomware en Alemania, y lo más reciente es la guerra cibernética entre Ucrania y Rusia.

5. Autos que se chocan solos

“Volver al futuro” nos prometió autos voladores, pero la industria nos trajo autos robot que se pueden conducir solos mientras disfrutamos el viaje viendo una película, jugando videojuegos, trabajando o simplemente tomando una siesta.

Gracias a la tecnología de red 5G, el Aprendizaje Automático y sensores avanzados, esta fantasía puede ser realidad. Aun así, la historia nos ha demostrado que la tecnología a veces se puede volver en nuestra contra.

Si bien los sistemas de conducción autónoma han avanzado mucho en la última década, aún no están lo suficientemente desarrollados como para ser totalmente seguros y confiables en un camino no controlado.

Por ejemplo, los automóviles semiautónomos de Tesla han sido noticia por accidentes con personas que no supervisan el vehículo. El proyecto de conducción autónoma de Google llamado Waymo aún necesita supervisores humanos durante algunos viajes.

Esto sólo es el inicio, pero una vez que los vehículos autónomos tomen su curso en ascenso, las amenazas y posibles riesgos florecerán. La imagen más aterradora sería que un pirata informático tome el control de un vehículo autónomo para secuestrarte y provocar un accidente automovilístico de forma remota sin ser detectado. O peor aún, una colisión masiva que resulte en innumerables muertes.

Otro escenario sería un robo perfecto en el que un camión autónomo sea secuestrado con valiosa mercancía. Los impactos nefastos dependen de la imaginación de los malos actores y del control en los estándares de ciberseguridad para estos vehículos.

6. Reemplazaron mi rostro

Imagina navegar en Internet y encontrar un video porno con una persona que no eres tú, pero tiene tu rostro. Esta es una pesadilla digital que algunas personas (en su mayoría mujeres) en todo el mundo han vivido debido a los avances en las falsificaciones de video profundas o deep fakes.

Los deep fakes emplean Inteligencia Artificial para reemplazar las caras de las personas en un video de alta resolución de forma digital. Lo más espeluznante es que los movimientos y adaptación de los rostros parecen tan reales que se convierten en una maldición para la reputación y carrera profesional de las víctimas.

Relacionado: DeepNude: la Inteligencia Artificial no es el problema, son nuestras creencias misóginas

La mayoría de los deep fakes se usan con fines maliciosos, como la creación de videos de porno venganza y campañas políticas de desinformación durante elecciones. Además, la tecnología para hacerlos es accesible y fácil de usar.

7. Un ente que vigila

La tecnología de reconocimiento facial es un sueño realizado de las agencias de policía como una herramienta para atrapar a delincuentes. Pero este tipo de software automatizado también puede ser explotado para usarse como un sistema de vigilancia masiva, socavando la privacidad y libertad de las personas.

Un gobierno podría abusar de ella para el seguimiento de personas de interés como inmigrantes indocumentados, activistas o disidentes. Esta tecnología también presenta sesgos alarmantes, ya que se han registrado casos de arrestos injustificados de mujeres y personas de color.

8. Cyborgs y control mental

Las Interfaces cerebro-computadora (BCI, en inglés) consisten en implantar un chip en nuestro cerebro con el objetivo de fusionarnos con la Inteligencia Artificial. La promesa es que con un chip en el cerebro nuestra habilidad cerebral aumentará para evitar quedar obsoletos por el avance de las máquinas.

Esta tecnología ya es una realidad y hay empresas que trabajan seriamente en esto. Por ejemplo, Elon Musk creó Neuralink para desarrollar chips implantables que permitan restaurar la movilidad y sensibilidad de las personas discapacitadas por accidentes cerebrovasculares y otros trastornos neurológicos.

También ha dicho que podría ayudar a mejorar enfermedades mentales como la depresión y ansiedad, o como apoyo para superar adicciones. A pesar de las buenas intenciones médicas, las BCI llegan con fuertes implicaciones de ciberseguridad y muchas otras incógnitas sobre sus posibles impactos no sólo a nivel físico, sino también mental y emocional.

Un pirata informático podría vulnerar la seguridad del chip para controlar tu cuerpo, mente y hasta tus emociones. El futuro lo dirá, pero aun así ya hay gente que quiere convertirse en cyborg y le gusta implantar chips en sus manos para abrir su auto o pagar la cuenta. El siguiente paso será agregar otro chip en su cerebro para ser más inteligentes o comunicarse telepáticamente con otras máquinas y personas.

9. La casita inteligente del terror

Hoy en día muchas personas tienen un dispositivo conectado a Internet en su hogar. Desde altavoces inteligentes con asistentes como Alexa, Siri o Google, hasta focos, lámparas, conectores, televisores, cámaras de vigilancia, entre otros.

El avance del Internet de las Cosas (IoT) y de la domótica es cada vez más accesible, popular y útil. Pero como todo dispositivo conectado a Internet, también son vulnerables a los ciberataques sin la debida protección y cuidado.

La mayoría de estos dispositivos tienen un micrófono o cámara y la capacidad de recolectar muchos más datos de tus hábitos personales y rutinas. Además de la publicidad dirigida, la pesadilla existe en la posibilidad de que se puedan convertir en la puerta de entrada de un ciberdelincuente a tu vida íntima, grabando conversaciones e incluso espiarte a través de las cámaras o grabarte desnudo.

10. La dimensión virtual desconocida 

Tecnologías como la Realidad Virtual (RV) y Realidad Aumentada (RA) están en auge y la industria se está moviendo hacia el metaverso, un concepto que empresas como Meta nos han vendido como la próxima generación de Internet en donde tendremos interacciones más naturales dentro de entornos virtuales que tendrán una economía activa y podremos trabajar, estudiar y divertirnos.

Aún no sabemos qué será exactamente el metaverso o cuáles serán los impactos que tendrá una vez construido. Pero uno de los peligros es que se repliquen los mismos problemas de la sociedad en la vida física y el ciberespacio, desde abusos, acoso sexual y hasta bullying.

En un punto extremo, las realidades inmersivas avanzadas pueden volverse tan adictivas que puedan hacernos perder contacto con la realidad, en donde las personas prefieran vivir en una simulación virtual. Nuevamente, todo depende de cómo se vaya desarrollando y de las normas que imponga la sociedad para regular este tipo de experiencias.

11. Un gran poder conlleva una gran responsabilidad

Muchos de estos escenarios caóticos ya son una realidad y otros son meras especulaciones, pero el objetivo de este texto no es satanizar a las tecnologías emergentes, sino reflexionar sobre el gran poder que tenemos en nuestras manos.

La evolución tecnológica es un tren que ya no podemos parar; sin embargo, lo importante es que la innovación se debe construir con sabiduría y responsabilidad, tal y como lo dijo el Premio Nobel de la Paz, Muhammad Yunus: “La tecnología es importante, pero lo único que realmente importa es qué hacemos con ella”.

Los avances de la tecnología son maravillosos, pero también pueden ser bastante aterradores para la humanidad. Existe el riesgo de que sean utilizadas con fines malignos o simplemente se salgan de nuestro control…

Lee, bajo tu propio riesgo: Pesadillas tecnológicas que no te dejarán dormir esta noche

Fayerwayer-Alberto Sandoval

Tener constantes pesadillas puede llegar a considerarse como una condición producto del estrés postraumático. Es un trastorno que se supera a través de la atención de un profesional. Sin embargo, hay un dispositivo que pronto será de gran utilidad para ayudarte a superarlo. Se trata del Apple Watch que vendrá con una app que los detecta y al mismo tiempo combate.

Phone Arena reseñó que los sensores de Apple Watch miden constantemente la frecuencia cardíaca. Asimismo lo hace con el movimiento corporal, mientras el usuario está dormido. Entonces estos datos se envían a un centro que tiene algoritmos programados para identificar los perfiles de sueño.

El mismo hecho de que esta acción ocurra es impresionante. No obstante, el Apple Watch no se queda con la simple información, está dispuesto a tomar acciones.

La acción de la app en el Apple Watch

El programa se llama Nightware. Está programado para recibir la información que le genera el dispositivo iOS. Entonces si nota que el usuario está teniendo pesadillas envía vibraciones que interrumpen el mal sueño.

No cualquiera la podrá usar. La app te pedirá que tengas una orden médica, ya que te solicitará datos que solo un profesional de la salud mental te pude dar. No es para todos, aseguran sus desarrolladores. Y además se programa según las necesidades del paciente.

“Aquellos que se portan mal durante las pesadillas sonámbulos o realizan actos de violencia no deben usar la aplicación”, reseña el portal antes citado.

Científicos expertos de la Administración de Drogas y Alimentos de los Estados Unidos (FDA) realizaron estudios con el dispositivo y la aplicación. Entonces notaron la diferencia en los pacientes que fueron sometidos a las pruebas.