Un jurado en Miami determinó a Tesla como responsable parcial de un accidente en uno de sus vehículos cuando el conductor activó la función de Autopilot, que dejó una persona fallecida y un herido.

De acuerdo con el documento de sentencia, los daños ascienden a 329 millones de dólares, sin embargo, al considerar a Tesla como responsable parcial, no tendrá que pagar toda esa cantidad, sino 200 millones.

También se ordenó a Tesla pagar alrededor de 43 millones de dólares en daños compensatorios directamente a los demandantes.

El documento de veredicto señala que el conductor del vehículo, quien fue el que encendió el modo de piloto automático, deberá pagar la otra parte de la indemnización.

De acuerdo con información de la cadena CNBC, los abogados de los demandantes solicitaron al jurado una indemnización por daños y perjuicios basada en un total de 345 millones de dólares.

El relato del dueño del Tesla y conductor del vehículo involucrado en el accidente, que era un Model S, señala que activó Autopilot mientras utilizaba su teléfono móvil. También explica que el smartphone cayó y él se agachó para recogerlo, cuando ocurrió el incidente.

En el juicio, George McGee, el conductor de Tesa, también contó que pensó que el vehículo frenaría en caso de encontrarse con algún obstáculo en el camino, pero no fue así.

La decisión del jurado al hacer a Tesla parcialmente responsable es porque su tecnología no funcionó como dice que lo hace, esto cuando el conductor activó el modo de Piloto Autónomo.

Hay que recordar que Tesla ha lanzado recientemente su servicio de “Robotaxi”, es decir, de taxis de conducción autónoma, por lo que la decisión del jurado pone en la mira este servicio del magnate Elon Musk.

Tesla dijo que apelará a la decisión, pues la responsabilidad fue del conductor y no de la tecnología en sus autos.

“El veredicto de hoy es erróneo y sólo contribuye a retrasar la seguridad automotriz y poner en peligro los esfuerzos de Tesla y de toda la industria por desarrollar e implementar tecnología que salve vidas culpando al auto cuando el conductor, desde el primer día, admitió y aceptó la responsabilidad”, dijo Tesla en un comunicado.

Este texto es una versión actualizada de un artículo anterior.

Los avances de la tecnología y la ciencia son maravillosos, gracias a ellas podemos vivir más tiempo y mejor, tenemos más comodidades, mejores servicios y herramientas para enfrentar los desafíos del mundo digital moderno.

Las posibilidades de usar la tecnología para beneficio de todos son infinitas, pero también existe la probabilidad de que sea utilizada con fines malignos, o simplemente se salga de nuestro control hasta el punto de convertirse en una amenaza para nuestra propia seguridad.

Hoy más que nunca, nos encontramos en un punto de inflexión en el que las tecnologías emergentes que florecerán en el futuro plantean serios problemas éticos y filosóficos, que pueden ser bastante aterradores para la humanidad.

Por ello, si queremos sobrevivir a esta revolución tecnológica, lo mejor será vigilar de cerca, regular, informarnos e investigar más a fondo, para evitar que se usen estas tecnologías en los siguientes espeluznantes escenarios.

1. El demonio de la súper IA

En la actualidad, la Inteligencia Artificial (IA) se encuentra en todos lados. Aunque no nos demos cuenta, convivimos con ella diariamente con el simple hecho de usar un teléfono inteligente. La IA ya está cambiando la medicina, la política, la economía y muchos otros aspectos de nuestra vida cotidiana.

Una IA puede aprender cualquier cosa en un tiempo bastante corto; sin embargo, el gran problema ético es qué tipo de datos le estamos enseñando, ya que al entrenar soluciones de Inteligencia Artificial se pueden replicar y maximizar los mismos sesgos sociales que hemos tratado de eliminar por años, como la discriminación, racismo, desigualdad de género y más.

Pero esto sólo es la punta del iceberg, porque con el paso del tiempo la IA se volverá cada vez más inteligente hasta alcanzar la llamada “singularidad”, un punto sin retorno en el que las máquinas serán más inteligentes que los humanos.

La singularidad no es algo a tomar a la ligera, incluso tecnólogos y futuristas han advertido sobre el riesgo que representa el desarrollo de una IA avanzada sin control para la civilización humana.

Te puede interesar: Membrana: breve historia del siglo XXI narrada por la Inteligencia Artificial, por Jorge Carrión

Lo más aterrador es que existe la posibilidad de que las IA avanzadas adquieran autoconciencia y dominen el mundo. Stephen Hawking advirtió que el surgimiento de una súper IA augura el fin de la raza humana. Mientras que Elon Musk se ha referido a ella como “un demonio” que si convocamos podría decidir borrar a los humanos del planeta como una plaga.

2. Robots asesinos

El miedo a los robots se remonta desde los inicios de la primera Revolución Industrial, cuando muchas personas fueron reemplazadas por máquinas en las grandes fábricas.

Este miedo es ahora mucho más latente, ya que los robots y la automatización han ido eliminando los trabajos humanos, especialmente los que requieren tareas repetitivas. Se estima que al menos el 50 por ciento de los empleos en el futuro serán realizados por robots, dejando menos oportunidades para los humanos.

Pero a medida que los robots se vuelven más sofisticados con movimientos mucho más controlados y además son impulsados por IA avanzada, serán capaces no sólo de reemplazarnos en tareas repetitivas, sino que también podrán hacer lo mismo que un profesional o un creativo. Ya existen robots pintores, cirujanos y hasta cocineros.

La pesadilla no acaba aquí, porque el futuro de los robots se vuelve más sombrío cuando agregamos armas poderosas a la fórmula. En los últimos años han aparecido titulares sobre ejercicios militares con robots y aficionados que agregan metralletas a perros robot modificados.

Recomendamos: Robots que asustan: lo que hay que evitar a la hora de diseñar Inteligencia Artificial

Los robots pueden convertirse en una poderosa máquina de matar que podría ser aprovechada con fines militares o incluso por el crimen organizado. Las películas populares de ciencia ficción como “Terminator” o “Yo Robot” nos han mostrado un escenario hipotético en donde los robots se cansan de estar bajo el yugo de los humanos y terminan rebelándose.

Ante esta posible amenaza, varias empresas de la industria que se encuentran desarrollando robots avanzados, como Boston Dynamics, se han comprometido a no militarizar o agregar armas a sus creaciones. No obstante, siempre puede encontrarse un actor sin escrúpulos que se encargue del trabajo sucio.

3. La plaga de los drones

Desde que los drones se han vuelto más populares y asequibles, sus funciones se han diversificado con usos amigables, como la fotografía y grabación de video, hasta la entrega de paquetes.

No obstante, los drones también pueden representar una gran amenaza para la seguridad, ya que son capaces de portar armas o explosivos y podrían usarse para el combate militar avanzado o hasta para llevar a cabo un ataque terrorista.

Sería muy fácil para un individuo perturbado o un grupo de criminales programar un enjambre de drones asesinos y comenzar un tiroteo en una escuela o espacio público o perpetrar un ataque terrorista a gran escala contra la población civil. También pueden hacerlos volar y estrellarse contra edificios e infraestructura crítica causando grandes daños.

Además, los drones pueden ser usados para vigilar, acosar o espiar a otras personas de forma remota. Esta pesadilla distópica la podemos ver claramente representada en las películas de suspenso “La Purga”, en donde el gobierno utiliza drones para emboscar a vagabundos y personas pobres que se vuelven el blanco perfecto para identificar y eliminar durante la noche.

4. Guerra y destrucción en el ciberespacio

Los ataques cibernéticos no son un problema del futuro, sino del presente. Cada día se producen más de 300 mil ataques de malware en todo el mundo, según datos de IDC. El cibercrimen está en aumento y los piratas informáticos son más organizados empleando tácticas avanzadas.

Tipos de malware como el ransomware, phishing y spyware como Pegasus se han convertido en la pesadilla moderna de gobiernos, organizaciones y personas de interés como periodistas o activistas de derechos humanos. Personas comunes pierden sus ahorros de toda la vida o son estafados por sólo dar clic en un correo electrónico o enlace malicioso.

Las guerras ahora se libran en el ciberespacio y los daños aumentan hasta el punto de que nada es totalmente seguro si está en Internet. Los ciberataques ya son considerados por agencias de inteligencia –como el FBI– como la mayor amenaza para la seguridad nacional de cualquier país, por encima del terrorismo.

Mientras el mundo se vuelve más digital y todo es controlado por un sistema informático, el escenario más devastador es que un grupo de hackers decida secuestrar la infraestructura crítica de todo un país obteniendo el control de todo: servicios de emergencias, bancos, red eléctrica, suministro de alimento, tuberías de agua y combustible o hasta el armamento nuclear de una nación.

En los últimos tres años se han registraron varios casos terribles que nos demuestran que este riesgo es real: un hacker intentó envenenar el suministro de agua de una planta en Florida; la empacadora de carne más grande del mundo fue inmovilizada con ransomware; una persona murió en un hospital secuestrado por ransomware en Alemania, y lo más reciente es la guerra cibernética entre Ucrania y Rusia.

5. Autos que se chocan solos

“Volver al futuro” nos prometió autos voladores, pero la industria nos trajo autos robot que se pueden conducir solos mientras disfrutamos el viaje viendo una película, jugando videojuegos, trabajando o simplemente tomando una siesta.

Gracias a la tecnología de red 5G, el Aprendizaje Automático y sensores avanzados, esta fantasía puede ser realidad. Aun así, la historia nos ha demostrado que la tecnología a veces se puede volver en nuestra contra.

Si bien los sistemas de conducción autónoma han avanzado mucho en la última década, aún no están lo suficientemente desarrollados como para ser totalmente seguros y confiables en un camino no controlado.

Por ejemplo, los automóviles semiautónomos de Tesla han sido noticia por accidentes con personas que no supervisan el vehículo. El proyecto de conducción autónoma de Google llamado Waymo aún necesita supervisores humanos durante algunos viajes.

Esto sólo es el inicio, pero una vez que los vehículos autónomos tomen su curso en ascenso, las amenazas y posibles riesgos florecerán. La imagen más aterradora sería que un pirata informático tome el control de un vehículo autónomo para secuestrarte y provocar un accidente automovilístico de forma remota sin ser detectado. O peor aún, una colisión masiva que resulte en innumerables muertes.

Otro escenario sería un robo perfecto en el que un camión autónomo sea secuestrado con valiosa mercancía. Los impactos nefastos dependen de la imaginación de los malos actores y del control en los estándares de ciberseguridad para estos vehículos.

6. Reemplazaron mi rostro

Imagina navegar en Internet y encontrar un video porno con una persona que no eres tú, pero tiene tu rostro. Esta es una pesadilla digital que algunas personas (en su mayoría mujeres) en todo el mundo han vivido debido a los avances en las falsificaciones de video profundas o deep fakes.

Los deep fakes emplean Inteligencia Artificial para reemplazar las caras de las personas en un video de alta resolución de forma digital. Lo más espeluznante es que los movimientos y adaptación de los rostros parecen tan reales que se convierten en una maldición para la reputación y carrera profesional de las víctimas.

Relacionado: DeepNude: la Inteligencia Artificial no es el problema, son nuestras creencias misóginas

La mayoría de los deep fakes se usan con fines maliciosos, como la creación de videos de porno venganza y campañas políticas de desinformación durante elecciones. Además, la tecnología para hacerlos es accesible y fácil de usar.

7. Un ente que vigila

La tecnología de reconocimiento facial es un sueño realizado de las agencias de policía como una herramienta para atrapar a delincuentes. Pero este tipo de software automatizado también puede ser explotado para usarse como un sistema de vigilancia masiva, socavando la privacidad y libertad de las personas.

Un gobierno podría abusar de ella para el seguimiento de personas de interés como inmigrantes indocumentados, activistas o disidentes. Esta tecnología también presenta sesgos alarmantes, ya que se han registrado casos de arrestos injustificados de mujeres y personas de color.

8. Cyborgs y control mental

Las Interfaces cerebro-computadora (BCI, en inglés) consisten en implantar un chip en nuestro cerebro con el objetivo de fusionarnos con la Inteligencia Artificial. La promesa es que con un chip en el cerebro nuestra habilidad cerebral aumentará para evitar quedar obsoletos por el avance de las máquinas.

Esta tecnología ya es una realidad y hay empresas que trabajan seriamente en esto. Por ejemplo, Elon Musk creó Neuralink para desarrollar chips implantables que permitan restaurar la movilidad y sensibilidad de las personas discapacitadas por accidentes cerebrovasculares y otros trastornos neurológicos.

También ha dicho que podría ayudar a mejorar enfermedades mentales como la depresión y ansiedad, o como apoyo para superar adicciones. A pesar de las buenas intenciones médicas, las BCI llegan con fuertes implicaciones de ciberseguridad y muchas otras incógnitas sobre sus posibles impactos no sólo a nivel físico, sino también mental y emocional.

Un pirata informático podría vulnerar la seguridad del chip para controlar tu cuerpo, mente y hasta tus emociones. El futuro lo dirá, pero aun así ya hay gente que quiere convertirse en cyborg y le gusta implantar chips en sus manos para abrir su auto o pagar la cuenta. El siguiente paso será agregar otro chip en su cerebro para ser más inteligentes o comunicarse telepáticamente con otras máquinas y personas.

9. La casita inteligente del terror

Hoy en día muchas personas tienen un dispositivo conectado a Internet en su hogar. Desde altavoces inteligentes con asistentes como Alexa, Siri o Google, hasta focos, lámparas, conectores, televisores, cámaras de vigilancia, entre otros.

El avance del Internet de las Cosas (IoT) y de la domótica es cada vez más accesible, popular y útil. Pero como todo dispositivo conectado a Internet, también son vulnerables a los ciberataques sin la debida protección y cuidado.

La mayoría de estos dispositivos tienen un micrófono o cámara y la capacidad de recolectar muchos más datos de tus hábitos personales y rutinas. Además de la publicidad dirigida, la pesadilla existe en la posibilidad de que se puedan convertir en la puerta de entrada de un ciberdelincuente a tu vida íntima, grabando conversaciones e incluso espiarte a través de las cámaras o grabarte desnudo.

10. La dimensión virtual desconocida 

Tecnologías como la Realidad Virtual (RV) y Realidad Aumentada (RA) están en auge y la industria se está moviendo hacia el metaverso, un concepto que empresas como Meta nos han vendido como la próxima generación de Internet en donde tendremos interacciones más naturales dentro de entornos virtuales que tendrán una economía activa y podremos trabajar, estudiar y divertirnos.

Aún no sabemos qué será exactamente el metaverso o cuáles serán los impactos que tendrá una vez construido. Pero uno de los peligros es que se repliquen los mismos problemas de la sociedad en la vida física y el ciberespacio, desde abusos, acoso sexual y hasta bullying.

En un punto extremo, las realidades inmersivas avanzadas pueden volverse tan adictivas que puedan hacernos perder contacto con la realidad, en donde las personas prefieran vivir en una simulación virtual. Nuevamente, todo depende de cómo se vaya desarrollando y de las normas que imponga la sociedad para regular este tipo de experiencias.

11. Un gran poder conlleva una gran responsabilidad

Muchos de estos escenarios caóticos ya son una realidad y otros son meras especulaciones, pero el objetivo de este texto no es satanizar a las tecnologías emergentes, sino reflexionar sobre el gran poder que tenemos en nuestras manos.

La evolución tecnológica es un tren que ya no podemos parar; sin embargo, lo importante es que la innovación se debe construir con sabiduría y responsabilidad, tal y como lo dijo el Premio Nobel de la Paz, Muhammad Yunus: “La tecnología es importante, pero lo único que realmente importa es qué hacemos con ella”.

La Administración Nacional de Seguridad del Tráfico en las Carreteras (NHTSA, por sus siglas en inglés) de Estados Unidos reveló que abrió 27 investigaciones sobre accidentes de vehículos Tesla.

La agencia detalló que al menos tres de estos siniestros ocurrieron durante las últimas tres semanas y 23 investigaciones aún están en curso.

La empresa fabricante de automóviles eléctricos advierte a los conductores que deben mantener las manos en el volante y prestar atención mientras usan el piloto automático.

Sin embargo, algunos de ellos aseguran que pueden quitar las manos del volante durante periodos prolongados mientras tienen activado el piloto automático.

El Equipo de Investigación Especial de Accidentes de la NHTSA analiza un promedio de 100 accidentes anuales bajo el enfoque de las tecnologías emergentes.

Los problemas que ha detectado durante los últimos años incluyen el rendimiento de vehículos de combustible alternativo, sistemas de retención infantil, controles adaptativos, cinturones de seguridad, interacciones entre vehículos y peatones, y posibles defectos de seguridad.

La NHTSA también notificó que había recibido información sobre el software de “conducción autónoma total” (FSD, por sus siglas en inglés) de Tesla.

En tanto, el CEO de la compañía, Elon Musk, informó vía Twitter que la versión beta del software de conducción autónoma se había ampliado a unos dos mil propietarios de sus automóviles.

La NHTSA anunció que supervisará de cerca la nueva tecnología y no dudará en implementar medidas para proteger a los usuarios ante los riesgos para su seguridad.

Y aclaró que el software no hace que el automóvil sea capaz de manejarse por sí mismo, sino que únicamente brinda asistencia para optimizar la conducción, por lo que requiere la supervisión humana en todo momento.

Hipertextual-D.A

Tesla vuelve a recibir una demanda por otro accidente fatal en el que el Autopilotestaba activado. Lo hace la familia de Jeremy Beren Banner, un hombre de 50 años que murió el pasado marzo, acusando a la empresa de muerte por negligencia y piden indemnización de más de 15.000 dólares.

El accidente de Banner ocurrió el el 1 de marzo de 2019 en una autopista en el estado de Florida, Estados Unidos. Su Tesla Model 3 se estrelló con un tractor que se cruzaba en su camino mientras circulaba a 109 kilómetros por hora con el Autopilotactivado. El vehículo se detuvo por completo a casi 500 metros de distancia del punto de impacto.Banner activó el Autopilot unos 10 segundos antes del impacto

La Junta Nacional de Seguridad en el Transporte(NTSB) de Estados Unidos hizo una investigación independiente donde, en sus conclusiones preliminare, explican que Banner activó el Autopilot 10 segundos antes del impacto y que el vehículo detectó que no tenía las manos sobre el volante unos 8 segundos antes de que ocurra el accidente.

La secuencia del suceso, según lo que Tesla comunicó a la NTSB, es que Banner definitivamente no tenía las manos sobre el volante cuando ocurrió el accidente, no acatando las instrucciones de la compañía de mantenerlas en todo momento.

La investigación, con las conclusiones finales por parte de la NTSB, tomará al menos un año más. El abogado de la familia de la víctima está pidiendo a Tesla que libere el video del accidente, el cual, en teoría, daría más pistas de por qué sucedió y si Banner intentó tomar acciones evasivas a último momento o no.

Una de las grandes limitaciones del Autopilot, y otros sistemas de asistencia en la conducción, es la dificultad de detectar y reaccionar, mientras se circula a altas velocidades, a objetos en la carretera que no se mueven. Si el tractor circulaba de forma perpendicular al Model 3, es posible que no haya sido capaz de detectar correctamente.

Pero al mismo tiempo el Tesla Model 3 tiene sistemas de reacción a emergencias que están muy por encima de cualquier otro fabricante. De hecho, su capacidad de detenerse ante un peatón cruzando de forma sorpresiva o de frenar automáticamente ante la posibilidad de un choque frontal fueron probadas por el Programa Europeo de Evaluación de Automóviles Nuevos (NCAP), con resultados sorprendentes y recogidos en un video (a partir del minuto 2:04):

De hecho el Model 3 obtuvo la calificación más alta de la historia de la NCAP específicamente en sus sistemas de seguridad activos, es decir: freno de emergencia (AEB) el sistema de prevención de emergencia de desvío del carril mientras se circula.

Pero también es verdad que Tesla mejoró estos sistemas por medio de una actualización de software que llegó a principios de mayo y es la versión que probó la NCAP.