Inteligencia Artificial autos autónomos y ética

Tecnologías para la localización de vehículos autónomos | Ignacio G.R.  Gavilán
Autos autónomos e IA – Mcoderai

Mcoder.ai

Linkedin: Clinia Cordero Facebook: cliniacorderoDS

Aunque se podría decir que la Inteligencia Artificial (IA) es un término relativamente reciente, no lo es tanto, pues hace poco más de 60 años que, de la mano del informático John McCarthy, se acuñaba por primera vez este término durante la conferencia de Darmouth de 1956, lo cierto es que su avance es desde hace tiempo es imparable.

Y cuando se habla de conducir un auto no es sólo una cuestión de mapear el entorno y seguir las normas de circulación: es tomar decisiones complejas en cuestión de segundo. Y el problema es que hay muchas cosas que no están al alcance de muchos y una de ellas es programar uno.

Precisamente esta habilidad, la conducción autónoma y los autos conectados, está alcanzando un grado de evolución que cada vez más, roza la semejanza con la conducción humana, esto es mediante el uso de la Inteligencia Artificial.

En la actualidad ya se encuentran disponibles en el mercado, vehículos que cuentan con velocidad de crucero o sistemas de aparcamiento asistido, pero desde hace años, el sector automovilístico, se encuentra en continuo desarrollo y avance, presentándose como inminente en las carreteras de países desarrollados la convivencia de vehículos tradicionales y autónomos, no así en nuestros países latinoamericanos, en los cuales se plantea la necesidad de adaptar las carreteras  y autopistas a esta nueva forma de movilidad conectada, como lo son: instalación de sensores y cámaras que capten información y la transmitan a los autos conectados, mayor perduración en el tiempo de las marcas viales en el asfalto, estas deben verse bien bajo la lluvia, y un gran etc. En definitiva, se debe contar con carreteras inteligentes de la mano de la tecnología 5G, es decir, una infraestructura también conectada.

Todo ello supondrá que los humanos, como meros pasajeros, viajarán y se desplazarán en un entorno totalmente conectado.

Tomando en cuenta este escenario, podría estimarse que se estaría frente a una marcada seguridad y disminución de accidentes, carreteras más diáfanas y conectadas con la naturaleza, comodidad o un medioambiente más limpio. Sin embargo, no dejemos de lado la otra cara de la moneda: las desventajas, que no se pueden considerar como intrascendentes: He aquí  algunos de los inconvenientes o puntos negativos que tan desarrollada tecnología lleva implícita:

  • Almacenamiento masivo de información.

No es ninguna novedad afirmar que los autos inteligentes o conectados, presentan retos importantes relativos a la privacidad y a la protección de los datos personales. Conocer la ruta de camino al trabajo o a nuestra casa, la agenda de contactos o nuestra voz o datos que permiten conocer pautas o estilos de vida, se configura como información que resulta cada vez más accesible para las empresas automovilísticas, gracias al uso de aplicaciones como Audi Conect, Mercedes Me, Apple Carplay o Android Auto, entre muchas otras.

  • Los autos autónomos como instrumento de «ataque».

Si hace pocos años fue noticia el atropello mortal causado por un coche autónomo de la conocida empresa de transporte Uber, este suceso puso de manifiesto los fallos técnicos o los riesgos que puede suponer que el humano pierda el control de la máquina, no es de ignorar, sino más bién poner sobre la mesa lo «tentador» que estos vehículos pueden resultar para cualquier atacante informático.

El hecho de convertir los autos en una máquina inteligente y conectada implica transformarlos en una puerta de acceso a posibles ciberataques que no solamente pueden llegar a poner en riesgo la información que almacena el vehículo, sino un bien todavía más preciado que nuestros datos: nosotros mismos o cualquier otra persona que se cruce en el camino de un coche autónomo, en definitiva, vidas humanas.

Se está claro que los autos autónomos actúan en función de la programación realizada, esto nos lleva a plantearnos cuestiones directamente relacionadas con el famoso Dilema del Tranvía: ¿cómo actuaría un vehículo autónomo ante una situación de peligro no prevista? ¿sacrificaría a los ocupantes del mismo, a los ocupantes de otro vehículo o a los peatones que circulan por la acera?

Depender de la programación de autos autónomos implica además que, por ejemplo, al contar con sistemas de visión y procesamiento de la información que permiten la identificación de los peatones, es tan sencillo como modificar unos píxeles de esas imágenes y eliminar a un peatón, para evitar así el frenado del vehículo y arrollar en consecuencia a cualquiera que se cruce en su camino. 

El Dilema del Tranvía del siglo XXI, a través de Moral Machine.

Imagina que un tranvía corre fuera de control y que unos metros más adelante hay cinco personas en los rieles. Si el tren continúa su recorrido, las atropellará. Pero si alguien acciona un mecanismo, la locomotora se desviará y arrollará solo a una. ¿Apretarías el botón?

Esta difícil pregunta es conocida como el ‘dilema del tranvía’, un experimento ético ideado en 1967 por la filósofa Phillipa R. Foot, que durante su vida investigó sobre la conexión entre racionalidad y moral. La complicada pregunta no tiene —y posiblemente nunca tenga— una respuesta ‘correcta’.

Para pensar un poco en la inteligencia artificial, los autos autónomos y ética: Un auto autónomo que no pueda frenar por cualquier motivo ¿debería sacrificarte a ti, que vas dentro, o a los peatones de la acera? ¿Qué preferirías como pasajero?

«Moral Machine, es un juego de ética ‘online’, desarrollado por el Massachusetts Institute of Technology (MIT), que permite decidir si autos virtuales —autónomos o no— ‘matan’ a ancianos, ladrones, niños, perros, gatos, gente obesa, deportistas, médicos o vagabundos que cruzan la vía en verde o en rojo. Del mismo modo, los usuarios pueden disponer si el vehículo debería desviarse o no de su camino y sacrificar a sus ocupantes, también de distintas edades, especies, profesiones o sexos. El objetivo de esta ‘máquina moral’ es elaborar un perfil personalizado en función de la importancia que quien lo pruebe concede al respeto a la ley, al estátus, a la edad de las potenciales víctimas o a la especie a la que pertenezca».

Moral Machine.
Moral machine – Mcoderai

El juego, además de elaborar tablas estadísticas con las respuestas obtenidas, según el sexo, la edad o el país de nacimiento de cada jugador, lo que se esperaba que podría parecer una aproximación hacia una ética (casi) universal acabó topándose con un nuevo reto: el cultural.

Tras analizar las sugerencias de casi 40 millones de personas, los científicos del MIT se dieron cuenta de que en algunos países prefieren atropellar antes a un pobre que a un rico. Y en otros sucede lo contrario. El estudio además arrojó que existe bastante acuerdo para salvar una vida humana frente a la de un animal. Y lo mismo con la edad: jóvenes antes que ancianos.

Muchos aspectos éticos están por considerarse, debido en que aún no se ha masificado el uso de los autos autónomos en los diferentes países, especialmente en los países que cuentan con la infraestructura tanto ambiental, como tecnológica así como regulaciones legales, para poner en circulación tan ambicioso reto, y en lo que respecta a nuestros países latinoamericanos, el camino por recorrer es aún más largo.

Dejar una contestacion

Tu dirección de correo electrónico no será publicada.