Podríamos ponernos técnicos y hablar de la realidad y futuro del coche autónomo o ponernos emocionales y entrar en el debate de que la pasión y el placer de conducir no terminarán nunca, pero hoy queríamos plantear algo infrecuente en Xataka: una reflexión sobre los debates éticos que traerá aparejado el coche autónomo.
De entre todos los posibles, creo que hay dos que supondrán un desafío por el tipo de elecciones que, como individuos y sociedad, nos tocará hacer. El primero gira en torno a la programación del coche autónomo para situaciones en el que peligren vidas humanas, el segundo respecto a al espacio que dejamos a lo humano cuando la solución tecnológica se demuestra mejor. Veamos:
Coche autónomo y las "leyes de la robótica"
No hay aficionado a la literatura de ciencia ficción que no conozca las tres leyes de la robótica propugnadas por Asimov en sus relatos de ficción. A saber:
-
Un robot no puede hacer daño a un ser humano o, por inacción, permitir que un ser humano sufra daño
-
Un robot debe obedecer las órdenes dadas por los seres humanos, excepto si estas órdenes entrasen en conflicto con la Primera Ley
-
Un robot debe proteger su propia existencia en la medida en que esta protección no entre en conflicto con la Primera o la Segunda Ley
Sus lectores también sabemos que gran parte de la obra de Asimov se basa en el conflicto para cumplir esas leyes cuando la máquina alcanza un cierto nivel de inteligencia (en Singularity hub tienen un artículo al respecto) y pensando en trasladarlo al coche autónomo también es fácil concluir que hay que llegar a compromisos.
En situaciones de peligro el conductor está forzado a hacer elecciones casi instantáneas: un niño de repente cruza la carretera y está ahí delante ¿pegamos un volantazo y chocamos con la mediana? ¿y si lo que hay al lado es terraplén? ¿y si quien cruza es un perro? ¿Y si lo que viene es un coche frontalmente?
Podríamos partir de que el coche autónomo sería mucho más prudente y que no se distraería, por lo que tasa de situaciones de peligro debería ser menor, pero es imposible evitar todas las situaciones de peligro al volante. En el caso de un conductor humano, una vez afrontando la situación de peligro, podemos entender la decisión basada en reflejos y casi instantánea que toma, pero con un ordenador es distinto.
Y es diferente porque es una decisión que se toma en frío, que se programa para que el coche se decante por una opción con todo el tiempo del mundo para sopesar pros y contras... una decisión que implica elegir vidas humanas. ¿Cómo es posible programar algo así? ¿hay un algoritmo que pueda incorporar una visión ética que nos convenza? ¿cuáles deberían ser sus prioridades? ¿el menor número de muertos potenciales? ¿tendría en cuenta la edad de los implicados, priorizando a los más jóvenes? ¿aceptamos un coche programado con un algoritmo que puede decidir sacrificarnos en pro de salvar más vidas de otros en una situación de peligro?
El número de preguntas no se queda ahí, porque siendo la del coche una de las industrias más relevantes y competitivas del mundo podemos incluso pensar en otro enfoque: ¿se debe permitir que cada fabricante tenga su algoritmo propio y que sea secreto? se podría dar el caso de que haya fabricantes cuyo coche autónomo tienda más a preservar la vida del conductor y sus acompañantes que el coche de la competencia. En todo caso, el choque cultural es inevitable, estamos preparados - aun con mucho dolor - aceptar que alguien querido muere en un accidente por error humano ¿lo estamos para el caso de ser atropellado por un robot?
Coches que conducen mejor que las personas
Partamos de la hipótesis de que encontramos un equilibrio razonable y aceptado para la integración del coche conectado en nuestra sociedad. Partamos de que, como prometen las compañías que están avanzando en estas tecnologías, se reduce el número de accidentes y muertes. Una vez que la sociedad tomara conciencia de esto surgiría otro debate inevitable ¿debemos permitir seguir conduciendo a los humanos, que provocan muchas más muertes?
Este tema se engloba dentro de otro mayor y que analizaremos mucho en Xataka, que no es sino la enorme aceleración de la sustitución de humanos por robots en un montón de tareas para las que no se les veía capacitados... hasta hace muy poco. La conducción puede ser una de ellas y aquí entran desde los profesionales hasta todos aquellos a los que apasiona conducir un automóvil.
¿Acabará siendo el mundo del motor un nicho en el que los apasionados que queden sólo puedan disfrutar de su hobby en circuitos, quedando las vías normales sólo para artefactos guiados por ordenadores y sensores?
Encantado de que te conduzcas sólo, pero me gustaría conocerte mejor
Servidor cruza media España frecuentemente en coche y creo que a pocos les gustaría más que a mi tener un coche autónomo para el 95% del tiempo: autovías infinitas y aburridas en las que uno prefería estar con un libro, viendo una película, jugando a algo con mis hijos o leyendo blogs.
A pesar de ello creo que me costaría dejar de conducir por completo y aceptar de entrada el ceder el control total del cacharro en que llevo mi familia a un ordenador, pero asumo que es un rasgo generacional. También considero más que probable que el proceso de homologación y aceptación del coche conectado será gradual y con muchas salvaguardas, tantas como se tiene en otros medios de transporte en los que se fía a la tecnología. Con todo ello, creo que antes - inflamados de tecnoutopismo - de que celebremos todo lo bueno que puede traer el coche conectado (que ojo, también tiene implicaciones medio ambientales por eficiencia, menos atascos, etc...), necesitamos entender mejor cómo se ha programado, de qué premisas se ha partido y en qué entornos lo vamos a utilizar.
Hay un debate ético necesario alrededor del coche conectado y que falten décadas - quizás no muchas - para que sea un producto en el mercado no debería ser óbice para que empecemos a abordarlo.
Ver 48 comentarios
48 comentarios
rojovelasco
De los mejores artículos que he leído en Xataka. Esto SI es contenido propio.
royendershade
Sinceramente, al leer el título me parecía un poco exagerado el asunto. Pero es cierto que es un tema poco comentado y que sin embargo es crucial para la implementacion de esa tecnología y que en un futuro no muy lejano formará parte del debate público. Un artículo brillante.
inar
Excelente entrada, muy interesante, y de amplio y rico debate.
Soy de los que consideran que, en síntesis, la informática y la robótica deben evolucionar para complementar al ser humano, pero nunca para sustituirle por completo. Al menos hoy por hoy, los humanos, aunque imperfectos, tenemos una serie de rasgos que veo muy complicados de implementar en autómatas. Conceptos como la reducción al absurdo, la ética, el sacrificio, la moralidad, la compasión ... Son valores complicados para ser procesados, porque carecen de cierta lógica computacional.
Más que la visión de "Yo robot" de Asimov, me gusta o me cuadra más la de "El hombre bicentenario", donde se desarrollan aspectos emocionales humanos como los mencionados, así como otros tan dispares como la preservación propia, la superación, el orgullo por el objetivo logrado, etc. El conjunto es lo que define al humano, con todas sus imperfecciones, y es lo que le hace ser capaz de dilucidar en un momento esa opción ilógica que puede que sea la más humana, pero no la más racional.
El famoso dilema de que vas con tu moto huyendo de una catástrofe y te encuentras a tu mejor amigo, tu novia y a un niño. En la moto solo puedes llevar a uno ¿Qué haces? Dejas la moto a tu amigo para que lleve al niño, y te quedas con tu novia.
Volviendo al tema, que me voy por las "ramas" ;) , y relativo al algoritmo que mencionas, creo que éste sí podría ser secreto por el fabricante, pero debiera estar perfectamente regulado y testado acorde a unas directrices estrictas. A modo como las 3 leyes de la robótica de Asimov (pero sin posibilidad de llegar a la "Ley Cero", por favor xD ). Pero lo complicado no sería implementar las directrices, sino establecerlas. Un conjunto de normas donde en esencia se prevaleciese el menor riesgo humano, con baremos a preservar la especie (el niño por delante del anciano), y asumiendo la propia autodestrucción como opción para beneficio del conjunto. Digamos, un poco a modo de la "Ley de Spock": "El bienestar de la mayoría supera al del individuo" ;)
Creo de todas formas, que aun nos falta mucho para todo ésto, pero no por cuestiones tecnológicas, sino humanas. El egoismo humano, el instinto de supervivencia, la autoprotección ... Son valores inherentes al animal que debieran quedar fuera de este proceso de selección, pero no es sencillo abstraerse en condiciones normales, ya que suelen ser las condiciones extremas las que hacen aflorar tales sentimientos que, para bien o para mal, nunca pensamos que pudiésemos llegar a desarrollar. El remordimiento, la carga de conciencia, o el sentimiento de culpabilidad, son la prueba de todo esto.
Mis dos céntimos :)
P.D. Ooooops. Al guardar queda todo junto sin retornos de línea, y resulta "ladrillazo". Lo siento. :(
P.D.(2) Solucionado poniendo manualmente la etiqueta < br > tras cada línea :)
kilowatt
No solo la conduccion automata seria mas segura por las razones que se mencionan, ademas le quitaria todo el sentido a la forma y diseño estructural de los automoviles actuales. El pasajero ya no tiene que conducir, asi que no tiene que distribuirse la cabina de la forma en que lo hace actualmente, no necesita visualizar la via, asi que da paso a que se usen otros materiales en la construccion y a otras configuraciones del espacio habitable en pos de la comodidad y sobretodo de la seguridad.
Se podria reducir mucho la intensidad del debate etico si, a una velocidad razonable y regulada para los coches autonomos, se consiguiera, explotando esta nueva "falta de impedimentos", reducir las probabilidades de un accidente mortal considerablemente. Teniendo en cuenta que las cifras que anuncia la DGT todos los años a mi al menos me producen dolor de estomago.
PD: Seguro que los amantes de la ciencia ficcion tienen esto mucho mas que estudiado asi que pregunto. Segun las leyes de la robotica de Asimov, si yo amenazo a un robot con suicidarme si no se autodestruye ¿Que pasaria?
jgomezd
Me ha encantado el post Antonio. Hace no mucho, tuve una conversación al respecto con un grupo de gurús que están deseando que haya coches autónomos para poder beber más... Lo que tengo claro es que cuando esto ocurra, me fiaré más del iCar de Apple (aunque sea más caro), que de un Windows Car que de buenas a primeras se quede colgado y me choque!!!!!!! Además el diseño seguro que será espectacular! jajajaja
vik007
Un artículo muy interesante y bien planteado, me ha gustado mucho!
SAC
Yo tambien lo digo, el mejor artículo que he leido en Xataka Bravo por el redactor
alejandro.vidal.rodr
Ahh que interesante articulo y el debate lo es aun mas :)
Es como la visión de Aldous Huxley en "un mundo feliz", se puede discutir el tema en cuestión o lo que
realmente hay que debatir es una vez mas el limite de las libertades personales, hasta que punto se
puede llegar.
Si no lo habéis leído es una obligación :)
Si llegamos a demostrar que la implantación total de estos vehículos, elimina (imaginemos) los
accidentes mortales, supongamos que no pueden circular vehículos controlados por humanos ya que los
vehículos se comunican entre si en milésimas de segundo y un pobre cerebro humano pues en centésimas.
Eliminamos los vehículos controlados por humanos (no es tan descabellado) los aviones llevan
pilotos, pero todos los cálculos de aproximación los hace una maquina, los trenes y vehículos
similares ya funcionan sin conductores humanos con perfección.
La sociedad mejoraría y tendríamos menos muertes en tan tristes sucesos, la eficiencia en el
transporte aumentaría, las infraestructuras y costes para el transporte de materiales y personas
seria mas bajo, todo un avance!
Pero y para acortar, ¿Todas las mejoras que la sociedad obligue aunque salven vidas son adecuadas? Y
si yo quiero conducir, porque es mi deseo, obviamente la ley y la sociedad me lo impedirán para
evitar muertes, claro...
Vamos a dar unos saltos hasta un argumento radical, aunque esto tiene mas gracia si los pasos
mentales son mas cortitos y ya no te empiezas a sentir cómodo con lo que se te presenta.
Si una persona que va a nacer se sabe que tiene mas probabilidades de morir por una enfermedad X,
¿Se debe modificar su genética (digamos) para aunque cambie la personalidad en si no la tenga? ¿Hay
pre condiciones para que una persona sufra accidentes realizando un trabajo? ¿Debería evitarse que lo
hiciese por tanto para salvar posibles vidas?
No hace falta ir a las leyes de la robótica para encontrar el problema ético, en realidad esta en
nosotros, en nuestra ansia de libertad, de libre albedrío aunque limitado, de la confrontación entre
la sociedad ordenada y avanzada y el individuo que quiere sentirse independiente y libre.
Y mi ultima reflexión que creo que va a suponer un gran cambio a corto plazo y no tan a futuro, al
igual que cuando un arquitecto firma un proyecto es responsable judicialmente en caso de
negligencia/errores.
Cuando el código que desarrollamos pueda interferir en la vida de las personas (eso ya sucede hoy en
día con 1000 cosas) será responsable el equipo de programación o el jefe de proyecto por el bug que
hacia que 1 de cada 100 vehículos se diese contra la mediana?
Saludos y me encanta que haya artículos que vayan un poco mas allá y lo dice un dev en toda regla :p
Saludos
victorcillo
Muy buen artículo, Antonio.
Andreu
¡Qué gran artículo! Una reflexión muy interesante sobre la moralidad y el automatismo.
jmga
Esto tiene como obstáculo el mismo que se han encontrado todos los avances tecnológicos a lo largo de la historia: la ignorancia de la gente. Un ordenador siempre va a conducir mejor que una persona, siempre. Ya que no depende de estimaciones, el estado del conductor, percepciones sensoriales, etc. Sin embargo, aunque estadísticamente se produjeran 1000 accidentes de coches conducidos por personas por cada accidente producido por un coche autónomo, en cuanto hubiera un accidente en el que estuviera involucrado un coche autónomo la gente ya los crucificaría, se movilizarían, protestas, manifestaciones, etc.
goraxan
Yo creo que la conducción autónoma puede tener una enorme repercusión en las retenciones, pudiendo mitigar mucho el efecto gusano al mejorar el tiempo de reacción de los humanos (somos muy lentos arrancando el coche), a la vez que nos permitiría distraernos con otras cosas (evitando mas de un cabreo...).
deker30
¿Y que inventarán para las motos?
olati
Impresionante, la primera idea la leer el articulo fue lo infantil y absurdo de los puntos expresados, sin embargo veo los comentarios y todo el mundo lo alaba.
Los conflictos éticos acá son bastante ridículos, existe ahora alguna prueba de ética que le hagan a los futuros conductores a la hora de entregarle a alguien su licencia de conducir?
Qué ética tienen los conductores ebrios que provocan accidentes?
En fin, nada de estos puntos tienen sentido, los aviones ya llevan años "volando solos" y todos los puntos descritos acá están resueltos.
Espero muy pronto haya un automóvil de conducción autónoma en donde ponga, llévame a la oficina, y yo pueda ir mirando despreocupadamente el paisaje y/o jugando con mis dispositivos móviles hasta que el coche me diga, "Hemos llegado!" :) .
Guille
Ojalá hubiera más artículos así.
miguelc
a la gente le cuesta cambiar de marca de yogur , no hablemos ya de que se dejen llevar por un coche que va solo... queda , pa esto queda..
El fabuloso Dr. Manga
Soy un conductor que hace 180Km (entre ida y vuelta) todos los días (como conductor o como pasajero). Puedo decir que las vueltas son las más peligrosas (ya sean por cansancio, hipoglucemia u otras) y ahí no estaría nada mal una conducción automática. Me encanta conducir, pero hay momentos en que la gente no está en las condiciones óptimas para realizar esas tareas.
Joferval87
Sinceramente, aqui cada uno es libre de elegir si prefiero morir como un heroe o sobrevivir que es algo que para el conjunto no esta tan bien visto. Yo personalemte, llamadme mostruo, dado que no soy creyente y no creo en una vida posterior y maravillosa, como venden la mayoría de religiones, le tengo un gran aprecio a mi vida, ya que no creo que pueda disfrutar otra, y si tengo que elegir, entre atropellar a un ciclista de 17, años que va haciendo el loco por en medio de carretera y acabar yo muerto en en fondo de un barranco, pues prefiero seguir vivo, y llevarme por delante al de la bici.
hrod
Hola Antonio, buen articulo, creo que nos has llamado la atención a los frikis de Asimov ^_^ Estaba pensando quizá una forma sería que el fabricante, programe diferentes "modos de reacción ante circunstancias límites" con diferentes soluciones "éticas", y que el usuario ( conductor ) elija el "modo ético", de esta forma el coche se comportaría de acuerdo a los principios éticos del conductor, mas o menos como es ahora. Sería una solución muy clara "legalmente" hablando. saludos!!!
€quiman
Alguna vez escuche a un sociólogo: el bien común debe prevalecer sobre el bien particular y eso seguro es lo que prevalecerá a futuro con este tema.
fefe
Estoy completamente a favor de automatizar la conduccion para reducir los accidentes, pero hay ciertas cosas que todavia son dificiles, como detener el coche al acercarse a un paso de peatones porque considera que los que estan de pie en el paso de cebra quieren cruzar. Aunque si esa tecnologia no se alcanza nunca no pasara nada, los conductores que veo por la calle tampoco dejan paso a los peatones.
virusaco
A mi lo que mas miedo, o respeto, me da es la programación o cualidades del coche, ya sea por la marca o la gama a la que pertenezca. Creo que debería estandarizarse un comportamiento para todos los vehículos, y cumplir con un mínimo muy alto de seguridad. No confió en la programación de la IA de las propias marcas. Con que una sola de ellas tenga un bug entre sus líneas de codigo, podrían ocurrir accidentes horribles. La seguridad de los coches, por tanto, debería ser ampliamente probada, estandarizada y por supuesto, abiertas. Igual que las mejores herramientas de seguridad en encriptación son algoritmos abiertos, y se invita a cualquiera a intentar romperlos para comprobar su robustez; yo confiaría mi seguridad en la IA de un coche solo si pasa por un proceso parecido. Salu3
iabarreto
En realidad, lo más correcto es implementar sistemas de transporte inteligente: que toda la infraestructura automovilística esté de cierta forma conectada y comunicada. Que las personas sean las que conduzcan el vehículo, pero que el vehículo posea diversos sensores y sistemas, como Monitoreo del punto ciego, sistemas pre-colisión, reconocimiento de señales de tránsito, control de velocidad, 'visión nocturna' con reconocimiento de peatones, un 'escaneo' que se le haga al conductor para ver si está en estado de ebriedad o soñoliento y no dejarlo conducir, etc. Muchas de estas tecnologías están siendo desarrolladas por varios fabricantes como Honda, Audi, Ford, Toyota, entre otros. Al igual, que los vehículos puedan tener 'comunicación' entre ellos: si un carro se queda accidentado en la vía, éste automáticamente emitiría una señal, y los demás conductores podrían tomar vías alternas. Todos estos sistemas tendrían la finalidad de reducir los accidentes de tránsito.
trenthawkins
Pensando de manera fría y calculadora, un coche autónomo tendría bien establecidas las reglas de la física así como los reglamentos de transito y sin la imprudencia ni los defectos humanos. Es decir, sabría respetar el limite de velocidad de modo que al dar un volantazo o frenar por que un objeto se interpuso en el camino, no perdería el control del vehículo, así mismo respetaría los semáforos, no iría en sentido contrario, ni en estado de ebriedad o en vías exclusivas del transporte publico. A final de cuentas seria mas beneficioso que perjudicial, claro que habría factores que en cierto momento causen perdidas humanas (que un niño se pase corriendo la calle a pesar de tener en rojo el cruce peatonal), pero serian casos aislados que se pueden disminuir educando a la gente y/o implementando mejoras en los sistemas de conducción. En cuanto a la sensación de manejar un vehículo, en lo personal se me hace una de las perdidas de tiempo mas tediosas del día a día.
chals91
Yo creo que hay otro tema que ahora mismo es más importante, y es el uso de combustible de los coches y encontrar una alternativa definitiva que no sea electricidad enchufado a la corriente 8 horas. Algunos sistemas podrían ser baterías intercambiables, placas solares en todo el techo, aprovechar la energía de frenado, dividir el sistema de baterías en 2 bloques y que el coche utilice automáticamente el de mayor autonomía mientras el otro se va cargando, y otros sistemas que mucha gente no conoce como es el sistema PERPETUO en el que no se pierde energía y es infinito, pero no sale a la luz por lo que sabemos de las compañías petroleras para que no queden en el olvido, porque sí, existen maquinarias que no se paran nunca y producen electricidad, así que estamos todos engañados, este reemplazaría todo lo anterior y cualquier tipo de energía renovable. Buscad en youtube ;)
Rafael F.
Muy buen artículo. Pero si nos fijamos, esta cuestión ya ha sido planteada hace muuuuucho tiempo. Sólo hay que darse cuenta que en las películas de ciencia ficción de corte futurista, todos los coches autónomos conducen por "carriles" aéreos y van alineados, así que supongo que los escritores de novelas y guionistas de este género que han coincidido en una única solución, coches voladores. Salvo en la película de YO ROBOT, y ya vemos la que se monta en las carreteras en esa película.
panzzer
Creo que efectivamente llegaremos a ser muchísimo mas fiables al volante cuando directamente nos lo quiten de las manos, es decir, conducción automática 100%. Será la única manera de bajar de ciertos porcentajes de accidentes que resultarán irreducibles para el ser humano. Si por mi fuera ahora mismo me pasaría a este escenario, poder aprovechar el tiempo en otras cosas, tomarte dos cervezas...etc. con un riesgo ínfimo en comparación al actual. Reducir a los amantes del motor a vías especiales o circuitos? perfecto, ahora en cualquier carretera ves a tarados que deberían estar encerrados. En efecto se deberían establecer un código ético que definiera los parámetros de seguridad pero creo que por poco que se hiciera bien ya sería un gran avance respecto de lo que conocemos ahora.
David Peris
Me ha encantado el artículo. De hecho, me suena que de esto he hablado yo con más gente hace bien poco... :D
rgarciar
Creo que las nuevas tecnologías nos dan miedo cuando las desconocemos o nos parecen de película, cuando en realidad están introduciéndose poco a poco en nuestras vidas sin darnos cuenta.
El mundo de automóvil ha introducido muchísima tecnología para facilitarnos la vida y mejorar nuestra seguridad, como navegadores de a bordo, aparcamiento asistido, control de distancias, airbag, diseños que amortiguan el impacto,...Elementos que antes no existían y que ahora son prácticamente obligatorios o indispensable.
Que los coches lleguen a conducirse sólo es cuestión de tiempo, y esto debe ir aparejado a un cambio en las normativas (cosa que no suele ocurrir, ya que esto suele aparecer más tarde por su necesidad de regulación), y que como muchas cosas que antes no teníamos ni necesitábamos, se convierten en indispensables para nuestras vidas cotidianas.
Desde que el coche se conduzca sólo y esto este al alcance de todos, el problema ético se resolverá con la regulación, marcando las condiciones de fabricación y uso, cambios en las coberturas de los seguros, responsabilidades,...y no nos daremos ni cuenta de que nos han creado la necesidad de esta nueva tecnología, como ha ocurrido con el teléfono móvil, por ejemplo.