Jason Millar, candidato a doctor en filosofía, ha pensado por mucho tiempo en los automóviles que podrían manejarse sin necesidad de la inteligencia humana, con conductores automatizados, es decir, programas inteligentes que pudiesen hacer esta labor tan compleja de conducir un auto. De hecho, Google tiene un proyecto de un auto que se maneja solo. Y el próximo doctor no está pensando en la problemática técnica e ingenieril de esto, sino en la ética de los sistemas robóticos, sobre la cual no parece que estemos preparados.
«Estos autos prometen beneficios en la seguridad, pero lo que me interesa es lo que puede pasar cuando el auto está en una situacuón difícil», indica Millar. Para explorar el problema ha creado un experimento mental, llamado el problema del túnel, el cual ha atraído a miles de lectores y ha tenido un sinfín de comentarios al respecto. Este problema es una manera de re-escribir el problema filosófico del tranvía que bien puede plantearse así: «Un tranvía corre fuera de control por una vía. En su camino se hallan cinco personas atadas a la vía por un filósofo malvado. Afortunadamente, es posible accionar un botón que encaminará al tranvía por una vía diferente, por desgracia, hay otra persona atada a esta otra vía. ¿Debería pulsarse el botón?».
Millar lo plantea en estos términos: «usted está en un auto que se maneja solo en un camino angosto y de pronto entra aun túnel que va en un solo sentido cuando entra un niño errante corriendo sobre el camino. El auto no puede frenar lo suficientemente rápido para evitar golpear al niño, por lo que debe decidir girar el volante y chocar contra la pared del túnel, para evitar la colisión con el niño, dañando probablemente al pasajero del auto, o bien, mantenerse en el carril, dañando al chico. ¿Qué debería hacer?»
Este problema es en realidad un dilema, el cual en lógica se plantea como una dificultad sin una salida adecuada. Por ejemplo, «si usaste el arma hiciste mal; si no la usaste, hiciste mal». Vamos, no hay salida. Por ello, indica Millar, «no es fácil de resolver». Lo que parece particularmente útil es la situación que estamos enfocando en lo que se refiere al diseño del sistema inteligente, pues el auto puede ser programado para responder de cierta manera. «Yo les pregunto», indica el filósofo, «¿quién debe tomar la decisión sobre un escenario como el que he planteado?».
El problema fue «posteado» en RoboHub.org, un sitio en donde se hacen encuestas a los lectores. Una gran mayoría respondió que el pasajero en el auto debería tener el derecho de tomar la decisión si un problema como el planteado se presenta. Solamente el 12% sugirió que la decisión debería ser tomada por quien hubiese diseñado el auto y el programa inteligente. Un tercio de los que respondieron indicaron que deberían tomarse las provisiones legales y legislativas para un caso como el que nos ocupa.
«Lo que me llamó mucho la atención -y me sorprendió- es que mucha gente confiará una situación de vida o muerte a los políticos y abogados», dice Millar. «Mucha gente dijo que querían tener un comportamiento estándar de manera que la gente supiese qué hacer en una circunstancia como la presentada, mientras que otros simplemente estaban cediendo la responsabilidad de una decisión a otros y así lavarse las manos».
Millar indica que el problema del túnel es uno de muchos en el posible uso de coches automatizados sin conductor humano. Por ejemplo, «¿Quién es el culpable cuando un automóvil choca?». Y este mismo tipo de problemas ya existen en algunos sistemas de diagnóstico médico. ¿Quién es el responsable de diagnosticar a un paciente de forma automatizada? ¿El programador de dicho sistema o el médico que acepta el diagnóstico que da la máquina? Ante la imposibilidad de tomar una decisión al respecto, la mayoría -sino es que todos- los sistemas de diagnóstico médico automatizados, sólo se usan para entrenar a los médicos, pero no son utilizados para diagnosticar a ningún paciente.
Así pues, en el caso del problema planteado por Millar, el del túnel, ¿qué decisión tomaría usted?
Referencias: