Hace poco te mostramos en video qué es lo que ve el piloto automático de un Tesla, pues en un sistema inteligente que se rige con algoritmos para calcular espacios, proximidad de objetos y límites de velocidad, y por ello en pantalla siempre tiene operaciones y datos.
No cuenta con la capacidad de abstracción de un cerebro humano, que a base de lógica llena los huecos de información que no es evidente.
Entonces, una inteligencia artificial no presume la lógica humana y basta con hacer ciertos “hacks” para burlar, por ejemplo, un piloto automático.
O al menos eso fue lo que descubrieron unos investigadores de McAfee, quienes se dieron a la tarea de lograr que los pilotos automáticos de dos vehículos Tesla sobrepasaran los límites de velocidad marcados por las señalizaciones de tráfico.
De acuerdo con una entrada en su blog, el objeto de la prueba fue demostrar que el sistema de cámara MobilEye, que los modelos de Tesla implementan en su Hardware Pack 1, es vulnerable (como contexto, MobilEye es usada por varios vehículos para determinar diversos aspectos, como los límites de velocidad, cuando la conducción autónoma está activa).
Tras varias pruebas con recreaciones de señalizaciones de tráfico, el equipo dio con que solo se necesita un pedazo de cinta para engañar a los Tesla que tienen activado el control de crucero consciente del tráfico.
A la señalización que marca un límite de velocidad de 35 se le añadió ese pedazo de cinta justo en la parte media del número 3. Un ojo humano no tendría problema para identificar que se trata de un 3, pero la inteligencia artificial asumió que se trataba de un 8.
Al final de la prueba, el Tesla en piloto automático pasó junto a la señalización alterada, detectó un límite de velocidad de 85 y siguió su camino aumentando gradualmente su rapidez. Ve el video:
