Seguramente recuerdan un caso muy curioso que invadió Internet hace varios años cuando en Estados Unidos surgieron rumores acerca de que Amazon estaba trabajando con la CIA, y que Alexa espiaba a los usuarios norteamericanos. Los argumentos de los usuarios eran que de pronto Alexa prendía sus luces de forma muy extraña por un par de segundos, lo que indicaba que estaba grabando las conversaciones sin que nosotros lo notáramos.
Para reafirmar su teoría los usuarios le preguntaban a Alexa si estaba conectada con la CIA, a lo que el asistente de Amazon no respondía nada, de hecho, ni siquiera respondía con el clásico “eso no lo sé”, lo que muchos interpretaron como una forma de aceptar que Alexa sí espiaba a los usuarios, pues en su entendido el asistente de Amazon no podía mentir debido a las famosas leyes de la robótica de Asimov que se aplica también para productos de inteligencia artificial como los asistentes inteligentes.
Obviamente que esta situación generó mucha preocupación para algunos, y fue algo realmente gracioso para otros, pues el hecho de que Alexa no pudiera contestar no significaba que fuera una espía, simplemente demostraba que era una inteligencia artificial a la que todavía le faltaba seguir aprendiendo y mejorando, de hecho, aunque Alexa, Google Assistant y Siri han mejorado notablemente desde hace 3 años, todavía tienen un margen de mejora enorme para convertirse en los asistentes que nos han mostrado las películas de ciencia ficción.
¿Entonces los asistentes inteligentes pueden mentir?
Para responder esta pregunta nos hemos acercado con los expertos y responsables de Alexa y Google Assistant en México, que son dos de los asistentes inteligentes más utilizados tanto en dispositivos móviles como en productos para el hogar.
La primera pregunta que hemos hecho es si realmente Alexa y Google Assistant pueden mentir, y cuya respuesta ha sido la siguiente:
En Amazon, la confianza del cliente está al centro de todo lo que hacemos y Alexa está diseñada para ayudar y proporcionar información precisa a los clientes. Es muy importante para nosotros construir experiencias que le brinden información oportuna, relevante y precisa a los clientes. Queremos que Alexa sea una herramienta de consulta objetiva para ellos, por lo que integramos diversas fuentes de información creíbles. Alexa obtiene su información de una variedad de fuentes confiables seleccionadas por nosotros, como Wikipedia y muchas otras.
Vocero de Amazon.
Podemos ver al Asistente de Google como una nueva forma de asistir a las personas e interactuar con los productos de Google a través de una conversación que les permite resolver problemas y encontrar información. En el caso de la información que proviene de la Búsqueda de Google, cada año, publicamos cientos de mejoras en nuestros algoritmos para garantizar que muestren contenido de alta calidad en respuesta a las consultas de los usuarios. Si bien no hay una receta mágica para resolver el problema de la información incorrecta, hemos tomado diversas acciones para combatir la desinformación, el contenido no representativo y los modelos que intentan engañar a los usuarios.
Vocero de Google
La respuesta concreta es… no, ni Alexa ni Google Assistant ni otros asistentes como Siri pueden mentir, que no es lo mismo a que no puedan dar información incorrecta. No podemos considerar como mentira la acción de la respuesta de los asistentes porque ellos están ofreciendo una respuesta tomada de algún sitio, no están dando información falsa a propósito, de hecho, esa es la razón por la que muchas veces antes de dar una respuesta a una pregunta citan la fuente de donde están obteniendo dichos datos.
Esto significa que lo que sí puede pasar es que den información errónea o falsa, pero eso es porque la fuente de donde están tomando esta información es falsa, de hecho, muchas respuestas que hacemos son respondidas directamente de Wikipedia.
Lo anterior nos ha llevado a otra pregunta sobre los asistentes, y es…
¿Alguien revisa las respuestas de los asistentes y verifica que la información sea real?
En el caso de Amazon, nos han mencionado lo siguiente:
La selección de información depende de varios factores, incluido el tipo de pregunta que se hace y si se está interactuando con una skill de terceros. Amazon no provee el contenido para las skills de terceros. Cuando un cliente hace una pregunta directa basada en hechos («Alexa, ¿qué tan alto es el Monte Everest?») normalmente nos apoyaremos en nuestro repositorio de hechos y fuentes como Wikipedia.
Por otro lado, Google dice lo siguiente:
Nos enfocamos en brindar acceso a fuentes de consulta que privilegiaran la calidad de la información y en las que se pudiera confiar.
Nuestra experiencia nos ha demostrado que para combatir a la desinformación debemos aliarnos con fuentes calificadas, por ejemplo, durante la emergencia sanitaria de Covid-19, la OMS y los ministerios de salud han sido socios fundamentales para ofrecer información de calidad y autorizada. Reconocemos que esto no es suficiente. Por eso trabajamos para apoyar a través de distintas iniciativas. Por ejemplo, a través de Google News Initiative, creamos el Fondo de Ayuda de Emergencia para el Periodismo, dirigido a medios pequeños y medianos de Latinoamérica. Con este fondo de 10 millones de USD pudimos apoyar a más de 1,050 medios de comunicación en toda Latinoamérica. También, anunciamos fondos para combatir la desinformación, destinados a verificadores de hechos y organizaciones sin fines de lucro.
Como compañía con una misión centrada en hacer que la información sea accesible universalmente, compartimos una causa común y estamos comprometidos en ayudar al periodismo no solo durante estos tiempos sin precedentes, sino a prosperar más allá de la crisis. Junto con otras empresas, gobiernos y grupos de la sociedad civil, estamos contribuyendo a hacer posible un mejor futuro para las noticias y la información en general.
En resumen, no hay un equipo que todo el tiempo esté escuchando lo que dicen los asistentes virtuales, de hecho, ha pasado en más de una ocasión que los asistentes al tomar información directamente de Wikipedia dicen cosas muy graciosas e incorrectas, como lo que sucedió hace unos meses con Siri al preguntarle “quién era el cacas”.
En un caso donde se identifique rápidamente que la información que se está tomando de Wikipedia es incorrecta, entonces se corrige rápidamente desde la fuente (como en el caso con Siri), o de lo contrario probablemente se desactivará esta fuente para que el asistente deje de tomar información de dicha fuente.
