El sistema de reconocimiento facial de Amazon fue utilizado en una gran cantidad de miembros del Congreso de Estados Unidos, donde quiso analizarse la cara de los congresistas como parte de una prueba del sistema, pero al momento de dar el resultado, se les identificó como sospechosos de varios crímenes.
El programa llamado Rekognition que fue usado por la Unión de Libertades Civiles de Estados Unidos (ACLU por sus siglas en inglés), se utilizó en 533 miembros del Congreso, de los cuales 28 de ellos fueron señalados como criminales que se encontraban en las listas de la policía tras ser arrestados.
De esos 28, 11 fueron personas afroamericanas y latinas, lo que equivale a un 39% del total, lo cual deja entrever que el funcionamiento del software tiende a incriminar más a la gente de color que a las personas blancas.
Esta situación se adjunta a las críticas que Rekognition han recibido en los últimos meses, donde se le tacha de ser una herramienta que ataca mayormente a los inmigrantes y/o personas afroamericanas, provocando que el gobierno discrimine a estos sectores de la población y los inculpe de delitos que quizás no han cometido.
Los comentarios que emitió Amazon ante este hecho, fueron defensivos porque se dijo que el sistema tuvo algunos problemas en la configuración de la identificación facial, donde hubo un margen de error del 80%, pues la máquina estaba destinada a identificar contenido multimedia, es decir, que reconocería una mesa o un banco, pero no la cara de un criminal que está siendo buscado por la policía.
Por esta y más razones, es que la ACLU junto a otros grupos de derechos civiles, han estado pidiendo que Amazon deje de estar vendiendo dicho dispositivo al gobierno, porque la tecnología ha demostrado que no está regulada y que puede acusar a cualquier persona de manera indiscriminada.
Las acusaciones de la ACLU se han dado desde marzo de este año, por lo que la organización espera que se tomen cartas en el asunto y se detenga la venta y producción de Rekognition.