El héroe de este documental es Joy Buolamwini, la fundadora ghanesa-estadounidense de la Algorithmic Justice League. Ella comienza «Coded Bias» mostrando un descubrimiento masivo que lanzó decenas de artículos y la llevó a hablar en el Congreso, inspirando activismo contra esta tecnología. Mientras estaba sentada en su oficina en el MIT, comparte cómo descubrió este problema de reconocimiento facial, en el que la IA no reconoció su rostro. Pero cuando se puso una máscara blanca, lo hizo.
La importancia de esto es enorme, y el director Kantayya dedica una flota de 85 minutos a explicar por qué, teniendo en cuenta. A medida que la tecnología de reconocimiento facial se convierte en un problema global, viene con este nefasto prejuicio contra las personas de color, informado por los prejuicios conscientes o inconscientes de quienes crearon tales algoritmos. No es raro que esta tecnología identifique correctamente una cara blanca, pero luego brinde información falsa sobre una persona con una tez más oscura. Además, las cabezas parlantes de este documental (en su mayoría mujeres) expresan cómo los propios algoritmos son una especie de caja negra, en la que no sabemos exactamente qué están pensando aparte de los abundantes datos que contienen. Tampoco sabemos de qué son totalmente capaces estas cajas negras.
Uno esperaría que un documental de datos y algoritmos se agotara un poco, pero «Coded Bias» desafía eso con mucho en mente y siendo rápido, saltando por todo el país y en el mundo. A medida que la película desarrolla un caso condenatorio contra estos algoritmos y el reconocimiento facial, nos lleva a Houston, donde un maestro galardonado ha amenazado este trabajo con algoritmos de verificación de trabajos defectuosos, y a Brooklyn, donde un edificio de apartamentos es monitoreado de cerca por tratamientos faciales. reconocimiento. También se hace hincapié en cómo China utiliza en gran medida la vigilancia para controlar a sus ciudadanos y su comportamiento; en Estados Unidos, uno podría pensar que estamos lejos de una sociedad así, pero ya existe. El ritmo impresionante de esta película está directamente relacionado con sus ideas: tiene muchos y muchos ejemplos vívidos de cómo la falta de información de un ser humano ha afectado a otros.
También ayuda al «sesgo de código» a mantener las cosas en el presente, que proviene de su enfoque en documentar el activismo. En Londres, Kantayya se centra en los miembros del Big Brother Watch, un tipo de grupo de vigilancia que toma su nombre de George Orwell en 1984. Pero, como muestra el documental en algunas escenas apasionantes, son una fuerza vital, tanto para sostener el policía responsable. cuando intentan intimidar a un joven negro en la calle que ha sido detectado por vigilancia, para luego informar a este muy sospechoso de una de las razones por las que han sido atacados. El activismo va de la mano con los muchos detalles aleccionadores de la película, y le da a los procedimientos una sensación vigorizante que es poderosamente consciente, pero esperanzadora.
