El primer caso registrado de una persona arrestada erróneamente por haber sido identificada por un software de reconocimiento facial ocurrió en Detroit.
Periódios estadounidenses han reportado el caso de Robert Julian- Borchak Williams quien fue arrestado en enero pasado frente a su familia, la detención derivó por la falla de un algoritmo de reconocimiento facial.
Fue retenido durante 30 horas falsamente acusado de robar cinco relojes por un valor de casi 4 mil dólares en octubre de 2018.
DataWorks Plus, el software que utiliza la policía de Michigan, envía información de un posible sospechoso “una pista de investigación y no es una causa probable de arresto”.
[Te puede interesar: Los riesgos de la tecnología de reconocimiento facial]
El software relacionó la fotografía de la licencia de conducir de Williams con las imágenes de vigilancia de escena del crimen, aunque la foto fue presentada a un guardia de seguridad quien afirmó su participación.
No obstante, los policías, al comparar las imágenes, pudieron percatarse del error.
Se añade el hecho de que expertos en Inteligencia Artificial afirman que los sistemas de identificación facial tienen sesgos raciales, hecho relevante porque Robert Williams es afroestadounidense.
El mismo Williams declaró, “cuando miro la foto de la persona, solo veo a un negro grande. No veo ningún parecido. No creo que se parezca a mí en absoluto. Espero que no piense que todos los negros somos iguales”.
Incluso IBM informó que dejará de desarrollar y vender software de reconocimiento facial. Incluso, el CEO de la empresa cuestionó si este tipo de tecnología “debía ser empleada por los organismos nacionales encargados de cumplir la ley”.
La Unión Estadounidense de Libertades Civiles (ACLU) detalla que es el primer caso, conocido, de un arresto ilegal basado en esta tecnología, pero no descartan que existan otros casos en los que alguien resultó arrestado o interrogado erróneamente.
Aunque es un hecho sucedido hace varios meses, toma relevancia por los recientes sucesos en Estados Unidos y las protestas por frenar los ataques raciales y la brutalidad policial.
