FTC prohíbe a Rite Aid el uso de reconocimiento facial AI por errores y sesgos raciales en su aplicación

La Comisión Federal de Comercio de EE. UU. (FTC) ha impuesto una prohibición de 5 años a la cadena de farmacias Rite Aid por el uso indebido de tecnología de reconocimiento facial basada en inteligencia artificial. Esta decisión surge tras identificar múltiples casos de falsos positivos y sesgos raciales, afectando principalmente a afroamericanos, latinos y mujeres. La FTC alega que Rite Aid implementó esta tecnología sin medidas de protección adecuadas, lo que resultó en acusaciones erróneas de delitos a clientes inocentes

Este fallo destaca los peligros del mal uso de la inteligencia artificial en vigilancia

Desde 2012 hasta 2020, Rite Aid utilizó tecnología de reconocimiento facial defectuosa en sus cámaras de seguridad para identificar a presuntos ladrones. Muchos clientes, erróneamente etiquetados por el sistema, enfrentaron acusaciones de robo y otros delitos. La tecnología, implementada sin el conocimiento de los clientes, operó en varias ciudades importantes de EE. UU., dejando a los consumidores expuestos a humillaciones y perjuicios.

El uso negligente de Rite Aid de sistemas de vigilancia facial afectó negativamente a numerosos clientes, especialmente a personas de color. La compañía no consideró los riesgos de sesgos y errores de la IA, lo que llevó a falsas acusaciones y traumas emocionales. La FTC denunció que Rite Aid no tomó las precauciones básicas necesarias para proteger a los consumidores de estos riesgos.

En respuesta a la orden de la FTC, Rite Aid acordó implementar salvaguardias integrales para prevenir fallas similares en el futuro. La compañía, que atraviesa un proceso de bancarrota, también aceptó detener el uso de tal tecnología si no puede controlar los riesgos potenciales. Este caso establece un precedente importante sobre la responsabilidad en el uso de tecnologías biométricas.

No te pierdas el pódcast "El Siglo 21 es Hoy" en ElSiglo21esHoy.com para explorar más sobre este y otros temas tecnológicos actuales.

🔍 Bibliografía:

1. InformationWeek - FTC Prescribes Ban on Rite Aid’s AI Facial Recognition Use
2. EFF - FTC’s Rite Aid Ruling Rightly Renews Scrutiny of Face Recognition
3. FTC - Coming face to face with Rite Aid’s allegedly unfair use of facial recognition technology
4. Wikipedia - Rite Aid

Conviértete en un seguidor de este podcast: https://www.spreaker.com/podcast/flash-diario-de-el-siglo-21-es-hoy--5835407/support.

📲 ¿Quieres ver más contenidos de ciencia y tecnología todos los días?
Sígueme en Instagram: @ElSiglo21eshoy