Flock anuncia herramienta para identificar abusos policiales.

La startup de tecnología de vigilancia Flock ha introducido una serie de políticas y herramientas que, según afirman, ayudarán a prevenir el abuso de sus sistemas automáticos de lectura de matrículas y a garantizar la responsabilidad de las fuerzas del orden. Estas medidas fueron anunciadas el jueves.

Un cambio significativo en sus políticas es la recomendación de que los departamentos de policía mantengan los datos por un período de siete días, en vez de los anteriores 30 días. Además, la empresa ha presentado el “Modo de Evidencia”, que permite conservar datos durante períodos más largos solo en “casos excepcionales”, demandando un número de caso específico. También se habilitarán límites en la cantidad de datos compartidos con otros clientes, en función de la naturaleza del delito que se esté investigando.

Entre las innovaciones, se destaca la herramienta conocida como “Asistencia de Auditoría”, lanzada en abril. Desde su implementación, más de un tercio de los usuarios la ha activado, y ahora es obligatorio para todos los clientes habilitarla antes de finalizar el año.

El objetivo de la Asistencia de Auditoría es detectar actividades anómalas y señalarlas para su revisión por parte de un administrador. Si ocurre una alerta, el sistema puede bloquear automáticamente a los usuarios señalados hasta que un administrador intervenga. Según Flock, esta herramienta ha sido efectiva para identificar y detener abusos.

Ejecutivos de la compañía han elogiado las capacidades de la Asistencia de Auditoría, aunque no han explicado en detalle su funcionamiento. La información oficial ofrece una comprensión limitada sobre su operativa.

Ashley Haber, responsable de confianza y cumplimiento en Flock, afirmó en un video que la Asistencia de Auditoría puede identificar “historiales de búsqueda inusuales por parte de un usuario específico”. Otra declaración de Paige Todd, cofundadora de Flock, menciona que la herramienta puede marcar patrones extraños, como un usuario que busca la misma matrícula repetidamente durante más de 30 días.

El Mayor Patrick Krieg del Departamento de Policía de Dunwoody, Georgia, usó la plataforma y la describió como “un algoritmo que nos ha notificado sobre cualquier tipo de sesgo”. Flock describe esta herramienta como capaz de “superar actividades atípicas rápidamente con un flujo de trabajo documentado claro”.

Sin embargo, persisten interrogantes sobre cómo funciona realmente este “algoritmo”, qué datos utiliza para su entrenamiento y cuál es su capacidad para identificar patrones anómalos. Flock ha declarado que la Asistencia de Auditoría no se basa en aprendizaje automático o inteligencia artificial, sino que es una herramienta de datos que señala patrones de búsqueda atípicos para su revisión adicional.

A pesar de esto, siguen existiendo cuestiones sin respuesta, incluyendo la efectividad de la herramienta, las tasas de falsos positivos y negativos, y si ha sido sometida a auditoría por un tercero.

Críticos como Chad Marlow, consejero sénior de políticas de la Unión Americana de Libertades Civiles, expresan desconfianza, afirmando que no hay evidencia de que la herramienta funcione de manera consistente para abordar el abuso. Señaló que, a pesar de que varios oficiales han sido arrestados por mal uso de Flock, no es posible concluir si la herramienta está funcionando adecuadamente sin conocer el número total de abusos.

Cooper Quintin, investigador de seguridad, también ha señalado que, independientemente de la efectividad de la Asistencia de Auditoría, lo fundamental es si se logra la rendición de cuentas de los abusos. Le preocupa que si los responsables son los mismos agentes que cometen el abuso, la herramienta sería solo un recurso superficial.

Rachel Levinson-Waldman, directora del programa de Libertad y Seguridad Nacional del Centro Brennan, considera que hacer obligatoria la Asistencia de Auditoría es un avance positivo, aunque subraya la necesidad de una auditoría para evaluar su efectividad en la práctica.

Estas novedades de Flock llegan tras múltiples informes sobre el abuso repetido de su tecnología por parte de algunas fuerzas del orden. Recientemente, ex-deputados de Georgia fueron arrestados por utilizar las cámaras de Flock para espiar a personas con quienes mantenían relaciones personales, lo que llevó al Sheriff del Condado de Bibb a mencionar la Asistencia de Auditoría como la herramienta que reveló este mal uso.