Berliner Boersenzeitung - El "Gran Hermano" con IA de Sao Paulo que arresta a delincuentes y a algunos inocentes

Con 40.000 cámaras en la ciudad más rica y poblada de Brasil, Smart Sampa es el mayor sistema de reconocimiento facial por inteligencia artificial de América Latina, un programa de vigilancia pública que las autoridades exaltan aunque aún muestra un considerable margen de error.

Frente a una inseguridad urbana que alarma a sus ciudadanos, Sao Paulo implementó a fines de 2024 esta tecnología que ya encarceló a casi 3.000 fugitivos detectados mediante el cotejo en tiempo real de las imágenes de las cámaras con datos judiciales.

Apresó, además, a casi 4.000 personas por delitos en flagrante.

"Con los fugitivos que atrapó el sistema, podemos llenar siete cárceles. Hoy ya no puedo imaginar a Sao Paulo sin Smart Sampa", se felicita en el centro de monitoreo el secretario municipal de Seguridad, Orlando Morando, por este programa que cuesta unos dos millones de dólares mensuales.

A modo de ejemplo, carga una foto de sí mismo y en un instante consigue ver todos los momentos y lugares de Sao Paulo -con unos 12 millones de habitantes- en los que su cara pasó por alguna cámara.

"Me recuerda al libro '1984' (sobre un régimen totalitario, de George Orwell), con todo ese control de personas: me encanta, apruebo 100%", dice Sonia Ferreira Silva, una jubilada de 68 años, frente a un camión de Smart Sampa, un puesto de vigilancia móvil en la emblemática avenida Paulista.

- Arrestos indebidos -

Informes oficiales de transparencia analizados por la AFP muestran que más del 8% de personas arrestadas el primer año después de que Smart Sampa las reconociera como fugitivas debieron ser liberadas por tratarse de errores.

Al menos 59 detenidos fueron sueltos porque el sistema los confundió con otros ciudadanos.

En diciembre, un jubilado de 80 años estuvo horas arrestado porque Smart Sampa lo confundió con un violador.

Un mes antes, un grupo de pacientes psiquiátricos hacía terapia en un centro de salud mental cuando irrumpieron policías armados y se llevaron esposado a uno de ellos.

Tras horas en la comisaría, el detenido fue liberado. Según las autoridades, su orden judicial de arresto ya no tenía vigencia.

El sistema no sólo se nutre de cámaras en las calles sino también en edificios públicos -incluyendo centros de salud- y privados que lo admiten.

Al menos 141 personas fueron detenidas por órdenes de arresto desactualizadas, pero el gobierno paulista argumenta que esos equívocos no son culpa suya sino del poder judicial.

"Nadie quedó preso por error: las personas fueron liberadas" en esos casos, dice Morando, en nombre del gobierno del alcalde conservador Ricardo Nunes.

- "Otros" presos y menos robos -

Sao Paulo sufre altos índices de delitos patrimoniales: en 2024, cerca de uno de cada cinco robos de celulares en Brasil -incluyendo asaltos violentos- ocurrieron en la ciudad.

Entre los fugitivos atrapados por Smart Sampa, casi la mitad cayeron por casos tipificados como "otros" en datos oficiales.

Casi todos ellos corresponden a deudores de pensiones alimenticias, un delito civil "que poco tiene que ver con la seguridad pública", según el informe "Smart Sampa: ¿Transparencia para quién? ¿Transparencia de qué?".

"Smart Sampa se presenta como solución al crimen pero se usa para control civil", advierte Amarilis Costa, directora de la red de abogados Liberdade y coautora del informe junto a otras ONG.

El gobierno denuncia intentos de "desacreditar" a Smart Sampa e insiste con números: anunció una caída de robos de casi 15% en 2025.

- "Ningún prejuicio" -

Por otro lado, los datos oficiales no registran la identidad racial de más de la mitad de los presos, una "laguna de información" que impide saber si Smart Sampa peca de "racismo algorítmico" en un país con una de las mayores poblaciones negras del mundo, según Costa.

Estudios en distintos países han sugerido que el reconocimiento facial por IA suele equivocarse más con personas negras.

El gobierno aduce que la falta de datos es responsabilidad de la justicia.

"Smart Sampa no tiene ningún prejuicio, aquí no arrestamos por color", asegura Morando.

La mayoría de los presos por Smart Sampa cayeron en barrios periféricos y una buena parte son inmigrantes del interior pobre brasileño.

(B.Hartmann--BBZ)