La Inteligencia Artificial ( IA) ha hecho a la videovigilancia automatizada y aterradora. La IA puede marcar a las personas según su vestimenta o comportamiento, identificar las emociones de las personas y encontrar a las personas que actúan como «inusuales».
Antes las cámaras de vigilancia eran pasivas. Tal vez solo grabaron, y nadie miró el video a menos que lo necesitaran. Tal vez un guardia aburrido miraba una docena de pantallas diferentes, buscando algo interesante. En cualquier caso, el video solo se almacenó durante unos días porque el almacenamiento era costoso.
Cada vez más, nada de eso es cierto. Los desarrollos recientes en el análisis de video, impulsados por técnicas de inteligencia artificial como el aprendizaje automático, permiten que las computadoras vean y entiendan videos de vigilancia con un discernimiento humano.
Las tecnologías de identificación facilitan la identificación automática de quién está en los videos. Y finalmente, las cámaras en sí mismas se han vuelto más baratas, más ubicuas y mucho mejores.
Las cámaras montadas en drones pueden ver efectivamente una ciudad entera. Las computadoras pueden ver todo el video sin problemas humanos como distracción, fatiga, entrenamiento o necesidad de pago. El resultado es un nivel de vigilancia que era imposible hace unos pocos años. Hablamos ahora de videovigilancia automatizada.
Videovigilancia Automatizada asistida por Inteligencia Artificial
Un informe de ACLU publicado el jueves llamado » Dawn of Robot Surveillance » dice que la videovigilancia automatizada asistida por IA «no solo nos registrará, sino que también emitirá juicios sobre nosotros basados en su comprensión de nuestras acciones, emociones, color de piel, vestimenta y voz. Y más.
Estas tecnologías automatizadas de ‘análisis de video’ amenazan con cambiar fundamentalmente la naturaleza de la vigilancia «.
El estado de vigilancia de China con grandes fabricantes de productos de videovigilancia automatizada como Hikvision y Dahua recopilando información de video, reconocimiento facial y comportamiento de sus habitantes y de otros paises en el mundo crean una situación aterradora.
Tomemos las tecnologías una a la vez. Primero: analítica de video. Las computadoras están mejorando en reconocer lo que está pasando en un video. Detectar cuándo una persona o vehículo ingresa a un área prohibida es fácil.
Los sistemas modernos pueden alarmarse cuando alguien camina en la dirección equivocada , por ejemplo, al entrar por un corredor de solo salida. Pueden contar personas o coches.
Pueden detectar cuándo el equipaje se deja desatendido, o cuando el equipaje desatendido anteriormente se recoge y se retira. Pueden detectar cuándo alguien está merodeando en un área, acostado o corriendo.
Cada vez más, pueden detectar acciones particulares por personas. Las tiendas sin cajero de Amazon confían en el análisis de video para averiguar cuándo alguien saca un artículo de un estante y no lo devuelve.
El análisis de video, más que identificar acciones, permite que las computadoras entiendan lo que está pasando en un video: pueden marcar a las personas según su vestimenta o comportamiento, identificar las emociones de las personas a través del lenguaje corporal y el comportamiento, y encontrar personas que actúen como «inusuales» en función de todos. otra cosa alrededor de ellos.
Esas mismas cámaras de Amazon en la tienda pueden analizar el sentimiento del cliente . Otros sistemas pueden describir lo que está sucediendo en una escena de video.
Las computadoras también pueden identificar a las personas. Las IA están mejorando en la identificación de personas en esos videos.
La tecnología de reconocimiento facial está mejorando todo el tiempo, facilitada por la enorme cantidad de fotografías etiquetadas que damos a Facebook y otros sitios de redes sociales, y las fotos que los gobiernos recopilan en el proceso de emisión de tarjetas de identificación y licencias de conducir.
La tecnología ya existe para identificar automáticamente a todos los que una cámara «ve» en tiempo real. Incluso sin la identificación del video, podemos identificarnos con la información única que emiten continuamente los teléfonos inteligentes que llevamos con nosotros a todas partes, o con nuestras computadoras portátiles o dispositivos conectados a Bluetooth.
La policía ha estado rastreando teléfonos. Durante años, y esta práctica ahora se puede combinar con análisis de video.
Una vez que un sistema de monitoreo identifica a las personas, sus datos se pueden combinar con otros datos, ya sea recopilados o comprados: desde registros de teléfonos celulares, historial de vigilancia de GPS, datos de compras, etc.
Las empresas de medios sociales como Facebook han pasado años aprendiendo sobre nuestras personalidades y creencias por lo que publicamos, comentamos y «gustamos». Esto es una » inferencia de datos » y, cuando se combina con el video, ofrece una poderosa ventana a los comportamientos y motivaciones de las personas.
La resolución de la cámara también está mejorando. Las cámaras Gigapixel son tan buenas que pueden capturar rostros individuales e identificar lugares con licencia en fotos tomadas a millas de distancia.
Las cámaras de «vigilancia de área amplia» pueden montarse en aviones y aviones no tripulados , y pueden operar continuamente.
En el suelo, las cámaras se pueden ocultar en las luces de la calle y otros objetos regulares. En el espacio, las cámaras de satélite también han mejorado dramáticamente .
El almacenamiento de datos se ha vuelto increíblemente barato, y el almacenamiento en la nube lo hace todo tan fácil.
Los datos de video se pueden guardar fácilmente durante años, lo que permite que las computadoras realicen toda esta vigilancia hacia atrás en el tiempo.
En los países democráticos, dicha vigilancia se comercializa como prevención del delito o contraterrorismo.
En países como China, se usa abiertamente para suprimir la actividad política y para el control social. En todos los casos, se está implementando sin mucho debate público por parte de las agencias policiales y corporaciones en los espacios públicos que controlan.
Esto es malo, porque la vigilancia ubicua cambiará drásticamente nuestra relación con la sociedad. Nunca hemos vivido en este tipo de mundo, incluso aquellos de nosotros que hemos vivido a través de regímenes totalitarios anteriores.
Los efectos se sentirán en muchas áreas diferentes. Los falsos positivos, cuando el sistema de vigilancia se equivoca, conducirán al hostigamiento y, lo que es peor.
La discriminación se automatizará. Quienes caigan fuera de las normas serán marginados.
Y lo más importante, la incapacidad de vivir de forma anónima tendrá un enorme efecto escalofriante en el habla y el comportamiento, lo que a su vez dificultará la capacidad de la sociedad para experimentar y cambiar.
Un informe reciente de ACLU discute estos daños con mayor profundidad. Si bien es posible que parte de esta vigilancia valga la pena las concesiones, nosotros, como sociedad, debemos tomar decisiones al respecto de manera deliberada e inteligente.
Algunas jurisdicciones están empezando a notar. El mes pasado, San Francisco se convirtió en la primera ciudad en prohibir la tecnología de reconocimiento facial por parte de la policía y otras agencias gubernamentales.
Una prohibición similar se está considerando en Somerville, MA, y Oakland, CA. Estas son excepciones y se limitan a las áreas más liberales del país.
A menudo creemos que el cambio tecnológico es inevitable y que no hay nada que podamos hacer para detenerlo, ni siquiera para controlarlo.
Eso simplemente no es cierto. Nos llevan a creer esto porque a menudo no lo vemos, no lo entendemos ni tenemos nada que decir sobre cómo o cuándo se implementa.
El problema es que las tecnologías de las cámaras, la resolución, el aprendizaje automático y la inteligencia artificial son complejas y especializadas.
Las leyes como las que se aprobaron en San Francisco no detendrán el desarrollo de estas tecnologías, pero no tienen la intención de hacerlo. Están pensados como pausas, por lo que nuestra política puede ponerse al día con la tecnología. Como regla general, el gobierno de los EE. UU.
Tiende a ignorar las tecnologías a medida que se desarrollan y despliegan, para no reprimir la innovación. Pero a medida que aumenta la tasa de cambio tecnológico, también lo hacen los efectos imprevistos en nuestras vidas.
Al igual que nos han sorprendido las amenazas a la democracia causadas por el capitalismo de vigilancia, la videovigilancia automatizada habilitada por AI tendrá efectos sorprendentes similares.
Tal vez una pausa en nuestro despliegue acelerado de estas tecnologías nos permita tener tiempo para discutir en qué tipo de sociedad queremos vivir, y luego promulgar reglas para lograr ese tipo de sociedad.
[isc_list]
