Where artificial intelligence and video surveillance are found: how do we affect what is so easy to grab and identify · Maldita.es

Sucede a todas horas, cada minuto: te haces una photograph mientras estás de viaje, en un sitio emblemático o en cualquier rincón de tu ciudad; la subes a una red social como Instagram y utilization the option of the ubicación para identify el lugar; maybe it also includes the name of the city, the plaza or the monument in los hashtags.

Comienzan a llegar los likes de los amigos o de personas que han visitado la misma localização, y no nos preocupamos de mucho más. But the advancement of technologies such as artificial intelligence (IA), biometrics and connectivity are manifest scenarios that did not occur before; por ejemplo, que se pueda rastrear nuestra ubicación (un riesgo que sometimes underestimated) o que se pueda obtener información de lo que hacemos en nuestra vida cotidiana sin que seamos conscientes. We have seen a new example of this.

On September 12, the Belgian developer and artist specialized in technology Dries Deporter lanzó un proyecto llamado The Followercon el que consigue locate a person -tanto anónimas como influencers- gracias a sus fotografías de Instagram ya los vídeos que obtaine de cámara abierta que emiten imágenes en Internet. Hablamos de cámaras apostadas en distintos lugares públicos, normally abiertas, que en su majoios tienen funciones de videovigilancia, pero están abiertas al público. ¿Habías pensado alguna vez que alguien podría scanear miles de ellas a la vez para encontarte? That’s exactly what this project is all about, and what we’re going to do with plants.

The ‘software’ compares Instagram images with CCTV recordings and identifies the person in the place where the photograph was taken

The developer, Dries Depoorter, explica en su página web cómo funciona este software. Primero, recoge durante semanas una selección de recordings of cameras open to the Internet. Estas cámaras pueden encontrarse en YouTube, al alcance de cualquiera. Por ejemplo, se puede ver en tiempo real un gran angulo de Times Square in New Yorkla calle llena de hoteles casinos Las Vegas Strip y una parte del distrito Shinjuku en Tokyo a vista de pájaro posado en una farola. Hay incluso aplicaciones para móvil, como Live Earth Camque recogen este tipo de visualizations en directo.

Son flujos de imágenes constantes de acceso public, las conocidas technologies de “videovigilancia” que englobamos en los Circuitos Cerrados de Televisión (CCTV). Many cities, como MadridLondres, Singapore, Ciudad de México y especially cities in China, las tienen This type of cameras can not be installed in any place, and with authorization depends on who does it, with what purposes and in what spaces, as os explicamos en Maldita.es.

El siguiente paso que indica el desarrollador consiste en extract all photos from Instagram etiquetas con las mismas ubicaciones que las de las cámaras abiertas. As we have commented at the beginning, this can be done through the localization of the publication and also of the los hashtags utilizados (pero requiere usar programas informaticos diseños para ello).

Finally, e-mail software que ha creado compara la imagen de Instagram con las imágenes grabadas, i.e busca coincidencencias de las personas que están en ellas gracias a inteligencia artificial, as he explained in a publication. Como puede verse en los ejemplos siguientes, el software va rastreando y otorgando puntuaciones a las personas (que identifica como personal; también reconeza coches) que se mueven en el vídeo, según se asemejen más o menos a la persona de la photography de Instagram. Es decir, va consiguiendo una identification of the image.

However, the software can identificar el momento exacto en que una fotografía se hizo en una ubicación determinada.

¿Es el proyecto una applicación graciosa o atenta contra nuestra intimidad?

¿Tú qué opinas? The launch of this software y sus demonstrations han abierto un debate en el mundo digital: mientras muchas personas encuentra la applicación funtida por su identificación de influencersotros señalan que en realidad es una prueba más de que el recognition de personas es mucho más fácil de lo que nos pintan.

In TikTok, we found answers to a video in which un usuario explica este software y que réguna más de 4 millionos de reproductions y, en unos de los comentarios como “prefiero olvidar que vivimos en un estado de vigilance“. “Privacy is an illusion”, decía otro usuario en Instagram, que se inquietaba al ver todo lo que se puede hacer con estas cámaras que están por todas parts.

El analyst specialized in emerging technologies and digital rights at AccessNow, Daniel Leufercompartía la misma línea de pensamiento en with Twitter: “I’m un proyecto genial y espeluznante que utiliza IA para scanear imágenes de CCTV, ver cómo coinciden con fotos de influencers en Instagram y rastrearlas. The easy availability of IA tools como esta significa que debemos reevaluate los riesgos que plantean los CCTVya que las possibilities de acoso y seguimento se han disparado”.

El trinomio IA, biometría y videovigilancia puede resultar en pérdida de la privacidad, harassment y discrimination

La democratization of technology es buena (y necessaria) en muchos sentidos, pero también hay que valorar qué riesgos entraña en otros casos. Por un lado, la easy accessibility de herramientas de intelligencia artificial, identificación de imágenes y biometría puede ser peligrosa en scenaros como este. “Este proyecto revela lo terradoramente facil que es utilizar los rostros de las personas [biometría] para rastrearlas en tiempo y espacio de forma increíblemente intrusiva y sinistera”, indicates Ella Jakubowska, responsible for Public Policy about biometrics and facial recognition in European Digital Rights (EDRi), one of the main European organizations dedicated to the defense of digital rights and biometric risks

It’s true that you’re un software con resultados asombrosos que podría tener otros usos, como también lo tienen otras tools disponibles de forma pública, como PimEyeswhich has been claimed by its developers as a form of “enabling people to find their own images online”, says the specialist Maldita.es. “Pero hemos visto la facilidad con la que estas herramientas pueden ser used by cualquieralo que hace que sea enorme el potencial de acoso y hostigamiento (que afectará de manera disproportionatenada a las mujeres ya grupos minoritarios)”, affirms Jakubowska. Por ejemplo, se podría localar a qué hora ha estado una persona en cierto sitio, hacer un seguirio e inferir su ubicación actual.

Por si fuera poco, unido a los posibles riesgos de estos desarrollos tecnológicos, por otro lado está la restriction of privacy que puede suponer la video surveillance. IA, facial recognition y CCTV pueden ser un combo pelagudocomo recuerda la specialista, porque no solo puede ser utilizado por personas a nivel individual: también por la policía, gobiernos locales o empresas, lo que podría conducir “a una vigilance masiva, a la invasion of privacy and including a existential threat to democracy”.

According to the expert, the massive prevalence of video surveillance has paved the way in many European countries mass surveillance for facial recognition: “Both suponen un riesgo para los derechos humanos ya menudo se despliegan de forma discriminatoria. But the threat is amplified with the application of algorithms. With facial recognition and another type of biometric surveillance, people can be identified in an omnipresent and constant way on a large scale.” En Maldita.es os hemos hablado a fondo de por qué es necesario to regulate this technology.

Legislación para evitar que el uso de estas tecnologías pueda impactar en procesos policiales y vigilance masiva

Las consecuencias de la videovigilancia también puede ahondar en debates sobre los propios policiales y de investigação. ¿Qué sucede si estabas en el momento inadecuado en el lugar más inoportuno? ¿Podrían accusarte por una imágenes en vídeo y una identificación facial? According to Jakubowska, it could be dar la vuelta a la presunción de inocencia: “En lugar de llevar a cabo investigations sobre sospechosos, la policía nos podría tratar directamente a cada uno de nosotros como un potencial suspechosos”.

“I’m afraid constante vigilancia biométrica massivanos convertimos en códigos de barras andantes, tratados como objetos”, he added. La experta lo compara con el rastreo de un paquete que hayamos pedido en Amazon or cualquier otra compra online: al igual que este se podría rastrear, también se nos podría rastrear a nosotros en espacio y tiempo.

Esto surely parezca ir un paso mucho más allá, ¡si solo venimos de un inofensivo software que identifica nuestras imágenes de Instagram!, puede que nos digamos… Pero la experte alerte de que esta vigilance podría ir intensificándos a medida que lo haga “el potential y el baratamiento de la AI, la connexion entre las bases de datos biometricos y policialesy en algunos casos (como en un proyecto en los Países Bajas) incluso la connexion con los datos educativos y de bienestar”.

¿Cómo tratar de evitar que ese momento no llegue? ¿Podría inclusirse en la legislation de la biometría certain types of CCTV and this conjunction of technologies? Jakubowska believes it like this: “If it is approved in a forceful manner, the prohibition of massive biometric surveillance at the level of the European Union would prevent CCTV technologies from being used for facial recognition in public spaces”.

La specialista señala que incluso algunos legisadores han sugerido enmiendas al futuro Reglamento Europeo de la Inteligencia Artificial de la Comisión Europeaque prohibirían expresamente la creación de bases de datos via e-mail scraping de las fuentes de CCTV, las redes sociales o cualquier otro método massivo.

Mientras la regulation llega, es importante es saber que la tecnología tiene luces y sombras, y no todo es blanco o negro. The best thing we can do is inform and take awareness of the risks that we can carry ciertas prácticas en redes socialesde modo que podamos tomar decisions en nuestra vida digital with the greatest amount of information possible.

Leave a Comment

Your email address will not be published. Required fields are marked *