‘Leader Lars’ in Denmark: por qué hoy no podemos decir que un sistema de inteligenia artificial pueda “leader” un partido · Maldita.es

In the last few weeks, muchos medios se han hecho echo de un proyecto politico que usa inteligencia artificial (IA) en Dinamarca: surely hayas visto titulares que hablan de “an artificial intelligence that leads a political party in Denmark”. He called the system in question “Leader Lars” (or “Líder Lars”, in Spanish), and despite that in many cases it is being portrayed as a program capable of representing a political party and understanding people’s needs , este tipo de proyectos están muy lejos de lo que entendimes que haría un líder de un partido politico a día de hoy. Veámoslo en detalle.

Un chatbot para atender y responder las inquietudes y peticiones políticas de la gente

Líder Lars is a chatbot based on artificial intelligence developed by an association without profit MindFuture y un colectivo técnico-artístico llamado Computer Lars, y se associa a lo que han bautizado como el Partido Sintético. ¿De qué hablan, en este caso, cuando mencionan ‘una inteligencia artificial’ al frente de un partido? A chatbot is a system programmed to interact with people through text or audio, which it can use Alexa u otro asistente de voz que usamos en casa, si hablamos de audio, and un programa asistencial si hablamos de texto. Por ejemplo, como cuando hablamos con el chat de algunas operadoras para resolver un problema técnico. In the case of Líder Lars, two groups have designed this program and trained him so that, when he speaks, he can respond with topics related to Danish politics.

Siempre recordamos que para entrenar un programa de inteligenia artificial que arroja respuestas por sí mismo, es necesario presentarle muchos, muchos datos sobre el tema que queremos que hable o escriba. En el caso de Líder Lars, se ha alimentado con los programs electorales de los partidos que no han llegado a tener representation parlamentaria desde 1970. ¿Con qué intención? Sus creadores dicen que aspiran a que las personas que no acuden normally a votar puedan comunicarse con el sistema y luego recoger sus petitions para inclurilas en su propio programa de cara a 2023.

Ahora bien, ¿significa esto que con Líder Lars se pueda hablar como con una persona o con un representative politico? O más bien, ¿tiene capacidad para legislar o dirigir un partido? Well, y es importante que entendamos por qué un programa de inteligenia artificial no es capaz a día de hoy de “leaderar” un partido politico.

“No sé si lo veremos en más países, pero no tiene ninguna incidencia sobre cómo funciona el proceso democrático”, affirmaba en an interview on RTVE Gemma Galdón, specialist in audit of algorithms and CEO of Eticas Tech. “Lo que hace es visibilizar un uso intensivo de los datos que en muchos casos los partidos ya están realizante. La interacción con el ciudadano ya no la tiene un político, sino que la tiene un chatbot”, he said.

“Lo que plantean es que es muy difícil llegar a un politico, pero un chatbot se puede reproducer de muchas maneras y muchas veces, con lo cual tú puedes tener una interaction con un chatbot, pero siempre programado por politicos. No es que las personas, o los políticos, se pongan al servicio de una inteligenia artificial”, he highlighted.

Un programa de IA no puede ‘entender’ lo que dice o lo que le comunicamos, sólo arroja datos

Aquí es importante que hablemos de que un sistema de inteligencia artificial no es capaz de ‘entender’ lo que nos está diciento o escribiendo. Por tanto, no es posible que Líder Lars comprende lo que implica que una persona reciba un salario u otro, que tengan acceso a un servicio de salud pública o no o que pueda debatir para instaura medidas como se hace en un proceso politico y democratica día de hoy

“Ningún sistema de IA (como GPT-3 o un chatbot) tiene conciencia real de lo que está diciento en el sentido que tenemos conciencia nosotros, de entender lo que significa lo que estamos diciento y mirar sus implicaciones en el futuro o situarlas en un contexto histórico”, affirms a Maldita.es Ariel Guersenzweig, philosopher of technology specialized in AI ethics esprofessor in Elisava Facultad de Diseño e Ingeniería en la Universidad de Vic.

Sin embargo, así es como se está retratando en entrevistas en algunos medios. “In political and social topics, there is nothing we can call a basic truth: if you take the chemical composition of a stone or define what is a melanoma to program an artificial intelligence system, we will agree that the system can detect it.” porque tenemos una idea más clara de lo que es. En cambio, en temas socio-políticos no tienes estos concepts de verdad como punto de partida“, he points out.

“En una sociedad moderna y plural hay diferencias importantes en lo que es la seguridad, el bienestar, la buena educación, la integration… son objetos de constante debate. No hay una verdad que puedas obtener mediate un sistema matemático”, recalca e specialist.

La directora de MindFuture, Caroline Axelsson, he said in an interview with El Periódico de España que “hay gente que cree que una máquina gestionaría mejor un país porque no se corrompe, pero porque tampoco tiene empatía”. Esa idealización de que una máquina “objetiva” tuviese representation parlamentaria es más comun de lo que pensamos. De hecho, there are reports that reflect that more than half of the Spaniards would agree to replace the number of parliamentarians and that the decision power of the algorithms (te contamos por qué eso no es tan fácil como parece).

Tampoco puede ser ‘objetivo’: usa la información con la que se le entrena, incluido cualquier matiz ideológico

Pero esta percepción, en realidad, tiene trampa, ya que no es posible inculcar lo que es ser objetivo a una máquina. “The idea of ​​objectivity as a pure thing, isolated from all types of values ​​and emotions is discarded in modern epistemology. The objective is the composition of a stone, but we don’t talk about it in another type of debate”, says Guersenzvaig. Y recalls: “Un sistema informatics no es más objective”.

This is something that we see even contradictory in written conversations that some journalists have with the system. While los creadores aseguran que el partido es “syntético” y por tanto trata de homogenizar las disparidadesel programa por sí mismo se define como “progressive” o dice claramente que es de un partido “de izquierdas”. Why? Seguramente porque esa sea la ideología de los partidos cuyos programas electorales han sido utilizados.

También se utiliza el pretexto de que un programa de inteligenia artificial no puede ser “corrupto”. Sin embargo, una vez más depende de cómo se le entrene. “The term IA confuses a majority of people in regards to the real capacities of the systems. A plant in one sense can be intelligent because it knows when to open, how to flower or search for light, but when we talk about AI we talk about a type of human intelligence that even has more rational and less emotional attributes, thanks to the mathematical and statistical halo ”, adds Guersenzweig.

That’s why this specialist considers that it’s not possible today that one of these systems makes automated decisions about political issues: “Because they’re technically fragile, they’re tremendously skewed, they have structural problems that aren’t easy to resolve merely with data science.” “.

Image: Anton Grabolle / Better Images of AI / Classification Cupboard / CC-BY 4.0

Leave a Comment

Your email address will not be published. Required fields are marked *