Artificial intelligence could cause the extinction of humans, according to an Oxford study Science and Ecology DW

Desde hace un tiempo, las historias sobre la inteligencia artificial (IA) han rondado en la ciencia y en la cultura popular, pero recently, los avances en el campo, cada vez más frecuentes, parecen estar en un nuevo apogeo. Hoy día, la IA conduce ya coches en las carreteras públicas, realiza evaluaciones que cambian la vida de las personas en los centros penitentiarios y genera arte premiado. Por lo que muchos se preguntan: ¿hasta dónde llegará esta tecnología y cual será nuestra relación con ella?

IA will compete for its energy needs

To further answer this question, scientists from Google and Oxford have conducted a study with which they have reached the conclusion that it is “probable” that AI will end the human race, a dark scenario that more and more researchers are beginning to predict .

Michael Cohen and Michael Osborne, científicos de la Universidad de Oxford, junto con Marcus Hutter, investigador experto de Google DeepMind, argumentan en su estudio, publicado recentente en la revista AI Magazine, that the advance of IA –analyzing how they could be constructed artificially in reward systems– will end humans because machines will end up incentivizing themselves to break the rules and compete inevitably for their energy needs, given the scarce and limited resources of the Earth.

Y, por si fuera poco, los researchers consideran que es casi inevitable que las máquinas inteligentes ganen a los humanos.

“Bajo las condiciones que hemos identificado, nuestra concluzione es mucho más fuerte que la de cualquier publication previous: una catástrofe existential no solo es posible, sino probable”, tweeted Cohen, estudiante de ingeniería de la Universidad de Oxford y coauthor del trabajo, a principios de este mes.

“En un mundo con recursos infinitos, sería extremamente incierto lo que ocurriría. En un mundo con recursos finitos, hay una competition inevitable por estos recursos,” said Cohen in an interview with Vice.

“Y si estás en una competition con algo capaz de superarte en todo momento, no debreyes esperar ganar. Y la otra parte clave es que would have an insatiable appetite of más energía para seguir acercando la probabilidad”, he added.

“Agentes desalineados” superavanzados

In their article, the researchers argue that humanity could face its perdition in the form of “agents dealigned” supervanzados que perceive that humanity interpone en el camino de una rewarda.

However, it is not clear what rules the researchers are talking about. Classic commandments like “a robot can’t harm a human being or, by inaction, allow a human being to suffer damage” could be treated, which, although they are considered a basic element of science fiction when coined by Isaac Asimov, now se suelen utilizar como directrices básicas sobre las que se codifica y constructe la IA.

“Una buena manera de que un agente mantenga el control a largo plazo de su rewarda es eliminar las amenazas potenciales y utilizar toda la energía disponible para segurar su ordenador”, se lee en el documento. “Perder este juego séría fatal”, write the researchers.

Google mantiente distancia con el estudio

Por su parte, después de la publication rondara por varios medios, Google responded y seguró que este trabajo no se hizo como parte del trabajo del coautor Marcus Hutter en DeepMind, sino, más bien, bajo su posición en la Universidad Nacional de Australia.

Del mismo modo, según reporta Motherboard de Vicethe company affirmed that the DeepMind affiliation that appeared in the magazine was an “error”.

The article is only a few months after Google fired an employee who affirmed that one of Google’s AI chatbots had become “sensible”.

El ingeniero de software Blake Lemoine, que trabajaba en los equipos de Google de IA, affirmed que un chatbot en el que trabajaba se había vuelto sensible y pensaba como un niño. “Si no supiera exacta lo que es, que es este programa informatics que construimos recentimentos, pensaría que es un niño de siete u ocho años que casualmente sabe de física”, dijo Lemoine al Washington Post.

The claim, which raised a series of reports, was refuted by Google. The company qualified the comments of Lemoine de erróneos y lo puso de baja. Unas semanas después, fue despedido.

Edited by Felipe Espinosa Wang.

.

Leave a Comment

Your email address will not be published. Required fields are marked *