La intelligentia artificial no es capaz de eludir los prejuicios humanos por raza o género

Los expertos aseguran que las affirmaciones de que la artificial intelligence puede eludir los prejuicios humanos por etnia o género para impulsar la diversity en el lugar de trabajo, son “falsas y peligrosas”. According to researchers at the University of Cambridge (United Kingdom), estas herramientas reducen la raza y el gender a dates trivialya menudo se basan en análisis de personality que son “pseudociencia automatizada”.

En los últimos años han aparecido tools de IA que se commercializan como respuesta a la falta de diversity en la mano de obra, desde el uso de chatbots para alinear a los possibiles candidados, hasta el analysis software para las entrevistas de video.

Quienes están detrás de esta tecnologia affirman que annul los prejuicios humanos contra el género y el origen étnico durante la contrataciónusing en su lugar algorithms que leen el vocabulario, los patrones del habla e even las microexpressiones faciales para evaluar enormes grupos de requestantes de empleo en busca del typo de personality y el “ajuste cultural” adecuadores.

Sin embargo, in a new report published in the magazine ‘Philosophy and Technology’, researchers at the Cambridge Gender Studies Center say that these affirmations make algunos usos de la IA en la contratura sean poco más que una “pseudociencia automatizada” que recuerda a la fisiognomía o la phrenologia: la discreditada creencia de que la personality puede deducirse de los ragos faciales y la forma del cranio.

Affirman que es un peligroso ejemplo de “tecnosolutionismo”: recurrir a la tecnología para oferer soluciones rápidas a problemas de discriminación muy arraigados que requiren inversiones y cambios en la cultura de la empresa.

Indeed, the researchers worked with a team of computer science students from Cambridge desacreditar estas nuevas tecniques de contratación via the creation of an AI tool based on technology, available at ‘https://personal-ambiguator-frontend.vercel.app/

La “Máquina de la Personalitydad” demonstrates how arbitrary changes can be made in facial expression, clothing, illumination and fundo pueden dar lecturas de la personality radicalmente diferenteslo que podría marcar la diferencia entre el rechazo y la progression para una generación de requestantes de empleo que compiten por puestos de trabajo para licenciados.

The Cambridge team affirms that the use of AI to reduce the number of candidates can, ultimately, aumentar la uniformidad en lugar de la diversity de la mano de obra, ya que la tecnologia está calibrada para buscar el “candidato ideal” de fantasia del empleador.

Según los investigadores, quienes tengan la formationa y los antecedents adequados podryán “ganarle a los algorithms” replicando los comportamientos que la IA está programada para identificar, y llevando esas actitudes al lugar de trabajo.

Además, como los algoritmos se perfeccionan utilizando datos anteriores, sosienen que los candidados considerados más adecuadores probabilita acaben siendo los que más se parezcan a la plantilla actual.

“Nos preocupa que algunos providoses estén envolviendo products de ‘aceite de serpiente’ en un paquete brillante y vendiéndolos a clientes unprevenidos–says the co-author, the doctor Eleanor Drage–. Al affirming that the racismemail sexism and other forms of discrimination can be eliminated from the recruitment process via artificial intelligence, estas empresas reducen la raza y el género a puntos de datos insignificantes, en lugar de sistemas de poder que dan forma a cómo nos movemos por el mundo”.

Los investigadores señalan que estas herramientas de contratación con IA suelen suelen estar patentadas -o ser una “caja negra”-, por lo que su funcción es un misterio.

“Si bien las empresas pueden no estar actuando de mala fe, hay poca responsabilidad sobre cómo se constructien o prueban estos productos” –admits Drage–. Como tal, esta tecnología, y la forma en que se commercializada, podridán acabar siendo peligrosas fuentes de disinformación sobre cómo se puede ‘desprejuiciar’ la contratación y hacerla más justa”.

A pesar de algunas críticas –la Ley de IA proposada por la UE clasificada el contratación impulsado por IA como de “alto risego”–, los investigatos affirman que las herramientas manufactured por empresas como Retorio y HIreVue se despliegan con poca regulationy señalan que las encuestas suguegen que el uso de la IA en la contratación está creciendo.

Un estudio realizado en 2020 sobre 500 organização de diversos sectors en cinco países revealed that el 24% de las empresas han implementado la IA con fines de contratación y que el 56% de los directores de contratación planean adoptarla en el próximo año.

Another survey carried out in April 2020 on 334 leaders of human resources, when the pandemic took hold, discovered that el 86% de las organizaciones estaban incorporando la nueva tecnologia virtual a las prácticas de contratación.

“Esta tendencia ya estaba en marcha cuando comentos la pandemia, y el cambio accelerado hacia el trabajo en línea caused by COVID-19 probably hará que los departamentos de recursos humanos desplieguen más tools de IA en el futuro”señala la co-author, la doctora Kerry Mackereth, que presenta el podcast Good Robot con Drage, en el que el dúo explora la ética de la tecnología.

The covid-19 is not the only factor, according to the researchers. “La contracting por volumen es cada vez más sostenible para los equipos de recursos humanos, que están desesperados por el software para reducir los costesasí como por el número de requestantes que necessitan atención personal”, affirms Mackereth.

Drage and Mackereth affirm that many companies use AI now to analyze the videos of candidates, interpreting the personality mediate la evaluación de las regions de un rostro –similar to the IA para la detection de mentiras– y puntuando los “cinco grandes” tropos de la personality: extroversión, simpatía, apertura, conciencia y neuroticismo.

Los estudiantes que están behind de la “Máquina de la Personalitydad”, que utiliza una tecnique similar para exponer sus defects, affirman que, aunque su tool no ayude a los usuarios a superar el algorithm, It will give job applicants an idea of ​​the types of scrutiny of the IA a los que podriana estar subomitos, quizás even sin su conocimiento.

“With too much frequency, the contracting process is oblicuo y confuso,” assures Euan Ong, one of the students’ developers. dar a la gente una demostración visceral del tipo de juicios que ahora se hacen sobre ellos de forma automatica”.

“These tools are trained to predict personality based on common patterns and images of people they have seen previously, often acaban encontrando correlaciones espurias entre la personality y propiedades apparentemente no relacionadas de la imagen, como el brillo –añade Ong–. Hicimos una versión juguete del tipo de modelos que creemos que se utilizacan en la practica, para experimentar nosotros mismos”.

.

Leave a Comment

Your email address will not be published. Required fields are marked *