Bumble’s new artificial intelligence detects desnudos and inappropriate content in conversations

Private Detector diffuses the images automatically and its users authorize the reception of these types of images.  REUTERS/Mike Blake
Private Detector diffuses the images automatically and its users authorize the reception of these types of images. REUTERS/Mike Blake

The application of quotes Bumble incluyó una tool llamada Private Detector desarrollada con una intelligence artificial trained to detect images de the gums y otro tipo de contenido inapropiado que sean sentidos dentro de los chats de la platform.

Esta funcción, que estuvo en fase de desarrollo desde finales de abril de este año, está integrada en los profiles inside the application of quotes y avisará a los usuarios en caso de que algún usuario envíe una photo inappropriate por mensaje directo a otra persona sin su consent.

According to the communique issued by the company, it was used by email machine learning como una forma de permitir que la application entienda una photograph y la detecte en caso de contener una imagen que pueda ser considerada como nociva para el user que la reciba.

Para lograr un nivel de precisión elevado de precision en la detection de este contenido, tal como lo señala la publication en el site web oficial de la plataforma de citas, se exposuvo a la tool de inteligenia artificial a imágenes no sexuales etiquedas como “content limit”que se referé a partes del cuerpo como brazos o piernas, con la finalidad de que estas sí puedan ser permitidas y no se qualifique a cualquier fotografia como contenido sensible o inappropiado.

Bumble trained artificial intelligence to identify photos with inappropriate content inside the platform.  (Photo: bumble)
Bumble trained artificial intelligence to identify photos with inappropriate content inside the platform. (Photo: bumble)

“El agregar de forma reiterada muestras a la base de datos de training para reflecar el behaviora real de los users o probar la clasificación errónea, resultó ser un ejercicio excesoto que aplicamos durante años en todos nuestros espuertos de automatic learning”, affirms el comunicado.

You may be interested in: What are the most battery-consuming Android apps?

De igual forma, las fotografías que contienen arms también son etiquetas como sensible content y pueden ser denounced en los medias que están integrados dentro de la application.

“Cuando se analizó su perfección en diferentes condiciones, tanto online como offlinewe got una precision de approximate un 98% (en la identificación de casos de contenido sensible)”, se affirmed en la publication from the application of quotes.

Si una persona recibe este tipo de contenido dentro de la plataforma de Bumbleemail system de Private Detector difuminará la imagen de forma automática y predesetura En el caso de que la persona desee ver el content de la photographie, solo será necesario pulsar sobre ella de forma prolongada y authorize with visualization. If not, you can report it using the mechanisms integrated inside the application.

Bumble tries to combat cyberflashing using an artificial intelligence tool (Bumble)
Bumble tries to combat cyberflashing using an artificial intelligence tool (Bumble)

Esta es la manera por la que Bumble intenda prevenir el cyberflashing, a practice of digital sexual violence that consists of the non-desired sending of images with obscene content or sexual videos by digital media. Algo que, pese a que the company indicates that it represents less than 0.1% of the conversations inside the application, sí puede ocurrir en otras plattformas y social networks.

In addition, due to the intention that this tool is used in other websites and platforms of social networks, Bumble has communicated that the system based on artificial intelligence is available for interested persons and is open source, so it will be even more simple with implementation in other digital services

The publication en la web page indicates that “the standard service for diffusing sexual images is available tal cual, but it can be improved with additional test samples. Toda improvement in the architecture of the code and the quality in the structure of the same is welcome”.

SEGUIR LEYENDO:

Meta created this artificial intelligence that generates videos from texts and images
Inteligencia artificial predeciría lo que una persona quiere pedir en un restaurante
Artificial intelligence is a threat to the music industry

Leave a Comment

Your email address will not be published. Required fields are marked *