Conecte con nosotros

Tecnología

La aplicación de citas Badoo lanza un ‘detector de mensajes groseros’

Publicado

en

El Detector de mensajes groseros identifica los mensajes abusivos o hirientes enviados en el chat en tiempo real y anima a los usuarios a bloquearlos y denunciarlos de inmediato,

La aplicación de citas Badoo ha lanzado un ‘Detector de mensajes groseros’ que marcará automáticamente cualquier mensaje insultante, discriminatorio o excesivamente sexual.

La herramienta utiliza el aprendizaje automático, una forma de inteligencia artificial (IA), para distinguir entre las «bromas» y el abuso verbal real, como el «odio por la identidad» hacia las personas transgénero.

Es capaz de identificar mensajes abusivos o hirientes enviados entre socios de chat en tiempo real, y luego les da a los usuarios la opción de bloquearlos e informarlos inmediatamente.

Badoo, que tiene 521 millones de usuarios en 190 países, dice que la herramienta es uno de los últimos pasos en su ‘compromiso más amplio con la seguridad’.

Se ha implementado para todos los usuarios de Badoo en todo el mundo, ya sea que estén chateando con un hombre o una mujer.

El Detector de mensajes groseros identifica los mensajes abusivos o hirientes enviados en el chat en tiempo real y anima a los usuarios a bloquearlos y denunciarlos de inmediato, «para crear un espacio seguro y respetuoso para las personas que se citan». Un cuadro emergente (en la imagen) le preguntará al usuario si ‘todo está bien’ cuando el aprendizaje automático detecta algún ‘lenguaje grosero’

¿COMO FUNCIONA?

Rude Message Detector entra en acción cuando los usuarios están chateando en la aplicación.

El aprendizaje automático marca los mensajes en tres categorías diferentes:

Sexual: cualquier mensaje con una clara connotación sexual o comentarios demasiado sexuales sobre la apariencia de alguien

Insulto: cualquier insulto claro dirigido al receptor del mensaje

Odio de identidad: cualquier discriminación o ataque contra la raza, la orientación sexual, la identidad y expresión de género, la etnia, la nacionalidad, la discapacidad, la religión y la orientación sexual

Los usuarios tienen la opción de bloquear y denunciar al agresor.

Según Badoo, el aprendizaje automático identifica ‘diferencias sutiles’ en palabras potencialmente ofensivas para saber si los mensajes son dañinos o son una broma.

Por ejemplo, «Eso es jodidamente increíble» no se marcaría, pero «Vete a la mierda» sí.

«La seguridad de nuestros usuarios es de suma importancia para nosotros y estamos constantemente desarrollando nueva tecnología para proteger a las personas que se citan en Badoo», dijo Natasha Briefel, directora de marketing de marca de Badoo Reino Unido.

“Sabemos que usar un lenguaje ingenioso y divertido es parte de la diversión de las citas para muchas personas, pero queremos asegurarnos de que haya una distinción clara entre lo que es y lo que no es un comportamiento aceptable.

Click here to preview your posts with PRO themes ››

«Esperamos que el lanzamiento de la función Detector de mensajes groseros anime a la minoría de personas a pensar antes de escribir un mensaje grosero, además de ayudar a los receptores de estos mensajes a sentirse capacitados para bloquear e informar sobre este comportamiento».

Al igual que Tinder, Badoo usa la funcionalidad de deslizar hacia la derecha o hacia la izquierda para indicar un interés romántico en otro usuario.

Al iniciar la aplicación, Badoo le muestra posibles coincidencias en su área y les brinda a hombres y mujeres la oportunidad de iniciar una conversación de chat, a diferencia de la aplicación de citas ‘feminista’ rival Bumble.

Con Rude Message Detector, Badoo muestra al destinatario un mensaje emergente oportuno que le pregunta si todo está bien y lo alienta a informar al remitente si el mensaje lo incomoda.

La ventana emergente dice: «Parece que esta persona usó un lenguaje grosero, así que solo estamos verificando si todavía quieres saber de ella».

A continuación, ofrece a los usuarios dos opciones para hacer clic: «Sí, seguir chateando» y «No, bloquear e informar».

'¿Esta todo bien?'  Rude Message Detector entra en acción cuando los usuarios están chateando en la aplicación

‘¿Esta todo bien?’ Rude Message Detector entra en acción cuando los usuarios están chateando en la aplicación

¿QUÉ ES APRENDIZAJE MÁQUINA?

El aprendizaje automático (ML) es una rama de la IA basada en la idea de que los sistemas pueden aprender de los datos, identificar patrones y tomar decisiones.

Los sistemas de aprendizaje automático pueden aprender a mejorar su capacidad para realizar una tarea sin estar programados explícitamente para hacerlo.

Dichos sistemas pueden encontrar patrones o tendencias en conjuntos de datos para llegar a conclusiones o ayudar a los humanos a tomar mejores decisiones.

Los sistemas de aprendizaje automático se vuelven más efectivos con el tiempo a medida que aprenden.

La función marca los mensajes en tres categorías diferentes: ‘sexual’, ‘insulto’ y ‘odio a la identidad’, que cubre la discriminación contra la identidad de género.

En casos graves, Badoo también investiga de forma proactiva los mensajes enviados y toma medidas directas contra el usuario.

Un portavoz de Badoo le dijo a MailOnline que un ‘caso grave’ constituiría una violación de su Principios de la Comunidad, descrito en su sitio web, como enviar ‘mensajes claramente sexualizados’ al comienzo de conversaciones a múltiples usuarios, o avergonzar a otros usuarios.

Click here to preview your posts with PRO themes ››

En sus pautas comunitarias, Badoo dice que su base de usuarios es una ‘comunidad muy diversa’ y, por lo tanto, ‘adopta una postura firme’ contra el discurso de odio y la discriminación.

‘Consideramos que el contenido es discurso de odio si promueve o aprueba el racismo, la intolerancia, la violencia, el odio, la deshumanización o el daño contra personas o grupos por motivos de raza, etnia, discapacidad, edad, nacionalidad, orientación sexual, género, identidad de género, religión, apariencia (incluida la vergüenza corporal) ”, dice.

Badoo utiliza sistemas automatizados y un equipo de moderadores humanos para monitorear y revisar cuentas y mensajes en busca de contenido que infrinja sus pautas.

Los usuarios que no respeten las pautas pueden tener su acceso restringido a la aplicación o ser eliminados permanentemente de Badoo.

El portavoz de Badoo le dijo a MailOnline que los moderadores humanos están mirando los mensajes de los usuarios, junto con el aprendizaje automático, para mejorar continuamente el modelo y asegurarse de que la empresa no esté prohibiendo incorrectamente a ningún usuario.

En 2020, Badoo lanzó una función de seguridad que utiliza inteligencia artificial para detectar y difuminar desnudos no solicitados que se envían a través de la aplicación.  Este mensaje de advertencia aparece si la IA de Badoo cree que ha detectado un desnudo no solicitado del compañero de chat.

En 2020, Badoo lanzó una función de seguridad que utiliza inteligencia artificial para detectar y difuminar desnudos no solicitados que se envían a través de la aplicación. Este mensaje de advertencia aparece si la IA de Badoo cree que ha detectado un desnudo no solicitado del compañero de chat.

Anteriormente, en su búsqueda para hacer que su aplicación sea más segura, Badoo lanzó una función el año pasado que usa IA para detectar y difuminar desnudos no solicitados enviados a través de la aplicación.

En un hilo de chat, si la IA detecta una imagen cuestionable que ha sido enviada por la otra persona, aparecerá como un cuadro borroso con un mensaje de advertencia superpuesto.

El mensaje dice: ‘Esta foto puede tener contenido inapropiado. Ábralo bajo su propio riesgo. Toque para ver la foto. ‘ Alternativamente, los usuarios pueden tocar ‘Rechazar’ debajo del cuadro de la foto si no quieren ver la foto.

El ‘detector privado’ tiene una tasa de precisión del 98 por ciento al tapar fotos íntimas, según Badoo.

La función se introdujo en la ‘aplicación de citas feministas’ Bumble en 2019, que es propiedad del mismo holding que Badoo (MagicLab).

BADOO, BUMBLE Y EL AUMENTO DE LAS Citas EN LÍNEA

La primera encarnación de una aplicación de citas se remonta a 1995, cuando Match.com se lanzó por primera vez.

Click here to preview your posts with PRO themes ››

El sitio web permitía a las personas solteras subir un perfil, una foto y chatear con personas en línea.

La aplicación estaba destinada a permitir que las personas que buscan relaciones a largo plazo se reúnan.

eHarmony se desarrolló en 2000 y dos años después se lanzó por primera vez Ashley Madison, un sitio dedicado a la infidelidad y el engaño.

En los próximos 10 a 15 años se crearon una gran cantidad de otros sitios de citas con un objetivo demográfico único, entre ellos: OKCupid (2004), Plenty of Fish (2006), Grindr (2009) y Happn (2013).

En 2012, se lanzó Tinder y fue la primera plataforma de citas basada en ‘deslizar’.

Después de su lanzamiento inicial, su uso se incrementó y en marzo de 2014 había mil millones de partidos al día en todo el mundo.

En 2014, la cofundadora de Tinder, Whitney Wolfe Herd lanzó Bumble, una aplicación de citas que empoderaba a las mujeres al permitirles solo a las mujeres enviar el primer mensaje.

Su fundadora, Whitney Wolfe Herd, de 32 años, ha descrito a Bumble como una «aplicación de citas feminista».

Wolfe Herd cofundó la aplicación rival Tinder, pero se fue en 2014 para fundar Bumble. Ella demandó a Tinder por discriminación y acoso sexual, un caso que luego se resolvió fuera de los tribunales.

Mientras tanto, Badoo fue fundada por el empresario ruso Andrey Andreev, radicado en Gran Bretaña, en 2006. Badoo y Bumble pertenecen al holding MagicLab de Andreev.

Badoo afirma animar a sus usuarios a «tener citas honestamente» y «hacer conexiones significativas». Cuando se hizo popular por primera vez hace más de una década, DailyMail.com informó: ‘Se ha descrito como’ como Facebook ‘pero para el sexo’.

A octubre de 2020, Badoo tiene 521 millones de usuarios en 190 países. Está disponible en 47 idiomas diferentes en todo el mundo.

Los usuarios pueden registrarse como si fuera una red social normal, incluso iniciando sesión a través de una cuenta de Facebook, o iniciando sesión «para conocer gente nueva». Es un servicio gratuito pero ofrece funciones adicionales por dinero.

En la página de inicio, aparecen caras de personas que dicen «sí», «no» y «tal vez».

Los usuarios pueden chatear, relacionarse con otros, cargar fotos y videos, así como compartir sus intereses y ver amigos en común.

Fuente de la Noticia

Anuncio

Tendencias