Inteligencia artificial

Para ello se usarán algoritmos de voz para la moderación del lenguaje basada en el aprendizaje automático

Microsoft ha anunciado estos días que está implementando unos nuevos filtros que permitirán a los jugadores de Xbox Live limitar los mensajes que recibe automáticamente. Estos mensajes se podrán dividir en cuatro categorías: amistoso, medio, maduro y sin filtro. Esta nueva funcionalidad es muy esperada para esta plataforma de comunicación que tiene más de una década, pero realmente no es nada nuevo en cuanto a moderación de contenidos en línea.

Esto se corresponde a la promesa de «mirar hacia el futuro» que hizo Microsoft al final de su anuncio: «La finalidad de nuestra visión es complementar nuestros esfuerzos en cuanto a IA y tecnología de aprendizaje automático para proporcionar filtración a través de todo tipo de contenido en Xbox Live. De esta manera se estaría brindando control a cada jugador de forma individual. Los comentarios de los usuarios son más importantes que nunca a medida que la compañía continúa en esta experiencia y haciendo de Xbox un lugar seguro e inclusivo para jugar».

El objetivo final, según Rob Smith, gerente de programas de Xbox Live, es un sistema similar a lo que cabría esperar en la transmisión de televisión donde la gente está conversando a tiempo real, se puede detectar y bloquear una frase malsonante para los usuarios que no quieren escucharla.

Si bien las redes de transmisión aún usan ingenieros en vivo para censurar su contenido con retraso en cinta (a veces con errores desastrosos), los planes de Microsoft incluyen el uso de aprendizaje automático para filtrar la comunicación de voz a una escala mucho mayor sin intervención humana centralizada. Smith añadió: «tenemos que respetar los requisitos de privacidad para nuestros usuarios, por lo que abordaremos de manera reflexiva, y la transparencia será nuestro principio rector para que hagamos lo correcto para nuestros jugadores».

Si bien los algoritmos de voz a texto están siendo cada vez más rápidos actualmente, probablemente todavía no estamos cerca de que un servidor centralizado pueda detectar y bloquear de manera confiable las palabrotas en tiempo real. Además, un retraso en la transmisión podría tener un impacto en el juego ya que los jugadores necesitan comunicación instantánea para trabajar juntos en una situación de juego a tiempo real. Mientras tanto, Smith dijo que un algoritmo podría medir un nivel de toxicidad general en el chat grupal y silenciar automáticamente a usuarios problemáticos.

Deja un comentario

Tu dirección de correo electrónico no será publicada. Los campos requeridos están marcados *

Publicar comentario