Roblox ha dado un paso significativo en su compromiso por mantener un ambiente de juego amistoso y civilizado con la introducción de una nueva función que utiliza inteligencia artificial (IA) para modificar mensajes en tiempo real. Este desarrollo busca reformular las interacciones en los chats con el fin de eliminar el lenguaje ofensivo y, de esta manera, asegurar que las conversaciones fluyan sin alteraciones perjudiciales.
La comunicación efectiva es fundamental en la plataforma, ya que permite a los usuarios coordinar sus actividades en el vasto universo de juegos que ofrece Roblox. Para garantizar un entorno seguro, la compañía ha implementado normas de moderación que eliminan comportamientos dañinos que contravienen sus políticas de uso. Hasta ahora, se utilizaban filtros que suprimían el lenguaje inapropiado reemplazándolo con signos de gato “####”, algo que interrumpía el hilo de la conversación y dificultaba su seguimiento.
Con la nueva función basada en IA, Roblox cambiará automáticamente frases que incluyan contenido grosero por versiones más respetuosas, conservando el sentido original del mensaje. Por ejemplo, una frase que contenga una expresión como “Hurry TF up!” se transformaría en simplemente “date prisa”. Esta intervención garantiza que el flujo de la conversación no se vea comprometido mientras se mantiene el espíritu de respeto y civilidad que la comunidad de Roblox quiere fomentar.
Rajiv Bhatia, vicepresidente de Producto de Usuario y Descubrimiento en Roblox, ha destacado que esta iniciativa no solo reduce la fricción en los chats, sino que también se alinea con los estándares necesarios para preservar un ambiente cordial. Además, cada vez que un mensaje sea modificado por la IA, todos los participantes del chat recibirán una notificación clara que explica la razón de la reformulación, subrayando la importancia de mantener un espacio de interacción apropiado.
Esta nueva función está disponible únicamente para las experiencias de chat en grupos controlados por edad, asegurando que los usuarios interactúen en un entorno seguro y adecuado para su rango etario. A su vez, cuenta con la capacidad de funcionar en todos los idiomas disponibles gracias a las herramientas de traducción automática de Roblox.
Aparte de esta innovación, Roblox también ha intensificado sus esfuerzos en el filtrado de texto para detectar más adecuadamente las tácticas utilizadas por algunos usuarios para eludir las normas. Entre estas, se incluye el “leet-speak”, donde se sustituyen letras por números o símbolos, lo que dificulta la identificación de lenguaje inapropiado. Las mejoras en esta área han resultado en una drástica reducción de los falsos negativos al detectar intentos de compartir información personal, logrando disminuir su prevalencia en un 2000%, un avance notable en la protección de la comunidad.
Con estos cambios, Roblox demuestra no solo su dedicación a mejorar la experiencia de juego, sino también su compromiso por crear un entorno seguro y respetuoso que permita a todos sus usuarios disfrutar sin temor a ser objeto de comportamiento inapropiado.
Esta nota contiene información de varias fuentes en cooperación con dichos medios de comunicación
