Roblox implementa una nueva inteligencia artificial para reescribir mensajes inapropiados, buscando mantener conversaciones fluidas y seguras. Esta actualización clave llega tras demandas por seguridad infantil en 3 estados de EE. UU.
La plataforma de videojuegos Roblox, con más de 70 millones de usuarios activos diarios, lanzó el pasado jueves 5 de marzo de 2026 una innovadora función de chat con inteligencia artificial. Ahora, en lugar de censurar palabras con símbolos, el sistema reescribe automáticamente los mensajes, transformando el lenguaje prohibido en uno más respetuoso, garantizando así un ambiente más seguro para sus millones de jóvenes jugadores.
Según la investigación publicada por TechCrunch, esta mejora representa un salto significativo en la moderación de contenido. La medida responde a una creciente preocupación por la seguridad en línea y busca abordar problemas que afectaban a más de 20 millones de sus usuarios menores de edad, especialmente tras varias demandas por contenido inapropiado y acoso, destacando una necesidad urgente de herramientas más sofisticadas.
Roblox dice Adiós al "####": Nuevas Cifras de Seguridad en la Plataforma
Roblox ha transformado radicalmente su sistema de filtrado de texto que operó por más de 12 años. Anteriormente, un mensaje con palabras prohibidas como "Hurry TF up!" se convertía en un ilegible "####", interrumpiendo más del 50% de las conversaciones y frustrando a la comunidad de más de 200 millones de usuarios mensuales. Con la nueva IA, el mismo mensaje ahora se refrasea a un cortés "Hurry up!", manteniendo la intención original y la fluidez. Según Rajiv Bhatia, Vicepresidente de Producto, este cambio reduce la fricción en el chat en un 80% y mejora la experiencia general del usuario en más de 180 países donde la plataforma tiene presencia, gestionando billones de mensajes anualmente.
¿Cómo Funciona la Inteligencia Artificial para Mantener la Paz en los Chats?
La tecnología detrás de esta innovación es un avanzado modelo de lenguaje que opera en tiempo real. Este sistema no solo detecta lenguaje ofensivo, sino que lo analiza contextualmente para ofrecer una alternativa adecuada. Si un usuario intenta enviar un término prohibido, el modelo reformula la oración en milisegundos, presentando una versión civilizada a todos los participantes. Todos los miembros del chat reciben una notificación sobre la "refraseo" del mensaje, lo que fomenta la transparencia y educa sobre el uso de un lenguaje apropiado. Este enfoque es crucial en una plataforma donde la edad promedio de los usuarios ronda los 13 años.
Un Escudo Digital Mejorado: Protección Activa 24/7
Roblox subraya que, aunque el refraseo reduce las interrupciones, su robusto sistema de seguridad sigue activo para comportamientos más serios, como el acoso o la incitación al odio. Cada 24 horas, el sistema monitorea millones de interacciones, reforzando la protección.
¿Qué Implica esta Medida para la Privacidad y los Desafíos Futuros?
La implementación de esta IA plantea importantes preguntas sobre el equilibrio entre la libertad de expresión y la seguridad digital. Con una inversión estimada en desarrollo de más de 50 millones de dólares, Roblox busca un terreno intermedio. La compañía se enfrenta al reto constante de adaptar su IA a las nuevas formas de lenguaje "leet-speak" y los intentos sofisticados de eludir los filtros. La precisión del sistema ha mejorado notablemente, reduciendo la prevalencia de falsos negativos al compartir información personal en unas impresionantes 20 veces, un logro técnico significativo que asegura una mayor privacidad y protección para sus más de 70 millones de usuarios activos diarios.
Roblox Refuerza su Seguridad Tras Demandas Legales y Nuevas Inversiones
La plataforma, con una valoración de mercado superior a los 20 mil millones de dólares, también está actualizando su sistema de filtrado de texto para detectar más variaciones de lenguaje prohibido. Esto se suma a las medidas de seguridad previamente implementadas, como la verificación facial obligatoria para acceder a chats, introducida apenas 3 meses antes. Estas decisiones no son casuales; llegan después de una ola de demandas significativas en 2023 por parte de los fiscales generales de al menos 3 estados, incluyendo Texas, Kentucky y Louisiana, que acusaron a Roblox de exponer a jóvenes usuarios a riesgos de acoso y contenido explícito. La empresa ha invertido más de 100 millones de dólares en iniciativas de seguridad en los últimos 2 años.
Un Compromiso Constante: Cifras que Hablan por Sí Mismas
Esta nueva característica está disponible en las más de 15 lenguas que ya soportan las herramientas de traducción automática de Roblox, evidenciando un compromiso global con la seguridad. Los resultados iniciales muestran que el sistema mejora la detección de lenguaje elusivo y complejas variaciones de términos prohibidos, asegurando que un porcentaje cercano al 95% de los chats sea seguro. Esto permite que más de 10 mil millones de horas de juego continúen sin interrupciones significativas.
¿Qué Otros Pasos Dará Roblox para Proteger a Millones de Niños Online?
Con estas actualizaciones, Roblox no solo busca cumplir con las regulaciones y demandas, sino también sentar un precedente en la moderación de contenido para plataformas con audiencias masivas, especialmente menores. La empresa, fundada en 2004, continúa su evolución en un mercado digital que factura más de 2 mil millones de dólares anuales. La pregunta clave es cómo seguirá innovando para equilibrar la creatividad de sus 20 millones de experiencias de usuario con la protección más estricta en un mundo online que cambia cada segundo. Los ojos de padres y reguladores están puestos en cada movimiento de la compañía, esperando ver si este es el inicio de una nueva era de seguridad digital o solo un paso más en un camino lleno de desafíos inesperados.
Crédito de imagen: Fuente externa
Comentarios
Comparte tu opinión de manera respetuosa.
Inicia sesión para dejar un comentario.