Discord espera liberar moderadores humanos para los problemas generales en las comunidades que administran.
“Los moderadores dedican una cantidad de tiempo bastante decente a vigilar sus servidores, pero creo que el verdadero superpoder de los moderadores es cuando están más cultivando la cultura y organizando eventos. [rather than policing individual comments]”, dijo el gerente de advertising and marketing de productos del grupo Discord, Jesse Wofford, a The Washington Put up. “Hay muchas cosas que están haciendo todos los días que podemos automatizar”.
La versión de Discord de AutoMod puede detectar, bloquear y alertar automáticamente a los moderadores de palabras, frases e incluso partes de palabras consideradas inapropiadas antes de que sean visibles para otros usuarios. También puede agotar automáticamente el tiempo de espera de los usuarios que intentan publicar calumnias o spam; un moderador humano puede decidir su destino en una fecha posterior.
AutoMod de Discord está por encima de los bots creados por usuarios que partes de la comunidad de Discord han adoptado esencialmente con el mismo propósito, pero que, debido a su falta de acceso al funcionamiento interno de Discord, solo pueden eliminar mensajes dañinos después de que hayan aparecido en menos una fracción de segundo. Además, los usuarios tienen que buscar bots e instalarlos en sus servidores, donde AutoMod de Discord está integrado en la plataforma, haciéndolo más accesible.
Sin embargo, en lugar de obligar a las comunidades de Discord patrulladas por bots a desechar sus listas de palabras clave cuidadosamente seleccionadas y comenzar de nuevo, Discord comparte la capacidad de eliminar mensajes antes de que se actualicen con desarrolladores externos, lo que también mejora de manera efectiva los bots de moderación creados por los usuarios.
“Si están utilizando herramientas que hacen que su comunidad sea más segura y fácil de administrar, ya sea a través de un tercero oa través de nosotros, es una victoria para nosotros de todos modos”, dijo Wofford. También agregó que aunque Discord AutoMod comparte la funcionalidad con la variación del tema de Twitch, Discord se inspiró en gran parte no en otras plataformas, sino en “hablar con nuestros desarrolladores y administradores”.
Esta nueva funcionalidad centrada en la seguridad llega en un momento en que Discord está bajo un mayor escrutinio tanto de sus propios usuarios como de políticos como La fiscal normal de Nueva York Letitia James luego de la revelación de que el tirador de Buffalo expuso de manera preventiva sus planes de ataque en un pequeño servidor Discord, que Discord ha dicho desde entonces se mantuvo en whole privacidad hasta solo 30 minutos antes del ataque. A pesar del momento, Wofford explicó que AutoMod ha estado en proceso durante “bastante tiempo” y que su lanzamiento no es una reacción a la tragedia.
Aún así, dijo, el equipo de confianza y seguridad de la compañía, que trabaja para aliviar problemas más grandes en toda la plataforma que involucran daños y violencia como el tiroteo en Buffalo, está involucrado en muchas iniciativas en Discord, incluido AutoMod.
“La colaboración cruzada entre nuestros dos equipos es bastante constante”, dijo Wofford. “Incluso cosas como la lista predeterminada de palabras [AutoMod initially suggests for users to block] fue trabajado con nuestro equipo de seguridad y los expertos que tienen tanto internos como externos”.
Pero la lista sugerida por Discord es solo el comienzo. Los memes están en constante evolución, al igual que los silbatos para perros, los mensajes de spam y estafas y las faltas de ortografía intencionadas de palabras que pasan de puntillas incluso por los filtros más vigilantes. Una palabra completamente inocente en un servidor de Discord puede ser un comentario racista en otro. Wofford y la compañía esperan que las listas de palabras clave personalizadas de AutoMod permitan a los moderadores reaccionar de manera tan rápida y completa que incluso los trolls creativos pierdan interés.
“Estamos invirtiendo tanto o más esfuerzo de nuestra parte para ocuparnos de los problemas de seguridad incluso sin los moderadores”, dijo. “Pero también sabemos que los moderadores suelen tener más contexto sobre lo que quieren o no quieren en su comunidad. Y este tipo de herramientas en specific se trata de darles formas más poderosas de promulgar eso por sí mismos”.
La versión recién lanzada de AutoMod de Discord está lejos de ser un producto terminado. Wofford dijo que en lo que respecta a las funciones futuras, el equipo está considerando una funcionalidad AutoMod más matizada que podría, por ejemplo, permitir que ciertas reglas entren en vigencia solo en momentos específicos del día cuando los moderadores están fuera. Pero todo dependerá de los usuarios.
“Una vez que lancemos esto, queremos entender cuánta gente realmente lo está utilizando”, dijo. “Y si la gente no lo está utilizando, ¿cuáles son las cosas que nos estamos perdiendo?”
