YouTube: Aplicación responsable de políticas durante COVID‑19. Hace algunos meses YouTube compartió algunas de las medidas que tomaron para proteger a sus empleados y al personal externo durante la pandemia de COVID‑19. Un cambio importante fue usar más la tecnología para identificar y quitar con rapidez el contenido que infringiera sus Lineamientos de la Comunidad con el fin de que el equipo de revisores se quedara a salvo en casa.
El segundo trimestre de 2020 fue el primer trimestre completo en el que trabajaron con esta estructura modificada de aplicación. Debido a las decisiones que tomaron para priorizar la seguridad de la comunidad, fue el período en el que se quitaron más videos de YouTube. Ahora publicarán todos los datos del segundo trimestre en su informe trimestral de aplicación de los Lineamientos de la Comunidad.
Priorizan la seguridad de la comunidad de YouTube
Por lo general, YouTube recurre a una combinación de revisores humanos y tecnología para aplicar sus políticas. El aprendizaje automático permite detectar contenido potencialmente dañino y lo envía a los revisores manuales para que lo evalúen. Las revisiones manuales no solo son necesarias para entrenar los sistemas de aprendizaje automático, sino que también sirven como una verificación que entrega comentarios para mejorar la precisión de sus sistemas con el tiempo.
Cada trimestre el equipo de revisión manual evalúa millones de videos que primero marcaron los sistemas automáticos y determina si el contenido cumple con las políticas. Dado que cuentan con una capacidad muy reducida de revisores manuales debido a la pandemia de COVID‑19, tuvieron que decidir entre una posible aplicación insuficiente o excesiva de las políticas. La primera opción involucraba adaptar su tecnología y limitar la aplicación de las políticas solo al contenido que pudiera abarcar el equipo reducido de revisores.
De esta forma, se mantendría un nivel de precisión alto, pero se quitaría mucho menos contenido de YouTube, incluidos ciertos videos que infringieran las políticas. La segunda opción era hacer que los sistemas automáticos abarcaran mucho más contenido a fin de quitar con rapidez de YouTube la mayoría de los videos que pudieran dañar a la comunidad.
Sabíamos que no se revisarían manualmente muchos videos y que se quitarían algunos que sí cumplían con nuestras políticas.
Responsabilidad
La responsabilidad es su prioridad principal y, por ello, eligieron la segunda opción: usar la tecnología para realizar el trabajo que normalmente harían los revisores. El resultado fue un aumento en la cantidad de videos que se quitaron de YouTube, más del doble de los que se quitaron el trimestre anterior. En algunas áreas de políticas sensibles, como el extremismo violento o la seguridad infantil, aceptaron un nivel de precisión más bajo a fin de asegurase de quitar la mayor cantidad posible de videos con contenido infractor.
Esto también significa que, en esas áreas, se quitó una mayor cantidad de contenido que cumple con las políticas. La decisión de realizar una aplicación excesiva en estas áreas de políticas para estar completamente seguros generó el triple de eliminaciones de videos que los sistemas sospecharon que estaban relacionados con extremismo violento o que podrían ser perjudiciales para los niños. Se incluyeron retos, desafíos o cualquier otra publicación bienintencionada que pudiera poner en riesgo a los menores.
Disminución de las interrupciones para los creadores
Dado que comenzaron a usar más la automatización, también tomaron medidas para disminuir las interrupciones que experimenten los creadores. Decidieron no aplicar faltas por el contenido que se quite sin una revisión manual, excepto en los casos en que esten totalmente seguros de que se incumplieron las políticas. Además, siempre les han proporcionado a los creadores una manera sencilla de apelar si creen que se quitaron sus videos por error.
Sabemos que, en algunos casos, las decisiones que toman los sistemas son menos precisas que las revisiones manuales. Es por eso que se preparan para recibir más apelaciones y dedicar recursos adicionales a fin de asegurarse de que se revisen con rapidez. Aunque la cantidad de apelaciones sigue siendo una pequeña fracción del total de eliminaciones de videos (menos del 3%), notan que se duplicó la tasa de apelaciones y restablecimientos en comparación con el trimestre anterior.
Específicamente, la cantidad de videos que se apelaron y restablecieron aumentó de un 25% a un 50% en el segundo trimestre. El COVID‑19 tuvo un impacto en todo el mundo y en cada área de la empresa.
En estos momentos complejos, queremos reafirmar nuestro compromiso con la responsabilidad. Para asegurarnos de cumplirlo, tomamos medidas extraordinarias: quitamos con rapidez el contenido que infringe nuestras políticas a fin de proteger a los usuarios y disminuimos las interrupciones para los creadores. Mejoramos constantemente la precisión de nuestros sistemas y, a medida que los revisores puedan volver a trabajar, les pediremos que se dediquen a las áreas con el mayor impacto. Seguiremos informando nuestro progreso a la comunidad con frecuencia.
