Gol del jueves anunciado que está comenzando a implementar sistemas de inteligencia artificial más avanzados para manejar la aplicación de contenido, ya que planea reducir la cantidad de proveedores externos. Las tareas relacionadas con la aplicación de contenido incluyen capturar y eliminar contenido sobre terrorismo, explotación infantil, drogas, fraude y estafas.
La compañía dice que implementará estos sistemas de inteligencia artificial más avanzados en sus aplicaciones una vez que superen consistentemente sus métodos actuales de aplicación de contenido. Al mismo tiempo, reducirá su dependencia de proveedores externos para aplicar contenido.
“Si bien todavía tendremos personas revisando el contenido, estos sistemas podrán realizar trabajos más adecuados a la tecnología, como revisiones repetitivas de contenido gráfico o áreas donde los actores adversarios cambian constantemente sus tácticas, como en el caso de las ventas de drogas ilícitas o las estafas”, explicó Meta en una publicación de blog.
Meta cree que estos sistemas de inteligencia artificial pueden detectar más infracciones con mayor precisión, prevenir mejor el fraude, responder más rápidamente a eventos del mundo real y reducir la aplicación excesiva de la ley.
La compañía dice que las primeras pruebas de los sistemas de inteligencia artificial han sido prometedoras, ya que pueden detectar el doble de contenido infractor de solicitación sexual para adultos que sus equipos de revisión, al tiempo que reducen la tasa de error en más del 60%. También afirma que los sistemas pueden identificar y prevenir más cuentas falsas que involucren a celebridades y otras personas de alto perfil, así como ayudar a prevenir la apropiación de cuentas al detectar señales como inicios de sesión desde nuevas ubicaciones, cambios de contraseña o ediciones realizadas en un perfil.
Además, Meta afirma que los sistemas pueden identificar y mitigar alrededor de 5.000 intentos de fraude al día, en los que los estafadores intentan engañar a las personas para que entreguen sus datos de inicio de sesión.
“Los expertos diseñarán, capacitarán, supervisarán y evaluarán nuestros sistemas de inteligencia artificial, medirán el desempeño y tomarán las decisiones más complejas y de alto impacto”, escribió Meta en la publicación del blog. “Por ejemplo, las personas seguirán desempeñando un papel clave en la forma en que tomamos las decisiones más críticas y de mayor riesgo, como las apelaciones para la desactivación de cuentas o la presentación de informes a las autoridades”.
El cambio ocurre como Meta ha sido aflojar las reglas de moderación de contenido durante el año pasado cuando el presidente Donald Trump asumió el cargo por segunda vez. El año pasado, la compañía puso fin a su programa de verificación de datos de terceros a favor de un modelo de Notas comunitarias tipo X. También levantó las restricciones en torno a “temas que forman parte del discurso dominante” y dijo que se alentaría a los usuarios a adoptar un enfoque “personalizado” del contenido político.
Esto también llega en un momento en el que Meta y otras importantes empresas tecnológicas se enfrentan actualmente múltiples procesos buscando responsabilizar a los gigantes de las redes sociales por dañar a niños y jóvenes usuarios.
Meta también anunció el jueves que lanzará un asistente de soporte Meta AI que brindará a los usuarios acceso a soporte 24 horas al día, 7 días a la semana. El asistente se está implementando globalmente en las aplicaciones de Facebook e Instagram para iOS y Android, y en el Centro de ayuda de Facebook e Instagram en el escritorio.
