Los estafadores están clonando voces y atacan a todos, desde abuelas hasta políticos

A principios de este mes, la madre de Florida, Sharon Brightwell, recibió una llamada en pánico de su hija, quien dijo que estaba involucrada en un accidente automovilístico que lesionó a una mujer embarazada. Pero no era la hija de Brightwell, April, en el otro extremo de la línea; Era una voz clonada suya.

Después de que Deepfake inventó una historia sobre la conducción de abril y los mensajes de texto y declarar que su teléfono fue confiscado por la policía, por lo tanto, el número de teléfono desconocido al que supuestamente llamó, un hombre se puso en juego fingiendo ser un defensor público y solicitó $ 15,000 para rescatar a abril. Brightwell cumplió, reuniendo el efectivo, colocándolo en una caja y entregándolo a un paquete de mensajería de Uber en su casa. Fue solo después de que llegó otra llamada, esta vez pidió $ 30,000 para la “mujer embarazada herida”, que el nieto de Brightwell se dio cuenta de que su familia estaba siendo estafada.

“Decirte el trauma que atravesaron mi madre y mi hijo ese día me da náuseas y me ha hecho perder más fe en la humanidad”. April escribió en una página de GoFundMe. “El mal es una palabra demasiado agradable para el tipo de personas que pueden hacer esto”.

Las estafas de Deepfake apuntan más que solo personas mayores. Este verano, la voz de El secretario de Estado Marco Rubio fue falsificado a través de AIy los estafadores (sin éxito) lo usaron para intentar contacto con líderes extranjeros y nacionales. La jefa de gabinete del presidente Trump, Susie Wilkes, también fue el objetivo de los estafadores de voz de Deepfake este año.

Estos crímenes están ocurriendo más porque la tecnología para crear tales voces está mejorando, dice Matthew Wright, PhD, profesor y presidente de ciberseguridad en el Instituto de Tecnología de Rochester.

“Además, esto está aumentando porque la tecnología se está volviendo más fácil de usar”, agrega Wright. “Creo que podría haber dicho hace unos años que la tecnología para esto probablemente existe, pero habría requerido una mayor habilidad tecnológica para acceder. Ahora, con [voice cloning company] Elevenlab y otros servicios, es muy fácil “.

ElevenLab es probablemente la compañía de software más destacada que proporciona una clonación de voz realista para que las empresas los usen para diversas aplicaciones, como el servicio al cliente. Un informe de marzo de Informes de consumo citado Elevenlab, junto con compañías de clonación de voz de IA como Lovo y Speechifify, como demasiado laxa en su supervisión de la clonación de voz no consensuada. Las compañías “simplemente requieren verificar una caja diciendo que la persona cuya voz está siendo clonada había dado autorización”, dijo el informe.

Wright dice que hay humanos detrás de estas estafas de clonación de voz, y pueden estar utilizando esos servicios antes mencionados para crear sus defectos. Donde los delincuentes solían simplemente llamar a las personas vulnerables para tratar de robar su dinero o información, ahora tienen una nueva herramienta poderosa y convincente en su arsenal.

“Mucho de esto es el crimen organizado”, dice Wright. “Lo que he leído es que hay organizaciones secuestrando a personas en un país, llevándolas a otrocomo Malasia, por ejemplo, y los escondieron en una instalación especial que está asegurada de las personas que lo dejan, y simplemente los convierten en esclavos “.

El primer paso con muchos de estos estafadores es encontrar ejemplos vocales que puedan clonar, dice Wright.

Manteniéndote a salvo

Mientras que cualquiera puede sacar la voz del Secretario Rubio de Internet, ¿cómo están clonadas las particulares? La respuesta corta: redes sociales.

“Tal vez tenemos videos de nosotros con nuestros amigos o familiares pasando el rato, pasando un buen rato”, dice Wright. “Si tienes ese tipo de presencia social, todos tus configuraciones deben establecerse en privado. No solo su Configuración, porque esto involucra a cualquier otra persona que haya publicado videos de usted. No necesitan mucho contenido. Tienes 30 segundos de la voz de alguien y puedes hacer un buen profundo “.

Incluso una voz clonada a mano apresurada puede engañar, advierte Wright.

“Cuando han hecho estudios sobre si las personas pueden detectar si algo es falso, generalmente con fragmentos bastante más cortos, la precisión es baja”, dice. “No es algo, incluso cuando son tus amigos, tu familia, simplemente no es confiable contar con poder saber si es esa persona”.

Al responder llamadas de números desconocidos que afirman ser amigos o familiares, sea dudoso, dice Wright.

“Todas las cosas normales cuando se trata de estafas, y lidiando con estafas, las que definitivamente se aplican aquí”, dice Wright. “Estos llaman urgencia y señales de que algo debe hacerse muy rápido [is a red flag]. Pleas en las que alguien está tratando de ponerlo en un estado emocional y luego solicita algo: “Necesitamos ese dinero, lo necesitamos ahora” es una mala señal.

Wright señala que las solicitudes específicas de efectivo deberían generar alarmas especialmente. Las transacciones que pasan por los bancos ofrecen una medida de seguridad, dice.

“Los bancos reconocen estas cosas y dicen: ‘Esto es una estafa'”, dice. “Te ayudarán a reconocerlo”.

Siempre es una buena idea crear una “contraseña” con amigos y familiares, especialmente aquellos que pueden ser susceptibles a las estafas de defake, como las personas mayores o las que no están familiarizadas con la tecnología.

“Si tiene un secreto especial que no estaría disponible a través de las redes sociales, sino algo que los dos saben” que podrían mantenerlo a salvo, dice Wright. “Me esforzaría por configurar algo específico, lo que esencialmente sería una contraseña entre ustedes dos, por lo que sabe si llamo y le pido dinero, o le pido que renuncie a algún tipo de información, debe pedir esto. [secret]. Entonces tienes algún tipo de seguridad compartida “.

¿Tiene una historia para compartir sobre una estafa o una violación de seguridad que lo impactó? Cuéntanos al respecto. Correo electrónico [email protected] con la línea de asunto “red de seguridad” o usar esta forma. Alguien de Mashable se pondrá en contacto.