¿Es posible detectar las voces suplantadas con inteligencia artificial?

En el evento Tech Day organizado por la Asociación Colombiana de BPO, estuvieron presentes destacadas empresas en sector del customer service y también se abordó la preocupación de la suplantación de voces mediante inteligencia artificial. 

En entrevista con RCN Radio, Ingrid Imanishi, directora de aplicaciones avanzadas en NICE, empresa especializada en grabación de voz telefónica, seguridad de datos y vigilancia, destacó la necesidad de estar alerta y consciente de los riesgos.

Lea: [Video] Galán denuncia que están suplantado su voz con IA: "Siguen corriendo la línea ética"

“Hay componentes dentro del habla, dentro del audio, que indican que estamos hablando con una persona real. Entonces, un mecanismo muy eficiente para evitar este tipo de escenario o de golpe, de fraude, es realmente aplicar estas biometrías, estos análisis biométricos sobre los audios en tiempo real”, expresó Imanishi. 

En cuanto a la identificación de voces reales frente a la inteligencia artificial, Imanishi mencionó la posibilidad de utilizar la biometría vocal para autenticar identidades. Esta tecnología puede diferenciar entre voces auténticas en tiempo real y reproducciones generadas por inteligencia artificial.

En casos recientes en Colombia, algunos candidato políticos en campaña denunciaron la creación de voces falsas a través de inteligencia artificial para difundir información errónea. Al respecto, Imanishi enfatizó que las tecnologías de biometría podrían ayudar a detectar y garantizar la autenticidad de las voces, pero la educación sobre estos riesgos es esencial.

Lea: ¿Qué puedo hacer si soy víctima de estafa con la clonación de voz?

"Los riesgos también, que la gente sepa los riesgos que ocurren cuando se recibe principalmente por estos grupos no oficiales y que se está utilizando para malas prácticas. Definitivamente, esto ocurre en todo el mundo, no es sólo en Colombia", agregó.

En cuanto a la regulación de la inteligencia artificial, Imanishi abogó por controles mínimos, ya que considera que las restricciones excesivas pueden limitar la evolución de la tecnología. 

“Las mismas tecnologías que sirven para salvar vidas, para mejorar la productividad de las operaciones, para reducir costos y democratizar las bendiciones de la tecnología, también sirven para malas acciones”, dijo. 

Reconoció que, en última instancia, es inevitable que los países y las organizaciones establezcan límites y prácticas para garantizar la seguridad y la reputación de los consumidores con la Inteligencia Artificial. Sin embargo, abogó por mantener un equilibrio para no obstaculizar los beneficios que la tecnología puede aportar.