Expertos alertan que el fraude con IA es cada vez más sofisticado
Diversos sectores, como el del juego en línea, el bancario, el sanitario y el financiero, se enfrentan a un desafío cada vez más grande por las estafas con inteligencia artificial, a medida que los deepfakes (la manipulación de contenidos audiovisuales con IA de modo que parezcan reales) y las identidades sintéticas se vuelven cada vez más sofisticados. Durante la Philippine Blockchain Week, un panel de expertos advirtió que la lucha contra la desinformación ya no es únicamente una cuestión de ciberseguridad, sino una crisis de confianza pública, con implicaciones potencialmente graves para sectores regulados como el juego en línea, en el que la verificación de identidad y la protección de los jugadores son fundamentales.
El panel “Truth Under Siege: Deepfakes, Disinformation and the Security of Public Trust” (La verdad bajo asedio: deepfakes, desinformación y la seguridad de la confianza pública) contó con la presencia de líderes de la industria que sostuvieron que combatir el engaño sintético requiere una acción coordinada entre gobiernos, empresas y consumidores.
Mack Comandante, fundador de Exoasia Innovation Hub, afirmó que los responsables de tomar decisiones políticas deberían centrarse en la conducta y no en el contenido: “Queremos regular la conducta, no la verdad, y construir la confianza como una infraestructura”.
La responsabilidad tiene que ser compartida
James Cruz, fundador de Asia ISAC, afirmó que ninguna organización ni individuo puede afrontar esta amenaza de forma independiente. “Creo que debemos abordarlo desde una perspectiva integral, con un enfoque que involucre a toda la sociedad”, señaló Cruz. “Las organizaciones y las personas necesitan comprender mejor la ciberseguridad”.
También recomendó a los usuarios que adopten una posición de confianza, pero siempre verificando lo que ven. “Si recibes un SMS o un correo electrónico y no estás seguro, simplemente ignóralo. Si realmente es importante y auténtico, volverán a ponerse en contacto contigo”.
Moises Ycot, director para Filipinas de Sumsub, compartió la misma visión de que cada parte interesada tiene un papel que desempeñar.
“El público tiene que hacer su parte. Dejad de hacer clic en enlaces y de compartir códigos OTP”, afirmó. “Pero, al mismo tiempo, los bancos y las instituciones financieras también tienen la responsabilidad de implantar los sistemas adecuados para supervisar, verificar y evaluar continuamente los riesgos”.
También señaló el papel de los reguladores. “El BSP, por ejemplo, ha implantado normativas para frenar las estafas financieras. Ese es el papel que deben desempeñar”.
El fraude organizado representa un riesgo mayor
Aunque los deepfakes dominan el debate público, los expertos advirtieron que los grupos criminales combinan cada vez más los contenidos sintéticos con el fraude de identidad, la toma de control de cuentas y la manipulación del comportamiento.
“Sin duda, los deepfakes y la apropiación de cuentas encabezan la lista de amenazas”, afirmó Ycot.
Sin embargo, señaló que el panorama está cambiando. “Antes eran personas corrientes quienes generaban sus propios deepfakes y falsificaban documentos de identidad. Ahora lo que estamos viendo es que los intentos de fraude son mucho más organizados”.
Según Ycot, los grupos criminales están desplegando agentes automatizados de IA y técnicas de fraude más avanzadas. “Están creando métodos cada vez más sofisticados, como agentes automatizados de inteligencia artificial. También intentan falsificar dispositivos, anomalías de comportamiento y otros elementos”.
La advertencia refleja preocupaciones más amplias en la industria del juego. Los especialistas en ciberseguridad han informado cada vez con más frecuencia sobre el uso de identidades falsas, monederos clonados, ataques de phishing e ingeniería social impulsada por deepfakes contra operadores y jugadores del sector del juego en línea en Asia.
Los recientes esfuerzos de aplicación de la ley en Filipinas reflejan estas preocupaciones. A principios de este año, la Comisión Presidencial contra el Crimen Organizado (PAOCC) y el Centro de Investigación y Coordinación de Ciberdelincuencia (CICC) firmaron un acuerdo de cooperación dirigido a combatir redes transnacionales de ciberdelincuencia, incluidas operaciones ilegales de juego en línea y antiguas redes de juego extraterritorial. El acuerdo se centra en la informática forense, la construcción de casos y la coordinación de acciones contra grupos criminales organizados.
La regulación y la autorregulación deben trabajar juntas
Steve Ivsan, director ejecutivo de Scytalex LLC, afirmó que las empresas deben asumir la responsabilidad de proteger a sus clientes y reducir las vulnerabilidades. “Necesito asegurarme absolutamente de que el dinero de mis clientes está protegido y de que he hecho todo lo humanamente posible para eliminar cualquier posible vector de ataque”.
Al mismo tiempo, defendió que los gobiernos también tienen un papel fundamental. “Creo que necesitamos una cooperación sólida”.
Cruz también hizo un llamamiento a la acción colectiva entre sectores. “Si quieres aumentar tus posibilidades de éxito, necesitas adoptar una estrategia conjunta en lugar de una estrategia individual”.
Cómo combatir la IA con IA
Cuando le preguntaron sobre si utilizar inteligencia artificial para detectar fraudes generados por IA puede mantener un equilibrio sostenible, Ycot respondió que las organizaciones no tienen otra opción que adaptarse. “La tecnología seguirá evolucionando en los próximos meses, años y décadas”, afirmó.
Sin embargo, el objetivo a largo plazo no debería limitarse a desarrollar mejores herramientas de detección. “El modelo sostenible consiste en construir sistemas de confianza que aprovechen estas tecnologías de IA y otros sistemas complementarios”, explicó.
“Proteger la confianza pública es responsabilidad de todos”, concluyó Cruz.
Mantente al día con las noticias que definen el rumbo del juego a nivel mundial. Selecciona SiGMA World como tu fuente preferida para acceder a voces exclusivas, tendencias sobre apuestas, cobertura sobre mercados de predicción y las principales novedades sobre regulación.
