El riesgo de la IA: fraudes con deepfakes aumentaron casi 500% en México
Durante el último año, en México se redujo el fraude en general, pero los deepfakes se dispararon debido al avance de la IA.
Con el avance de la inteligencia artificial (IA) las personas se enfrentan a un nuevo riesgo, los deepfakes, un nuevo fraude digital que ha tomado fuerza en México y por el cual se ha comenzado a discutir en el Senado de la República las posibilidades de hacer una regulación para el uso de esta tecnología.
Tan sólo en 2025, los casos de deepfakes en el país tuvieron un incremento interanual de 484%, siendo el segundo país en América Latina donde aumentó más este tipo de fraude, sólo por detrás de Guatemala, que registró un avance del 500%, según el informe de sobre fraude de identidad de Sumsub.
México redujo el fraude en general, pero los deepfakes se dispararon, lo que demuestra que el volumen puede disminuir mientras que la sofisticación aumenta. Guatemala, México, Panamá y Surinam están experimentando un crecimiento exponencial de estos ataques”, señaló plataforma global de verificación de identidad.
De acuerdo con el informe, aunque las autoridades mexicanas han fortalecido las reglas KYC (Know Your Customer), aquellas diseñadas para verificar la identidad de los clientes y prevenir delitos financiero, esto no ha evitado que los deepfakes se lleven a cabo, ya que los avances de la IA ha perfeccionado este modus operandi.
Con la introducción de la IA, las imágenes, audios, videos y otras herramientas de comunicación se han vuelto más fáciles de imitar, lo que le facilita el trabajo a los grupos que buscan realizar algún tipo de fraude.
Fotoarte: Fernando RamírezLos deepfakes han pasado de ser herramientas novedosas a convertirse en instrumentos de fraude de gran precisión. Su función está pasando de la simple falsificación de videos a la infiltración completa en el ecosistema, combinando la imitación de la voz, el rostro y el comportamiento para eludir la verificación en varios niveles”, indica el estudio
La amenaza de la IA apenas comienza
De acuerdo con Sumsub, el boom de esta nueva práctica fraudulenta apenas comienza, ya que de no hacer una regulación, los grupos criminales seguirán perfeccionando su modus operandi conforme vaya avanzando la inteligencia artificial.
Para 2026, el fraude estará marcado sobre todo por el rápido avance de la inteligencia artificial. Los estafadores industrializan los deepfakes, la clonación de voces y las identidades sintéticas, lo que hará que las estafas por suplantación de identidad, la ingeniería social y las apropiaciones de cuentas sean más convincentes y difíciles de detectar”, comentó la compañía.
Además, el estudio asegura que un factor que impulsará este tipo de fraudes es el proceso de digitalización financiera que está llevándose a cabo en todo el mundo, ya que las transacciones remotas aumentarán el número de este tipo de casos.
¿Cómo se pueden evitar?
Para evitar estos fraudes, las empresas, bancos y cualquier institución financiera deberá aplicar métodos de detección mucho más avanzados, además de herramientas para detectar la biometría conductual.
Además, Sumsub señaló que las empresas tienen que comenzar a capacitar a su personal y entrenar a los algoritmos de sus sistemas para que detecten anomalías en imágenes o audios.
Por su parte, Francisco Villegas, director general de la empresa especializada en ciberseguridad Incident Response Team, detalló que se debe de llegar a prácticas de verificación dentro de las empresas y entre las personas en general.
Esto quiere decir que a la hora de realizar una transferencia, un pago de servicio, alguna queja con una aplicación o producto financiero, deben comunicarse con la otra persona para confirmar que no se trata de algún fraude.
Hay prácticas muy simples que pueden reducir, no tener costos o impactos muy fuertes, que son procesos y temas de mejor control. Si hay una transacción que es crítica, pues también podrían hablar con una palabra de seguridad o lo que se conoce como palabras de aborto”, explicó en entrevista para EL CEO.
Senado busca regular la IA para evitar el deepfake
Recientemente Excélsior dio a conocer que la Comisión de Análisis, Seguimiento y Evaluación sobre la Aplicación y Desarrollo de la Inteligencia Artificial presentará una iniciativa con la que busca crear la Autoridad Nacional de IA, que será la encargada de regular el uso de la herramienta.
Aunque la presentación de dicha regulación se ha atrasado durante semanas, el gobierno pretende que con estas nuevas reglas se puedan evitar los riesgos del deepfake, no sólo en temas de fraude sino en crímenes relacionados con acoso sexual, ya que con esta herramienta las personas pueden crear contenido que vulnere la integridad de otra personas.
Por esta razón se busca prohibir algunas prácticas que realizan con esta herramienta, como:
- Sistema de manipulación cognitiva o conductual, es decir, el uso de la inteligencia artificial para manipular, alterar o condicionar procesos mentales sin consentimiento previo.
- Prácticas que produzcan efectos discriminatorios a la sociedad, ya sea por etnia, género o nivel socioeconómico.
- Uso en sistemas de identificación biométrica masiva en tiempo real en espacios públicos, salvo cuando exista orden judicial.
Sistemas de vigilancia masiva que permitan el seguimiento conductual sin base legal suficiente.
Los castigos por mal uso de la IA
Además, se consideraría prohibidas las prácticas que generen violencia digital, como la difusión de deepfakes y aquellos contenidos creados con IA de carácter sexual, íntimo o sin el consentimiento expreso de la persona afectada.
Esta iniciativa busca clasificar las infracciones por el mal uso de la IA en “leves, graves y gravísimas”, las cuales podrían ser castigadas hasta con cárcel:
- Leves: aquellas donde la empresa que desarrolla la IA omite algunas actualizaciones que no afecten a la seguridad del sistema.
- Graves: cuando no se proporciona información técnica estrictamente indispensable, requerida conforme a los procedimientos previstos en esta ley, para auditorías o supervisión.
- Gravísimas: cuando las personas físicas o morales realizan alguna de las prácticas prohibidas por esta iniciativa, las cuales pueden ser castigadas con cárcel, aunque no se detalla el tiempo de la sentencia que pretende estipular el proyecto de ley.
También lee:
