El auge de la IA generativa supone un avance tecnológico sin precedentes, pero los riesgos asociados a esta tecnología son peligrosos
Desde las estafas online que están inundando las redes sociales hasta los ‘bots’ de desinformación política y los ‘deepfakes’, la inteligencia artificial generativa empleada con fines maliciosos está suponiendo un problema cada vez más serio. Aunque el potencial de esta nueva tecnología es extraordinario, también puede resultar muy dañino cuando se subvierte.
¿Hasta qué punto la IA generativa puede suponer una amenaza para la sociedad?
Resulta indudable que el ‘boom’ de la inteligencia artificial supone un salto extraordinario en la tecnología informática. El potencial de la IA para generar contenidos creativos tanto en el ámbito lingüístico como en el audiovisual es extraordinario, y el entrenamiento continuo de estos sistemas hace que su precisión y creatividad sea cada vez mayor. Por eso se los utiliza cada vez más en sectores como el marketing digital o la creación de contenidos sociales.
Bien empleada, esta tecnología puede agilizar muchos procesos de trabajo y dar a los creadores mucho más tiempo para desarrollar sus proyectos o explorar nuevas líneas de trabajo. Sin embargo –como ocurre con cualquier herramienta digital–, la inteligencia artificial también presenta el riesgo de ser utilizada por agentes maliciosos, y las consecuencias de estos usos ilegítimos ya se están dejando sentir en la red.
Uno de los primeros usos maliciosos que se le están dando a la IA generativa es la elaboración de estafas digitales. Las estafas online llevan muchos años en circulación, pero su impacto se está agravando como nunca antes ahora que los ciberdelincuentes pueden emplear una IA maliciosa como WormGPT. Esta IA generativa no tiene filtros éticos, y es capaz de redactar estafas muy convincentes en cuestión de segundos.
Estas estafas se publican continuamente en redes sociales, portales de empleo, o incluso pueden llegar a nuestro correo electrónico. En parte se pueden mitigar con herramientas como una VPN, sobre todo si dispone de un filtro anti-phishing. Sin embargo, aún hay muchos mexicanos y mexicanas que todavía no saben qué significa VPN. Ante el auge de las estafas digitales, se recomienda navegar de forma segura con estas herramientas para reducir riesgos.
La inteligencia artificial generativa también se puede utilizar para agilizar múltiples procesos de programación informática. Esto implica un extraordinario potencial para elaborar programas mucho más avanzados en una fracción del tiempo, lo que, de nuevo, puede traducirse en usos legítimos e ilegítimos de la tecnología. Muchas empresas usan herramientas como Copilot de GitHub para mejorar sus productos, pero sus contrapartes maliciosas son una seria amenaza.
Los virus informáticos llevan muchos años siendo un problema, y evolucionan continuamente para tratar de aprovechar nuevas vulnerabilidades en los sistemas digitales. Impulsados por una IA maliciosa, estos virus pueden causar estragos en sistemas críticos de empresas, gobiernos o infraestructuras esenciales. Además, también se pueden utilizar para robar los datos bancarios de los usuarios de internet cuando realizan transacciones online.
Los LLMs –es decir, los Grandes Modelos de Lenguaje– comenzaron a utilizarse en buena medida para generar desinformación casi desde el momento de su publicación. Incluso modelos que en teoría no deberían emplearse con usos ilegítimos como ChatGPT están siendo aprovechados por agentes maliciosos para impulsar ‘bots’ políticamente motivados en plataformas como Instagram, Facebook o X, a pesar de los esfuerzos para contenerlos.
Pero la capacidad de la IA para generar imágenes y videos de aspecto fotorrealista está suponiendo un problema todavía más serio. Los ‘deepfakes’ están siendo capaces de crear contenidos casi indistinguibles de lo real, y ya se están empleando para interferir en procesos democráticos por todo el mundo. En México los encontramos en las últimas elecciones, y se espera que se multipliquen en las elecciones estadounidenses del próximo noviembre.
La generación de ‘deepfakes’ con una IA maliciosa no solo tiene el objetivo de divulgar propaganda o desinformación política. También se está empleando para crear contenidos sexuales de aspecto ultrarrealista, con frecuencia involucrando a mejores que en ningún caso dieron su consentimiento para la publicación de este tipo de contenidos. El ejemplo más famoso fue el de Taylor Swift, pero los casos más graves tienden a ser anónimos.
Cada vez son más las adolescentes que descubren horrorizadas la circulación de toda una serie de desnudos o incluso videos sexualmente explícitos que las tienen como protagonistas, pero de los que nunca formaron parte. La IA maliciosa está al alcance de cualquiera, y son muchos los compañeros de escuela o incluso ex novios de estas adolescentes que generan este tipo de contenidos para dañar su reputación. Las consecuencias son simplemente devastadoras.
La titular del Indereq, Iridia Salazar, presidió la entrega de premios a integrantes de la…
La UTSJR se unió a la conmemoración del Día Internacional de la Eliminación de la…
Desde el viernes 29 de noviembre, la muestra Memorias, gráfica del lingüista, indigenista y traductor…
La primera edición del encuentro internacional de educación del carácter tuvo como finalidad contribuir al…
La Secretaría de Salud del Estado de Querétaro busca que los promotores de salud mental…
La Coordinación Estatal de Protección Civil de Querétaro realizó un donativo de cobijas al DIF…