IA obliga a actualizar la legislación sobre la protección de datos en México

Tras la desaparición del Inai, la Inteligencia Artificial está obligando a pensar más acerca de la tecnología y a actualizar la legislación sobre la protección de datos personales en México

Los sistemas de Inteligencia Artificial Generativa (AGI), como ChatGPT o DeepSeek, obligan a los legisladores mexicanos a pensar en esta tecnología en el momento de elaborar la legislación secundaria en materia de protección de datos personales, luego de la desaparición del Instituto Nacional de Transparencia, Acceso a la Información y Protección de Datos Personales (Inai).

En la última celebración del Día Internacional de Protección de Datos Personales en las instalaciones del Inai, comisionados del instituto y miembros de la industria tecnológica advirtieron que es necesario contemplar las prácticas en materia de protección de datos de las empresas y los gobiernos que usan herramientas de Inteligencia Artificial.

Principales retos

Josefina Román, comisionada del Inai, dijo que al igual que el sector privado, las instituciones del Estado mexicano, tanto federales, como estatales y municipales, ya están haciendo uso de herramientas de Inteligencia Artificial, las cuales procesan datos personales que incluso pueden llegar a ser sensibles.

“La inteligencia artificial no solo utiliza grandes volúmenes de datos, sino que también puede inferir información sensible, incluso cuando los datos proporcionados han sido anonimizados. Esto pone en riesgo el derecho a la privacidad y a la autodeterminación informativa”, dijo Román.

Según la comisionada del Inai, la reforma constitucional que extingue al instituto supone importantes retos a la hora de garantizar el derecho a la protección de datos, un derecho regido por la Constitución mexicana, cuyo nuevo modelo de garantía será definido en las leyes secundarias a la recién aprobada reforma en materia de simplificación administrativa.

Actualizar legislación

Blanca Lilia Ibarra, comisionada del Inai, aseguró que ante la desaparición del instituto, nos encontramos en la antesala del nacimiento de un nuevo modelo de protección de datos, el cual debe hacer que permanezca intacto el derecho a la protección de datos personales en beneficio de todos los mexicanos.

“Se abre una oportunidad sin precedentes para actualizar la legislación a efecto de hacer frente a los nuevos retos que nuestra realidad nos impone de cara a la inteligencia artificial presente en nuestra vida. En un mundo interconectado es esencial que exista armonía legislativa, técnica y jurídica que facilite la cooperación internacional en beneficio de las y los titulares de los datos personales”, mencionó.

Adrián Alcalá, comisionado presidente del Inai, advirtió que es necesario que el nuevo modelo cuente con los más altos estándares a nivel nacional e internacional. Añadió que si bien en México existen leyes en materia de protección de datos que regulan al sector público y al privado, la Inteligencia Artificial es una tecnología transfronteriza y requiere un uso adecuado con regulaciones internacionales, así como un enfoque global.

Regulación de la IA

Jacobo Esquenazi, estratega global de Privacidad de HP, dijo que la aplicación de principios de protección de datos personales varía en cada etapa del desarrollo de un modelo de Inteligencia Artificial. También mencionó que existen nueve principios de protección de datos relevantes en la inteligencia artificial generativa:

• Principio de licitud: Establece que los datos deben ser tratados de manera legal y formal, considerando las consecuencias del procesamiento y evitando resultados injustos o sesgados.
• Principio de limitación de la recolección de datos: El desarrollo de modelos requiere grandes volúmenes de datos, lo cual puede ser incompatible con el principio de minimización de datos.
• Principio de finalidad: Los datos utilizados para entrenar modelos a menudo se recolectan de fuentes públicas y privadas, pero no necesariamente con la finalidad de entrenar un modelo.
• Bases legales del procesamiento: En México, la ley se basa en el consentimiento y algunas excepciones. Sin embargo, en otros países existen bases legales como el interés legítimo.
• Principio de necesidad: El barrido de datos públicos dificulta el cumplimiento del aviso de privacidad a los titulares, especialmente cuando no es viable contactar a cada uno.
• Derechos ARCO: El ejercicio de estos derechos es complejo en la inteligencia artificial generativa, ya que el desarrollador del modelo no siempre puede modificarlo directamente, se necesitan filtros de resultados o el derecho a objeción.
• Transparencia: Es esencial que los desarrolladores de modelos declaren de manera clara las fuentes de los datos y las consecuencias de su uso.
• Responsabilidad demostrable: Demostrar que se ha realizado un análisis de riesgos y que se han implementado mitigaciones pertinentes es crucial para garantizar un uso ético de los datos.
• Flujo transfronterizo de datos: Limitar este flujo puede generar sesgos en los modelos, ya que estos reflejarán las políticas sociales y culturales de una región específica, se requieren estándares internacionales.

Google Home se integra a Gemini para usar comandos de voz