Seguridad de la IA: Macron lanza el Llamamiento de París con OpenAI, Anthropic y Microsoft
Seis países y diez empresas firmaron en París compromisos para evaluar y vigilar la IA más avanzada. Ningún país latinoamericano está en la lista, aunque México y Brasil preparan sus propias leyes.
El presidente de Francia, Emmanuel Macron, reunió el lunes 9 de noviembre de 2026 en el Palacio del Elíseo a jefes de Estado, organismos internacionales, empresas de inteligencia artificial e investigadores. De ahí salió el «Llamamiento de París por la seguridad de la inteligencia artificial», un documento con compromisos para evaluar, vigilar y asignar responsabilidades sobre los modelos de IA más avanzados.
Según el comunicado oficial del Elíseo, participaron los jefes de Estado o de gobierno de ocho países: Baréin, Canadá, Finlandia, Japón, Noruega, Países Bajos, Reino Unido y Sierra Leona. También asistieron el secretario del Tesoro de Estados Unidos, representantes de la ONU y de la OCDE, siete empresas de IA (Anthropic, Black Forest Labs, Hugging Face, Microsoft, Mistral AI, OpenAI y Sakana AI) y el investigador Yoshua Bengio. Entre los directivos de las empresas figuraron Sam Altman (OpenAI), Dario Amodei (Anthropic) y Arthur Mensch (Mistral AI).
Quiénes firmaron y qué prometieron
Participar en la reunión no equivale a firmar. Por eso las cifras cambian según la fuente. El texto del Llamamiento publicado por el Elíseo enumera seis Estados firmantes: Baréin, Canadá, Finlandia, Francia, Noruega y Países Bajos. También lo firmaron diez empresas: Anthropic, Black Forest Labs, Cohere, Domyn, Hugging Face, Microsoft, Mistral AI, OpenAI, Sakana AI y Synthesia. Se sumaron organizaciones de la sociedad civil como LawZero, SaferAI, AI Safety Connect y el instituto Ifri. Japón y Reino Unido asistieron, pero no aparecen entre los firmantes.
Los compromisos se agrupan en tres ejes:
- Evaluación de riesgos. Se busca un marco común para evaluar los modelos «de frontera», con atención especial a usos maliciosos en ciberseguridad y en riesgos nucleares, radiológicos, biológicos y químicos, así como a la posible pérdida de control. Los resultados no sensibles se publicarían en un repositorio público.
- Alertas compartidas. Se reforzarán los sistemas de reporte de incidentes graves y de alerta temprana, y los gobiernos ofrecerán canales seguros y confidenciales para quienes denuncien problemas desde dentro.
- Responsabilidad. Los desarrolladores se comprometen a revelar las capacidades, límites y riesgos conocidos de sus modelos, a apoyar evaluaciones de expertos independientes y a tener mecanismos para detener un sistema. Los gobiernos, a su vez, se comprometen a aclarar quién responde por daños a gran escala, incluso cuando crucen fronteras.
Macron advirtió que la IA plantea «riesgos reales para nuestra seguridad colectiva». También dijo: «El diagnóstico es compartido. Hay que actuar juntos», según recogió la agencia EFE en Infobae.
Menores y una posible regulación europea
En paralelo, Macron dio una entrevista a Les Echos en la que fue más allá. Dijo: «Si ciertos usos de la IA representan un riesgo para los niños, hay que prohibirlos», según EFE. De acuerdo con esa nota, OpenAI y Anthropic se comprometerían a someter sus modelos a evaluaciones independientes y auditorías antes de ofrecerlos a menores. Francia, además, impulsará una regulación europea y buscará llevar estos compromisos a Estados Unidos, Canadá y otros países.
La reunión da continuidad a los contactos entre líderes y laboratorios de IA durante la cumbre del G7 en Évian, el 17 de junio. Los textos consultados no mencionan sanciones ni plazos. El Llamamiento sigue abierto a nuevos firmantes: «La declaración permanece abierta a nuevos apoyos y se actualiza», dice el propio texto.
Qué podría llegar a México y América Latina
Ningún país latinoamericano firmó ni aparece entre los asistentes. Aun así, sus ideas pueden llegar por las empresas: OpenAI, Anthropic y Microsoft, firmantes del Llamamiento, se comprometieron a publicar los riesgos de sus modelos y a apoyar evaluaciones externas, y los resultados no sensibles irían a un repositorio público.
En México todavía no hay una ley general de IA. A julio de 2026, la comisión especial del Senado había cerrado el periodo ordinario sin llevar al pleno la Ley General para Regular y Fomentar la Inteligencia Artificial, según Cadena Política. Ese proyecto requiere reformar los artículos 3º y 73 de la Constitución y armonizar unas 17 leyes secundarias. Por su parte, la senadora de Morena Karina Isabel Ruiz Ruiz propuso una Agencia Nacional de IA con facultades para imponer multas.
El proyecto del Senado tiene puntos en común con el Llamamiento: un registro obligatorio de sistemas de alto riesgo y una autoridad nacional supervisora. Entre lo que prohibiría están los deepfakes dañinos y la manipulación política mediante sistemas automatizados, de acuerdo con una columna de opinión publicada en Infobae en abril. Ese texto advierte que faltan peritos especializados y personal capacitado para aplicarla.
El tema de los menores también está en la agenda nacional. La presidenta Claudia Sheinbaum anunció consultas regionales del 19 de agosto al 17 de septiembre sobre IA y redes sociales en menores. Mientras tanto, la regulación avanza por sectores: un decreto del 14 de mayo en materia de derechos de autor exige acuerdo previo por escrito para clonar o simular con IA la voz o la imagen de un artista.
En Brasil, el proyecto de ley 2338/2023, el marco legal de IA aprobado por el Senado, sigue en una comisión especial de la Cámara de Diputados en espera del dictamen del relator Aguinaldo Ribeiro, sin fecha de votación, según un seguimiento actualizado el 24 de octubre.
Nuestra lectura
El Llamamiento de París es un acuerdo voluntario: los textos consultados no mencionan sanciones ni plazos, y Estados Unidos no lo firmó como Estado. Su valor está en que los propios laboratorios aceptaron por escrito auditorías externas, mecanismos de apagado y la publicación de riesgos. Eso fija un estándar mínimo que cualquier regulador puede exigir después, sin tener que inventarlo.
Para México, quedarse fuera de la mesa tiene un costo: las reglas que se discuten ahí terminarán aplicándose a productos que usan millones de mexicanos, sin que el país haya opinado. Lo urgente no es copiar el texto francés, sino crear capacidad técnica para evaluar modelos. Una ley con una autoridad sin peritos ni presupuesto sería, como advierten sus críticos, simulación. Hay dos cosas que vigilar: si el Senado retoma la ley general en este periodo y si lo que salga de las consultas sobre IA y menores incluye auditorías previas como las que Macron pide en Europa. Un primer paso concreto y barato sería sumarse al Llamamiento, que sigue abierto a nuevos firmantes.
Fuentes
- Presidencia de Francia (Elíseo) – Comunicado: reunión IA y seguridad
- Presidencia de Francia (Elíseo) – Llamamiento de París por la seguridad de la IA
- Infobae (EFE) – Macron reúne a gobiernos y empresas tecnológicas para impulsar la seguridad de la IA
- Infobae (EFE) – Macron pide prohibir ciertos usos de la IA que pongan en riesgo a los menores
- Open Magazine – Macron sets out three AI safety priorities
- Cadena Política – México regula la IA por sectores mientras el Congreso aplaza la ley general
- Infobae México – México perfila su primera ley de inteligencia artificial
- Mentrun – PL 2338 em 2026: onde está
Esta nota la redactó inteligencia artificial a partir de las fuentes citadas, y un editor escogió publicarla. ¿Viste un error? Escríbenos a hola@estoyaburrido.mx. Así trabajamos.
Comentarios
Los comentarios pasan por un filtro antes de publicarse y deben seguir la política de comentarios.