Seis gigantes de la ia acaban de firmar un “modelo de prevención”

Uncategorized
Leído por: 599 usuarios

 Por: Eduardo Alejos Toribio


El 29 de septiembre de 2026 ocurrió algo particularmente interesante para quienes estudiamos responsabilidad corporativa y compliance. Donald Trump y los representantes de Google, Anthropic, Meta, OpenAI, xAI y Nvidia suscribieron en la Casa Blanca el “White House Accord on Super Intelligence Joint Commitment on Frontier Responsibilities[1]”.

Trump lo comparó con una especie de “constitución” y cuando le preguntaron si el acuerdo tenía carácter vinculante, respondió que lo consideraba “morally binding”. Sin embargo, el documento es otra cosa, un compromiso voluntario de autorregulación empresarial.

1. Cuatro capas para controlar el riesgo

Primero, controles internos robustos para vigilar las capacidades y la alineación de los modelos durante su entrenamiento y despliegue, particularmente frente a riesgos de ciberseguridad, bioseguridad, amenazas químicas y accesos no autorizados a sistemas.

Segundo, un equipo interno encargado de verificar que esos controles funcionen y de remediar los problemas detectados. Tercero, la participación de un auditor o evaluador externo independiente.

Y cuarto, un comité independiente del directorio, encargado de supervisar los reportes de los equipos internos y de los evaluadores externos y de asegurar que las deficiencias sean corregidas. Es difícil no reconocer aquí una estructura que nos resulta familiar en materia de compliance corporativo, prevención, supervisión, detección, auditoría y reacción[2].

La empresa deja de limitarse a decir “utilizamos inteligencia artificial” y empieza a construir una estructura interna para gobernar el riesgo que esa tecnología genera.

 2. Silicon Valley descubre algo que el derecho corporativo ya conocía

Desde la perspectiva del Derecho penal económico, lo interesante no es la palabra “superinteligencia”. Es la organización del riesgo dentro de la empresa. Un verdadero modelo de prevención no consiste únicamente en tener un código de conducta. Requiere identificar riesgos, establecer controles, supervisar su funcionamiento, detectar incumplimientos y adoptar medidas correctivas.

La Ley 30424, en Perú, se mueve precisamente dentro de esta lógica al contemplar un modelo de prevención como mecanismo de organización y gestión orientado a prevenir delitos o reducir significativamente su comisión[3].

El acuerdo de la Casa Blanca no es, obviamente, un modelo de prevención en sentido jurídico peruano. No sustituye una ley, no establece responsabilidad penal y no crea por sí mismo un régimen sancionador.

Pero sí resulta significativo que las empresas tecnológicas más poderosas del mundo hayan aceptado públicamente una arquitectura basada en gestión, vigilancia y control del riesgo tecnológico. El paralelismo con el compliance no es retórico. Es estructural.

3. El problema está en lo que el acuerdo no dice

El documento no establece una sanción por incumplimiento, no crea un procedimiento estatal de fiscalización y tampoco establece una obligación general de hacer públicos los resultados de las auditorías.

Tampoco desarrolla con precisión qué debe entenderse por “frontier models” ni fija, dentro del propio acuerdo, umbrales técnicos concretos para determinar cuándo un sistema alcanza el nivel de riesgo que activa cada control.

El acuerdo habla de un auditor externo independiente y de un comité independiente del directorio, pero no desarrolla un régimen público detallado que determine cómo se acredita esa independencia, quién fiscaliza al auditor o qué ocurre cuando el sistema interno de control fracasa.

Por eso, desde una perspectiva jurídica, tenemos una estructura de prevención sin una consecuencia jurídica equivalente a la estructura que pretende prevenir. Y ahí aparece el límite del soft law.

4. Lo voluntario no significa necesariamente irrelevante

Que el acuerdo no sea jurídicamente coercitivo no significa que carezca de consecuencias. Aquí hay que ser mucho más cuidadosos.

Una declaración pública de una empresa sobre sus mecanismos de control puede adquirir relevancia posteriormente en distintos planos: gobierno corporativo, información a inversionistas, diligencia empresarial, evaluación de riesgos y análisis de sus programas de compliance.

El propio Departamento de Justicia de Estados Unidos ya incorpora expresamente la inteligencia artificial en su Evaluation of Corporate Compliance Programs[4] y pregunta a las empresas cómo identifican los riesgos derivados de nuevas tecnologías, cómo integran esos riesgos en sus sistemas de gestión y cómo previenen el uso indebido de esas tecnologías.

Si una empresa promete públicamente determinados controles y posteriormente demuestra que nunca los implementó o que fueron completamente ineficaces, esa declaración no necesariamente genera por sí sola responsabilidad penal, pero sí puede convertirse en un elemento relevante para valorar su conducta corporativa en otros procedimientos.

5. Europa ya pasó de la promesa al deber jurídico

Mientras Estados Unidos apuesta en este momento por un compromiso voluntario, la Unión Europea ya ha establecido obligaciones jurídicas específicas para los proveedores de modelos de IA de uso general con riesgo sistémico.

El artículo 55 del Reglamento de Inteligencia Artificial exige, entre otras cosas, evaluación del modelo, pruebas adversariales, identificación y mitigación de riesgos sistémicos, reporte de incidentes graves y medidas de ciberseguridad.

Y el artículo 101 establece la posibilidad de imponer multas de hasta el 3 % de la facturación mundial anual o 15 millones de euros, el importe que sea mayor, cuando concurran los supuestos allí previstos.

6. Conclusión

  • La primera, es la primera piedra de una futura regulación federal sobre inteligencia artificial, porque las propias empresas están aceptando una arquitectura que posteriormente podría convertirse en obligación legal. El propio documento reconoce que, con el tiempo, podría resultar conveniente convertir estas medidas en leyes o reglamentos.
  • La segunda, es precisamente el mecanismo mediante el cual las grandes compañías pretenden demostrar que pueden autorregularse sin necesidad de una regulación federal más intensa. Y esa tensión es mucho más profunda de lo que parece. Porque cuando hablamos de inteligencia artificial avanzada, ya no estamos discutiendo solamente sobre innovación tecnológica.
  • Estamos discutiendo sobre quién identifica el riesgo, quién tiene el deber de prevenirlo, quién controla a la empresa, quién supervisa al controlador y qué ocurre cuando el sistema de prevención fracasa. Eso, en el fondo, es una de las preguntas centrales del Derecho penal económico contemporáneo.

 

 


[1] Executive Office of the President of the United States. (2026, 29 de septiembre). White House Accord on Super Intelligence: Joint Commitment on Frontier Responsibilities. Washington, D.C.: The White House.

[2] Nieto Martín, A. (2015). Manual de cumplimiento normativo y responsabilidad penal de las personas jurídicas. Valencia: Tirant lo Blanch, pp. 112-135.

[3] Congreso de la República del Perú. Ley N.° 30424, Ley que regula la responsabilidad administrativa de las personas jurídicas en el ámbito penal (Publicada en el diario oficial El Peruano el 21 de abril de 2016 .

[4] U.S. Department of Justice (DOJ), Criminal Division. (2024, septiembre). Evaluation of Corporate Compliance Programs (ECCP Guidelines Update). Washington, D.C.: U.S. Department of Justice, Section II.A («Risk Assessment and Emerging Technologies / Artificial Intelligence»)

Comparte el artículo en tus redes sociales

También puede interesarte

keyboard_arrow_up