El artículo 50 de la AI Act, aplicable desde el 2 de agosto de 2026, redefine las obligaciones de transparencia para los proveedores de sistemas de IA en Europa. Este marco regulatorio no se limita a la documentación: impone requisitos técnicos precisos, incluyendo la detectabilidad por máquina de los contenidos generados. Aquí abordamos los puntos estructurales que los artículos generalistas sobre la IA responsable dejan de lado.
Obligaciones de registro y notificación de incidentes en la AI Act
Los sistemas de IA de alto riesgo listados en el anexo III están sujetos a un régimen de registro y notificación de incidentes graves. Tras el aplazamiento introducido por el Omnibus, estos requisitos se aplicarán a los sistemas autónomos a partir del 2 de diciembre de 2027 y a los sistemas integrados en productos ya regulados a partir del 2 de agosto de 2028.
Este desfase no es trivial. Significa que la conformidad regulatoria se construye en dos olas distintas, dependiendo de si el sistema es un producto autónomo o un componente integrado en un dispositivo médico, un vehículo o un equipo industrial.
La responsabilidad se desplaza así hacia la capacidad de reacción ante incidentes, no solo hacia la prevención. Concretamente, un proveedor debe ser capaz de rastrear las decisiones de su modelo, identificar la causa de un mal funcionamiento y notificar a la autoridad competente dentro de un plazo definido. Sin una infraestructura de registro robusta, la conformidad sigue siendo teórica.
Observamos que muchas empresas concentran sus esfuerzos en la fase de despliegue inicial, descuidando la supervisión post-producción. El calendario de la AI Act hace que este enfoque sea insostenible a medio plazo. Los equipos que implementan soluciones de orquestación y monitoreo, como las documentadas en botagora.fr, ganan un tiempo considerable en la trazabilidad de los eventos en producción.
Transparencia algorítmica: lo que el artículo 50 exige técnicamente
El artículo 50 de la AI Act distingue la transparencia de la simple explicabilidad. La explicabilidad se refiere a la capacidad de justificar una decisión individual. La transparencia, tal como se define en el reglamento, impone obligaciones previas: informar al usuario que está interactuando con una IA y hacer detectables ciertos contenidos generados o manipulados en un formato legible por máquina.
Para los sistemas generativos ya comercializados, hay un plazo transitorio corto hasta el 2 de diciembre de 2026. Pasada esta fecha, todo contenido sintético (texto, imagen, audio) deberá integrar un marcado técnico que permita su identificación automatizada.
Marcado de contenidos sintéticos: watermarking y metadatos
El reglamento no prescribe una tecnología única, pero el resultado esperado es claro: un tercero debe poder detectar programáticamente que un contenido ha sido generado por IA. Dos enfoques dominan los trabajos en curso:
- El watermarking estadístico, que modifica imperceptiblemente la distribución de tokens o píxeles para integrar una firma verificable sin alterar la calidad percibida del contenido.
- La inyección de metadatos estandarizados (tipo C2PA o similar), que asocia al archivo un certificado de origen trazable, independientemente del contenido en sí.
- Los enfoques híbridos, combinando watermarking y metadatos, para resistir tanto al reformateo como a la eliminación intencionada de los encabezados.
La elección técnica depende del tipo de contenido y del caso de uso. Para texto, el watermarking estadístico sigue siendo frágil frente a la paráfrasis. Para imagen o video, las firmas integradas en el flujo son más robustas. Ningún método garantiza una detectabilidad absoluta, lo que plantea la cuestión de la responsabilidad en caso de elusión.
Modelos de IA de uso general: gobernanza documental obligatoria
Los proveedores de modelos de IA de uso general (GPAI) están ahora directamente afectados por obligaciones documentales específicas. Esto incluye la descripción de los datos de entrenamiento, las evaluaciones de rendimiento y las medidas de mitigación de riesgos sistémicos para los modelos más potentes.
Este requisito rompe con el enfoque tradicional donde solo el desplegador final asumía la carga de conformidad. Ahora, el proveedor del modelo base comparte la responsabilidad con el integrador y el usuario final. La cadena de valor de la IA responsable se alarga, y cada eslabón debe documentar su contribución.
Distinguir dominio de la IA y conformidad regulatoria
Desde el 2 de febrero de 2025, el dominio de la IA es obligatorio para el personal afectado. Recomendamos no confundir esta obligación de competencia con la conformidad en el sentido de la AI Act. Formar equipos para usar una herramienta generativa no cubre los requisitos de gobernanza, documentación técnica ni gestión de riesgos que el reglamento impone a los proveedores y desplegadores de sistemas de alto riesgo.
IA responsable y huella ambiental: un ángulo poco documentado
La declaración surgida de la cumbre mundial sobre la IA llama a “hacer que la IA sea sostenible para los pueblos y el planeta” y propone la creación de un observatorio sobre los efectos de la IA en términos de energía con la Agencia Internacional de la Energía. Más allá de la declaración de intenciones, el desafío radica en la medición efectiva del consumo de las infraestructuras de entrenamiento e inferencia.
Las empresas que integran modelos generativos en sus procesos de negocio observan un aumento significativo en su consumo de recursos de cálculo. Optimizar la inferencia reduce aún más la huella que compensar posteriormente. La cuantificación de modelos, el pruning y la elección de arquitecturas más ligeras para los casos de uso comunes constituyen palancas concretas.
El desarrollo sostenible aplicado a la IA no se limita a comprar créditos de carbono. Implica decisiones técnicas durante el diseño: tamaño del modelo, frecuencia de reentrenamiento, localización de los centros de datos y la relevancia real de recurrir a un modelo pesado en comparación con un enfoque clásico.
El calendario regulatorio europeo traza una trayectoria clara hasta 2028. Las organizaciones que tratan la IA responsable como un proyecto de conformidad puntual, en lugar de como una disciplina de ingeniería continua, acumularán una deuda técnica y jurídica difícil de saldar. Los plazos son conocidos, los requisitos están publicados: el trabajo de fondo comienza ahora.
