The HUMANIA project addresses the challenge of designing, deploying, and operating high-risk Artificial Intelligence (AI) systems while ensuring strict compliance with ethical, legal, and technical principles. As predictive and generative AI becomes increasingly integrated into critical sectors such as healthcare, urban management, and financial services, it is essential to provide tools that guarantee transparency, fairness, and the prevention of harm.
To achieve this, the consortium has structured its research around six main areas of action: governance and regulatory compliance; automated auditing and evidence collection; traceability and digital identity; security and technical robustness; bias mitigation; and the implementation of adaptive human oversight models.
Within the consortium, TREE TECHNOLOGY plays a key role by leading the core activity on “Security, Robustness, and Protection.” Our technical work focuses on researching and implementing both active and passive defences against specific adversarial attacks targeting Large Language Models (LLMs) and predictive models. This scope includes the mitigation of critical risks such as jailbreak attacks, malicious prompt injection, model extraction, and data poisoning. In addition, TREE is the partner responsible for ensuring that the models are explainable and that their decisions remain immutable.
--
El proyecto HUMANIA aborda el reto de diseñar, desplegar y operar sistemas de Inteligencia Artificial (IA) de alto riesgo asegurando el estricto cumplimiento de los principios éticos, legales y técnicos. A medida que la IA predictiva y generativa se integra en sectores críticos como la salud, la gestión urbana o el sector financiero, resulta indispensable proporcionar herramientas que garanticen la transparencia, la equidad y la prevención del daño.
Para lograrlo, el consorcio vertebra su investigación en seis grandes ejes de actuación: gobernanza y cumplimiento normativo; auditoría automatizada y captura de evidencias; trazabilidad e identidad digital; seguridad y robustez técnica; mitigación de sesgos; y la aplicación de modelos adaptativos de supervisión humana.
Dentro de este consorcio, el papel de TREE TECHNOLOGY es fundamental asumiendo el liderazgo de la actividad central sobre "Seguridad, robustez y protección". Nuestra labor técnica se enfoca en investigar e implementar defensas tanto activas como pasivas frente a ataques adversarios específicos en Grandes Modelos de Lenguaje (LLMs) y en modelos predictivos. Este alcance abarca la mitigación de riesgos críticos como los jailbreaks, la inyección de prompts maliciosos, la extracción de modelos y el envenenamiento de datos (data poisoning). Adicionalmente, TREE es el socio responsable de asegurar que los modelos sean explicables y sus decisiones inmutables
