OLTRE IL RISK-BASED APPROACH, VERSO UN “COSTITUZIONALISMO ALGORITMICO SOSTANZIALE” NELL’ERA DELL’INTELLIGENZA ARTIFICIALE.

Beyond the Risk-Based approach, towards a ‘substantial algorithmic constitutionalism’ in the era of artificial intelligence.

^{______________ AMBIENTEDIRITTO ______________}

OLTRE IL RISK-BASED APPROACH, VERSO UN “COSTITUZIONALISMO ALGORITMICO SOSTANZIALE” NELL’ERA DELL’INTELLIGENZA ARTIFICIALE

Beyond the Risk-Based approach, towards a ‘substantial algorithmic constitutionalism’ in the era of artificial intelligence.

Attilio Luigi Maria Toscano

Abstract (It): il saggio analizza criticamente il quadro normativo europeo sull’Intelligenza Artificiale, con particolare riferimento al Regolamento (UE) 2024/1689 (AI Act) e al relativo disegno di legge di adeguamento italiano. Si argomenta che l’architettura giuridica, fondata su una definizione puramente funzionale di IA e su un approccio basato sul rischio (risk-based approach), sia strutturalmente inadeguata a garantire una tutela effettiva dei diritti fondamentali. Tale modello, ignorando la questione cruciale dell’opacità algoritmica (black box), “de-costituzionalizza” i diritti, trasformandoli da principi inviolabili a variabili negoziabili in un calcolo di convenienza, e si dimostra cieco ai rischi sistemici, come l’impatto ambientale e l’erosione dei processi democratici. In contrapposizione, il saggio propone un cambio di paradigma verso un “costituzionalismo algoritmico sostanziale”. Questo approccio si fonda su due pilastri: in primo luogo, il riconoscimento di un “diritto fondamentale all’interazione umana”, quale presidio invalicabile della dignità e dell’uguaglianza sostanziale (artt. 2 e 3 Cost.), che va oltre la mera sorveglianza umana (human oversight); in secondo luogo, l’obbligo di integrare i principi costituzionali (dignità umana e uguaglianza sostanziale) direttamente nella progettazione dei sistemi (by design), rendendo la compatibilità costituzionale un requisito preventivo e non un controllo ex post. Solo un modello di sviluppo tecnologico così radicato nei diritti umani può riaffermare la primazia della persona e realizzare un’autentica sovranità algoritmica europea.

Abstract (En): this essay critically analyzes the European regulatory framework on Artificial Intelligence, particularly Regulation (EU) 2024/1689 (the AI Act) and the related Italian legislative proposal. It is argued that the legal architecture, founded on a purely functional definition of AI and a risk-based approach, is structurally inadequate to ensure the effective protection of fundamental rights. By overlooking the crucial issue of algorithmic opacity (the black box), this model “de-constitutionalizes” fundamental rights, transforming them from inviolable principles into negotiable variables in a cost-benefit calculation. Furthermore, it proves blind to systemic risks, such as environmental impact and the erosion of democratic processes. In opposition, the essay proposes a paradigm shift towards “substantive algorithmic constitutionalism”. This approach rests on two pillars: first, the recognition of a fundamental “right to human interaction” as an inviolable safeguard of human dignity and substantive equality (Arts. 2 and 3 of the Italian Constitution), which transcends mere human oversight; second, the obligation to integrate constitutional principles (human dignity and substantive equality) directly into the design of AI systems (by design), thereby making constitutional compatibility a preventive requirement rather than an ex post control. Only such a model of technological development, rooted in human rights, can reaffirm the primacy of the person and achieve genuine European algorithmic sovereignty.

Parole chiave: Costituzionalismo algoritmico sostanziale – Diritto all’interazione umana – Approccio basato sul rischio (Critica) – Opacità algoritmica (Black Box) – AI Act.

Keywords: Substantive Algorithmic Constitutionalism – Right to Human Interaction – Risk-Based Approach (Critique) – Algorithmic Opacity (Black Box) – AI Act.

Sommario: 1. Introduzione: la tensione tra innovazione tecnologica e garanzie costituzionali. – 2. La definizione legale dell’IA tra funzionalismo e opacità: un fondamento insufficiente per la tutela dei diritti fondamentali? – 3. Critica all’approccio basato sul rischio. – 4. Le dimensioni sistemiche e collettive trascurate. – 5. Verso un approccio sostanziale e preventivo: la primazia della persona e il diritto all’interazione umana. – 6. Le garanzie procedimentali alla prova dell’opacità algoritmica: dal diritto alla spiegazione alla tutela giurisdizionale effettiva. – 7. Traiettorie interpretative e attuative del “costituzionalismo algoritmico sostanziale” a legislazione invariata. – 8. Conclusione: per un modello di sviluppo tecnologico radicato nei diritti umani.