TRASPARENZA E VALUTAZIONE DEL RISCHIO PER L’INTELLIGENZA ARTIFICIALE NELL’AGENDA DIGITALE DELLA MACROREGIONE MEDITERRANEA

da Eusmed | Feb 8, 2024 | Digitalization and communication

REGOLE TRASPARENTI PER IL “FOUNDATION MODEL”

L’Agenda digitale della Macroregione Mediterranea, espressione del Quarto Pilastro della sua Strategia, chiede, per quanto riguarda una delle sue parti centrali rappresentata dall’Intelligenza artificiale (IA) generativa, regole trasparenti e di verifica nella valutazione del rischio (1).

I modelli per lo sviluppo di sistemi IA sono fondamentali, ovvero modelli informatici che, anche attraverso l’addestramento di una grande quantità di dati, possono essere utilizzati per la creazione di una pluralità di sistemi IA nel mercato downstream.

Si individuano due categorie di modelli GPAI: generici e sistemici.

Questi ultimi sono dei modelli che, in virtù dei rischi sistemici che possono provocare, sono soggetti ad una regolamentazione più stringente rispetto a quelli generici.

La distinzione tra modelli generici e sistemici è mutuata dal DSA, una normativa dove piattaforme e motori di ricerca di maggiori dimensioni (i cosiddetti VLOP e VLOSE) sono, infatti, soggetti ad una regolamentazione di maggior rigore in virtù dei rischi sistemici a loro connessi.

VERSO IL “FOUNDATION MODEL“ MEDITERRANEO

La capacità di servire una pluralità di scopi e la centralità rispetto al mercato in espansione di sistemi ed app basati sulla AI hanno conferito ai “foundation model“ un ruolo di specifica rilevanza nell’ambito del dibattito sull’AI.

A ciò hanno contribuito anche le fortune dei “foundation model“ che si sono affacciati nel corso del 2022.

La popolarità di tali modelli, i rischi loro connessi e la percezione che essi possono costituire uno “step change“ nello sviluppo dell’intelligenza artificiale hanno stimolato attenzione e dibattito, fino a far diventare gli stessi “foundation model“ un motivo di incertezza nell’obiettivo di stabilire regole per la trasparenza e la valutazione del rischio.

I “foundation model“ sono denominati “General Purpose AI Model” (“modelli GPAI”), ponendo fine ad una sovrapposizione di termini, che ha generato non poca confusione. In sintesi, i modelli GPAI sono definiti come dei modelli informatici che, anche tramite l’allenamento su una vasta quantità di dati, possono essere usati per una varietà di compiti, singolarmente o inseriti come componenti in un sistema AI.

I GPAI generici sono sostanzialmente soggetti ad obblighi di trasparenza, consistenti nel garantire la disponibilità di documentazione tecnica che renda comprensibile il loro funzionamento (anche in relazione al processo di data training) all’AI Office così come ai terzi che intendano integrare il modello nei loro sistemi AI.

Connessa alle garanzie di trasparenza, la Policy della Macroregione Mediterranea comporta il rispetto del diritto d’autore che riguarda, in particolare, l’uso di dati soggetti a copyright e l’ eventuale obbligo di remunerazione dei detentori dei diritti.

Il percorso di regolamentazione non si può considerare concluso: l’obiettivo è quello del “Foundation Model Mediterraneo” per l’Intelligenza Artificiale generativa nell’ambito della Macroregione Mediterranea.

Domenico Campana, giornalista

(1) https://data.consilium.europa.eu/doc/document/ST-5662-2024-INIT/en/pdf