Il Consiglio d’Europa ha adottato la prima convenzione internazionale giuridicamente vincolante sull’intelligenza artificiale (AI). Questa storica decisione mira a garantire che l’uso delle tecnologie AI rispetti i diritti umani, la democrazia e lo stato di diritto, sia nel settore pubblico che privato. La convenzione rappresenta un quadro normativo fondamentale per sfruttare il potenziale dell’AI in modo responsabile e rispettoso dei valori condivisi dalla comunità internazionale.
Indice dei contenuti
Obiettivi principali della convenzione
Valorizzazione responsabile delle tecnologie AI
La convenzione sottolinea l’importanza di utilizzare le tecnologie AI in modo responsabile. Pur riconoscendo le opportunità senza precedenti offerte dall’AI, evidenzia anche i rischi significativi come la discriminazione, la disuguaglianza di genere, la compromissione dei processi democratici, e l’uso improprio da parte degli Stati.
Definizione dei sistemi di AI e il loro ciclo di vita
La convenzione adotta la definizione di “sistemi di AI” formulata dall’OCSE, che descrive questi sistemi in base alle loro proprietà di autonomia, adattabilità, capacità di inferenza e generazione di previsioni. Questa definizione è in linea con il Regolamento Europeo sull’AI (AI Act) e mira a facilitare la cooperazione internazionale e l’armonizzazione della governance dell’AI.
Il concetto di ciclo di vita
Il ciclo di vita dei sistemi di AI, dalla progettazione alla dismissione, è centrale nella convenzione. Tuttavia, l’attenzione è posta sulle specifiche attività che possono interferire con i diritti umani, la democrazia e lo stato di diritto, piuttosto che sull’intero ciclo di vita.
Regolamentazione nei settori pubblico e privato
La convenzione impone che sia il settore pubblico che privato adottino misure legislative e amministrative per implementare le sue disposizioni. Queste misure devono essere proporzionate e differenziate in base alla gravità e alla probabilità degli impatti negativi sui diritti umani.
Principi generali della convenzione
Rispetto della dignità umana e dell’autonomia individuale
Uno dei principali principi è il rispetto della dignità umana e dell’autonomia individuale. L’uso dei sistemi di AI non deve disumanizzare le persone o ridurle a meri dati. È essenziale garantire che gli individui mantengano il controllo sull’uso delle tecnologie AI nelle loro vite.
Trasparenza e supervisione
La trasparenza è fondamentale per comprendere e monitorare i sistemi di AI. La convenzione richiede che i processi decisionali e il funzionamento generale dei sistemi di AI siano comprensibili e accessibili. La supervisione include vari meccanismi come raccomandazioni, linee guida, codici di condotta e programmi di audit.
Responsabilità e accountability
Il principio di responsabilità prevede che organizzazioni e individui rispondano degli impatti negativi dei sistemi di AI sui diritti umani, la democrazia o lo stato di diritto. Questo principio è strettamente legato a quelli di trasparenza e supervisione.
Eguaglianza e non discriminazione
La convenzione affronta anche il principio di eguaglianza e non discriminazione, fornendo riferimenti normativi e identificando i bias che possono influenzare i sistemi di AI.
Tutela dei dati personali e affidabilità
La protezione dei dati personali è un altro pilastro della convenzione, che impone standard tecnici per garantire la robustezza, l’accuratezza e la sicurezza dei dati.
Innovazione sicura
Promuovere un’innovazione sicura in ambienti controllati, come le sandbox regolamentari, è essenziale per sviluppare sistemi di AI che rispettino i diritti umani e la democrazia.
Gestione del rischio e rimedi
La convenzione richiede che i soggetti che interagiscono con i sistemi di AI siano informati dell’interazione con tali sistemi. Inoltre, prevede misure specifiche per documentare e rendere disponibili informazioni rilevanti, e per permettere la presentazione di reclami alle autorità competenti.
Valutazione e mitigazione dei rischi
Identificare, valutare, prevenire e mitigare i rischi e gli impatti potenziali dei sistemi di AI è cruciale. La convenzione impone la creazione di un sistema di gestione dei rischi basato su criteri concreti e oggettivi.
Adozione e effetti della convenzione
La convenzione entrerà in vigore una volta ratificata da almeno cinque firmatari, tra cui tre stati membri del Consiglio d’Europa. Sarà aperta alla firma dal 5 settembre 2024, e altri stati non membri potranno essere invitati ad aderirvi in seguito.
Promozione dell’alfabetizzazione digitale
È essenziale promuovere l’alfabetizzazione digitale per tutti i segmenti della popolazione, tenendo in considerazione le esigenze e le vulnerabilità specifiche di persone con disabilità e minori.
Leggi anche: Apple e ChatGPT: una partnership innovativa e sicura
