Certificato ISO 42001:2023
Il primo standard internazionale dedicato alla governance dell'AI — che garantisce che AIsuru sia sviluppato e gestito in modo responsabile, trasparente e conforme all'AI Act europeo.
Cos'è
La ISO/IEC 42001:2023 è il primo standard internazionale specificamente dedicato ai Sistemi di Gestione dell'Intelligenza Artificiale. Richiede alle organizzazioni che sviluppano o utilizzano sistemi AI di definire policy, ruoli, processi di valutazione del rischio e misure di mitigazione specifici per l'intelligenza artificiale.
Perché è fondamentale per AIsuru
AIsuru è una piattaforma AI che integra componenti di intelligenza artificiale a più livelli:
NLP proprietario addestrato internamente su corpus pubblici (italiano, inglese, francese)
Integrazione con LLM esterni (OpenAI, Anthropic, Mistral, Google Vertex, Amazon Bedrock, Azure OpenAI)
Funzionalità di memoria contestuale (Pensiero Profondo)
Moderazione automatica dei contenuti tramite sistemi AI
Importazione documenti con generazione automatica di Q&A tramite LLM
La ISO 42001 fornisce il framework per governare tutti questi componenti in modo responsabile.
Cosa garantisce concretamente
Governance e responsabilità dell'AI
La norma impone la definizione chiara di ruoli e responsabilità per i sistemi AI:
Memori (provider della piattaforma): responsabile dell'architettura AI, delle misure di sicurezza e della conformità normativa
Owner e Autori degli Agenti: responsabili della configurazione, del contenuto e dell'uso dell'Agente
Admin della piattaforma (nei modelli PaaS): responsabili della gestione degli utenti e del monitoraggio
Utenti finali: responsabili dell'uso consapevole e della segnalazione di comportamenti inappropriati
Valutazione del rischio AI
Memori valuta sistematicamente i rischi specifici dei propri sistemi AI:
Allucinazioni: le risposte dell'AI generativa possono essere errate. Misura di mitigazione: validazione umana delle risposte, flag visivo "AI generated", possibilità di disattivare la generativa
Privacy: l'invio di dati a provider LLM comporta rischi. Misura: policy di data retention documentate per ogni provider, DPA con tutti i sub-responsabili
Bias e discriminazione: il sistema NLP potrebbe avere bias linguistici. Misura: addestramento su corpus diversificati, calibrazione e testing delle soglie per ogni lingua supportata
Misuse: la piattaforma potrebbe essere usata per generare contenuti dannosi. Misura: sistema di moderazione automatica dei contenuti, flag NSFW per Agenti con contenuti sensibili
Trasparenza verso gli utenti
La ISO 42001 impone che gli utenti siano sempre consapevoli di interagire con un sistema AI:
Flag "AI generated": indicatore visivo per le risposte generate da AI generativa (opt-out disponibile)
Tooltip descrittivo multilingue: avviso sulla possibile non correttezza delle risposte generate
Identificazione esplicita: l'Agente può essere configurato per identificarsi come assistente AI
Alert provider: notifica automatica agli utenti quando i provider LLM segnalano problemi
Trasparenza del sistema NLP proprietario
Il sistema NLP proprietario di Memori è addestrato su corpus pubblici e documentato nelle sue caratteristiche fondamentali. La documentazione tecnica completa è disponibile su richiesta per le parti qualificate (es. auditor, autorità di vigilanza). Il sistema è classificabile come a basso impatto computazionale, ampiamente al di sotto delle soglie di rischio sistemico previste dall'AI Act.
Supervisione umana La norma impone che i sistemi AI non possano operare in modo completamente autonomo in contesti critici:
Le risposte generate da AI sono validabili e modificabili dagli autori degli Agenti
Il team di Memori supervisiona Manuela (Agente di supporto ufficiale) con cadenza periodica
I canali ccare@memori.ai e abuse@memori.ai sono monitorati entro 48 ore lavorative
Allineamento con l'AI Act europeo
La ISO 42001 è progettata per essere allineata con il Regolamento (UE) 2024/1689 (AI Act). Per AIsuru questo significa:
Classificazione del rischio dei sistemi AI utilizzati
Documentazione tecnica dei modelli AI impiegati
Obblighi di trasparenza verso gli utenti finali
Formazione del personale che utilizza sistemi AI (obbligatoria dal 2 febbraio 2025)
Ultimo aggiornamento
È stato utile?