> For the complete documentation index, see [llms.txt](https://trust.memori.ai/llms.txt). Markdown versions of documentation pages are available by appending `.md` to page URLs; this page is available as [Markdown](https://trust.memori.ai/certificazioni/panoramica-certificazioni/certificazioni-iso/certificato-iso-42001-2023.md). # Certificato ISO 42001:2023 Il primo standard internazionale dedicato alla governance dell'AI — che garantisce che AIsuru sia sviluppato e gestito in modo responsabile, trasparente e conforme all'AI Act europeo. #### Cos'è La ISO/IEC 42001:2023 è il **primo standard internazionale** specificamente dedicato ai Sistemi di Gestione dell'Intelligenza Artificiale. Richiede alle organizzazioni che sviluppano o utilizzano sistemi AI di definire policy, ruoli, processi di valutazione del rischio e misure di mitigazione specifici per l'intelligenza artificiale. *** #### Perché è fondamentale per AIsuru AIsuru è una piattaforma AI che integra componenti di intelligenza artificiale a più livelli: * NLP proprietario addestrato internamente su corpus pubblici (italiano, inglese, francese) * Integrazione con LLM esterni (OpenAI, Anthropic, Mistral, Google Vertex, Amazon Bedrock, Azure OpenAI) * Funzionalità di memoria contestuale (Pensiero Profondo) * Moderazione automatica dei contenuti tramite sistemi AI * Importazione documenti con generazione automatica di Q\&A tramite LLM La ISO 42001 fornisce il framework per governare tutti questi componenti in modo responsabile. *** #### Cosa garantisce concretamente **Governance e responsabilità dell'AI** La norma impone la definizione chiara di **ruoli e responsabilità** per i sistemi AI: * **Memori (provider della piattaforma)**: responsabile dell'architettura AI, delle misure di sicurezza e della conformità normativa * **Owner e Autori degli Agenti**: responsabili della configurazione, del contenuto e dell'uso dell'Agente * **Admin della piattaforma** (nei modelli PaaS): responsabili della gestione degli utenti e del monitoraggio * **Utenti finali**: responsabili dell'uso consapevole e della segnalazione di comportamenti inappropriati **Valutazione del rischio AI** Memori valuta sistematicamente i rischi specifici dei propri sistemi AI: * **Allucinazioni**: le risposte dell'AI generativa possono essere errate. Misura di mitigazione: validazione umana delle risposte, flag visivo "AI generated", possibilità di disattivare la generativa * **Privacy**: l'invio di dati a provider LLM comporta rischi. Misura: policy di data retention documentate per ogni provider, DPA con tutti i sub-responsabili * **Bias e discriminazione**: il sistema NLP potrebbe avere bias linguistici. Misura: addestramento su corpus diversificati, calibrazione e testing delle soglie per ogni lingua supportata * **Misuse**: la piattaforma potrebbe essere usata per generare contenuti dannosi. Misura: sistema di moderazione automatica dei contenuti, flag NSFW per Agenti con contenuti sensibili **Trasparenza verso gli utenti** La ISO 42001 impone che gli utenti siano sempre consapevoli di interagire con un sistema AI: * **Flag "AI generated"**: indicatore visivo per le risposte generate da AI generativa (opt-out disponibile) * **Tooltip descrittivo multilingue**: avviso sulla possibile non correttezza delle risposte generate * **Identificazione esplicita**: l'Agente può essere configurato per identificarsi come assistente AI * **Alert provider**: notifica automatica agli utenti quando i provider LLM segnalano problemi **Trasparenza del sistema NLP proprietario** Il sistema NLP proprietario di Memori è addestrato su corpus pubblici e documentato nelle sue caratteristiche fondamentali. La documentazione tecnica completa è disponibile su richiesta per le parti qualificate (es. auditor, autorità di vigilanza). Il sistema è classificabile come a basso impatto computazionale, ampiamente al di sotto delle soglie di rischio sistemico previste dall'AI Act. **Supervisione umana** La norma impone che i sistemi AI non possano operare in modo completamente autonomo in contesti critici: * Le risposte generate da AI sono validabili e modificabili dagli autori degli Agenti * Il team di Memori supervisiona Manuela (Agente di supporto ufficiale) con cadenza periodica * I canali [**ccare@memori.ai**](mailto:ccare@memori.ai) e [**abuse@memori.ai**](mailto:abuse@memori.ai) sono monitorati entro 48 ore lavorative **Allineamento con l'AI Act europeo** La ISO 42001 è progettata per essere allineata con il **Regolamento (UE) 2024/1689 (AI Act)**. Per AIsuru questo significa: * Classificazione del rischio dei sistemi AI utilizzati * Documentazione tecnica dei modelli AI impiegati * Obblighi di trasparenza verso gli utenti finali * Formazione del personale che utilizza sistemi AI (obbligatoria dal 2 febbraio 2025) *** {% file src="/files/7DmN0TwNFwPFHaHkNfv0" %}