Metodologie e tecniche avanzate per il controllo della qualità del software di Intelligenza Artificiale

Alessandro Barducci, Technical Leader - Citel Group

Con la regolamentazione proposta dalla Commissione Europea, la presenza di errori o bias nei moderni software di AI, oltre ai danni usuali al business in termini economici e di immagine, può anche comportare sanzioni severe. Le nuove regole dovrebbero diventare operative nel prossimo biennio, ed è quindi assolutamente prioritario per le imprese adottare software di AI che soddisfi i requisiti della suddetta regolamentazione, oltre a verificare la conformità del software già esistente.

Il controllo di qualità di questi software presenta quindi aspetti e problematiche assolutamente nuovi e peculiari rispetto a qualsiasi altra area di produzione del software.

Le tradizionali tecniche di prevenzione, individuazione e correzione degli errori, per quanto indispensabili, sono pertanto del tutto insufficienti a garantire la conformità del software rispetto al nuovo quadro normativo.

L’AI dovrà quindi vigilare l’AI: si rende infatti necessario l’impiego di strumenti innovativi che permettano da un lato di garantire ove possibile la conformità by design, e dall’altro l’integrazione di questi strumenti con metodologie di Machine Learning e di AI che permettano di testare e validare la correttezza del software per mezzo di un processo guidato di apprendimento.

Citel Group ha affrontato queste problematiche e sviluppato algoritmi di ML e di AI che vengono impiegati dalla nostra Testing Factory per verificare la correttezza dei sw di AI – sia propri che di terzi – riducendo al minimo il rischio di errori e di non conformità.