Nel presente contributo si analizzerà un’interessante sentenza del Consiglio di Stato emessa in data 25 novembre 2021 (n. 7891), la quale si sofferma sulla definizione ancora incerta dei concetti di algoritmo e intelligenza artificiale.
La pronuncia si colloca al termine del secondo grado di giudizio in riforma del provvedimento emesso in primo grado dal TAR Lombardia, riguardante la valutazione dell’offerta tecnica in una gara d’appalto avente ad oggetto la fornitura di pacemaker agli enti sanitari lombardi.
Nella lettera di invito e nel capitolato tecnico si faceva riferimento, tra i vari criteri di valutazione dell’offerta, al parametro “algoritmo di prevenzione + algoritmo di trattamento delle tachiaritmie atriali” a cui attribuire 15 punti, 7 punti nel caso di algoritmo di sola prevenzione o di solo trattamento.
La gara veniva aggiudicata alla società M.; in seguito a ciò, la seconda classificata, società A, riteneva di essere stata penalizzata nell’attribuzione del punteggio poiché, a detta di questa, la presenza di un algoritmo informatico doveva essere considerata compatibile con l’input umano. Inoltre, si faceva notare come nella lex gara non vi fosse una specificazione circa il carattere automatico dell’algoritmo e, per tale ragione, dovesse prevalere l’interpretazione letterale e, quindi, più ampia al fine di consentire la partecipazione del maggior numero di società.
Dunque, la società de qua impugnava l’aggiudicazione dinanzi al TAR Lombardia che accoglieva il ricorso principale effettuando una serie di considerazioni sulla controversa distinzione tra algoritmo e intelligenza artificiale.
Nello specifico, venivano elaborate le seguenti definizioni:
- Algoritmo: sequenza finita di istruzioni, ben definite e non ambigue, così da poter essere eseguite meccanicamente e tali da produrre un determinato risultato (come risolvere un problema oppure eseguire un calcolo e, nel caso di specie, trattare un’aritmia);
- Intelligenza artificiale: riconducibile, invece, allo studio di “agenti intelligenti”, vale a dire allo studio di sistemi che percepiscono ciò che li circonda e intraprendono azioni che massimizzano la probabilità di ottenere con successo gli obiettivi prefissati. Sono tali, ad esempio, quelli che interagiscono con l’ambiente circostante o con le persone, che apprendono dall’esperienza (machine learning), che elaborano il linguaggio naturale oppure che riconoscono volti e movimenti.
Inoltre, il giudice di primo grado affermava che l’algoritmo di trattamento dell’aritmia fosse costituito dall’insieme di passaggi (e, segnatamente, di stimoli creati dal pacemaker secondo istruzioni predefinite) necessari al trattamento del singolo tipo di aritmia. Questo concetto non includeva che il dispositivo dovesse essere in grado di riconoscere in automatico il tipo di aritmia e somministrare la corretta terapia meccanica (trattamento).
In altre parole, il dato testuale della lettera di invito non richiedeva che l’algoritmo di trattamento, al verificarsi dell’episodio aritmico, fosse avviato dal dispositivo medesimo in automatico. Tale caratteristica atteneva ad una componente ulteriore, non indicata nella lex gara, vale a dire ad un algoritmo di intelligenza artificiale nella diagnosi dell’aritmia e nell’avvio del trattamento.
La società aggiudicataria M. impugnava la sentenza del TAR Lombardia dinanzi al Consiglio di Stato.
I giudici di Palazzo Spada, dopo aver accolto la richiesta cautelare avanzata dall’appellante di sospensione della sentenza di primo grado, hanno ritenuto meritevole di approfondimento la questione della «perimetrazione tecnica della nozione di “algoritmo di trattamento” riferita ad un pacemaker di alta fascia».
La Sezione Terza in sede giurisdizionale, infatti, ha preliminarmente ribadito la regola sull’interpretazione letterale degli atti amministrativi (ivi incluso il bando di gara) come previsto dall’art. 1362 c.c. per ciò che concerne l’interpretazione generale del contratto.
In particolare, oggetto della discussione non è stata la clausola di partecipazione, bensì la regola di attribuzione del punteggio in base a specifiche esigenze della pubblica amministrazione. Quest’ultima, come si evinceva dal bando, prediligeva strumenti avanzati di alta fascia andando a superare di fatto la nozione tradizionale di algoritmo.
In tal sede, a differenza del primo grado di giudizio, emergeva una nozione moderna di algoritmo. La nozione di algoritmo, a detta del collegio giudicante, quando è applicata a sistemi tecnologici, è ineludibilmente collegata al concetto di automazione ossia a sistemi di azione e controllo idonei a ridurre l’intervento umano.
Cosa diversa resta l’intelligenza artificiale. In relazione a questa, l’algoritmo contempla meccanismi di machine learning e crea un sistema che non si limita solo ad applicare le regole software e i parametri preimpostati (come fa invece l’algoritmo “tradizionale”) ma, al contrario, elabora costantemente nuovi criteri di inferenza tra dati e assume decisioni efficienti sulla base di tali elaborazioni, secondo un processo di apprendimento automatico.
Inoltre, alla luce delle suddette considerazioni, il test NIPS (“Non invasive program stimulation”) offerto dalla società A. non rientrerebbe neppure nella nozione di algoritmo ma costituirebbe un semplice test elettrofisiologico, stante il collegamento del pacemaker con una strumentazione esterna sotto il controllo dal personale medico.
In conclusione, la pronuncia in analisi ha messo in evidenza la difficoltà, nell’ambito delle nuove tecnologie, di delineare confini definitori certi in riferimento a concetti come algoritmo e intelligenza artificiale, sfuggenti in re ipsa. Tuttavia, si ritiene auspicabile uno sforzo in tal senso affinché l’avvento di nuovi strumenti avanzati non comprometta in alcun modo la tutela di diritti fondamentali.