Dott. Signoriello Vincenzo I valori etici e la capacità di governare l’ingresso delle tecnologie

Introduco quindi la seconda relazione il dottor Vincenzo Signoriello, nonché amico Vincenzo, che ci farà una relazione sui valori etici e la capacità di governare l'ingresso delle tecnologie innovative e quindi dei temi etici un altro tassello dentro il discorso della sostenibilità. Grazie Vincenzo.

Grazie a te Dino per l'introduzione, quando mi è stata affidata questa relazione naturalmente l'ho vista immediatamente come un'enorme sfida

perché naturalmente questo processo di innovazione tecnologica oramai è inarrestabile e da un lato naturalmente porta con sé tanti aspetti positivi

però vivendo comunque in un'epoca in cui ci sono delle trasformazioni profonde, dobbiamo anche fare un attimo un bilancio tra i vantaggi e i benefici che possono portare le nuove tecnologie nella pratica clinica e naturalmente le collegate e inevitabili conseguenze etiche.

queste innovazioni quindi sostanzialmente ci pongono davanti a degli interrogativi e quindi

in primis dobbiamo chiederci come possiamo assicurare alla cittadinanza che l'etica al

di là di tutto resti il pilastro fondamentale della nostra pratica al di là dell'avanzare

delle tecnologie e qualora questi aspetti possano essere in qualche modo minati, come i professionisti

della salute devono agire per bilanciare l'eventuale squilibrio che si può venire a creare tra etica

e tecnologia. E poi in ultimo ci dobbiamo chiedere effettivamente se siamo pronti, se siamo pronti

per governare delle tecnologie che oggi giorno vediamo che si stanno allontanando sempre di più

dalla gestione diretta dell'essere umano. Andiamo avanti nella relazione e iniziamo con definire

dei concetti. Allora, noi in quanto infermieri dobbiamo tenere presente che i valori etici che

il nostro codice dentologico ci fornisce devono essere la base sulla quale guidare la nostra

pratica infermieristica perché solo così naturalmente possiamo raggiungere il massimo

dell'identità professionale dell'infermiere e di conseguenza poter applicare i valori etici in

maniera corretta. Facciamo un attimo un riassunto di quali sono i valori etici contenuti nel codice

deontologico. Parliamo di rispetto della persona quindi nell'introduzione delle tecnologie dobbiamo

considerare che la persona è sempre il centro del nostro percorso di cura e di conseguenza

anche l'ingresso delle tecnologie deve essere commisurato e rispettoso dell'integrità della

persona. Naturalmente nel codice deontologico ricordiamoci che fa riferimento alla posizione

di protezione quindi noi come infermieri abbiamo il dovere etico nonché deontologico di dover

garantire al paziente che qualsiasi azione venga messa in pratica sia solo ed esclusivamente volta

al suo benessere e nonostante questo fare di tutto per evitare che le azioni dannose possano causare

un danno poi quando il codice odontologico fa riferimento a giustizia ed equità dobbiamo

immaginare che i processi tecnologici che introducono delle tecnologie altamente avanzate

tanto spesso specie nelle fasi iniziali non sono alla portata di tutti ruolo dell'infermiere in

questo caso è garantire che ad ogni paziente viene venga data la giusta tecnologia e con

i giusti criteri etici da un punto di vista di poi di autonomia professionale responsabilità

naturalmente è un cerchio che si chiude e quindi naturalmente andiamo a considerare che tutti

questi aspetti rientrano naturalmente nell'agire professionale a garanzia di una corretta

applicazione delle decisioni. Ovviamente da infermieri non dobbiamo dimenticare che la

relazione di cura e di fiducia è la base dell'agire infermieristico e quindi anche

che riconoscere il paziente come parte attiva del percorso di cura può aiutare nell'introduzione

delle nuove tecnologie e nell'implementazione di ulteriori e naturalmente anche per avere

da questo punto di vista un feedback in termini di obiettivi raggiunti. Naturalmente tutela

della salute e prevenzione, integrità e trasparenza, sviluppo professionale e formazione continua

rientrano comunque in quelle che sono le skills etiche che un infermiere deve tenere in

considerazione nel momento in cui deve partecipare ad un processo di valutazione di una tecnologia da

un punto di vista etico quindi a questo punto possiamo dire che i valori etici sono il

fondamento dell'agire professionale solo con la piena consapevolezza di questi valori è

è possibile coniugare le scienze infermieristiche con le tecnologie innovative lasciando comunque

una cura volta all'umanità delle cure. Le tecnologie innovative oggigiorno è difficile

definire quali sono perché oggi ne definiamo una domani ne nasce un'altra ma sostanzialmente

adesso mentre parliamo possiamo fare in qualche modo una panoramica su quelle che sono le

tecnologie innovative che attualmente il mondo della sanità sta affrontando.

E sono quelle che leggete sulle slide, quindi partiamo dall'intelligenza artificiale

che deve necessariamente essere un'integrazione, quindi un supporto del processo decisionale

dei professionisti della salute.

La telemedicina e la salute digitale naturalmente pongono tutta una serie di interrogativi

dovuti alla distanza, al non contatto, alla non relazione diretta col paziente

la robotica, se di per sé comunque attualmente accettata così com'è come tecnologia

però naturalmente pone le basi per in qualche modo prestarsi nel futuro

come tecnologia che possa essere sì robotica come la conosciamo adesso

ma magari invece di essere manovrata da un operatore

e si corre il rischio che ci possa essere un'intelligenza artificiale che muove i

bracci del robot. Stampa 3D, realtà virtuale aumentata, naturalmente vanno comunque integrati

in questo discorso, ma noi sostanzialmente nella in questa relazione cercheremo di tirare fuori

degli spunti di riflessione, perché naturalmente il mio intento non è darvi delle nozioni, perché

perché non è il mio compito, siamo dei colleghi che devono in qualche modo confrontarsi su queste tematiche

e porre i giusti interrogativi, ragionare e trovare innanzitutto quali possano essere le strategie giuste

per affrontare l'ingresso di una tecnologia a noi sconosciuta all'interno del contesto sanitario.

Quindi per fare questo introduciamo innanzitutto la definizione di rischio etico.

Si parla tanto di rischio clinico, sento parlare quasi zero di rischio etico, ma è chiaro che se parliamo di introduzione di nuove tecnologie abbiamo il dovere di confrontarci con questa realtà.

Perché naturalmente come il rischio clinico identifica quei fattori che possano arrecare un danno al paziente, naturalmente dobbiamo immaginare che anche le decisioni in termini di azioni o di omissioni da parte dei professionisti della salute o comunque delle istituzioni possono avere delle conseguenze negative sulla salute, sulla dignità o sulla fiducia dei pazienti.

La valutazione del rischio etico prevede un processo molto articolato che va oltre il semplice rispetto di requisiti legali perché mira di identificare i rischi che potrebbero danneggiare i pazienti e naturalmente mira poi a trovare le soluzioni che sono volte a mitigare il rischio, un po' come accade nella valutazione del rischio clinico.

Quindi nel percorso di valutazione del rischio clinico iniziamo prima con l'introduzione del concetto di lente morale.

Naturalmente dobbiamo immaginare che l'etica non è una scienza che mira a dettare dei comportamenti che possano essere universali,

perché dobbiamo considerare che nell'ambito della valutazione di un processo etico

spesso è necessario porre dei giudizi soggettivi

perché magari non ci sono dei fondamenti scientifici o comunque normativi

che possano supportare in quel momento quella determinata fattispecie

e poi chiaramente dobbiamo fare il conto con l'effetto del relativismo culturale

perché naturalmente le culture sono diverse nel mondo e quindi ciò che potrebbe essere totalmente normale in una società

può essere chiaramente disapprovato e magari anche fermamente in un'altra.

Nell'identificazione e analisi dei rischi dobbiamo innanzitutto identificare quali sono gli stakeholder connessi allo scenario che andremo a creare

perché poi il passaggio successivo è creare degli scenari ipotetici e naturalmente valutare la gravità delle conseguenze in caso di violazioni etiche.

Una volta fatto questo l'aspetto successivo e immediatamente necessario è trovare delle strategie di mitigazione del rischio etico perché come accade nei processi decisionari del rischio clinico non è possibile trovare dei meccanismi che in qualche modo eliminano totalmente il rischio.

Quindi noi possiamo darci come obiettivo la ricerca e la stesura di strategie che possano quanto più vicino portare il rischio allo zero.

Quindi possiamo parlare di codici di condotta, quindi sviluppare codici di condotta che delineano il comportamento dei professionisti sanitari in maniera chiara e naturalmente prevista con tutta una serie di lavori che sono stati fatti prima dal punto di vista di costruzione dello scenario e conseguentemente valutazione dei danni che potrebbero venire dalla disattenzione dal punto di vista etico.

chiaramente dopo un processo di valutazione rischio etico risulta essere necessario valutare se la

formazione possa essere uno degli strumenti che possano migliorare la consapevolezza dei

professionisti sanitari nell'affrontare problematiche connesse al processo analizzato

poi voglio lasciare un messaggio da questo punto di vista sui meccanismi di segnalazione

perché naturalmente ancora oggi noi segnaliamo poco

io invito ad utilizzare i meccanismi di segnalazione naturalmente con i dovuti limiti

senza ricorrere nell'abuso di segnalazioni

Però è chiaro che oggigiorno noi possiamo costruire una professione migliore, una salita migliore solo se siamo onesti tra di noi e ci segnaliamo chiaramente le problematiche.

perché fin quando andiamo ad analizzare dei concetti, delle condizioni, senza numeri, senza certezze,

naturalmente non possiamo mai arrivare a trovare delle soluzioni che possano essere risolutive del problema.

Chiaramente lì dove non esistono, incentivare l'istituzione dei comitati etici,

o comunque sostenere i comitati etici nel loro lavoro e poi chiaramente c'è questo discorso anche di valutare se è necessario legare la performance etica

agli incentivi legati alla performance individuale. Naturalmente è un processo importante che richiede anche una regolamentazione importante a livello locale,

quindi aziendale, però naturalmente questi sono i meccanismi, le strategie di mitigazione

che il processo di valutazione del rischio etico in qualche modo ci segnala e ci fornisce come strumenti.

Ritornando alle tecnologie innovative, da questo momento in poi ci concentreremo un attimino di più

sull'intelligenza artificiale.

Iniziamo col dire che il dibattito sulla necessità di introdurre l'etica nella gestione dell'intelligenza artificiale

non è un qualcosa che nasce nel 2024

Già dagli anni 60 si parlava di intelligenza artificiale

perché comunque nasce con la macchina che costruì Alan Turing durante la seconda guerra mondiale

il concetto di intelligenza artificiale, però naturalmente ci si domandava negli anni 60 se in futuro questa intelligenza artificiale sarebbe potuta diventare forte e quindi forse magari nel futuro già si immaginava che avrebbe potuto simulare l'intelligenza umana e da qui la necessità di valutare se l'etica avrebbe dovuto fare qualcosa da questo punto di vista.

A questo punto, in epoca moderna, nasce l'esigenza di definire l'etica degli algoritmi,

cioè porre dei limiti o definire le opportunità delle tecnologie che si basano sulle applicazioni di algoritmi

e di conseguenza nasce quindi l'algoretica.

Questo termine è stato coniato da padre Paolo Benanti, che è il consigliere di Papa Francesco per l'intelligenza artificiale

e definisce questo termine come lo studio e l'applicazione dei principi etici

mirati alla progettazione e l'implementazione e l'uso degli algoritmi applicati all'intelligenza artificiale

e all'interno di questo concetto individua chiaramente anche i principi e i criteri che scongiurino la cosiddetta algocrazia

Perché il rischio, naturalmente, è che quanto più le macchine vengono resi indipendenti dagli uomini, più è importante definire i limiti all'interno dei quali queste macchine devono muoversi.

Tant'è vero che Paolo Benanti ha paragonato efficacemente l'algoretica a un guardrail essenziale a qualsiasi macchina algoritmica in corsa per non andare fuori strada.

Vediamo un caso di quando le macchine algoritmiche vanno fuori strada.

Credo che sia oramai di dominio comune questo articolo, perché è quasi su tutti i giornali,

l'intelligenza artificiale di Google recentemente ha invitato un utente a morire.

Fatto assolutamente grave dal momento in cui questo utente semplicemente stava usando

l'intelligenza artificiale per svolgere delle ricerche, dei capitoli di tesi, delle risposte

a domande a risposta multipla, d'improvviso la follia tecnologica esce fuori questa risposta.

Questa risposta praticamente dentro contiene, la potete leggere, contiene tutta una serie

di offese, di discriminazioni, di frasi che mirano all'emarginazione e alla fine conclude con

per favore muori, per favore. Una cosa assolutamente grave. Si racconta ed è stato dichiarato

sui giornali statunitensi che la sorella di questo utente, come prima reazione che ha avuto,

voleva lanciare dalla finestra tutti i dispositivi tecnologici

perché il primo momento era uno smarrimento totale

perché ha dichiarato di

in pratica ha dato l'impressione come se

da quel lato c'era un essere umano

che rispondeva e minacciava il suo fratellino

la risposta di Google qual è stata?

semplice semplice

i large language models possono talvolta dare risposte senza senso

e questo ne è un esempio

questa risposta ha violato le nostre politiche

e abbiamo preso provvedimenti per evitare che si verificano output simili

come se niente fosse accaduto

quindi possiamo immaginare che comunque è necessario

da un punto di vista globale definire dei limiti

all'interno dei quali questi algoritmi devono lavorare

A livello europeo nel 2023 è stato votato al Parlamento l'AI Act, è una legge che mira a garantire che i sistemi di intelligenza artificiale siano supervisionati dalle persone innanzitutto, siano sicuri, trasparenti, tracciabili, non discriminatori e rispettosi dell'ambiente.

In particolar modo fa una stratificazione del rischio, partendo dal basso, in verde vediamo rischio minimo nullo che non necessitano di permessi particolari, vediamo poi successivamente, quindi rischio minimo nullo parliamo dell'intelligenza artificiale che sostiene l'uso di videogiochi o i sistemi antispam dei nostri computer,

quindi non hanno obblighi particolari ma comunque naturalmente all'interno della loro diffusione

devono rispettare un codice di condotto il rischio limitato è relativo a per esempio

l'intelligenza artificiale di google che abbiamo visto prima o comunque chat e gpt e tutti gli

altri chat bot perché naturalmente il testo dice che al di là del permesso che viene viene emesso

senza particolari obblighi soltanto però che deve mantenere gli obblighi di trasparenza informazione

ovvero l'utente mentre usa il chat bot al deve sempre avere chiaro che dall'altro lato chi

risponde non è un essere umano questi sono i limiti imposti per questo tipo di tecnologia

poi chiaramente abbiamo di delle tecnologie sostenute dall'intelligenza artificiale che

che hanno un rischio elevato. Parliamo di sistemi di credit scoring, per esempio non so se qualcuno

si è imbattuto in una delle ultime follie cinesi, il governo cinese attribuisce mille punti ad ogni

cittadino e questi punti poi possono aumentare o diminuire a seconda se si compiono buone azioni

o cattive azioni. Naturalmente la follia non sta nel discorso delle buone azioni o cattive azioni,

ci mancherebbe altro, però il discorso è che non è possibile collegare l'andamento della vita personale quotidiana

con un punteggio analitico vero e proprio che poi ha come finalità, in caso positivo,

di scalare velocemente la scala gerarchica anche da un punto di vista lavorativo,

avere la possibilità di mettere facilmente i bimbi in una determinata scuola,

oppure in caso negativo addirittura si arriva alla vergogna pubblica

alla possibilità di vedersi negati una prenotazione per voli o treni

quindi parliamo di follia assoluta

chiaramente da un punto di vista di rischio elevato

rientrano anche tutti quei sistemi che praticamente vanno ad analizzare

quello che è il curriculum che fanno selezione del personale

Ma quello che ci interessa di più a noi è naturalmente quello che può essere, come dicevo prima, la chirurgia assistita dall'intelligenza artificiale applicata alla robotica, perché naturalmente si rende necessario, probabilmente si rende necessario, perché gli studi fatti dall'Unione Europea hanno già intercettato questa tipologia di tecnologia che si sta sviluppando.

naturalmente andiamo poi a quello che è legato ai rischi inaccettabili

che sono legati al condizionamento psicologico

ai messaggi pubblicitari che possono essere rivolti ai bambini

e che quelli sono assolutamente vietati

da un punto di vista globale invece

nel recente luglio 2024

i 16 leader delle religioni di tutto il mondo

hanno sottoscritto un accordo

Rome Call for Ethics è un documento che promuove i principi etici che dovrebbero guidare l'intelligenza artificiale da questo momento in poi.

e questi principi etici naturalmente devono necessariamente essere argomento condiviso

sul versante laico e religioso ponendosi a questo punto come concetti universalistici questi

concetti quali sono parliamo di trasparenza intesa come la comprensibilità dell'intelligenza

artificiale per tutti perché dobbiamo immaginare che la popolazione naturalmente ha una grossa

diversificazione all'accesso all'intelligenza artificiale non ci devono essere discriminazioni

quindi bisogna andare a mirare verso una intelligenza artificiale inclusiva naturalmente

la responsabilità di ciò che fa la macchina deve essere chiara cioè nel senso che quali sono i

processi che governano la macchina quali sono i limiti che non dovrebbe superare la macchina

e i limiti che non dovrebbe superare la macchina da chi sono garantiti perché comunque come dicevamo

all'inizio anche in questo documento si rende necessario che l'intelligenza artificiale sia

comunque in ogni caso governata dagli esseri umani naturalmente l'imparzialità fa riferimento come

come per esempio nel caso nostro, all'influenzare eventualmente la capacità di giudizio, perché

immaginiamo che l'intelligenza artificiale introdotta nella pratica sanitaria in genere

che possa supportare i giudizi in termini per esempio di elaborazioni di diagnosi, di

elaborazioni di piani assistenziali come noi, dobbiamo immaginare che però questa intelligenza

artificiale non debba essere così impattante a tal punto da annullare il giudizio umano e

sostituirlo con il giudizio informatico. Naturalmente questi sistemi devono garantire

un livello di affidabilità chiaro a tutti e chiaramente in questo documento non poteva

mancare la necessità di garantire l'integrità della sfera individuale attraverso la sicurezza

e la privacy. Concludo dicendo che l'ingresso delle tecnologie innovative nei servizi sanitari

nazionali di tutto il globo risulta comunque un processo che è inevitabile, è utile, ma

naturalmente va governato, va governato come il titolo di questa relazione e chiaramente

come possiamo farlo? Mediante un approccio metodologico che tenga conto del rischio etico,

delle normative vigenti in materia e naturalmente anche dall'accordo siglato a livello globale

dalle 16 religioni. E chiaramente tutto questo serve per fare cosa? Naturalmente per garantire

che queste tecnologie avanzate possano essere introdotte nei sistemi sanitari, valorizzando

però la deontologia professionale come uno strumento di salvaguardia dei diritti dei

cittadini. Grazie per l'attenzione. Complimenti al collega perché ha fatto una relazione veramente

esaustiva e completa cominciando dal livello e dall'ambito sanitario per poi andare addirittura

a livello globale è molto importante non tenere presenti quali sono appunto gli aspetti globali

e le decisioni che vengono prese a livello mondiale perché questo è un grande dibattito

quello delle tecnologie, dell'innovazione tecnologica ed è giusto che venga comunque calato all'interno del nostro ambito anche perché mi è piaciuta molto la similitudine che hai fatto rispetto all'identificazione del rischio che è una cosa che la cultura della sicurezza è una cosa che in sanità si fa da anni e anni.

E la cultura dell'etica dovrebbe essere una cosa implementata adesso più che mai, visto quelle che sono le scelte che siamo chiamati a fare a ogni momento. Ti ringrazio moltissimo.

Grazie a voi.