Decidere con l’AI

L’importanza della progettazione user-centered

1. Oggi si parla molto di AI e della rivoluzione che in particolare l’apprendimento automatico può apportare al nostro modo di lavorare e di prendere decisioni. Ma qual è il ruolo dell’AI nel decision-making organizzativo?

L’avvento dell’AI, specialmente del machine learning, ha comportato una trasformazione significativa nei processi decisionali delle organizzazioni, assumendo gradualmente responsabilità tradizionalmente affidate all’uomo.

L’utilizzo dei cosiddetti Decision-Support Systems basati su AI è ormai diffuso in vari ambiti, tra cui finanza, banca, sanità, giustizia e gestione delle risorse umane, con il fine di sostituire o supportare il decision-making umano a diversi livelli e con diversi scopi a seconda del compito e del contesto di riferimento. Tendenzialmente, per compiti di routine e ben strutturati, l’AI viene integrata con un approccio di automation, volto alla sostituzione dell’attività umana, mentre per compiti più complessi si predilige un approccio di supporto o di augmentation.

All’interno delle organizzazioni, l’AI, grazie alla sua capacità di elaborare grandi volumi di dati e di analizzarli rapidamente, può essere impiegata per assistere il management in varie attività, come la pianificazione delle operazioni, il monitoraggio delle prestazioni, la selezione dei candidati, la gestione della clientela o l’individuazione di percorsi di formazione e sviluppo.

2. È facile delegare la propria responsabilità e affidarsi a sistemi di AI di fronte ad attività umane complesse?

Nonostante i comprovati vantaggi che l’AI può offrire nell’ambito del decision-making, la sua accettazione rimane effettivamente una questione controversa poiché gli individui risultano ancora nettamente sbilanciati verso lo human primacy.

Questa resistenza all’utilizzo di AI può essere attribuita a vari ostacoli, inclusi fattori psicologici come il desiderio di controllo o l’eccessiva fiducia in sé stessi, fattori organizzativi come il livello di trasformazione digitale o la prontezza organizzativa, ma anche la soddisfazione percepita nell’utilizzo di questi sistemi e altre questioni legate alla fiducia.

Proprio per questo, nella progettazione di questi sistemi è necessario tenere in considerazione fattori ostacolanti e potenziali barriere percepite dagli utenti che potrebbero limitare l’accettazione dell’AI.

3. Qual è la chiave di volta per affrontare la sfida dell’accettazione dell’AI?

Per affrontare la sfida dell’accettazione dell’AI, è essenziale adottare un approccio progettuale user-centered.

Mentre le precedenti ricerche sull’interazione uomo-macchina si sono concentrate principalmente sull’aspetto esterno dell’esperienza utente – come la progettazione dell’interfaccia e l’usabilità – è fondamentale riconoscere che anche i processi interni delle tecnologie AI devono essere progettati secondo una prospettiva human-centered.

In effetti, il contesto in cui vengono impiegati i sistemi AI, le azioni pratiche coinvolte e le circostanze, insieme alle attitudini umane verso gli agenti artificiali, influenzano notevolmente l’efficacia e l’accettazione di tali strumenti.

Pertanto, diventa cruciale superare una prospettiva puramente tecnica e considerare anche gli aspetti sociali e contestuali dell’integrazione tecnologica. Questa operazione richiede l’analisi e la modellizzazione dei processi decisionali umani come passo progettuale preliminare allo sviluppo dei criteri guida per il funzionamento di Decision-Support Systems basati su AI.

4. Come si costruisce fiducia su un servizio integrato all’AI?

Innanzitutto, è necessario sottolineare che la fiducia nei sistemi basati sull’AI è fortemente connessa all’affidabilità complessiva dell’intero servizio in cui l’AI è inserita, in quanto gli utenti vivono il servizio nel suo complesso, valutandone l’efficacia nel raggiungimento dei loro obiettivi e delle loro specifiche esigenze.

Secondo questa prospettiva, l’AI è integrata come componente all’interno del servizio, fornendo funzionalità che assistono e potenziano determinati aspetti dell’attività umana.

Il servizio, nella sua globalità, comprende attività interdipendenti e decisioni tra più attori, negoziazioni, scambi comunicativi e passaggi che non sono esclusivamente mediati dalla tecnologia bensì mediati dalle relazioni umane. Risulta fondamentale la sua progettazione e definizione, in quanto passaggi necessari per il funzionamento del servizio, la soddisfazione dell’utenza ed il conseguente successo del servizio.

Per questo motivo, costruire fiducia nei sistemi basati sull’AI richiede un approccio olistico che consideri l’intero ecosistema in cui il servizio è inserito e la sua capacità di soddisfare efficacemente le esigenze degli utenti.

5. Come si fa nel concreto a progettare un servizio AI-based che efficacemente soddisfi le esigenze di molteplici utenti?

In primo luogo, bisogna considerare che una delle più grandi sfide della progettazione di servizi, che siano basati su AI o meno, riguarda proprio la creazione di un ponte tra le esigenze di chi commissiona il servizio, l’organizzazione provider, ed i bisogni di chi lo utilizzerà, gli utenti, che a loro volta possono appartenere a molteplici target, da ingaggiare e supportare in modi spesso differenti.

A tal proposito, negli studi che ho portato avanti in questo settore, sotto la supervisione della Prof.ssa Alessandra Talamo (responsabile del Laboratorio IDEaCT Social Lab di Sapienza, Università di Roma), proponiamo l’impiego di metodologie di ricerca prevalentemente qualitative (come il Service Design Thinking) – che offrono una prospettiva maggiormente dettagliata ed approfondita – ed una specifica sequenza di attività volte a raccogliere, modellizzare e combinare gli insights ed i modelli decisionali che emergono dalla ricerca utenti con quelli interni dell’organizzazione provider.

Ti interessa il tema e vuoi scoprire di più su questa metodologia?

Ti invitiamo a leggere l’articolo scientifico, linkato qui di seguito: https://www.frontiersin.org/articles/10.3389/frai.2024.1303691/full

In questo articolo viene descritta la ricerca condotta in collaborazione tra R&D Mylia e la Dott.ssa Marocco durante il suo progetto di Dottorato, per la progettazione del servizio AHEDA, un DSS Multi-Attore basato su AI, ideato da Mylia, per l’identificazione di percorsi di sviluppo destinati a professionals.

Facci sapere che ne pensi!