10 principi di buon design all’epoca delle Intelligenze Artificiali

Agli inizi degli anni ’60 del secolo scorso, Arthur C. Clarke, il geniale autore di "2001: Odissea nello Spazio" (il romanzo) scrisse il saggio "Hazards of Prophecy: the failure of Imagination", nel quale sono enunciate le cosiddette Tre Leggi di Clarke, l’ultima di queste è la più famosa.

Questa frase descrive in pieno la meraviglia che ci coglie davanti alla tecnologia contemporanea: permette cose incredibili, spinge costantemente in avanti la linea della frontiera e offre opportunità inedite agli esseri umani, intesi sia come singoli sia nelle loro forme aggregate.

L’analogia con la magia deriva dal fatto che è in gran parte sconosciuta e quindi percepita come misteriosa, distante, forse pericolosa. E il senso di disagio aumenta quando prendiamo in considerazione le Intelligenze Artificiali: pensano più velocemente di noi, forniscono soluzioni più velocemente e potrebbero sostituirci.

Ma la tecnologia in sé non è ne buona ne cattiva, è semplicemente uno strumento che le persone utilizzano per raggiungere i propri scopi.

Interpretazione, responsabilità ed etica

Se è vero che la tecnologia è tanto vantaggiosa e, allo stesso tempo, così aliena, allora ci vuole qualcuno in grado di decodificarla in modo che le persone ne possano trarre beneficio. Ed ecco qual è il ruolo del design, quello di interprete in forma e funzione:

Ma l’atto dell’interpretazione non è neutro, al contrario è orientato in base ai valori. In altre parole, il design influenza l’uso che verrà fatto della tecnologia e questo pone i progettisti di fronte ad un dilemma di natura etica e morale, li carica di una responsabilità e spalanca le porte al tema di che cosa sia il buon design.

(In Sketchin siamo particolarmente sensibili al tema tanto da aver posto la responsabilità alla base dei nostri valori fondamentali).

Torniamo di nuovo indietro nel tempo e nuovamente negli anni 60 del secolo scorso, stavolta andiamo in Germania, nel dipartimento di Product Design della Braun dove un rutilante Dieter Rams enunciò i 10 principi che definiscono il buon design.

In Sketchin ci siamo posti la domanda: In un contesto come quello in cui viviamo, popolato anche da intelligenze a base di silicio, questi principi restano validi? In gran parte sì, ma due di questi ci sembrano non reggere alla prova del tempo: in particolare il quarto e il quinto.

Complessità e trasparenza

4. “Good design makes a product understandable”

Il design tende a mascherare la complessità della tecnologia per offrire prodotti e servizi facilmente comprensibili e adottabili. Ed è fondamentale perché libera gli utenti dalla necessità di comprendere quanto non è loro necessario sapere e amplia le loro possibilità di azione.

Ma non sempre questo è bene: un’eccessiva semplificazione si può tradurre in una perdita di controllo da parte della persone sugli effetti dei propri comportamenti. Pensiamo allo scandalo di Cambridge Analytica sul traffico dei dati personali raccolti attraverso facebook e utilizzati per condizionare il voto durante le elezioni statunitensi o durante la Brexit. Oppure, ancora, semplificare all’estremo potrebbe impedire l’utilizzo di prodotti e servizi a larghe fette della popolazione, quelle ad esempio meno avvezze alla tecnologie contemporanee, o meno scolarizzate.

L’attenzione dovrebbe spostarsi dal prodotto o servizio in sé agli effetti del suo utilizzo. Per esempio, io, come utente, dovrei essere consapevole che le preferenze alimentari — per fare un esempio innocente — che condivido in un’app di ricette possono essere utilizzate per profilarmi e magari consigliarmi alcuni ristoranti che mi potrebbero piacere.

E le persone dovrebbero essere messe in condizione di conoscerne, e in una certa misura di controllare, gli usi e gli effetti.

Il quarto principio di Rams andrebbe quindi riformulato così:

Proattività e fiducia

5. “Good design is unobtrusive”

Le tecnologie contemporanee sono proattive, usano l’enorme potere computazionale e di inferenza dei propri algoritmi per analizzare dati e suggerire soluzioni, come il modo più razionale di allocare i propri risparmi o la strada più veloce da fare per evitare il traffico dell’ora di punta. Ma è anche vero che possono imporsi sui comportamenti delle persone e sostituirsi alle loro scelte: per esempio gli aggregatori delle notizie mostrano solo le informazioni sulla base delle preferenze degli utenti, oppure guidare la scelta di una marca di autoveicoli rispetto ad altre.

La questione scottante, in questo caso, è potersi fidare degli strumenti che usiamo, che non siano delle trappole o degli specchi deformanti che riducono il nostro spazio decisionale o distorcano i nostri giudizi sulla realtà, magari a nostro danno e vantaggio di altri portatori di interessi. .

Il buon design dovrebbe quindi impedire l’uso perverso della proattività della più recente tecnologia e delle AI in particolare. E i progettisti dovrebbero difendere e promuovere i diritti degli esseri umani.

Ecco, a nostro parere, come dovrebbe essere il quinto principio di Rams declinato per la contemporaneità.

Il design, il problema dell’inclusione e le norme

Le tecnologie possono essere alla base di nuove discriminazioni sociali tra chi ha accesso ai servizi tecnologici e chi no: se posso aprire un conto in banca solo attraverso un’interfaccia vocale, e io non so come usarla o non ho gli strumenti, allora mi è preclusa una possibilità, per non parlare delle possibili distorsioni legate al voto elettronico per esempio.

La questione dell’inclusione e dell’accesso a informazioni e servizi è un tema scottante in ogni agenda politica ed è un problema complesso, dalle moltissime sfaccettature e dalle infinite implicazioni. Tanto più rilevante quanto più si affacciano alla nostra attenzione fenomeni come l’analfabetismo funzionale, la crisi della democrazia liberale e le seduzioni del populismo.

Sappiamo che questi sono temi enormi e di certo non è il design la soluzione, ma è anche vero che l’atto progettuale non può rimanere indifferente agli effetti che gli artefatti producono.

Crediamo che il design abbia allora un compito importante: favorire le condizioni perché gli esseri umani possano fidarsi della tecnologia e dare forma alla relazioni tra queste due entità così da diventare un ulteriore elemento per favorire la fiducia tra l’uomo e i sistemi di cui fa parte (aziende, mercati, istituzioni).

Se pensiamo al legislatore come a una tipologia di designer, colui il quale deve progettare come i cittadini devono interagire con il corpo sociale, allora le riflessioni su cosa sia il buon design e come questo concetto debba trasformarsi per dare conto di un mutato contesto diventano importanti anche per la dimensione normativa.

Il legislatore dovrebbe cercare di assumere questi principi come base della definizione delle norme che regolano l’uso delle tecnologie e stabilire le basi per la creazione di un nuovo patto sociale tra le aziende e le istituzioni da una parte e l’utente/cittadino dall’altra.