Tutti schiavi dell'algoritmo?
di Mario Bozzi Sentieri - 28/11/2019
Fonte: Mario Bozzi Sentieri
“La meccanizzazione del mondo - scriveva , nel 1953, Georges Bernanos in “Lo spirito europeo e il mondo delle macchine” – corrisponde a un desiderio dell’uomo moderno, un desiderio segreto, inconfessabile, un desiderio di degradazione, di rinuncia”. Ancora oggi, agli albori dell’Evo 4.0 le intuizioni di Bernanos, pensate a misura del macchinismo industriale, appaiono tutt’altro che datate. Apparentemente più pulito e meno invasivo, il tempo degli algoritmi offre spunti inquietanti sulla via della “rinuncia”. Finché, attraverso le nuove applicazioni tecnologiche, l’uomo può togliersi lo sfizio di giocare a scacchi col robot o provare il brivido dell’automobile senza conducente, siamo ancora nell’ambito delle curiosità tecnologiche. Quando però gli algoritmi tracimano nel privato e nel mondo dell’organizzazione del lavoro, iniziando a dettare legge, il tema si fa serio. Gli esempi non mancano.
E’ di questi giorno la notizia che Deutsche Bank, il primo istituto bancario tedesco e tra i leader in Europa, sta usando l’Intelligenza artificiale e gli algoritmi più sofisticati per rimpiazzare posti di lavoro. A sparire 18 mila dipendenti, che saranno sostituiti da robot ed algoritmi destinati a svolgere attività di rendicontazione, invio di e-mail e report ai clienti del segmento azionario. Non si tratta di un esempio isolato. Nel settore della finanza e delle assicurazioni sono già attivi i robo-advisor, in servizi di consulenza e di investimento. Anche nei prestiti l’utilizzo degli algoritmi è già presente per rilevare il livello di rischio di un cliente e dell’opportunità quindi di concedere un finanziamento.
Il potere delle nuove tecnologie non si limita però al solo settore dei servizi. Nelle fabbrica 4.0 sono gli algoritmi a controllare la produzione, l’orario, il ritmo delle linee, le pause, i carichi di lavoro. A dettare legge è il Mes, Manufacturig Execution System, un modello matematico che consegna gli ordini di lavoro alle linee e tiene traccia di ogni azione dell’operaio attraverso scanner ottici, codici a barre, tablet. Il programma è matematico, “neutrale” e quindi indiscutibile.
Ed ancora, è l’algoritmo a selezionare i manager, attraverso colloqui con un computer che “spia” mimica e tono di voce. Non siamo in un film di fantascienza. E’ la realtà di HireVue un programma, già operativo negli Stati Uniti presso grandi aziende e multinazionali, in grado di monitorare circa 15 mila tratti di una persona, compresi la scelta del linguaggio, i movimenti dell’occhio, la velocità di risposta e il livello di stress. Domina la macchina, ai cui “parametri” i candidati debbono adeguarsi, senza possibilità d’appello: tutti uguali e standardizzati, secondo gli orientamenti di software che riflettono i pregiudizi di chi li ha creati e si alimentano di big data forniti dagli stessi.
La partita – ci dicono i “profeti” del “Nuovo Mondo” – è agli inizi. Proprio per questo è urgente prendere coscienza della sfida in atto, dei reali rapporti di forza, soprattutto culturali, attivando le doverose “contromisure” sociali.
Dobbiamo insomma cominciare ad abbandonare ogni “rinuncia”, iniziando a fissare dei discrimini e a porre delle domande: la tecnologia è moralmente neutra ? La base razionale dei nuovi “mezzi” esclude l’etica ? Dove cercare il limite ? L’efficienza può essere il solo “valore” di riferimento ? Possiamo continuare a restringere gli spazi della giustizia sociale nel nome del profitto ?
Non sono quesiti facili, né di facile risposta. A noi piace sottolineare come, ben al di là delle nuove tecnologie, ci sia sempre una dignità dell’uomo-lavoratore non solo da salvaguardare, ma da esaltare.
Di un nuovo Umanesimo c’è dunque bisogno. Di un Umanesimo del lavoro e della tecnica, che sappia coniugare modernità e consapevolezza, sfide nuove e spiritualità profonda. “Non si tratta di distruggere le macchine, si tratta – per dirla ancora con Bernanos – di rialzare l’uomo, cioè di restituirgli la fede nella libertà del suo spirito, assieme alla coscienza della sua dignità”. Di fronte a questi principi non c’è algoritmo che tenga. La sfida è aperta.