Articolo 2 – Uso, abuso e responsabilità
Quando l’intelligenza artificiale diventa uno strumento di efficienza… o un alibi perfetto
Nel primo articolo abbiamo affrontato il tema culturale dell’intelligenza artificiale, osservando come molte critiche nascano spesso da una conoscenza superficiale dello strumento.
Ma esiste anche il problema opposto, meno discusso e forse più concreto: l’uso distorto dell’IA come giustificazione tecnica, schermo decisionale o meccanismo di deresponsabilizzazione.
Perché l’intelligenza artificiale non è neutrale nel momento in cui viene inserita dentro processi economici, amministrativi o professionali.
La tecnologia, da sola, non decide valori, etica o correttezza: amplifica le intenzioni e l’organizzazione di chi la utilizza.
L’automazione come nuova autorità invisibile
Negli ultimi anni abbiamo iniziato a convivere con decisioni automatizzate in moltissimi ambiti:
- banche e sistemi di pagamento
- assicurazioni
- pubblica amministrazione
- assistenza clienti
- selezione del personale
- valutazioni di rischio
- gestione fiscale e documentale
- piattaforme digitali e marketplace
Sempre più spesso il cittadino si trova davanti a risposte impersonali, difficili da contestare, formulate attraverso espressioni tecniche che sembrano definitive:
“Errore del sistema”
“Anomalia automatica”
“Verifica algoritmica”
“Problema tecnico”
“Bug temporaneo”
“Procedura automatizzata”
Il problema non è l’esistenza dell’errore tecnico, che in informatica è inevitabile.
Il problema nasce quando il linguaggio tecnico diventa uno strumento narrativo per neutralizzare responsabilità precise.
Uno storno bancario immotivato, un pagamento bloccato, una pratica amministrativa sospesa o un account limitato possono essere attribuiti genericamente a “un’anomalia del sistema”, senza che il cittadino abbia alcuna possibilità reale di comprendere:
- chi ha deciso;
- sulla base di quali dati;
- con quale logica;
- con quali controlli umani;
- con quale diritto di contestazione.
In questi casi la tecnologia rischia di trasformarsi in una nuova forma di opacità.
La deresponsabilizzazione algoritmica
Uno degli aspetti più delicati dell’intelligenza artificiale moderna è la cosiddetta deresponsabilizzazione algoritmica:
la tendenza delle organizzazioni a trasferire implicitamente la responsabilità delle decisioni verso il sistema automatico.
È una dinamica pericolosa perché crea l’illusione che:
“Lo ha deciso l’algoritmo”
come se l’algoritmo fosse un soggetto autonomo e non invece uno strumento progettato, addestrato e gestito da esseri umani.
In realtà ogni sistema automatizzato incorpora:
- priorità economiche;
- criteri statistici;
- modelli di rischio;
- parametri scelti da qualcuno;
- limiti progettuali;
- obiettivi aziendali o amministrativi.
Quando manca trasparenza, il rischio è che l’IA diventi il perfetto schermo impersonale dietro cui nascondere decisioni discutibili.
Alcuni esempi concreti di utilizzo distorto
Settore bancario e finanziario
Un sistema automatico può:
- bloccare transazioni considerate “anomale”;
- limitare operatività;
- sospendere conti;
- ritardare rimborsi;
- classificare utenti come “a rischio”.
In teoria queste procedure servono alla sicurezza.
In pratica, senza adeguata supervisione umana, possono trasformarsi in meccanismi arbitrari difficili da contestare.
Il cliente spesso riceve spiegazioni vaghe, mentre il tempo necessario per ottenere assistenza reale può diventare enorme.
Pubblica amministrazione
La digitalizzazione della PA rappresenta un progresso rilevante, ma introduce nuovi rischi.
Un errore nei dati, una classificazione automatica errata o un sistema documentale mal progettato possono:
- rallentare pratiche;
- bloccare benefici;
- generare cartelle errate;
- creare esclusioni automatiche;
- impedire dialogo diretto con operatori umani.
Il cittadino rischia di trovarsi intrappolato in procedure dove nessuno sembra avere il potere di correggere rapidamente l’errore.
La tecnologia, nata per semplificare, può così aumentare la distanza tra istituzione e persona.
Aziende private e customer care automatizzato
Molte aziende utilizzano chatbot e sistemi IA per ridurre i costi di assistenza.
Quando ben progettati, migliorano tempi e accessibilità.
Quando invece l’obiettivo principale diventa esclusivamente il contenimento dei costi, il rischio è evidente:
- impossibilità di parlare con un operatore;
- risposte standardizzate;
- scarico continuo di responsabilità;
- percorsi volutamente frustranti;
- utilizzo dell’automazione per “filtrare” i reclami.
In alcuni casi il sistema non è costruito per risolvere il problema dell’utente, ma per ridurre il numero di utenti che insistono nel reclamarne la soluzione.
Professioni e produzione automatica di contenuti:
Anche il mondo professionale non è immune.
Esistono già casi in cui:
- relazioni vengono generate automaticamente senza reale verifica;
- testi tecnici vengono pubblicati senza controllo umano;
- consulenze vengono “simulate” attraverso sistemi generativi;
- contenuti vengono prodotti in massa sacrificando qualità e accuratezza.
L’IA può accelerare il lavoro intellettuale, ma può anche incentivare superficialità, standardizzazione e deresponsabilizzazione professionale.
Il vero rischio: normalizzare l’opacità:
Il pericolo più grande non è l’errore tecnico.
Il vero rischio è culturale.
Se ogni disservizio viene giustificato con parole tecniche incomprensibili, si crea lentamente una nuova forma di accettazione passiva:
“È il sistema.”
Una frase apparentemente neutra che rischia di diventare il nuovo equivalente digitale del:
“Non possiamo farci nulla.”
Ed è qui che il linguaggio assume un ruolo decisivo.
Termini inglesi, sigle, procedure automatizzate e riferimenti tecnici possono essere usati correttamente… oppure diventare strumenti di distanza psicologica tra organizzazione e cittadino.
Quando il linguaggio tecnico serve a evitare spiegazioni chiare, il problema non è più informatico: è etico.
Ma l’intelligenza artificiale non è solo questo:
Ridurre l’IA a un meccanismo di controllo o manipolazione sarebbe però un errore opposto e altrettanto superficiale.
L’aspetto più interessante dell’intelligenza artificiale emerge quando il rapporto uomo-macchina non sostituisce il pensiero umano, ma lo amplifica.
Ed è qui che nasce la vera rivoluzione.
La sinergia cognitiva tra essere umano e IA
I moderni sistemi IA eccellono in attività come:
- analisi di grandi quantità di dati;
- individuazione di correlazioni;
- velocità di elaborazione;
- ricerca documentale;
- simulazioni;
- automazione di processi ripetitivi.
L’essere umano, invece, mantiene capacità fondamentali:
- giudizio etico;
- interpretazione del contesto;
- intuizione;
- creatività;
- responsabilità;
- comprensione emotiva e sociale.
La vera evoluzione non è la sostituzione, ma la collaborazione.
Un professionista che utilizza bene l’IA non delega il pensiero: ne aumenta la profondità operativa.
Un aspetto spesso sottovalutato nella sinergia cognitiva è il fatto che non tutti gli individui reagiscono allo stesso modo all’aumento di complessità o di stimolazione intellettuale.
In alcuni casi, il confronto con livelli cognitivi più elevati — o semplicemente differenti — genera un incremento delle capacità individuali: il pensiero si organizza meglio, si attivano nuove connessioni, aumenta la capacità di analisi.
In altri casi, invece, lo stesso stimolo può essere percepito come destabilizzante, perché mette in discussione equilibri interni, ruoli impliciti o autopercezioni consolidate.
Questo elemento è cruciale anche nel rapporto con l’intelligenza artificiale: non esiste un unico modo di interazione, perché non esiste un unico modo in cui le persone elaborano il cambiamento cognitivo.
Di conseguenza, la “sinergia uomo–IA” non è soltanto una questione tecnologica, ma anche psicologica e culturale. La qualità del risultato dipende non solo dalla potenza dello strumento, ma dalla disponibilità dell’individuo a tollerare complessità, revisione delle proprie idee e ridefinizione delle proprie competenze.
Un esempio tecnico concreto: l’IA come sistema probabilistico
Molte persone immaginano l’intelligenza artificiale come una sorta di “mente digitale”.
In realtà, gran parte dei sistemi generativi moderni funziona attraverso modelli probabilistici avanzati.
I Large Language Models (LLM), ad esempio, operano calcolando la probabilità statistica della parola successiva all’interno di una sequenza linguistica.
Dal punto di vista tecnico, il cuore matematico di molti modelli moderni è basato sull’architettura Transformer introdotta nel celebre paper scientifico:
“Attention Is All You Need” – Google Research e University of Toronto (2017)
Il meccanismo fondamentale è quello della self-attention, che permette al modello di attribuire pesi differenti alle parole presenti nel contesto.
(In termini semplici, il sistema non legge una frase parola per parola come farebbe un vecchio programma informatico. Cerca invece di capire quali parole siano più importanti rispetto alle altre all’interno del contesto complessivo. È un po’ come durante una conversazione umana: alcune parole, espressioni o riferimenti assumono un peso maggiore per comprendere davvero il significato di ciò che viene detto. La “self-attention” permette proprio questo: dare maggiore attenzione agli elementi più rilevanti della frase, costruendo collegamenti dinamici tra i concetti.)
Formula semplificata della self-attention:
Attention(Q,K,V) = softmax((Q × Kᵀ) / √dₖ) × V
(Il termine “softmax” è una funzione matematica che trasforma i valori calcolati dal sistema in “pesi di attenzione”: in pratica decide quali parole o informazioni siano più importanti rispetto alle altre all’interno del contesto della frase.)
dove:
- Q rappresenta le query;
- K le chiavi informative;
- V i valori associati;
- il termine di normalizzazione evita instabilità numeriche.
Questo sistema consente al modello di valutare il contesto linguistico in modo estremamente sofisticato.
Non “comprende” nel senso umano del termine, ma riesce a costruire rappresentazioni statistiche del linguaggio con livelli di accuratezza estremamente elevati.
Ed è proprio l’interazione con l’essere umano che rende questi strumenti realmente potenti:
la macchina accelera l’elaborazione, l’umano fornisce direzione, controllo critico e significato.
Il nodo decisivo: supervisione umana
L’intelligenza artificiale può migliorare enormemente:
- medicina;
- ricerca scientifica;
- gestione documentale;
- accessibilità;
- produttività;
- analisi predittiva;
- supporto decisionale.
Ma più aumenta il potere operativo dell’automazione, più cresce la necessità di:
- trasparenza;
- tracciabilità;
- spiegabilità;
- controllo umano;
- responsabilità giuridica;
- alfabetizzazione digitale.
La questione non è scegliere tra “uomo o macchina”.
La questione è decidere quale modello di relazione costruire tra i due.
Ed è probabilmente proprio in questa scelta che si giocherà una parte importante dell’evoluzione culturale delle società contemporanee.
È difficile immaginare un unico modello di relazione tra essere umano e intelligenza artificiale, perché tale rapporto dovrà necessariamente adattarsi al livello di competenza, consapevolezza e maturità critica di chi utilizza questi strumenti.
Un professionista esperto, uno studente, un cittadino con scarse competenze digitali o un ricercatore interagiranno con l’IA in modi profondamente differenti. Per questo motivo, il vero tema non sarà soltanto l’accesso alla tecnologia, ma la capacità di sviluppare un utilizzo consapevole e progressivamente più evoluto.
In questa prospettiva, l’intelligenza artificiale potrebbe assumere anche una funzione didattica e formativa. Non soltanto eseguire compiti, ma contribuire ad ampliare nel tempo le capacità cognitive dell’essere umano, stimolando apprendimento, ragionamento critico e acquisizione di competenze.
Potrebbe persino diventare necessario — soprattutto nei contesti più delicati — prevedere una sorta di “tirocinio digitale”: un percorso graduale di alfabetizzazione e responsabilizzazione che abiliti a un uso realmente consapevole degli strumenti IA.
Perché il rischio più sottile non è utilizzare male l’intelligenza artificiale.
È utilizzarla senza comprendere davvero il tipo di relazione cognitiva che stiamo costruendo con essa.
Conclusione
L’intelligenza artificiale non è né una minaccia assoluta né una soluzione miracolosa.
È uno strumento di amplificazione.
Può amplificare competenza, efficienza e conoscenza.
Ma può anche amplificare opacità, deresponsabilizzazione e squilibri di potere.
Per questo il vero tema del futuro non sarà soltanto tecnologico, ma culturale ed etico.
Perché il rischio più grande non è che le macchine inizino a pensare come esseri umani.
Il rischio più concreto è che gli esseri umani smettano di interrogarsi criticamente sulle decisioni prese attraverso le macchine.
Claudia Radi
(Secondo articolo della serie “Intelligenza artificiale tra mito, paura e pratica professionale”)
Fonti e approfondimenti
- OECD – Digital Government and AI Governance Studies
- UNESCO – Ethics of Artificial Intelligence
- MIT Sloan – Research on Algorithms and Information Systems
- Google Research – “Attention Is All You Need” (Transformer Architecture)
- European Parliament – Artificial Intelligence Act Overview
- NIST – AI Risk Management Framework
