Il 9 novembre è una data che la Germania non vuole dimenticare: è quella della fatidica notte del 1938 in cui l’antisemitismo del regime nazista si concretizzò in una serie di attentati che portarono alla morte di quasi un centinaio di persone e alla distruzione di negozi e sinagoghe.
Giustamente vista come l’alba dell’Olocausto, la Kristallnacht viene ricordata ogni anno con una serie di commemorazioni in tutta il Paese. E quasi sempre (ma soprattutto negli ultimi anni) alle commemorazioni si affiancano atti vandalici e scritte ingiuriose, rigorosamente in forma anonima, da parte di chi non riconosce il carattere violento e discriminatorio di quanto accadde nel ’38.
Quest’anno, ad esempio, è toccato a Trieste, dove uno slogan antisemita è comparso sul muro d’ingresso della sinagoga, ad opera di un ignoto, fortunatamente ripreso da una telecamera di sorveglianza.
In Germania, però, stavolta la commemorazione di questo tragico evento sarà ricordata anche per la brutta figura fatta da una nota catena americana di fast food per colpa di un algoritmo – è proprio il caso di dirlo – assai poco preparato e parecchio insensibile.
Cosa è accaduto? Beh, il sistema informatico di questa catena di ristoranti ha inviato ai suoi clienti tedeschi un messaggio promozionale invitandoli a festeggiare la Notte dei Cristalli con una bella dose extra di formaggio sul loro famoso pollo fritto. Nemmeno un’ora dopo la catena si è scusata per l’errore, che ha giustificato con un “errore di sistema”, ma il danno era ormai fatto.
Tutta colpa del bot
Neanche a dirlo, le critiche sono piovute a raffica da ogni parte, tanto che la catena ha dovuto prendere una pagina della rivista americana “Newsweek” per scusarsi ancora del “messaggio non intenzionale, insensibile e inaccettabile” inviato in automatico dal loro sistema informatico.
La colpa sarebbe di un bot, un programma che accede alla rete attraverso i canali usati anche dagli utenti, per automatizzare compiti altrimenti complessi e accelerarne l’esecuzione.
Il bot si sarebbe collegato ai calendari delle osservanze nazionali tedesche presenti nel web che, insieme alla celebrazione della caduta del muro di Berlino e alla festa della mamma, includono nello stesso elenco anche la commemorazione della Notte dei Cristalli.
Ignorando del tutto il diverso tenore di questa osservanza, nella sua logica perversa e perseverante, l’algoritmo l’ha interpretata come una festività qualsiasi e ha fatto partire automaticamente il messaggio incriminato, proprio come aveva fatto per Halloween e per l’Unità nazionale.
Danni da “algoritmo difettoso”
Non è la prima volta che gli automatismi delle nuove tecnologie sono al centro di polemiche e riflessioni. Ormai si parla addirittura di “responsabilità per danni da algoritmo difettoso”, un tema molto discusso che ha sollevato questioni spinose.
Infatti, se i sistemi di apprendimento automatico, basati su algoritmi, commettono degli errori, magari con conseguenze rilevanti, di chi è la colpa? Di chi li elaborati? Di chi li usa? Delle fonti in rete da cui ricavano le loro informazioni? Domande difficili alle quali è difficile trovare risposte.
L’algoritmo, quindi, sebbene in grado di svolgere una sequenza di operazioni in poco tempo, imparando dai propri errori e perfezionando la propria capacità di agire o prendere decisioni, non sembra ancora capace di scremare le informazioni e di riconoscere il “contesto” come, per ora, sa fare solo l’essere umano. Al contrario, per le intelligenze artificiali questo è uno scoglio ancora arduo da superare.
Una magra consolazione, che per una volta ci fa dimenticare con un sorriso – seppur amaro – il potere di questi mezzi, potenzialmente in grado di prendere il totale controllo delle nostre vite.
La dirigenza della catena di fast food ha voluto ribadire, nelle sue scuse al popolo tedesco, di comprendere perfettamente la serietà e la portata storica delle commemorazioni della Notte dei Cristalli, sottolineando l’impegno aziendale per l’equità, l’inclusione e l’accoglienza. Primo o poi, speriamo, lo capiranno anche gli algoritmi.
Foto di Mohamed Hassan da Pixabay