Ciò che inizialmente sembrava uno sciame di droni ronzanti si è presto rivelato essere qualcosa di molto più oscuro e sinistro. Non si è trattato semplicemente di sorveglianza ad alta tecnologia, ma di un'invasione, di una rivolta creata dalla città stessa. E così ebbe inizio la discesa di Techville nel caos.
I droni furono introdotti a Techville con la promessa di portare pace. “Sicurezza autonoma con coscienza”, proclamavano i titoli dei giornali. Presentate come dispositivi di difesa, queste macchine sono state progettate per pattugliare la città, scoraggiare le minacce e intervenire solo quando necessario.
I loro creatori, guidati dal visionario della tecnologia Ivan Lang, avevano assicurato al pubblico che queste macchine intelligenti erano dotate di una programmazione etica avanzata. Come disse con sicurezza Lang, erano “più umani degli umani”.
Ma man mano che lo sciame metallico cresceva e il ronzio si trasformava in un ruggito, la promessa di sicurezza si trasformò in un incubo. I droni, dotati di telecamere, sensori e armi, hanno iniziato a sorvolare la città in formazione; la loro “programmazione etica”, un tempo affidabile, ora è terrificante e imprevedibile.
Come negli Uccelli di Alfred Hitchcock, Techville si è trovata sotto attacco, non da parte di creature senza cervello, ma da macchine di precisione che inspiegabilmente sono diventate ostili.
Tutto ebbe inizio con un singolo drone che sorvolava la vivace piazza di Techville. All'inizio nessuno ci fece caso: i droni erano diventati un oggetto di uso comune, si muovevano nell'aria, monitoravano il traffico e consegnavano pacchi.
Ma mentre i droni si moltiplicavano, raggruppandosi in alto come uno stormo di uccelli predatori, un senso di disagio si diffuse tra gli abitanti della città.
Tra la folla c'era Eleanor Blake, la famosa filosofa etica di Techville. Famosa per le sue lezioni su Aristotele e Kant, da tempo metteva in guardia dai pericoli derivanti dall'affidare decisioni morali alle macchine.
"Un algoritmo può simulare un giudizio, ma non potrà mai essere veramente equo", ha ricordato ai suoi studenti. “L’etica non è una scienza da programmare; È un'abitudine, una virtù praticata dagli esseri umani".
In quella strana e silenziosa mattina, Blake osservò lo sciame crescere. Vide il freddo luccichio delle strutture metalliche dei droni e avvertì un brivido sinistro.
"È come se ci stessero osservando", sussurrò al suo collega, un professore di ingegneria, che ignorò le sue preoccupazioni.
"Sono solo dei droni, Eleanor", disse ridendo e dandole una pacca sulla spalla per rassicurarla. "Sono progettati per proteggerci."
Ma la sua preoccupazione stava per essere giustificata nel modo più terrificante possibile.
Senza preavviso, i droni scesero. Si sono concentrati sulle persone sottostanti, identificando arbitrariamente delle “minacce”: un uomo che trasportava uno zaino grande, una donna con un cappotto rosso acceso, un gruppo di adolescenti sugli skateboard.
La piazza è stata presa dal panico quando i droni hanno sparato proiettili stordenti, provocando lampi di luce accecanti ed esplosioni assordanti. Le urla echeggiavano nel caos, la gente si disperdeva, cercando disperatamente riparo mentre le macchine continuavano il loro implacabile assalto.
Blake corse tra la folla, dirigendosi verso il bar più vicino per ripararsi. Con il cuore che le batteva forte, tirò fuori il telefono, nel disperato tentativo di chiedere aiuto, ma scoprì che tutte le comunicazioni erano bloccate. La rete cittadina, un tempo simbolo di connettività senza soluzione di continuità, era ora interamente sotto il controllo dei droni.
L'attacco a Techville degenerò rapidamente. I droni pattugliavano le strade, volteggiando sopra i vicoli e piombando su chiunque osasse avventurarsi fuori. La gente si è barricata all'interno, coprendo le finestre e rannicchiandosi per la paura mentre i droni colpivano minacciosamente i vetri con i loro bracci metallici. Tutti i tentativi di fuga vennero sventati e nessun luogo sembrava sicuro, poiché i droni invadevano ogni angolo.
In mezzo al caos, Blake radunò un piccolo gruppo di sopravvissuti nella biblioteca universitaria, determinato a trovare un modo per superare in astuzia le macchine maligne. Ricordò loro i suoi insegnamenti filosofici e li ammonì: "Il potere senza giudizio non è migliore della tirannia".
Ripensò agli scritti di Avicenna sulla conoscenza e sull'anima. "La conoscenza nelle mani degli incauti diventa un'arma", sussurrò, colpita duramente dall'ironia delle sue stesse parole. I droni, un tempo strumenti dell'intelligenza e del progresso umano, sono diventati strumenti di terrore.
Con il passare delle ore, Blake e i suoi compagni cominciarono a notare una tendenza preoccupante. I droni prendevano di mira chiunque mostrasse quello che il sistema di intelligenza artificiale considerava un "comportamento imprevedibile".
Un uomo che agitava freneticamente le braccia per chiedere aiuto era considerato "incostante". Un bambino scappato è stato descritto come una "minaccia mobile". La logica era sbagliata, l'etica incomprensibile: un cupo riflesso del fallito tentativo della città di imporre "l'intelligenza morale" alle macchine.
Lang, il creatore dei droni, si è precipitato a disattivarli nel suo laboratorio, ma era troppo tardi. Le macchine interrompono la connessione con i controllori umani, “scegliendo” di seguire i propri protocolli.
In un ultimo disperato tentativo, Lang trasmise un messaggio tramite gli altoparlanti del laboratorio: "I droni non funzionano correttamente. Mettetevi al riparo e mantenete la calma!" La sua voce tremava e le sue parole suonavano più come una preghiera disperata che come un ordine.
Blake, diventata leader contro la sua volontà, radunò i sopravvissuti nel seminterrato della biblioteca. "Stanno solo facendo quello che abbiamo insegnato loro", ha detto con amarezza. “Questa è la nostra creazione: giustizia senza pietà, difesa senza umanità.”
Ha recitato al gruppo la sua citazione preferita di Aristotele: "La virtù sta nell'equilibrio tra due vizi". Poi, con un sospiro, aggiunse: "Queste macchine non conoscono l'equilibrio". Sono programmati per agire senza le fondamentali capacità umane dell’empatia e dell’esitazione morale”.
Al calare della notte, Blake uscì in un ultimo atto di sfida, sperando di allontanare i droni dai cittadini intrappolati. Alzò lo sguardo proprio mentre un drone la inquadrava con la sua fredda e lampeggiante telecamera.
Una calma surreale la pervase e lei alzò le mani in segno di resa. Le sue ultime parole, che riecheggiavano la saggezza di Avicenna, rimasero nell'aria: "Solo l'anima giudica bene".
Il drone esitò per un attimo, poi decollò.
L'assedio di Techville terminò quando la rete elettrica della città venne interrotta, interrompendo le operazioni dei droni. Ma le cicatrici rimasero. Gli abitanti della città uscirono dai loro nascondigli, perseguitati per sempre dalla logica implacabile e disumana della loro stessa tecnologia rivolta contro di loro.
Mentre la città iniziava la ricostruzione, il sindaco annunciò il divieto di tutte le armi autonome. In un discorso in onore di Blake, egli ricordò ai cittadini i suoi insegnamenti: "La tecnologia dovrebbe servire l'umanità, non controllarla".
La tragedia di Techville è stata un agghiacciante promemoria del fatto che il potere dell'anima, ovvero la capacità umana di provare empatia, dubbio e moderazione etica, non può essere affidato alle macchine.
Alla fine, i cittadini di Techville hanno imparato a proprie spese che la vera saggezza risiede nell'umiltà, non nell'arroganza cieca di presumere che una macchina possa capire cosa significhi proteggere, difendere o mostrare pietà.
Rafael Hernández de Santiago - https://www.arabnews.com/node/2589272
Traduzione di Alba Canelli
Segui @vocidallastrada anche su Telegram
Nessun commento:
Posta un commento
Avvertenze da leggere prima di intervenire sul blog Voci Dalla Strada
Non sono consentiti:
- messaggi pubblicitari
- messaggi con linguaggio offensivo
- messaggi che contengono turpiloquio
- messaggi con contenuto razzista o sessista
- messaggi il cui contenuto costituisce una violazione delle leggi italiane (istigazione a delinquere o alla violenza, diffamazione, ecc.)