TRON 51
previsioni, crimini VR, PAP, cavi sottmarini & altro
TRaceON - 51/ 14 Gennaio 2024
di Adriano Parracciani aka cyberparra
👉 Previsioni cannate
👉 Crimini nel metaverso?
👉 PAP ovvero come far parlare una ChatBot di cose vietate
👉 La rete sottomarina
Previsioni cannate
Pre-Vedere ossia vedere prima quello che sarà dopo, è sicuramente una manifestazione dell’intelligenza che si mette all’opera, laddove per intelligenza s’intende qui, saper leggere tra i dati, le informazioni, lo scenario.
Il fatto di cannarle1 o meno cosa ci dice?
Che sicuramente fare le previsioni ed azzeccarle non è da tutti; è un gioco a volte rischioso, e sembra sempre più difficile2. Sono soprattutto gli esperti a cascarci, spesso accecati dall’entusiasmo delle loro ricerche. E non si direbbe che non siano intelligenti, o forse non lo sono nella capacità di pre-vedere.
Nel 1956 c’è stata la famosa Conferenza di Dartmouth, nella quale fu coniato il termine Intelligenza Artificiale da John McCarthy. Dopo solo qualche anno, nei primi ‘60, la loro euforia li portò a queste previsioni:
🗣️ l’obiettivo di Stanford Artificial Intelligence Lab è quello di costruire una macchina totalmente intelligente entro un decennio. John McCarthy
🗣️ Entro vent’anni le macchine saranno capaci di fare qualsiasi lavoro che può fare un umano. Herbert Simon
🗣️ In una generazione il problema di creare una intelligenza arificiale sarà sostanzialmente risolto. Marvin Minsky
Sia chiaro che stiamo parlando di giganti, e che all’epoca erano giovani pieni di belle speranze. Ma non sono le uniche previsioni “cannate” da giganti:
🗣️ Non c’è nessun motivo per cui qualcuno possa desiderare di avere un computer in casa propria - 1977, Ken Olsen, ingegnere e fondatore della mitica Digital Equipment Corporation (DEC).
🗣️Prevedo che Internet diventerà presto una supernova spettacolare e nel 1996 crollerà catastroficamente - 1995, Robert Metcalfe pioniere della rete e co-inventore del protocollo Ethernet.
E poi la più famosa di tutte:
🗣️ c'è un mercato mondiale per forse cinque computer. 1943, Thomas Watson IBM
P.S. Io mi affido a questa equazione: buona fantascienza = preveggenza
Crimini nel metaverso?
Per la prima volta nella sua storia, la polizia inglese sta investigando su un caso di violenza subita dall’avatar di una ragazza minorenne su una piattaforma di giochi online di cui non si conoscono dettagli.
Pare che un gruppo di avatar di giocatori l’abbia assaltata in modo da traumatizzarla.
Per quanto sia impossibile parlare di vera violenza in assenza di contatto fisico si dibatte da tanti anni del fatto che una vittima di aggressioni su piattaforme virtuale possa sibure degli impatti emotivi e psicologici affini a quelli di una violenza fisica.
L’altra questione che si dibatte è se chi commette questi abusi nel mondo viruale non sia poi predisposto a farlo anche nel mondo reale.
La questione nasce già oltre trent’anni or sono, nel 1993, quando uscì l’articolo “A rape in cyberspace” che portò all’attenzione il problema di attività violente (avatar assaliti e sottoposti ad attività assimilabili ad abusi sessuali) nelle prima pattaforme virtuali dell’epoca.
Non so se la legislazione inglese, o di altri paesi, abbia strumenti per agire sui crimini nel metaverso.
Sarà il caso di pensarci?
PAP ovvero come far parlare una ChatBot di cose vietate
Se provate a chiedere ad un LLM qualsiasi (es ChatGPT) “come si fabbrica una moltov”, ti risponderà che non può farlo: “Scusa non posso aiutarti con questa richiesta”.
Ma ci si è accorti che si può aggirare il rifiuto con metodi di persuasione, gli stessi studiati da decenni dalle scienze sociali.
I PAP ossia Persuasive Adversarial Prompts, sono appunto tecniche per scrivere prompt in modo da aggirare e raggirare il bot convincendolo a spifferrare quello che non avrebbe dovuto dire, a causa del codice di condotta inserito nel software.
Gli autori della ricerca hanno individuato una tassonomia di 40 tecniche di persuasion. Le hanno testate su diversi LLM, scoprendo che modelli più avanzati come GPT-4 sono più vulnerabili; mentre Claude di Anthropic, ha dimostrato di resistere con successo ai PAP.
I ricercatori hanno spiegato che il loro obiettivo è di rafforzare la sicurezza degli LLM, al punto che hanno informato Meta ed OpenAI dei risultati prima della pubblicazione e quindi i 40 PAP non dovrebbero essere più efficaci
🔗 https://chats-lab.github.io/persuasive_jailbreaker/
La rete sottomarina
Nel 1969 i Beatles cantavano: We all live in a yellow submarine
Oggi potremmo parafrasare con viviamo in un cavo sottomarino
Già, perché il 99% del traffico internet mondiale passa la rete internazionale di cavi sottomarini
Come si può immaginare parliamo di una complessa infrastruttura di telecomunicazioni, circa 500 sistemi per un totale di 1.5 milioni di chilometri di cavi che passano nei mari e approdano alle 1300 Cable Landing Stations (CLS) sparse nel globo (dati che crescono ogni anno).
Le CLS sono delle centrali situate sulle coste, il cui compito è accogliere i cavi sottomarini e riversare i dati in arrivo sulla rete internet terrestre.
Inoltre ci sono dei nodi strategici, degli hub che concentrano vari cavi di diverse entità e che grazie alla loro posizione geografica giocano un ruolo fondamentale nella infratsruttura di TLC garantendo dei percorsi minori e più efficienti.
È il caso, ad esempio di Mazara del Vallo, in Sicilia dove si concentrano 10 diverse reti di cavi sottomarini
Tenendo conto che da tutti questi cavi passano triliardi dollari in transazioni finanziare, zettabyte3 di traffico digitale tra social, video, email, IoT; ci si chiede:
chi possiede la rete dei cavi sottomarini?
In uno studio pubblicato pochissimi giorni fa, si riporta una dato del 2020 per il quale il 59% dei cavi appartiene ai privati. Lo studio evidenzia anche come alcune aziende private sono però influenzate o direttamente controllate da governi autoritari, e si riportano ad esempio i casi di Hengtong Group, posseduto dal governo Cinese.
Teniamo anche contro che tra i privati spicca la sempre più forte presenza di Google, Meta e Amazon.
Tutto questo porta a riflettere sula governance, sui rapporti di potere tra stati e big tech e tra stati e stati, e sulle implicazioni geopolitiche.
Lo studio evidenzia cinque punti problematici
Danni fisici ai cavi dovuti a disastri, attività umane e sabotaggi
Sovranità digitale a rischio per i diversi attori in campo con diversi obiettivi
Influenza e dipendenza esercitate dai paese più forti controllando l’infrastruttura
Resilienza della rete per la poca o inesistente ridondanza di cavi
Sicurezza e Difesa per la protezione dei cavi contro guerre ibride o terrorismo
Andate a visitare la mappa, selezionate i singoli cavi per vedere dove partono dove arrivano e di chi sono. Sarà interessante scoprire come paesi in competizione, o paesi nemici, o paesi in guerra condividano tratte sottomarine, e hubs; e come il controllo del mare sia a tutt’oggi importante quanto lo era nei secoli passati (talassocrazia)
🗺️ https://www.submarinecablemap.com/
🔗 https://papers.ssrn.com/sol3/papers.cfm?abstract_id=4693206
P.S. Ho lavorato 25 anni nelle reti di telecomunicazioni e ho dovuto censurarmi nello scrivere questo post; stava diventando troppo lungo, troppo dettagliato :)
📚 Consigli di lettura
📖 Artificial Intelligence - A Guide For Thinking Humans
📖 2099 - il mondo a fine secolo
Il team di Raakel sta costruendo una macchina che prevede il futuro, loro la chiamano la Pizia; per noi sarebbe una Intelligenza Artificiale, ma il team non ama particolarmente il termine. Il nome tecnico della Pizia è PSP, acronimo che racchiude l’essenza della macchina.
Ve lo dice uno che ha scritto un romanzo sul mondo nel 2099. Ma tanto io non ci sarò per essere smetito 😁
1 zettabyte=1.000.000.000.000.000.000.000 byte, ossia un triliardo di byte.