TRaceON - 66/27 Settembre 2024
di Adriano Parracciani aka cyberparra
Argomenti
🤖 Il ritorno della Robotica
🫧 La IA è la nuova bolla?
😵💫 Allucinazione Bernklau
🦹 Dark Pattern
📈 Indovina il dataset
🤖 Il ritorno della Robotica
Gli ultimi anni hanno visto la Robotica ai margini dell’informazione, sommersa prima dal clamore sul metaverso, a suo volta poi sommerso dal clamore sulla IA.
A dire di Jensen Huang (Nvidia) è in arrivo la nuova ondata (sarà il nuovo hype?): lui la chiama l’onda della IA Fisica, una nuova categoria di robot autonomi potenziati da modelli di IA.
Parlando di questo nuovi robot Huang dice che bisogna affrontare il problema dei tre corpi, richiamandosi astutamente alla recente serie di successo su Netflix. Tre corpi ossia tre macchine, tre computer. Così li descrive:
Ed è davvero piuttosto straordinario. Qui è dove avremo bisogno di tre computer. Un computer per creare l'IA, un altro computer per simulare l'IA, entrambi utilizzando la generazione di dati sintetici, oltre a un luogo in cui il robot IA, il robot umanoide o il robot manipolatore potrebbero andare per imparare a perfezionare la propria IA. E poi, naturalmente, il terzo computer è quello che effettivamente esegue l'IA. Quindi è un problema a tre computer. È un problema a tre corpi.
Quindi i tre corpi sono
corpo 1 - i computer che creano il modello di IA
corpo 2 - la piattaforma di simulazione a affinamento del modello di IA
corpo 3 -il robot che esegue la IA
Per il problema dei tre corpi, oltre elle GPU, Nvidia mette sul campo:
GR00T (Generalist Robot 00 Technology) un foundation model specifico per robot umanoidi, progettato per la comprensione del linguaggio naturale ed per imitare i movimenti osservando gli esseri umani.
il computer Jetson Thor per robot umanoidi
Quindi scommetto un euro che la Robotica ritornerà prepotentemente presente nella comunicazione, e tutto grazie all’etichetta IA bullonata in qualche parte del corpo :)
Personalmente ne sarò particolarmente lieto, visto che nel 2013 ho lanciato il progetto educativo WeBot :)
Una precisazione: non è che la IA e la robotica erano mondi seprarati fino ad oggi. La Robotica è stata da sempre uno dei rami di ricerca proprio della IA, sin dalla seconda metà del secolo scorso, quando si parlava ancora di Cibernetica e di Automazione.
🔗 https://qz.com/ai-next-wave-robots-nvidia-jensen-huang-blackwell-rubin-1851515953
🔗 https://nvidianews.nvidia.com/news/foundation-model-isaac-robotics-platform
🫧 La IA è la nuova bolla?
Dopo le dot-com, le criptovalute e le altre bolle sorelle esplose negli ultimi decenni, siamo in presenza di una nuova bolla tech che riguarda la IA?
Nel parla il professore Luciano Floridi in un recente articolo, dove dettaglia quelli che individua come i sintomi della malattia (la metafora è mia):
Investimenti guidati soprattutto dal clamore
Valutazioni gonfiate
Rapida proliferazione di startup, soprattutto quelle con un piano vago o eccessivamente ambizioso (vedi punto successivo
Disconnessione della applicazioni con il mondo reale, ossia non risolvono problemi reali
Mancanza di un quadro normativo
Dati i sitnomi generali, voi cosa ne pensate: siamo nella bolla della IA?
🔗 https://papers.ssrn.com/sol3/papers.cfm?abstract_id=4960826
😵💫 Allucinazione Bernklau
Un giornalista giudiziaro tedesco, Martin Bernklau, chiede di se a Copilot e scopre di essere un criminale, truffatore, un pedofilo e nefandezze del genere.
È uno degli esempi più scioccanti del fenomeno noto come allucinazione degli LLM, fenomeno che ci dovrebbe ricordare come questi modelli non “sanno” veramente quello che rispondono, per quanto spesso le loro risposte siano assolutamente corrette e degne di considerazione.
Il problema è proprio questo: essendo dei sistemi di previsione statistica delle parole, gli LLM possono essere considerati affidabili?
Chiaramente no; ma attenzione, perchè appaiono tali nella modalità con cui ci interfacciamo e nel modo in cui rispondono, soprattutto a chi prende le risposte come oro colato, senza controllare le fonti e fare verifiche.
Mentre state leggendo forse vi siete fatti l’idea del perchè di una tale “allucinazione”. Essendo cronista giudiziario, Bernklau ha scritto mole di articoli su fatti criminali, di molestie, abusi sessuali, truffe e via dicendo. É evidente che tali articoli abbiamo fatto parte del corpus, dei dataset di addestramento dei modelli LLM.
Cosa succede quando si chiede al chatBot di Bernklau: il modello si crea una nuvola di parole statisticamente associate a lui con pesi/distanze differenti, parole che derivano dai crimini di cui si è occupato come reporter, senza comprendere il contesto tra autore dei fatti e cronista.
Qualcuno dirà: “ok, basta correggere il modello”. Non facile, anzi probabilmente impossibile. Significherebbe rintracciare e affinare ogni singolo articolo, frase o parola che lo rigardano, oppure rimuovere totalemente il suo nome.
La soluzione di microsoft è stata di generare una risposta automatica che spiega l’errore. Ho provato ma il realtà non risponde proprio.
Invece Perplexity spiega bene l’incidente elencando varie fonti:
Immagino che non sia il primo caso del genere e dovremmo aspettarcene molti altri.
🦹Dark Pattern
Subdoli ed oscuri sistemi nascosti nei videogiochi per raggirare, estorcere, carpire, e manipolare chi gioca. Questi sono i dark pattern, presenti soprattutto nei giochi per Android e iOS.
Il sito darkpattern.games recensisce i giochi sicuri “healty” e quelli “dark”, e spiega il funzionamento dei sistemi malevoli, classificandoli in quattro categorie:
Temporal Dark Patterns: progettati per far trascorrere più tempo nel gioco.
Social Dark Patterns: sfruttano le relazioni sociali per incentivare l'uso del gioco.
Monetary Dark Patterns: ingannano gli utenti inducendoli a spendere più denaro del previsto.
Psychological Dark Patterns: sfruttano principi psicologici e bias cognitivi per manipolare le emozioni e le decisioni del giocatore
Ecco alcuni esempi:
Timer forzati: Limitano il tempo per completare un'azione, spingendo il giocatore a fare acquisti rapidi.
Contenuti a tempo limitato: Offrono offerte speciali che scompaiono dopo un breve periodo, creando un senso di urgenza.
Pressione dei pari: Mostrano che molti altri giocatori stanno acquistando un oggetto, spingendo il giocatore a fare lo stesso.
Condivisione forzata: Richiedono di condividere informazioni sui social media per sbloccare contenuti o bonus.
Acquisti nascosti: Offrono acquisti in-app che non sono chiaramente indicati o sono difficili da annullare.
Prezzi ingannevoli: Mostrano prezzi iniziali più alti che vengono poi scontati, facendo sembrare l'offerta più vantaggiosa di quanto non sia realmente.
Ricompense intermittenti: Utilizzano premi casuali per mantenere l'interesse e la dipendenza.
Manipolazione delle emozioni: Creano sensazioni di colpa o paura per incentivare acquisti o comportamenti specifici.
🔗 https://www.darkpattern.games/
📈 Indovina il dataset
Un gioco online giornaliero che ti chiede di associare un grafico al giusto dataset da selezionare tra una lista. L’andamento della curva con picchi a valli nei vari campioni temporali deve aiutarci e capire quali tra i dataset proposti genera il grafico che si sta vedendo. Vendita di note bevande? Consumi elettrici? Volumi di pioggia? Consumo di caffè? Volumi di vendita delle chitarre?
📚 Consigli di lettura
Sam parla di pensiero e ragionamento per la sua 01, ma è ancora lontano da Pensiero Sintetico Profondo. Cos'è? leggi 2099 - il mondo a fine secolo
📖 2099 - il mondo a fine secolo
Il team di Raakel sta costruendo una macchina che prevede il futuro, loro la chiamano la Pizia; per noi sarebbe una Intelligenza Artificiale, ma il team non ama particolarmente il termine. Il nome tecnico della Pizia è PSP, acronimo che racchiude l’essenza della macchina.