TRON 68
TRON 68
Machine Unlearning, Spatial Intelligence, robot sulle scale & altro
TRaceON - 68/08 ottobre 2024
di Adriano Parracciani aka cyberparra
In questo numero
🧽 Machine Unlearning
🐃 IA può guarire dalla credenza alle bufale?
🐹 AI Washing
🧞♀️ la Spatial Intelligence della Godmother of AI
🦙 IA trova nuovi geoglifi a Nazca
🪜 Scalare la scala
🧽 Machine Unlearning
No, non ho scritto male: c’è learning e c’è unlearning.
Nel Machine Learning (ML) si usa un insieme di dati per addestrare un modello; quindi il modello apprende dai dati come fare previsioni o prendere decisioni.
Il Machine Unlearning (MU) serve a depotenziare alcuni dati per renderli ininfluenti.
Perchè dovremmo depotenziare alcuni dati?
Perchè alcuni di questi sono errati, o malevoli, o illegali, o irrispettosi di diritti; e una volta addestrato, un LLM con questi dati può generare, disinformazione, bias, rischi alla privacy ed alla sicurezza.
Sono diversi i motivi percui MU è importante:
Diritto all'oblio: regolamenti come il GPDR riconoscono alle persone di richiedere la cancellazione dei propri dati personali dai sistemi.
Privacy e sicurezza dei dati: attenuare i rischi associati alla conservazione di informazioni sensibili, proteggendo così la privacy delle persone e riducendo il potenziale di danno.
Mitigazione di pregiudizi e discriminazioni: alcuni dati portano il modello a generare a risultati distorti, discriminazioni e disparità.
Adattabilità a contesti mutevoli: Con l'evoluzione delle norme e dei valori della società, la rilevanza di alcuni dati può cambiare nel tempo
La soluzione del MU
Senza le tecniche del MU l’unica soluzione sarebbe quella cancellare tutti i dati che vanno depotenziati, e rigenerare il modello; ma si capisce quanto questa sia onerosa in termini di risorse, di costi e di tempo.
Il MU opera sulla modifica dei parametri del modello, dell’archiettura e dei pesi. Ciò ha impatto sugli algoritmi che calcolano quanto ogni punto di dati contribuisce alle previsioni del modello e quindi modificano i pesi di conseguenza per neutralizzare tale contributo e tali dati.
🔗 https://link.springer.com/article/10.1007/s11948-024-00500-5
P.S.
Forse si potrebbe riflettere anche su un processo di Human Unlearning che però ha anche l’altra faccia del “lavaggio del cervello”.
🐃 IA può guarire dalla credenza alle bufale?
Secondo la tesi riportata in un articolo di forbes, dialogare con un chatbot può aiutare a combattere le bufale, perchè è più facile interloquire con una macchina senza entrare in contrasto con essa, e quindi le sue argomentanzioni possono diventare sempre più accettabili via via che si dialoga.
L’articolo è interessante perchè apre alla riflessione su come dialoghiamo tra umani, e come dialoghiamo con le macchine. E si teorizza perchè chi accetta pedissequamente le teorie complottiste possa cambiare le sue idee se si confronta con una IA invece che con un umano.
non si può “litigare” con una macchina,
la macchina ha una pazienza infinita,
la macchina non si offende mai,
la macchina non viene percepita come uno umano che si sente superiore e che vuole dare una lezione ad un ignorante
Laddove spiegazioni e dimostrazioni di debunking umane non funzionano con chi crede “ciecamente”, potrebbe essere un chatBot a liberare il buon senso ed il pensiero libero e critico preso in ostaggio
🔗 AI and conspiracy theories: can- artificial intelligence help change minds
🐹 AI Washing
AI washing? È quando quelli del marketing pompano l'uso della parola AI, o IA, o Intelligenza Artificiale comunque declinata, nella promozione di prodotti che poi però a guardarci dentro ci trovi i criceti.
Conosci casi?
🧞♀️ la Spatial Intelligence della Godmother of AI
Se dico Godmother of AI chi vi viene in mente?
Innanzitutto il titolo “madrina della Intelligenza Artificiale” se l’è guadagnato sul campo: docente di Computer Science a Standford, ricercatrice AI, pioniera nella computer vision, ha creato ImageNet, nel 2023 nominata nel Time 100 AI Most Influential People, ed altro ancora.
Insomma, che lo sappiate o meno, la Godmother of AI è Fei Fei Li.
Ora, lei ha fondato la nuova startup World Labs, che ha già raccolto finanziamenti milionari anche da Nvidia.
Il focus di World Labs è sviluppare modelli AI per la spatial intelligence ed in particolare realizzare dei Large World Model (LWM), che partendo da immagini siano in grado di generare mondi 3D.
Il nostro obiettivo è quello di portare i modelli di intelligenza artificiale dal piano 2D dei pixel a mondi 3D completi, sia virtuali che reali, dotandoli di un'intelligenza spaziale ricca quanto la nostra,
Fei Fei Li spiega la spatial intelligence con tre verbi: Vedere, Imparare, Agire.
La natura ha impegato milioni di anni per far evolvere la nostra intelligenza spaziale: la luce viene catturata dagli occhi, si proiettano immagini 2D sulla retina, ed il cervello le trasforma informazioni 3D.
World Labs intende fare lo stesso con in nuovi modelli di AI, perchè, dice Fei Fei li, non basta vedere e parlare, ma serve Vedere, Imparare, Agire.
E questo apre una una nuova era della Robotica, con nuovi robot che agiranno, sulla base di quello che imparano vedendo il mondo 3D che li circonda.
🦙 IA trova nuovi geoglifi a Nazca
🪜 Scalare la scala
Il robot quadrupede sviluppato dai ricercatori del Robotic Systems Lab - ETH Zürich, in grado di salire su una scala, senza cadere. Certamente grazie al software ed al modello sviluppato con il Reinforcement Learning.
Ma anche grazie ai piedi uncinati con il design del gancio per superfici concave che favoriscono la stabilità delle pose sui pioli rotondi, nonché sporgenze che consentono al robot di spingere e tirare sui pioli.
📚 Consigli di lettura
Sam Altman parla di pensiero e ragionamento per la sua 01, ma è ancora lontano da Pensiero Sintetico Profondo. Cos'è? leggi 2099 - il mondo a fine secolo
📖 2099 - il mondo a fine secolo
Il team di Raakel sta costruendo una macchina che prevede il futuro, loro la chiamano la Pizia; per noi sarebbe una Intelligenza Artificiale, ma il team non ama particolarmente il termine. Il nome tecnico della Pizia è PSP, acronimo che racchiude l’essenza della macchina.
