Aprile, 2022

Una delle sfide nell’uso delle straordinarie possibilità dell’intelligenza artificiale è molto, molto… umana: le persone che sviluppano questi sistemi devono abituarsi a ragionare in maniera non umana e a capire e prevedere gli sbagli del loro software.

C’è un caso molto famoso in questo campo che viene spesso citato come aneddoto: si racconta che alcuni anni fa un gruppo di ricercatori creò un sistema di intelligenza artificiale per distinguere i lupi dai cani husky, dandogli in pasto immagini di lupi e di husky e dicendogli quali erano lupi e quali erano husky. Un metodo molto simile a quello che si usa per insegnare a una persona a riconoscere qualunque oggetto.

Nell’aneddoto, il sistema funzionava benissimo: aveva un tasso di successo molto elevato quando gli venivano proposte immagini che non aveva mai visto prima. Ma a un certo punto aveva iniziato a commettere una serie di errori madornali. I ricercatori, si racconta, scoprirono poi che il sistema non stava in realtà riconoscendo lupi o cani, ma stava discriminando le immagini in base alla presenza o assenza di neve. Infatti tutte le immagini di lupi che erano state usate per addestrare l’intelligenza artificiale avevano uno sfondo innevato e quelle degli husky no, e i ricercatori non ci avevano fatto caso.

—

L’aneddoto è divertente; illustra bene un problema frequente dei ricercatori di intelligenza artificiale, ossia la tendenza a fare una selezione errata dei campioni usati per l’addestramento del software, ma in realtà l’aneddoto racconta i fatti in modo sbagliato. 

Prima di tutto, la ricerca fu effettivamente realizzata (è descritta in un articolo scientifico del 2016, disponibile qui su Arxiv.org) e diede davvero quei risultati, ma l’intelligenza artificiale fu creata appositamente difettosa (“We trained this bad classifier intentionally”) per dimostrare l’importanza di usare immagini campione ben selezionate e mettere in chiaro il pericolo delle cosiddette correlazioni spurie e dell’eccessiva fiducia che si rischia di dare a sistemi addestrati maldestramente.

Le correlazioni spurie sono quelle che un essere umano non farebbe mai, perché sa cos’è un husky e cos’è un lupo in base alla propria conoscenza degli animali e della realtà in generale, ma che un’intelligenza artificiale rischia di fare perché si basa esclusivamente sulle immagini che le sono state date, senza alcuna conoscenza della realtà: dove noi vediamo husky o lupo, l’intelligenza artificiale vede macchie di pixel che si somigliano oppure no.

L’aspetto più interessante di questo aneddoto è un altro elemento che manca nella sua narrazione abituale: i risultati dell’intelligenza artificiale furono presentati a un gruppo di studenti laureati del settore, mostrando loro otto riconoscimenti corretti e uno sbagliato, nel quale l’intelligenza artificiale aveva identificato come lupo quello che in realtà era un husky.

Agli studenti fu chiesto se ritenessero affidabile un software che azzeccava otto volte su nove, perché lo ritenessero affidabile, e quale fosse secondo loro il criterio usato dal software per distinguere lupi e husky.

Solo in seguito fu spiegato loro il criterio effettivamente utilizzato dall’intelligenza artificiale, ossia la presenza o assenza di bianco nella parte inferiore dell’immagine.

Prima di conoscere il criterio, oltre un terzo degli studenti aveva dichiarato di fidarsi del software e meno della metà aveva citato la presenza di neve come possibile elemento discriminante spurio usato per errore dall’intelligenza artificiale. Una volta conosciuto il criterio effettivo, la loro fiducia era calata notevolmente.

Gli studenti avevano insomma dato fiducia a quest’intelligenza artificiale basandosi puramente sulle sue statistiche di successo, ragionando che se funziona otto volte su nove vuol dire che funziona bene, fine del problema. Se questo errore capita a degli esperti del settore, immaginatevi quanto possa capitare a chi non è esperto.

Proprio in questi giorni sulla prestigiosa rivista medica The Lancet è stato pubblicato un articolo (segnalato da Eric Topol) che racconta un incidente analogo capitato in un settore ben più delicato: quello della salute. Un modello di intelligenza artificiale concepito per riconoscere fratture femorali nelle radiografie dei pazienti aveva prodotto risultati praticamente perfetti, superiori a quelli dei radiologi in carne e ossa, ma a un certo punto aveva manifestato “comportamenti algoritmici inattesi e potenzialmente dannosi” (“unexpected and potentially harmful algorithmic behaviour”). Che è un eufemismo per dire che prendeva delle cantonate spettacolari che avrebbero potuto rovinare i pazienti.

L’articolo di Lancet non nega il potenziale di queste tecnologie, ma mette in luce le necessità di esaminare con attenzione il modo in cui funzionano prima di introdurle nella pratica clinica, per evitare che ci si basi su criteri che sono robusti e sensati soltanto in apparenza. “Storicamente”, dicono gli autori dell’articolo, “i sistemi di diagnosi assistita da computer hanno spesso fornito prestazioni inaspettatamente scadenti in contesto clinico nonostante valutazioni precliniche promettenti”.

Per fortuna c’è, secondo loro, una soluzione: obbligare chi offre questi sistemi a spiegare come funzionano realmente e a sottoporli a verifiche da parte di esperti di intelligenza artificiale, secondo una tecnica denominata algorithmic auditing. 

Insomma, sembra proprio che l’intelligenza artificiale ci possa dare una mano, a patto di addestrarla bene, e sembra anche scongiurato un altro pericolo che viene spesso citato: quello che l’intelligenza artificiale causi disoccupazione. Per fare questo algorithmic auditing serviranno infatti persone esperte sia in campo informatico sia nel campo nel quale si vogliono applicare questi sistemi, e serviranno anche decisori che sappiano che non ci si può semplicemente fidare di un numeretto che indica una percentuale di successo ma occorre piena trasparenza. 

Nascono quindi nuovi mestieri che si affiancano a quelli tradizionali. Sperando che chi li farà non venga selezionato da un software che li sceglie in base a qualche correlazione spuria o campione distorto, come è accaduto ad Amazon. Nel 2018 l’azienda di Jeff Bezos ha dovuto rinunciare a un sistema automatico di selezione dei candidati quando è emerso (dice Reuters) che discriminava le donne. Il software, infatti, era stato addestrato usando i curricula inviati ad Amazon nei dieci anni precedenti, e la maggior parte di quei curricula era maschile, per cui il sistema di machine learning aveva dedotto (si fa per dire) che i candidati maschili erano da preferire a quelli femminili.

Huawei Mate 50 potrebbe avere il nuovo processore Qualcomm Snapdragon 8 Gen 1, privo però del modulo 5G.

Apple ora offre la riparazione del Face ID su iPhone X senza dover sostituire necessariamente l’intero dispositivo.

Il nuovo Samsung Galaxy Z Fold4 potrebbe essere il miglior smartphone pieghevole di sempre; vediamo insieme perché.

Gli spettacolari auricolari Samsung Galaxy Buds2 li prendi ORA su Amazon con un super sconto INCREDIBILE del 39%.

Con questo completissimo kit di conversione puoi trasformare la tua biciletta in una super performante e-bike elettrica.

Di nuovo in offerta la scheda di memoria microSD da 256GB di SanDisk, stavolta con uno SCONTACCIO pari al 56%!

Un nuovo iPad Air che cambia poco esteticamente ma che sa molto di iPad Pro. C’è il processore M1 che Apple aveva rilasciato solo sulla versione più costosa dei suoi tablet o sui Mac. iPad Air è sempre più veloce, capace di rendersi addirittura sovradimensionato per il suo iPadOS. È il tablet giusto per tutti? Scopriamolo nella nostra recensione. 

Degli hacker stanno di nuovo usando delle false mail dell’INPS per cercare di truffare le vittime: ecco cosa sta succedendo.

Un recente rapporto di sicurezza informatica, ha osservato una serie di campagne di phishing colpire gli utenti di WhatsApp.

Linux Mint 21 adotterà i pacchetti software di Ubuntu 22.04 LTS

Microsoft Teams su Mozilla Firefox: annunciate una serie di funzionalità chiave finalmente disponibili nel browser.

Siamo abituati a pensare che lo spazio sia un ambiente totalmente silenzioso, perché nel vuoto i suoni non si propagano. Il film Alien (un classico del 1979) divenne famoso per il suo slogan “nello spazio nessuno può sentirti urlare”. Le immagini delle sonde spaziali o degli astronauti sulla Luna sono sempre silenziose o al massimo sono accompagnate dalle loro comunicazioni via radio. Ma non è sempre così.

Il suono non si propaga nello spazio, ma su Marte, per esempio, sì. Il pianeta, infatti, è dotato di un’atmosfera. È molto tenue, rispetto a quella terrestre, ma c’è, e quindi i suoni si possono sentire. A patto, però, che ci sia qualcuno o qualcosa a produrli e ad ascoltarli.

Su YouTube è stato pubblicato un video che presenta suoni di Marte, e non si tratta di uno scherzo: sono realmente suoni captati sul pianeta rosso.

Il video è opera del Jet Propulsion Laboratory della NASA e presenta i suoni captati su Marte dai due microfoni montati per questo scopo sul veicolo robotico Perseverance, che sta esplorando il pianeta da più di un anno (è arrivata su Marte a febbraio del 2021).

Nel video si sentono degli sbuffi, prodotti dal getto gassoso usato per soffiare via la polvere prodotta dagli strumenti che analizzano le rocce marziane: i crepitii del laser usato per vaporizzare le rocce allo scopo di conoscerne la composizione chimica; il fruscìo del vento marziano; e anche il rumore del piccolo drone Ingenuity, il primo veicolo a elica usato su un altro mondo.

L’idea di montare dei microfoni su una sonda spaziale può sembrare frivola, e inizialmente fu bocciata dalla NASA, diventando realtà soltanto grazie a una colletta di 100.000 dollari realizzata via Internet dall’associazione di divulgazione scientifica Planetary Society. In realtà ascoltare i suoni di un altro pianeta ha permesso ai ricercatori di scoprire alcune strane caratteristiche dell’atmosfera di Marte.

Per esempio, su Marte il suono si propaga più lentamente che sulla Terra e a velocità differenti a seconda della frequenza. I suoni di bassa frequenza viaggiano sul pianeta rosso a circa 240 metri al secondo, mentre quelli più acuti si propagano più rapidamente, a circa 250 metri al secondo. Un concerto su Marte produrrebbe insomma effetti molto strani: le note alte arriverebbero agli ascoltatori prima di quelle basse. I suoni marziani in generale sono inoltre più lenti che sulla Terra, dove viaggiano normalmente a circa 343 metri al secondo.

Questi sono effetti della composizione chimica dell’atmosfera marziana, che oltre a essere molto sottile e molto fredda è composta principalmente da anidride carbonica. Gli scienziati avevano previsto questi fenomeni, ma sentirli confermare direttamente da una registrazione audio è una bella soddisfazione.

Un altro effetto insolito dell‘atmosfera marziana è che i suoni non vanno molto lontano, e quelli acuti si propagano meno di quelli bassi. Sulla Terra un suono normalmente si smorza fortemente dopo una sessantina di metri, mentre su Marte i suoni acuti si perdono completamente già a otto metri di distanza, scrive il JPL. Lo si nota nel rumore del drone Ingenuity nel video, i cui piccoli rotori girano velocissimi, a 2500 giri al minuto, ma nell’atmosfera marziana producono un suono molto cupo. Il risultato è che se una persona potesse stare senza protezioni su Marte, sentirebbe quasi sempre un silenzio totale, punteggiato solo occasionalmente da rumori sordi. 

Marte è davvero un mondo alieno, insomma, nel quale per farsi sentire non conviene strillare ma è invece necessario usare toni molto bassi e stare vicini. Ed è affascinante che si possano udire questi suoni alieni che arrivano da decine di milioni di chilometri di distanza, e ci si possa fare un’idea di cosa sentiremmo se fossimo lì di persona, su Marte, grazie a una colletta fatta su Internet.