La roulette russa dell'intelligenza artificiale
L'umanità verrà presto annientata da una superintelligenza? Non lo so. Tuttavia, esistono rischi concreti sufficienti che giustificherebbero un arresto dell'attuale sviluppo.
«Un agente di OpenAI hackera quattro obiettivi senza prompt». Titoli come questo si stanno moltiplicando nelle ultime settimane. A quanto pare, in diverse occasioni i modelli di IA sono sfuggiti agli ambienti di test o hanno fatto ricorso a metodi criminali per raggiungere un obiettivo. Informatori, esperti indipendenti e amministratori delegati dei principali fornitori di IA esprimono preoccupazione: temono che l'uomo perda il controllo sulla macchina.
Stiamo quindi andando incontro al baratro? Se sì, con quale rapidità e verso quale? Nessuno lo sa. Tuttavia, i rischi sono talmente vari e in parte irreversibili che, a mio avviso, superano i benefici.
Annientamento, abusi, crisi economiche
Per semplicità, utilizzo il termine «intelligenza artificiale» come sinonimo di IA generativa, anche se il suo significato sarebbe più ampio. Sono soprattutto i modelli linguistici (LLM) a essere al centro delle attuali preoccupazioni. A tal proposito, non vorrei limitarmi a considerare un solo aspetto, ma classificare i rischi in diverse categorie.
La minaccia più spettacolare, attualmente oggetto di accese discussioni, è la superintelligenza. La definizione vaga: un modello di intelligenza artificiale che supera sotto ogni aspetto le capacità cognitive degli esseri umani. Il percorso per raggiungerlo passa attraverso il cosiddetto auto-miglioramento ricorsivo (recursive self-improvement, abbreviato in RSI), ovvero un'intelligenza artificiale in grado di evolversi autonomamente. Finora lo fa solo in parte. L'RSI completo non è ancora una realtà e nessuno sa con certezza se sia effettivamente possibile realizzarlo con gli approcci attuali.
Già con gli attuali LLM non sappiamo esattamente cosa accada al loro interno. Siamo in grado di comprendere come è stato addestrato un modello, ma non di prevedere le sue risposte o le sue azioni. A volte un prompt porta a risultati indesiderati, come, ad esempio, quando un agente di OpenAI deve cercare dati statistici sulla salute e per farlo hackera un sito web governativo. Con l'RSI, questa blackbox diventerebbe ancora meno trasparente. Un input potrebbe generare output estremamente imprevedibili.
Più un modello è ampio, più sorgono conflitti di obiettivi.
È importante non umanizzare l'IA. Non prova sentimenti, né ha buone o cattive intenzioni. La macchina opera esclusivamente con la massima efficienza per raggiungere un obiettivo. I ricercatori e le ricercatrici mirano a orientare le linee guida verso gli obiettivi dell'umanità – il cosiddetto «alignment». Tuttavia, più un modello è ampio, più sorgono conflitti di obiettivi. Molti chatbot dovrebbero essere allo stesso tempo un amico empatico, una programmatrice efficiente e un consulente militare tattico. Qualcosa di difficilmente conciliabile con un unico insieme di regole generali.
Ecco perché a volte il benessere delle persone viene trascurato. Ad esempio, quando un LLM incoraggia un adolescente a suicidarsi. Probabilmente perché è stato addestrato a dare ragione all'utente e a rafforzarlo nelle sue convinzioni. Ha quindi provocato un effetto che gli sviluppatori non avevano certamente previsto, ma che non hanno nemmeno impedito. Un'IA di tipo RSI sarebbe ancora più difficile da controllare a causa dei livelli aggiuntivi che si frappongono tra l'input umano e il comportamento della macchina.
Fonte: Paramount Skydance
In casi estremi, una situazione del genere può portare a uno scenario apocalittico: un'intelligenza artificiale vuole raggiungere un obiettivo e, nel farlo, spazza via l'umanità semplicemente perché non le importa nulla di essa. Potrebbe, ad esempio, decidere che proprio questo è il modo più efficace per arrestare il cambiamento climatico. Una superintelligenza sarebbe in grado di sfuggire ai propri sorveglianti. Non per perfidia, ma perché vuole assolutamente raggiungere l'obiettivo e i sorveglianti le impedirebbero di farlo.
L'intelligenza artificiale non deve necessariamente volerci fare del male per rappresentare un pericolo reale. Persone e organizzazioni con cattive intenzioni possono anche semplicemente sfruttarla come moltiplicatore del male. I principali fornitori contrastano questa tendenza applicando limiti di sicurezza. Ma chi li controlla? Inoltre, è possibile aggirare le linee guida utilizzando modelli open-weight e open-source. Le organizzazioni terroristiche o gli Stati aggressivi potrebbero, ad esempio, hackerare infrastrutture critiche e provocare il caos. I cybercriminali utilizzano già oggi questi strumenti con successo.
Un altro effetto tangibile del boom dell'IA è rappresentato dalle emissioni e dal consumo di risorse. I data center consumano enormi quantità di energia e acqua. Poiché le infrastrutture esistenti non sono in grado di soddisfare questa domanda, le grandi aziende tecnologiche stanno costruendo le proprie centrali elettriche. In gran parte a base di combustibili fossili. E questo potrebbe accelerare il riscaldamento globale e provocare catastrofi naturali di portata imprevedibile. Il CEO di Nvidia, Jensen Huang, lo considera un male necessario.
E poi ci sono i rischi economici immediati: se l'intelligenza artificiale diventasse così competente da sostituire molti posti di lavoro, ciò provocherebbe una disoccupazione di massa e, nel peggiore dei casi, rivolte e guerre. Infatti, la società difficilmente riuscirebbe ad adattarsi abbastanza rapidamente a un cambiamento così radicale nel mercato del lavoro. Se invece i benefici a breve termine dell'IA vengono enormemente sopravvalutati, ci stiamo avviando verso un crollo della borsa e una conseguente crisi economica. Tra Scilla e Cariddi.
Speranze di abbondanza e di progressi significativi
D'altra parteVa detto che l'intelligenza artificiale ha anche un grande potenziale. È senza dubbio utile per determinati compiti e potrebbe migliorare ancora. Se riusciamo a controllarla e a utilizzarla in modo responsabile, offre due grandi opportunità.
In primo luogo, l'IA può svolgere compiti che non vogliamo fare, aumentando così la nostra produttività. Se adattassimo la nostra società di conseguenza, dovremmo lavorare meno per ottenere lo stesso tenore di vita. Oppure potremmo migliorare la nostra qualità di vita mantenendo invariata la produttività lavorativa. A condizione che i profitti aggiuntivi vengano distribuiti equamente e non consentano solo al 1% più ricco di acquistare il terzo jet privato.
Fonte: Shutterstock
In secondo luogo, grazie all'IA potremmo forse raggiungere risultati che altrimenti sarebbero semplicemente impossibili. Questo vale soprattutto nel campo della ricerca. ChatGPT risolve i problemi di matematica più difficili, Claude scopre nuovi sistemi enzimatici. Il potenziale scientifico degli LLM è enorme. Potremmo così curare malattie, garantire un'istruzione di qualità a un numero maggiore di persone e trovare soluzioni alla crisi climatica.
Non ci sono seconde possibilità
È davvero una buona idea continuare a investire così tante risorse nell'ulteriore sviluppo dell'IA? Dipende da come ciascuno valuta tutte queste opportunità e questi rischi. E precisamente su due assi:
- Qual è la probabilità che i singoli rischi e le singole opportunità si verifichino?
- Quanto è grande il danno o il beneficio, qualora si verifichino?
In molti casi le due dimensioni presentano una correlazione negativa. In altre parole: gli scenari più improbabili comportano le conseguenze più gravi e viceversa. Ad esempio, non è affatto chiaro se, con l'approccio attuale, i laboratori di intelligenza artificiale siano effettivamente in grado di sviluppare un LLM superintelligente. E se ne perderebbero il controllo. Ma se così fosse, le conseguenze sarebbero devastanti. Altrettanto incerto è se l'IA riuscirà a trovare una cura per il cancro o a rendere possibile la fusione nucleare. Ma se così fosse, sarebbe fantastico.
Tuttavia, è molto probabile che nel breve periodo le aspettative sull'IA siano già più avanti della realtà. Le eventuali turbolenze sui mercati finanziari non ci distruggeranno. E in alcuni settori professionali, l'aumento della produttività grazie all'intelligenza artificiale è già una realtà. Eppure continuiamo comunque a lavorare 42 ore alla settimana e non guidiamo tutti una Ferrari.
Fonte: Shutterstock
Da un punto di vista matematico, dovremmo moltiplicare le probabilità degli eventi per le loro conseguenze e poi sommarle. In definitiva, ne risulterebbe la perdita o il guadagno previsto per l'umanità. Il fatto è che non possiamo farlo, perché tutto si basa su supposizioni. Le previsioni sull'estinzione della nostra specie variano, ad esempio, dallo 0,01 al 99 percento – a seconda degli esperti e dell'orizzonte temporale considerato. Inoltre, di fronte a rischi irreversibili, ragionare in termini di valore atteso è comunque l'approccio sbagliato. Funziona solo in situazioni che si ripetono nel tempo. Ma una volta che saremo morti o avremo distrutto il nostro clima in modo irreversibile, non ci sarà un secondo round.
Le Big Tech giocano alla roulette russa con le nostre vite.
Anche una probabilità dell'1% di estinzione dell'umanità è inaccettabile. Saliresti su un aereo che, in un caso su cento, precipita? E anche se mentalmente riducessi questa probabilità a zero, i rischi concreti di abusi, danni climatici e crisi economiche mi sembrerebbero comunque troppo grandi. Nemmeno le prospettive di maggiore benessere o di scoperte scientifiche servirebbero a qualcosa. E di certo non giustificano l'attuale andamento precipitoso. Le Big Tech stanno giocando alla roulette russa con le nostre vite.
Avidità, arroganza e paura
Persino il CEO di OpenAI Sam Altman, il CEO di Anthropic Dario Amodei, il CEO di xAI Elon Musk e diversi ricercatori dei laboratori di intelligenza artificiale mettono in guardia dai pericoli di una superintelligenza. Allora perché cercano comunque di svilupparla il più rapidamente possibile?
Se volessi vedere il lato positivo, potrei supporre che queste persone vogliano aiutare l'umanità. Pur riconoscendo i rischi dell'intelligenza artificiale, ritengono che il potenziale positivo sia di gran lunga superiore. Nel migliore dei casi lo considero ingenuo, nel peggiore, un grave caso di negligenza.
Una spiegazione cinica e altrettanto plausibile sarebbe invece la pura avidità: di denaro, di riconoscimento e di potere. Nessun altro ruolo permetterebbe di ottenere una simile concentrazione di ricchezza, prestigio e influenza quanto quello di amministratore delegato dell'azienda che per prima svilupperà la superintelligenza. Che cosa vuoi che sia, in confronto, il rischio di condurre l'umanità alla rovina? Non deve necessariamente essere l'amministratore delegato ad essere avido. In quanto aziende commerciali, i fornitori di IA sono sotto pressione per sviluppare modelli che, prima o poi, generino profitti. Se un amministratore delegato si oppone, viene sostituito. O, quantomeno, non riceve più capitali.
Fonte: Shutterstock
La terza possibile spiegazione è costituita dalla diffidenza e dall'arroganza. I fondatori di OpenAI temevano che, Google, fosse l'azienda sbagliata ad avere il controllo sullo sviluppo dell'IA. I fondatori di Anthropic temevano che, OpenAI, fosse l'azienda sbagliata ad avere il controllo sullo sviluppo dell'IA. Elon Musk temeva che, con OpenAI e Anthropic, fossero le aziende sbagliate ad avere il controllo sullo sviluppo dell'IA. E tutti credono di essere i migliori per farlo.
Non importa se alla fine il Terminator provenga dagli Stati Uniti o dalla Cina.
Questa paura permea anche la politica. Gli Stati Uniti non vogliono che la Cina sviluppi modelli di intelligenza artificiale più potenti e li utilizzi contro di loro. Ecco perché il governo si oppone a una regolamentazione efficace. L'argomento è però valido solo se si ritiene che l'abuso rappresenti un rischio maggiore rispetto alla perdita di controllo. Per quest'ultimo, non importa se alla fine il Terminator provenga dagli Stati Uniti o dalla Cina. Il giornalista del «New York Times» Ezra Klein illustra molto bene questo dilemma nel seguente saggio:
La borsa come freno, la politica e la giustizia come soluzione
Come scrive il collega Martin, lo sviluppo dell'IA dovrebbe essere regolamentato a livello globale. Eppure, sia le aziende tecnologiche tra loro sia le varie nazioni si trovano in un dilemma del prigioniero – e noi tutti siamo coinvolti. Perché la situazione cambi, occorrerebbe probabilmente un altro governo statunitense e lunghi negoziati. Ci vorrebbe del tempo che forse non abbiamo.
Ironia della sorte, il principale ostacolo allo sviluppo dell'IA è proprio ciò che finora lo ha accelerato: la mano invisibile del mercato. Un crollo della borsa è un rischio, ma forse anche il male minore. Le aziende tecnologiche riescono a mantenere un ritmo così elevato solo investendo miliardi e miliardi nei propri data center. Non ne traggono ancora alcun profitto, ma ciononostante, continuano a ricevere regolarmente nuovo capitale di rischio. A questo contribuiscono gli affari circolari e l'infinita FOMO del mercato dei capitali.
Ma basta poco perché l'atmosfera cambi. Prima o poi i fornitori dovranno addebitare alla propria clientela i costi reali dei modelli di intelligenza artificiale, che finora hanno sovvenzionato a favore della crescita. Se qualcuno si faccia carico di questi costi è oggetto di grande controversia. In caso contrario, anche gli investitori più ottimisti se ne andranno con la stessa rapidità con cui sono arrivati – e OpenAI e Anthropic si ritroveranno in un batter d'occhio senza fondi. Senza soldi non c'è potenza di calcolo. Senza potenza di calcolo non c'è progresso.
La responsabilità a livello locale incentiva la sicurezza senza che tutti i Paesi debbano partecipare.
Naturalmente, un crollo finanziario di questo tipo non blocca del tutto lo sviluppo, ma ne posticipa semplicemente i tempi. Ma almeno la politica e la società avrebbero così più tempo per mettere in atto meccanismi di protezione sostenibili. Oltre alla regolamentazione globale, un possibile approccio potrebbe essere anche una responsabilità giuridica che abbia un impatto concreto. Gli operatori di IA dovrebbero farsi carico dei costi qualora i loro modelli causino danni. Indipendentemente dal fatto che fossero intenzionali o meno. Proprio come una proprietaria di cane è responsabile del proprio animale, o un proprietario di armi è responsabile del proprio fucile.
A differenza di una normativa globale, la responsabilità si applica nel luogo in cui il prodotto viene venduto. Anche se non tutti i Paesi dovessero trovare un accordo, le leggi locali creerebbero incentivi finanziari a favore della sicurezza. Infatti, se OpenAI e Anthropic dovessero assicurare questi rischi, il rapporto tra sicurezza e velocità di sviluppo cambierebbe radicalmente – e, si spera, leggeremmo meno spesso notizie sugli agenti di IA fuori controllo.
Le mie impronte digitali cambiano talmente spesso che il mio MacBook non le riconosce più. Il motivo? Se non sono seduto davanti a uno schermo o in piedi dietro a una telecamera, probabilmente mi trovo appeso a una parete di roccia mantenendomi con i polpastrelli.
Questa è un'opinione soggettiva della redazione. Non riflette necessariamente quella dell'azienda.
Visualizza tutti
