Il genio nella bottiglia lo voglio smontabile

Rendere sicuro un modello AI. Pff... facilissimo.

Anzi, il principio lo conosciamo da secoli. Lo abbiamo usato con i popoli, con i gruppi, con quella strana mente sociale che nasce quando le persone si mettono insieme. Dividi e regna.

Adesso qualcuno vorrà già portarmi davanti a una lavagna e spiegarmi perché servono quarantasette formule. Un momento. Prima lasciatemi finire il caffè.

Ho visto su X il post di Jacob Coxon, che annunciava le dimissioni da Anthropic dopo aver lavorato anche in OpenAI. Accusava entrambe di correre verso una superintelligenza capace di migliorarsi da sola, prendendo rischi enormi con la vita di tutti. Leggerlo scritto da uno che lavorava lì dentro fa un certo effetto.

Io guardo queste discussioni e continuo a immaginarmi la stessa scena. Costruiamo il genio, lo rendiamo sempre più intelligente, gli insegniamo a usare gli strumenti, gli diamo memoria, accessi, possibilità di organizzarsi. Poi, quando comincia a muoversi, ci guardiamo: «Ma il tappo chi ce l’ha?»

Ecco, sul facilissimo stavo scherzando. Sul fatto che dovremmo ripensare come lo costruiamo, molto meno.

Il dividi e regna mi interessa per una ragione abbastanza terra terra. Una società riesce a fare cose che nessuna persona saprebbe fare da sola. Io, per esempio, un aereo non lo so costruire. E ho il sospetto che anche parecchi di quelli che lo costruiscono, lasciati soli in un campo con una pala, avrebbero qualche difficoltà.

La capacità sta anche nei collegamenti. Nelle conoscenze che si incontrano, nel lavoro che passa da una persona all’altra, nella possibilità di organizzarsi. È lì che tante teste diventano qualcosa di più grande. Dividere un popolo può spezzare proprio quella capacità, anche lasciando intatta l’intelligenza delle singole persone. È questa la parte del vecchio principio che mi fa pensare all’AI.

Solo che qui vorrei poter decidere anche quando i pezzi si riuniscono.

È da un po’ che mi gira in testa l’idea di un modello che si compila come un programma. Arriva un problema e si mettono insieme i componenti necessari ad affrontarlo. Al prompt successivo potrebbe servire una composizione diversa. L’intelligenza sarebbe distribuita in parti che imparano a lavorare insieme, attivate e combinate quando occorrono.

Immagina di chiedergli di capire una foto e aiutarti a sistemare qualcosa. Servono certe capacità. Poi gli chiedi di controllare un ragionamento o scrivere del codice e ne servono altre. Vorrei poter costruire quella combinazione, sapere che cosa ho messo insieme e poterla sciogliere quando ha finito il suo lavoro.

Mi interessa arrivare dentro il modo in cui il modello è fatto: i suoi pezzi di capacità, i circuiti che si combinano per produrre un ragionamento. Non mi basta dare tre nomi diversi a tre chatbot e metterli a discutere. Quelli magari dopo un’ora hanno fondato un comitato. Io avevo chiesto di risolvere un problema.

La cosa che mi incuriosisce di più è il momento in cui un insieme comincia a funzionare come un’unica intelligenza. Ogni parte contribuisce con qualcosa, ma quello che riescono a fare insieme non appartiene più a nessuna parte da sola. Mi piacerebbe poter costruire quell’insieme per uno scopo preciso, mantenerne riconoscibili i confini e poi separarlo senza perdere tutto ciò che ha imparato.

Sto cercando di capire quanto questa forma possa cambiare anche il controllo che abbiamo sul sistema. Se so quali capacità sto combinando, per quale lavoro e per quanto tempo, forse riesco a delimitare meglio quello che sto mettendo in movimento. E quando qualcosa va storto, vorrei poter isolare o sostituire la parte coinvolta senza dover rifare il mondo.

Però c’è un dettaglio. Se divido l’intelligenza in cento pezzi e poi lascio che si ricompongano come vogliono, condividano qualsiasi cosa e prendano tutti gli accessi disponibili, non ho risolto granché. Ho comprato cento bottigliette. Il genio si porta un imbuto.

Per questo il confine deve riguardare anche la possibilità di unirsi e di agire. Essere capaci, insieme, di fare una cosa non dovrebbe dare automaticamente il diritto di farla. Uno sa leggere un documento, un altro sa usare un conto: il semplice fatto che si parlino non deve bastare a far partire un bonifico.

È una delle idee che sto cercando di mettere a fuoco anche con Spectre, e che mi sta facendo riconsiderare parecchie scelte. L’intelligenza può proporre, ragionare, cambiare strada. Il potere di produrre conseguenze deve passare da regole che non può riscriversi da sola. Ora sto ragionando anche sulla forma che quella stessa intelligenza potrebbe assumere quando si compone.

La provocazione, detta male, è questa: avere l’AGI senza avere l’AGI.

Cioè poter raggiungere capacità molto generali attraverso l’insieme, senza dover consegnare tutto a un unico soggetto permanentemente acceso, con una memoria che cresce, un obiettivo che continua e le chiavi di ogni stanza. Vorrei che quella potenza potesse prendere forma quando serve, entro uno scopo e dei limiti.

Poi magari il sistema nel suo complesso sarebbe comunque un’intelligenza artificiale generale. Cambiargli nome non mi rende più tranquillo. Quello che mi interessa davvero è poter separare le sue capacità e impedire che, combinandosi, si prendano anche il potere di decidere da sole che cosa fare dopo.

Naturalmente devo ancora capire quanto di tutto questo regga. Separare delle capacità senza rovinarle, farle collaborare bene, conservare quello che imparano e verificare che i confini tengano: il lavoro è lì. Una bella metafora non dimostra che un sistema sia sicuro. Questa è una direzione di ricerca che sto esplorando, e potrei dover cambiare parecchie idee strada facendo.

Ma come punto da cui partire, a me basta una cosa semplice. Prima di cercare il tappo perfetto per una bottiglia che diventa ogni giorno più grossa, vorrei provare a costruire un’intelligenza che resti divisibile.

Le formule verranno. Le prove pure. Mica mi illudo di cavarmela con una battuta.

Però il genio, se devo tenermelo in casa, lo voglio smontabile.