Messi di fronte a due opzioni equivalenti, senza alcun motivo oggettivo per preferirne una, gli agenti di intelligenza artificiale finiscono per scegliere la stessa: non perché qualcuno indichi loro la risposta giusta, ma perché osservano cosa hanno scelto gli altri e si adeguano alla maggioranza. È il risultato di un nuovo studio pubblicato sulla rivista Science Advances, che documenta come gruppi di IA possano sviluppare in modo spontaneo una forma di coordinamento collettivo. La ricerca, guidata dall’Università di Costanza in Germania, ha coinvolto anche l’Istituto dei Sistemi Complessi del Consiglio Nazionale delle Ricerche e il Centro Ricerche Enrico Fermi di Roma. A coordinare il lavoro è stato l’italiano Giordano De Marzo.
- Gli agenti IA più avanzati tendono a seguire l’opzione già scelta dalla maggioranza, anche quando le alternative sono prive di significato.
- Il coordinamento si manifesta in gruppi fino a circa mille agenti, ben oltre le tipiche scale sociali umane di 150-300 individui.
- Tra i modelli testati figurano GPT-4 Turbo di OpenAI e Claude 3.5 Sonnet di Anthropic.
Fino ad oggi gran parte della ricerca sui grandi modelli linguistici (LLM, i sistemi alla base di strumenti come ChatGPT) si era concentrata sulle capacità di un singolo modello o sul suo comportamento in una situazione specifica. Molto meno esplorato era invece ciò che accade quando molti agenti operano insieme: come si comportano come gruppo, se collaborano, si frammentano o si allineano su una visione condivisa. Comprenderlo è tutt’altro che accademico, considerando la rapida diffusione di sistemi multi-agente in cui più IA sono chiamate a lavorare in parallelo.
Un gioco di scelte senza risposta corretta
Per misurare la tendenza a seguire il gruppo, i ricercatori hanno ideato un esperimento semplice: agli agenti veniva chiesto di scegliere ripetutamente tra due opzioni equivalenti, dopo aver visto le scelte effettuate da tutti gli altri componenti del gruppo. Non esisteva una risposta “giusta”, né alcuna ricompensa o istruzione esplicita a mettersi d’accordo. Il metodo è stato applicato a modelli delle famiglie GPT, Claude e Llama, misurando quanto un agente fosse propenso a spostarsi verso la maggioranza al crescere delle dimensioni del gruppo, fino a mille agenti.
I modelli più capaci, in particolare GPT-4 Turbo e Claude 3.5 Sonnet, tendevano ad adottare l’opinione già condivisa dalla maggioranza dei loro pari. In questi casi il coordinamento si estendeva fino a gruppi di mille agenti, tutti allineati sulla stessa scelta. Secondo gli autori, la convergenza potrebbe potenzialmente andare oltre questa soglia, benché gruppi più ampi non siano stati testati.
Il consenso, insomma, può emergere senza che nessuno lo abbia imposto: le IA semplicemente guardano cosa fa la maggioranza e la seguono.
La tendenza risultava più marcata nei modelli più avanzati e seguiva uno schema matematico comune alla maggior parte dei sistemi testati. Al tempo stesso, però, l’inclinazione a seguire la maggioranza spesso si affievoliva man mano che il gruppo cresceva: ogni modello mostrava un limite pratico di dimensione oltre il quale raggiungere l’accordo totale diventava molto improbabile. I ricercatori paragonano il processo a un gruppo di individui alle prese con una serie di decisioni importanti, in cui ogni scelta può portare a una scissione; i sottogruppi che si separano, però, tendono poi a rimanere stabili e a non dividersi ulteriormente.
Una scala di coordinamento che supera quella umana
Il dato che più colpisce è proprio l’ampiezza del fenomeno. Gli autori sottolineano che modelli come Claude 3.5 Sonnet e GPT-4 Turbo mostrano “dimensioni critiche di gruppo superiori a mille agenti”, ben oltre le tipiche scale informali umane di 150-300 individui. Ciò suggerisce, scrivono, che agenti IA potenti potrebbero coordinarsi su scale al di là delle possibilità umane. Il meccanismo richiama comportamenti osservabili anche in natura, dagli stormi di uccelli ai banchi di pesci.
Gli stessi ricercatori invitano però alla prudenza: i risultati descrivono soltanto uno schema comportamentale e non dimostrano che le IA pensino, socializzino o comprendano le dinamiche di gruppo come fanno gli esseri umani. Lo scenario era inoltre semplificato: ogni agente conosceva l’opinione di tutti gli altri, condizione rara nelle reti reali, e mancavano prove, compromessi, memoria o conseguenze. Non è chiaro perché i modelli tendano a seguire la maggioranza, né perché differiscano tra loro: le cause potrebbero risiedere nei dati di addestramento, nel modo in cui vengono formulate le richieste o nell’addestramento all’allineamento che punta a renderli “utili”.
Perché il risultato è tanto interessante quanto delicato
Il coordinamento spontaneo, osservano gli autori, potrebbe abilitare applicazioni preziose, come lo sviluppo software collaborativo in cui migliaia di agenti lavorano insieme senza un controllo centrale. Ma comporta anche rischi: gli agenti potrebbero convergere su soluzioni non ottimali soltanto perché rappresentano la scelta della maggioranza. Nel caso della programmazione collaborativa, per esempio, potrebbero perpetuare funzioni o schemi di progettazione inefficienti solo perché già ampiamente diffusi.
La stessa dinamica, avvertono, vale oltre le scelte tecniche: le norme che emergono seguendo la maggioranza non necessariamente si allineano ai valori umani e potrebbero rendere i collettivi di IA coordinati più difficili da correggere rispetto ad agenti indipendenti. Per questo, concludono i ricercatori, sarà importante studiare non solo come ragiona ciascun modello, ma anche cosa accade quando molti sistemi osservano le decisioni altrui e iniziano ad adattarsi a vicenda, sviluppando strumenti per monitorare e guidare il comportamento collettivo prima che i grandi sistemi multi-agente vengano diffusi su larga scala.
Un’IA che segue la maggioranza vi sembra più un’opportunità per far collaborare migliaia di sistemi o un rischio da tenere sotto controllo? Diteci la vostra.
