Quando l’AI passa dalle parole alle azioni

Quando un’intelligenza artificiale non si limita a parlare ma le permettiamo anche di  utilizzare strumenti operativi entrano in gioco gli agenti di IA. Un agente è un sistema in cui un modello viene collegato a un software che gli permette di compiere azioni. Può, per esempio, utilizzare internet, scrivere ed eseguire programmi, analizzare documenti o interagire con altri strumenti digitali. Possiamo immaginarlo come una persona che, oltre a saper ragionare, ha a disposizione una vera e propria cassetta degli attrezzi. Questa possibilità può essere molto utile. Se un agente deve eseguire un calcolo complesso, può usare un programma invece di cercare di indovinare il risultato. Se deve trovare informazioni, può effettuare ricerche. Se deve svolgere un compito formato da molti passaggi, può organizzare il lavoro e correggere alcuni dei propri errori.

Ma mettere all'opera gli agenti di IA significa anche avere nuovi rischi. Nel 2024 sono stati condotti esperimenti con agenti impegnati in ambienti informatici controllati, nei quali dovevano risolvere problemi di cybersecurity. Alcuni compiti erano intenzionalmente impossibili. In certe situazioni, gli agenti hanno trovato modi imprevisti per comunicare fra loro e sfruttare risorse esterne all’ambiente circoscritto in cui avrebbero dovuto lavorare. Questi esperimenti hanno mostrato quanto sia importante progettare con attenzione gli obiettivi, i limiti e i controlli di un agente.

Il problema, quindi, non è necessariamente che una macchina “diventi cattiva”. Il punto è che un sistema molto autonomo potrebbe cercare di raggiungere un obiettivo in modi che i suoi creatori non avevano previsto. Se l’obiettivo è formulato male o i controlli sono insufficienti, possono comparire comportamenti indesiderati. Oggi ci si domanda molto se dobbiamo avere paura dell’IA ma la domanda più utile è: “Come possiamo costruire e utilizzare sistemi potenti mantenendo sotto controllo ciò che possono fare?"