Agenti AI risolvono problemi tecnici ma non producono ricerca originale

Gli agenti AI oggi non raggiungono il livello di originalità richiesto per l’accettazione in conferenze di machine learning di alto profilo. Lo conclude uno studio guidato da Peter Kirgis e Sayash Kapoor alla Princeton University¹.

Il lavoro esamina se agenti basati su modelli linguistici sappiano condurre ricerche “open‑ended”: indagini senza risposte predefinite che richiedono giudizio e gusto. Gli autori considerano queste capacità decisive per costruire sistemi capaci di migliorarsi davvero, non solo di automatizzare pezzi di lavoro tecnico¹.

La valutazione è qualitativa. Gli autori osservano cosa gli agenti fanno bene oggi e dove falliscono quando il compito non ha un esito univoco. L’analisi mette a confronto due piani: l’ingegneria necessaria a fare ricerca e la produzione di contributi scientifici originali¹.

Il divario è netto. Gli agenti sanno eseguire compiti di ingegneria utili alla ricerca in AI. Sanno scrivere codice, generare dati sintetici per l’addestramento e ottimizzare componenti hardware. Ma non mostrano il giudizio e la creatività necessari per proporre idee nuove e difenderle con rigore, al livello di lavori accettati da una conferenza di settore di alto profilo¹.

Per gli autori, questo punto è centrale per stimare i tempi del progresso. La narrativa industriale parla di sistemi che si auto‑migliorano con minima supervisione: modelli che progettano modelli migliori, in un ciclo continuo. Oggi la catena tecnica fa passi avanti. Ma la parte difficile non è più l’esecuzione. È decidere che cosa esplorare, come strutturarlo e quando fermarsi. Qui gli agenti falliscono ancora¹.

La distinzione tra “saper fare” e “saper scegliere” regge anche quando gli agenti svolgono bene i compiti preparatori. Montare pipeline di dati e prototipi di codice aiuta, ma non basta per impostare un progetto scientifico aperto. Mancano segnali affidabili su pertinenza, novità e valore del risultato. Senza questi segnali, l’iterazione non converge verso contributi che reggono la revisione tra pari¹.

La conclusione è prudente. Se gli agenti non gestiscono la ricerca open‑ended con il livello di giudizio richiesto, la transizione verso sistemi che si migliorano da soli non è imminente. Le previsioni di progresso rapido basate su auto‑miglioria ricorsiva andrebbero quindi trattate con cautela. L’ostacolo principale non è più la sola ingegneria, ma la capacità di scelta e valutazione in indagini senza risposta predefinita¹.

Per valutare davvero il passo successivo serviranno prove che colleghino l’automazione tecnica a risultati originali riconosciuti dalla comunità. Finché quel collegamento non appare nelle uscite scientifiche, l’automazione resta uno strumento di supporto, non un motore autonomo di scoperta¹.