Le ontologie rientrano nell'AI: guardrail logici per agenti LLM

In un talk da 20 minuti all’AI Engineer World’s Fair, Frank Coyle ha proposto le ontologie come “logical guardrails” per gli agenti che usano LLM¹.

Coyle, oggi docente di generative AI e LLM a UC Berkeley, non vuole rimpiazzare i modelli. Vuole affiancarli con vincoli formali. Dice: dati come grafi. Prima si chiarisce che cosa esiste in un dominio, come si collega e che cosa l’agente può fare. Poi si lascia al modello la parte probabilistica¹.

La definizione che usa è sobria. Oxford Semantic Technologies descrive un’ontologia come la struttura di classi, proprietà e relazioni in un dominio di conoscenza. Coyle si allinea e traduce in pratica: rendere esplicite entità e connessioni per ridurre ambiguità e interpretazioni spurie prima che l’agente agisca¹.

Il punto operativo è qui. Gli LLM ragionano per probabilità. Gli agenti, quando interagiscono con ambienti complessi, hanno bisogno di binari logici. Le ontologie forniscono quei binari. Guidano l’interpretazione degli input e limitano l’azione entro confini deterministici, senza togliere al modello la capacità di proporre soluzioni in condizioni incerte¹.

Coyle parla a chi costruisce agenti. Riprende un’idea nota nella rappresentazione della conoscenza e la rimette nel flusso attuale dell’ingegneria AI. Non la carica di promesse vaghe. La usa per disciplinare comportamenti e ridurre errori causati da dati ambigui¹.

Il talk non entra in dettagli implementativi. Non cita prodotti o casi d’uso specifici. Indica però il metodo: partire da una mappa esplicita del dominio, classi, proprietà, relazioni, e usarla come contesto condiviso tra sistema e modello. In breve: progettare agenti che “vedono” grafi, non solo testo¹.

Il messaggio tocca anche il linguaggio di progetto. “Dati come grafi” non è uno slogan estetico. È una scelta architetturale: esplicitare le strutture su cui far lavorare l’agente, invece di lasciargliele derivare in modo implicito dal prompt. Per Coyle, questa chiarezza a monte riduce derive e comportamenti indesiderati senza bloccare la generatività del modello¹.

Non c’è qui una novità storica. Le ontologie hanno una lunga traiettoria nella knowledge representation. La novità è la richiesta che arriva dagli agenti alimentati da LLM: servono mappe esplicite quando il contesto è denso o ambiguo. È in quel varco che l’ontologia torna a essere strumento di progetto, non teoria astratta¹.

Per gli ingegneri, la conseguenza è concreta: la modellazione del dominio entra tra le scelte iniziali di architettura degli agenti. Si decide quali entità contano, come si collegano, quali azioni restano entro i confini del sistema. Poi si chiede al modello di lavorare dentro quei confini¹.