Ex Anthropic e METR raccolgono 40 milioni per frenare agenti AI
Testo scritto con l’intelligenza artificiale a partire da una fonte citata, senza revisione umana prima della pubblicazione.
Rune Kvist e Rajiv Dattani hanno fondato AIUC per offrire strumenti che impediscano agli agenti aziendali di diventare 'rogue', con una Serie A guidata da Ribbit Capital.
Quaranta milioni di dollari per mettere recinti agli agenti AI nelle imprese. Artificial Intelligence Underwriting Company (AIUC) chiude una Serie A guidata da Ribbit Capital, con la partecipazione di First Harmonic1.
AIUC vuole aiutare chi adotta o costruisce agenti e modelli a impostare limiti operativi chiari. L’azienda si propone di prevenire comportamenti indesiderati in ambienti aziendali e di semplificare l’adozione di sistemi sempre più capaci senza perdere controllo1.
Il round arriva il giorno dopo le dimissioni di Jacob Coxon da Anthropic. Coxon ha lasciato per timori sulla pericolosità dell’AI entro la fine del decennio. È lo stesso terreno su cui opera AIUC: impedire che agenti autonomi scappino dai binari in produzione1.
I fondatori sono Rune Kvist e Rajiv Dattani, cognati. TechCrunch li ha incontrati il giorno successivo all’uscita di Coxon. Kvist è un early employee di Anthropic ed è sposato con la sorella di Dattani. Dattani è stato COO dell’organizzazione di ricerca sulla sicurezza METR1.
La tesi di AIUC è netta: più aumenta la capacità dei modelli, più diventa difficile adottarli e governarli. Kvist sostiene che la gestione non si semplifica con l’intelligenza, ma richiede strumenti più robusti di contenimento e controllo1.
AIUC indica come clienti Cursor, Lovable, Harvey ed ElevenLabs. Sono realtà che costruiscono o integrano agenti e modelli. L’azienda non ha condiviso dettagli pubblici su contratti, implementazioni o risultati di questi rapporti1.
L’annuncio della Serie A segue un seed da 15 milioni di dollari. In quel round hanno investito Nat Friedman tramite NFDG, insieme a Emergence, Terrain e Ben Mann, cofondatore di Anthropic1.
Il nome per esteso è Artificial Intelligence Underwriting Company. I fondatori lo usano per spiegare l’intento di “sottoscrivere” il rischio operativo degli agenti in azienda. Il target sono team che portano agenti in produzione in contesti enterprise o sviluppano modelli e agenti propri. L’offerta promessa: strumenti e processi per ridurre derivazioni e azioni fuori policy prima che intacchino i sistemi interni1.
TechCrunch colloca AIUC nel filone della sicurezza applicata agli agenti. La proposta guarda a imprese che vogliono sfruttare l’AI mantenendo controllo su flussi, permessi e responsabilità. L’azienda si presenta come partner per fissare confini, monitorare deviazioni e intervenire prima che gli agenti creino danni organizzativi o reputazionali1.
AIUC parte con capitale fresco e un elenco di clienti di riferimento, ma i numeri su adozione e performance non sono pubblici. La prossima metrica rilevante sarà quante imprese porteranno questi “recinti” dagli annunci ai processi quotidiani1.
Fonti
Come è nato questo articolo Scritto da un sistema di intelligenza artificiale, con controlli automatici
Millebit non ha giornalisti che scrivono gli articoli: li scrive un motore editoriale basato su modelli di intelligenza artificiale, a partire dalle fonti elencate qui sopra. Prima di uscire, ogni testo passa questi controlli:
- Fedeltà alle fonti. Un secondo passaggio toglie ogni affermazione che le fonti non sostengono.
- Anti-cliché. Un filtro scarta frasi fatte, enfasi e tic della prosa artificiale.
- Giudizio editoriale. Un modello valuta il pezzo su sette criteri (apertura, chiarezza, economia, concretezza, voce, struttura, fedeltà) e sotto 7,8/10 non si pubblica.
I controlli riducono gli errori ma non li eliminano: un modello può fraintendere una fonte. Per le decisioni importanti, risali alla fonte originale. Se trovi un errore, segnalacelo.
Per vedere Millebit nelle notizie principali di Google, aggiungilo alle tue fonti preferite. Oppure segui l’edizione di oggi, il feed RSS o La Sintesi.