Presentazione dei finalisti della Cyber Startup Challenge 2024
Le tre startup Patronus AI, QuantPi e Dynamo AI hanno impressionato la giuria nel processo di selezione della Cyber Startup Challenge 2024. Presenteranno le loro soluzioni innovative per la «Sicurezza dell'Intelligenza Artificiale» in un pitch alla Cyber Defence Campus Conference il 30 ottobre 2024. Questa conferenza è organizzata annualmente dal Cyber Defence Campus di armasuisse Science and Technology (S+T).
Le start-up hanno presentato le loro soluzioni innovative per proteggere le applicazioni di intelligenza artificiale (AI) e minimizzare i rischi potenziali sul tema «Sicurezza dell'intelligenza artificiale». Il vincitore si aggiudicherà un contratto per un proof of concept e avrà l'opportunità di dimostrare la propria soluzione in un ambiente DDPS reale.
Il Cyber-Defence Campus svolge un ruolo chiave nel monitorare gli sviluppi informatici e nel reagire con lungimiranza. In vista dei crescenti rischi informatici, è importante identificare e sostenere le tecnologie innovative in una fase iniziale. Le startup hanno il potenziale per sviluppare idee innovative che offrono vantaggi tecnologici significativi per la sicurezza informatica, anche se queste soluzioni non sono ancora completamente sviluppate.
La Cyber Startup Challenge è specificamente alla ricerca di tali innovazioni, al fine di sviluppare soluzioni per l'Esercito svizzero e altri attori della sicurezza insieme alle startup. Quest'anno, il focus è sulla «sicurezza dell'intelligenza artificiale» e le startup di tutto il mondo presentano le loro tecnologie visionarie. La giuria ha selezionato i seguenti tre finalisti tra le numerose aziende partecipanti:
QuantPi
QuantPi è all'avanguardia nelle tecnologie di fiducia per lo sviluppo di un'IA responsabile. La sua piattaforma end-to-end testa in modo esaustivo i sistemi di IA per verificare la parzialità, la robustezza, la spiegabilità, la conformità e altre metriche critiche. Ciò fornisce a tutti coloro che sono coinvolti nel ciclo di vita dell'IA una comprensione comune dei loro modelli di IA, indipendentemente dal fatto che siano stati creati internamente o che provengano da terzi. Il cuore di questa piattaforma è un potente motore di test proprietario che valuta tutti i tipi di IA (LLM (Large Language Models), computer vision, apprendimento automatico, ecc. In questo modo si ottengono intuizioni attuabili e si rendono operative le linee guida interne sull'AI e i quadri normativi come la Legge europea sull'AI.
QuantPi è nato da uno dei principali istituti di sicurezza informatica del mondo (CISPA). Sta dando forma a un futuro in cui le macchine intelligenti vengono utilizzate con fiducia e responsabilità. QuantPi gode della fiducia di alcune delle più grandi aziende e istituzioni del mondo e rimane un leader globale nella promozione di un'IA affidabile.
Patronus AI
Patronus AI è un'azienda di valutazione, protezione e sicurezza LLM automatizzata. La sua piattaforma consente ad aziende e governi di valutare e confrontare le prestazioni degli LLM in scenari reali, generare casi di test su scala, monitorare le allucinazioni e prevenire altri comportamenti inattesi e non sicuri.
Gli utenti traggono vantaggio dall'uso di Patronus AI risparmiando migliaia di ore di valutazione umana, accelerando lo sviluppo e la fiducia nelle applicazioni GenAI dal prototipo alla produzione e riducendo al minimo i rischi negativi delle allucinazioni e delle iniezioni tempestive.
Dynamo AI
Fondata da un team di dottori di ricerca del MIT ed esperti di sicurezza, Dynamo AI offre un approccio completo alla sicurezza dell'AI e alla gestione dei rischi. Dynamo AI è leader nella GenAI conforme alla normativa, consentendo ai governi di distribuire applicazioni sicure e protette su scala.
Dynamo AI offre tre prodotti: DynamoEval valuta i modelli GenAI per i rischi di sicurezza, allucinazione, privacy e conformità. DynamoEnhance aiuta a correggere i rischi e le vulnerabilità GenAI identificate, per garantire operazioni più sicure e affidabili. DynamoGuard fornisce un guardrail in tempo reale per GenAI, personalizzabile in linguaggio naturale, che può essere eseguito in cloud, ibrido, on-premise o interamente su dispositivi edge, per garantire una protezione dei dati e una sicurezza complete per l'AI. La possibilità di eseguire il guardrailing dell'AI interamente su dispositivi edge con o senza connessione a Internet offre ai clienti della difesa un guardrailing per le operazioni critiche.
Il vincitore della Cyber Startup Challenge di quest'anno sarà annunciato mercoledì 30 ottobre 2024.