La start-up «Patronus AI» convince il DDPS in occasione della Cyber Startup Challenge 2024
La Cyber Startup Challenge del Cyber-Defence Campus si svolge ogni anno per identificare start-up rilevanti e tecnologie innovative nel settore informatico. Nell’edizione di quest’anno, la start-up «Patronus AI» ha convinto con la sua piattaforma per la valutazione automatizzata e la sicurezza degli LLM. Nel 2025, nell’ambito di uno studio di fattibilità l’azienda potrà mostrare la propria soluzione al DDPS nella pratica.
Quest’anno, la Cyber Startup Challenge è giunta alla quinta edizione. A maggio 2024, il Cyber-Defence Campus ha lanciato un appello per la ricerca di soluzioni innovative nel campo «Test di sicurezza dell’AI». Le start-up hanno presentato i propri progetti di sviluppo a una giuria composta da esperti del Dipartimento federale della difesa, della protezione della popolazione e dello sport (DDPS). Quest’anno è stata l’azienda «Patronus AI» ad aggiudicarsi la vittoria: nel 2025 avrà la possibilità di mostrare al DDPS la propria soluzione nell’ambito di uno studio di fattibilità in condizioni reali.
Test di sicurezza dell’AI
«Patronus AI» è un’azienda specializzata nella valutazione automatizzata di modelli linguistici di grandi dimensioni (Large Language Models, LLM) nonché in misure di protezione e soluzioni di sicurezza. La piattaforma consente ad aziende e autorità di valutare e confrontare le prestazioni degli LLM in scenari reali. Offre funzionalità complete per la creazione di ampi casi di test, per il monitoraggio delle allucinazioni e per la prevenzione di altri comportamenti inattesi e non sicuri.
L’uso di «Patronus AI» consente alla clientela di risparmiare tempo nella valutazione manuale, di velocizzare lo sviluppo e la fiducia nelle applicazioni di intelligenza artificiale generativa, dalla messa a punto del prototipo alla produzione, nonché di ridurre al minimo i rischi negativi dovuti ad allucinazioni e prompt injection. Inoltre, la piattaforma offre analisi approfondite e precisi meccanismi di feedback basati sulle più recenti ricerche effettuate nel campo dell’intelligenza artificiale.
Il prossimo anno, il Cyber-Defence Campus di armasuisse Scienza e tecnologia organizzerà la nuova edizione della Cyber Startup Challenge per incentivare di nuovo tecnologie e idee innovative.
