Sicurezza nell’era dell’AI: opportunità e rischi
Il compito centrale del Cyber Defence Campus è quello di mettere in rete l'amministrazione federale, l'industria e la scienza nei settori dello sviluppo digitale e della difesa informatica. Quest’anno la conferenza proposta dal Cyber-Defence Campus si è svolta al Kursaal di Berna il 26 ottobre 2023. L’argomento che ha fatto da filo conduttore durante tutta la giornata è stato «La sicurezza nell’era dell’intelligenza artificiale: opportunità e rischi».
Pratiche responsabili dell’AI
Durante questa giornata diversi esperti hanno preso parola. Tra questi, Christoph Nicolais, CEO di Kudelsky, ha aperto le danze. Egli ha parlato dell’importanza di adottare l’AI a livello svizzero, usandola con responsabilità. Secondo il CEO di una delle più grande aziende di sicurezza svizzere, l’AI, come Chat GPT, vanno integrate e adottate per riuscire in modo più efficiente in svariate tasks a livello aziendale. Non solo: infatti l’intelligenza artificiale andrebbe anche integrata a livello scolastico, fornendo ai ragazzi in giovane età (i quali sono confrontati con contenuti generati dall’AI ogni giorno) una spiegazione sul suo funzionamento e sui rischi associati ad essa; bisognerebbe inoltre lavorare su una Policy e incoraggiare e sostenere le Start-up che lavorano con e sull’AI per arrivare a delle pratiche responsabili.
La digitalizzazione delle forze armate includerà anche l’AI
Anche il Capo delle Forze Armate svizzere, Thomas Süssli, ha preso parola, spiegando che dal 2019 l’esercito si sta impegnando per definire i suoi primi passi verso una digitalizzazione delle forze armate con una particolare attenzione verso la sicurezza. «Se qualcuno oggi dovesse attaccarci, probabilmente ci attaccherebbe a livello di infrastrutture», questo vuole dire che bisogna «essere invisibili». Gli ambiti in cui le forze armate vorrebbero applicare l’AI sono la logistica, il mondo ciber e quello delle simulazioni. Per ora l’esercito ha in programma di attuare una digitalizzazione che vuole includere anche l’AI. A tal proposito verrà rilasciata una pubblicazione il 25 gennaio 2024 che spiegherà la futura strategia di digitalizzazione. Quello che però è già stato sottolineato è che per l’esercito svizzero l’uomo sarà sempre presente nei processi decisionali che non saranno lasciati in mano all’AI.
La chiave è l’Explainability
Nel pomeriggio, il professore Dr. Philippe Cudré-Mauroux dell’Università di Friborgo ha invece tenuto un importante discorso su quanto l’AI sia fantastica ma al tempo stesso fallimentare. Tre bias per dimostrare questa affermazione sono stati spiegati mediante esempio: l’Overfitting, il Biased training Data e l’Hallucinations. Questi bias si presentano a livello di Machine Learning (ovvero il momento in cui un’IA viene allenata per poter svolgere un determinato compito, inserendo dei dati da cui quest’intelligenza deve imparare). Un esempio citato, ovvero quello del Biased training Data, è del caso Amazon, che ha deciso di lasciare all’AI il compito di selezionare i migliori CV ricevuti per una posizione lavorativa aperta. Il problema è che i dati/CV inseriti nel processo di ML erano vecchi CV e appartenenti unicamente a uomini bianchi. Questo ha portato conseguentemente l’AI a selezionare tra le candidature del nuovo posto di lavoro (in base ai criteri di «successo» appresi) unicamente uomini bianchi, tralasciando donne e altre minoranze.
Secondo il professore, le tre problematiche citate, rimarranno per sempre, poiché «intrinseche al Deep Learning». Questo perché i modelli con i quali si svolge un processo di ML sono stocastici; i dati inseriti sono moltissimi (su larga scala) e non qualitativi e perché l’AI è generativa (cioè i nuovi contenuti vengono generati dai vecchi). La soluzione è quindi puntare sull’Explainability: ovvero affidarci all’uomo, o meglio a degli esperti, i quali sono indispensabili per predire gli errori dell’AI e per riuscire a interpretare e dare una spiegazione a quello che l’AI è in grado di fornirci.