L’anno 2024 è stato segnato da significativi progressi tecnologici, ma anche da errori che hanno fatto notizia nel campo dell’Intelligenza Artificiale e della tecnologia. Mentre l’industria tecnologica continua a spingere i confini dell’innovazione, è essenziale riconoscere e imparare dai fallimenti per dare priorità all’affidabilità, all’accuratezza e all’inclusività nello sviluppo di nuove tecnologie. In questo articolo abbiamo raccolto 5 errori tecnologici del 2024.
1) Abbaglio dell’IA “woke” di Google: a febbraio, la funzione di generazione immagini di Gemini AI ha mostrato eccessivo zelo inclusivo, creando immagini storicamente inaccurate, come soldati tedeschi della Seconda Guerra Mondiale di etnie diverse. Le critiche hanno portato Google a sospendere la funzione, riconoscendo l’errore.
2) Flop dell’IA di Google nei risultati di ricerca: introdotta a maggio, la funzione di riassunto basata sull’IA ha fornito risposte imprecise e talvolta ridicole, come consigliare l’uso di colla per evitare che il formaggio scivoli dalla pizza, sollevando dubbi sull’affidabilità dei contenuti generati dall’IA.
3) Caos dei robot nei drive-thru di McDonald’s: l’introduzione di bot basati sull’IA per la gestione degli ordini in 100 sedi ha incontrato errori e critiche, portando McDonald’s a interrompere l’iniziativa e la collaborazione con IBM, evidenziando le sfide dell’implementazione dell’IA nel mondo reale.
4) Interruzione dei servizi di CrowdStrike: lo scorso 19 luglio, un aggiornamento software difettoso ha causato il malfunzionamento di migliaia di dispositivi Windows, con conseguenze come la cancellazione di 7.000 voli da parte di Delta Air Lines, sottolineando l’importanza di test accurati negli aggiornamenti software.
5) Titoli falsi generati dall’IA di Apple: le funzionalità di IA generativa in iOS 18 hanno causato errori significativi, come notifiche errate su notizie sensibili, sollevando preoccupazioni sull’affidabilità dei contenuti generati dall’IA e la necessità di una verifica umana.
Questi incidenti ci offrono una lunga lista di lezioni apprese tra cui l’importanza di investire in test rigorosi a garanzia della qualità del risultato, nella consapevolezza dei limiti e dei potenziali “pregiudizi” dei contenuti generati dall’intelligenza artificiale. Per garantire uno sviluppo sostenibile di questa tecnologia, le aziende devono riconoscere che l’IA è influenzata dalle persone, dalle politiche e da implicazioni culturali. È quindi essenziale coinvolgere competenze e prospettive diverse nel suo sviluppo.
Un solido framework di governance, basato su trasparenza, equità e responsabilità, è cruciale per un’implementazione etica ed efficace dell’IA. In questo contesto, la presenza di un esperto nell’etica dell’IA o di un team dedicato può aumentare il successo nell’adozione responsabile della tecnologia e ridurre il rischio di bias o discriminazione. L’adozione di politiche adeguate per mitigare questi rischi è una strategia chiave per garantire l’affidabilità dei sistemi basati su IA.
Infine, è importante creare un framework completo per l’esplorazione e l’adozione dell’IA, che tenga conto di aspetti etici, utilizzo dei dati, sicurezza e conformità normativa. Questo approccio strutturato aiuta i team di sviluppo ad affrontare le sfide etiche e tecniche, promuovendo un’innovazione sostenibile e responsabile.
Fonte: Forbes, 10 Tech and AI Misses In 2024 — And Lessons Learned For The Year Ahead, Sol Rashidi, 31 dicembre 2024
