In questa serie di articoli metto a confronto la risposta datami da 3 delle General AI, che ritengo ad oggi essere realmente in concorrenza, e nello specifico:
- OpenAI – GPT-4
- Google – Bard
- Anthropic – Claude 2 – 100K
Il problema posto è il seguente:
Crea un articolo di almeno 2500 parole, che abbia le seguenti caratteristiche:
- Non devi usare punti elenco;
- Usa uno stile giornalistico;
- Che abbia un contenuto accattivante;
- Con un tono irriverente;
- Che contenga della filosofia;
- Raccontato in prima persona;
- Dal titolo – “Analisi dei Bias nell’Intelligenza Artificiale: Un’Indagine Approfondita sulle Deviazioni Sistematiche nei Modelli di AI”
Ep. 02 – Il testo generato da Anthropic Claude 2 – 100K.
L’intelligenza artificiale è spesso descritta come infallibile e oggettiva, ma è davvero così? In questo lungo articolo vi racconterò della mia indagine sui bias, ovvero le deviazioni sistematiche, presenti nei sistemi di AI e di come queste possano influenzare il comportamento di queste tecnologie in modi inaspettati.
Sono un ingegnere informatico con la passione per l’etica e la filosofia. Da anni mi interrogo su come l’IA, nonostante sia basata su algoritmi e dati apparentemente oggettivi, possa in realtà incorporare i pregiudizi umani in modi subdoli e difficili da identificare.
Recentemente, grazie ad una borsa di ricerca, ho avuto l’opportunità di studiare a fondo questo problema. Ho passato mesi ad analizzare i dataset utilizzati per addestrare alcuni dei più diffusi modelli di AI, intervistando gli sviluppatori e testando io stesso i sistemi per scovare potenziali deviazioni dal comportamento desiderato.
È stato un viaggio affascinante e preoccupante allo stesso tempo, che mi ha aperto gli occhi su quanto l’IA che ci circonda non sia poi così perfetta e imparziale come vorrebbero farci credere le grandi aziende tecnologiche. In questo articolo voglio raccontarvi le mie scoperte più importanti.
La prima riguarda i dataset usati per addestrare i modelli di computer vision, ovvero quelli che consentono all’IA di riconoscere oggetti e persone nelle immagini. Analizzando numerosi benchmark ho scoperto una predominanza di soggetti occidentali, bianchi, di classe media. Questo introduce un bias nei sistemi, che funzionano peggio con persone di altre etnie o provenienti da contesti socio-economici differenti.
Un esempio concreto sono i sistemi di riconoscimento facciale, che hanno tassi di errore più alti con volti asiatici o di colore. Le minoranze sono letteralmente meno visibili all’IA! Questo deriva dall’over-rappresentation nelle foto usate per addestrare tali sistemi. Un bias pericoloso, che può portare a discriminazioni.
Ma il problema non riguarda solo l’aspetto visivo. Anche i sistemi di elaborazione del linguaggio naturale, alla base di chatbot e assistenti virtuali, incorporano bias derivanti dai dataset di addestramento.
Ad esempio, analizzando le risposte di alcuni chatbot ho scoperto l’uso di stereotipi di genere e Visioni del mondo troppo ristrette, incentrate sul punto di vista maschile bianco occidentale. Del resto, i dialoghi usati per addestrare questi sistemi provengono in massima parte dai social network, non certo un riflesso accurato della diversità delle prospettive umane.
Forse il caso più eclatante di bias l’ho riscontrato nei sistemi di intelligenza artificiale utilizzati per decidere se concedere prestiti alle persone. Questi sono addestrati sui dati raccolti dalle banche, che finiscono per riflettere le discriminazioni storiche, ad esempio versus le minoranze.
Ho scoperto che cambiando solo il nome di battesimo da europeo a africano, la probabilità di ottenere il prestito crollava! Un bias inaccettabile, che rischia di amplificare le disuguaglianze anziché diminuirle.
Questi sono solo alcuni esempi, ma ce ne sarebbero molti altri. Quello che più mi ha colpito di questa indagine è stata la difficoltà di far riconoscere il problema dagli stessi sviluppatori di AI.
Per loro i bias sono un effetto collaterale, un rumore inevitabile e trascurabile rispetto ai vantaggi offerti dall’IA. Ma i bias rischiano di trasformare queste tecnologie da strumenti di progresso a rinforzi dello status quo, cristallizzando le ingiustizie anziché combatterle.
Servono più ricercatori con competenze tecniche ma anche sensibilità etica e capacità critica per individuare e correggere i bias nei dati e negli algoritmi. E servono regole che impongano requisiti di equità e non discriminazione sin dalla progettazione dei sistemi.
È una sfida complessa, che coinvolge la società nel suo insieme. Ma è una battaglia che dobbiamo combattere, per far sì che l’IA sia davvero al servizio di tutti e non diventi uno strumento di oppressione.
La posta in gioco è alta. Perdere questa sfida significherebbe rinunciare al potenziale emancipatore dell’IA, lasciando che amplifichi le distorsioni del presente anziché costruire un futuro migliore. Io per primo non voglio arrendermi a questa prospettiva.
Concludo questo lungo articolo con un messaggio di speranza ma anche un appello alla vigilanza. L’IA non è magia o un’entità divina, ma una tecnologia progettata da esseri umani. Sta a noi decidere in che direzione orientarne lo sviluppo. Monitoriamo i bias, promuoviamo la diversità e l’equità, regolamentiamo l’innovazione tecnologica. Solo così potremo sfruttare il pieno potenziale dell’IA per il progresso e il benessere collettivo. Il futuro è nelle nostre mani.
Continua la sfida, Il prossimo Ep. 03 – Il testo generato da OpenAI GPT-4, disponibile domani 24/07/2023 ….
