Un’intelligenza artificiale senza pregiudizi – Il Blog di Beppe Grillo

“Una donna felice e un uomo serio che si abbracciano in un parco.” Che il tuo computer sia già in grado descrivere le tue photo in this way is fantastic. E por molte persone che navigano in Internet utilizando lettori di schermo, também é uma tecnologia quase essencial. Tudo isso grazie all’intelligenza artificiale.

Certo, le macchine non sono perfette, a volte si guastano. Ma ultimamente stiamo scoprendo qualcosa di preoccupante: a volte i computer falliscono come fallisce un essere umano. Per una donna e un uomo con la stessa espressione, i sistemi di intelligenza artificiale possono tendere a credere che lei sia felice e che lui sia di cattivo umore. Chiamiamo questo tipo di errori pregiudizi e includono tendenze razziste, sessiste, abiliste… che possono finire per fare del male alle persone.

Por estudar que você pregiudizi prendiamo in esame un’applicazione specifica, il riconoscimento automatico delle emozioni nelle fotografie. Innanzitutto, dobbiamo chiarire al computer cosa intentiamo per “emozione”. A classificação mais utilizada é baseada em 6 emoções de base: paura, tristezza, felicità, rabbia, desgosto e sorpresa. Esta classificação è estado proposta dallo psicologo Paul Ekman negli anni ’70. Este emozioni hanno dimostrato di essere mais o meno universali e riconosciute da tutti. Tuttavia, é stato anche dimostrato che si riconoscono meglio tra persone dello stesso gruppo sociale, sesso, età… Não tutti noi ci espriamo estàtamente allo stesso modo, não leggiamo le espressioni allo stesso modo. Anche senza rendercene conto, siamo di parte.

Queste diferense si riscontrano in molti contesti e talvolta si trasformano in stereotipi e pregiudizi. Ad esempio, ci aspettiamo che le donne siano più felici che arrabbiate, mentre per gli uomini vale il contrario. E este é um rifle na internet, dove le foto tendo como um soprattutto donne sorridenti.

Outra parte, afim de um sistema de inteligência artificial, impede que as emoções sejam diferenciadas, dobbiamo e pensar em como a pessoa é compreensiva. Na realidade, la faccia é só uma parte de um quebra-cabeça muito completo. Contribuir para a gesta, a postura, a nossa palavra… Não há muito que você está trabalhando para revelar toda essa moda com inteligência artificial, a forma mais popular e versátil é o riconoscimento com base na foto dei volti.

A criação de uma inteligência artificial privada de pregiudizi é feita de uma sfida. E tutto inizia da come facciamo “imparare” esta tecnologia. Chiamiamo il campo dell’intelligenza artificiale dedicato a questo apprendimento automático. Sebbene existe forma diversa de apprendimento, la più comune è l’apprendimento supervisionato.

L’idea é simples: imparie dagli imediatamente. E l’intelligenza artificiale ha bisogno di sapere per ogni esempio cosa vogliamo ottenere. Para melhorar as emoções ricas, abbiamo bisogno di un mucchio di foto di volti com emoções diversas: felici, tristi, ecc. La chiave é che per ogni foto, dobbiamo sapere quale emozione appare. Sucessivamente, passiamo le foto e le emozioni associar all’intelligenza artificiale. Atravessando um perigo di apprendimento, o sistema prejudica “da solo” um medidor na relação da foto com as emoções do aplicativo. Immagine per immagine, chiediamo di prevedere un’emozione: se è giusta, andiamo avanti, e se è sbagliata, aggiustiamo il modello para corrigir este caso. A poco a poco, l’intelligenza artificiale imparerà e fallirà sempre meno. Se ci pensiamo, não é tão diverso da come noi umani impariamo.

Come si può vedere, gli esempi sono essenziali neste processo. Sebbene ci siano progressi che ci consentono di apprendere con pochi esempi ou esempi con errori, un insieme ampio e ben catalogato di esempi è fundamentale per ottenere uma boa inteligência artificial. Felizmente, na prática, você pode ter certeza de que está com erros, e também de volti etichettati com l’emozione sbagliata a photo senza volti ou con volti di animali. Ma ci sono altri problemi, a volte più sottili e preoccupanti: il razzismo, il sessismo, l’abilismo…

Se eu nos der um som distorcido, la macchina imparerà e riprodurrà questi pregiudizi. A volte moltiplicherà anche l’effetto dei pregiudizi. Ad esempio, se nelle notre foto abbiamo solo persone arbbiate dalla pele scura e persone felici dalla pele chiara, é muito provável que a inteligência artificial finisca para definir a cor da pele com o ouro. Tenderà a prevere la rabbia ogni volta che vede persone dalla pelle scura.

Felizmente, não é só uma teoria. È già stato dimostrato, ad esempio, che i sistemi di analisi facciale per riconoscere il genere falliscono mais para le donne nere che para gli uomini bianchi e commettono regolarmente errori con persone che sono di aspetto trans.

Uno degli esempi mais noti è stato quando nel 2018 un sistema de inteligência artificial ha erroneamente identificado 28 membros do Congresso degli Stati Uniti come criminali . Dei politici identificati, il 40% erano persone di colore, sebbene rappresentassero solo il 20% del Congresso. Tudo isso porque o sistema era stato addestrato principalmente sui bianchi e confondeva le persone di colore tra loro.

Rilevare e ridurre questi pregiudizi è un campo di ricoto attivo com un grande impatto sociale. Todas as questões pregiudizi sono sottili e correlati a diversi fattori demografici allo stesso tempo, il che rende l’analisi difficile. Além disso, todos os detalhes do aplicativo são fáceis de usar, são coletados de dados e os erros relativos a todos os aplicativos finais. E normalmente não é sono le stesse persone che lavorano in ogni.

Su internet ci sono molti banco de dados de emoções già etichettati. Infelizmente, eu banco de dados mais grandi spesso hanno anche forti pregiudizi di sesso/genere, razza ed età. É necessário che a poco a poco si sviluppino banco de dados diversificado e equilibrado su cui lavorare. Cioè, dobbiamo includere tutti i tipi di persone nei nostri database. Além disso, tutti devono essere ben rappresentati in ogni emozione. Infine, se você vogliamo raccogliere dati senza pregiudizi, dobbiamo pensare all’intero process. Tutte le fasi, dalla raccolta dei data ai test finali di un’intelligenza artificiale, devono essere svolte in mode attento and accessibile. Ed é necessário coinvolgere persone che sappiano riconoscere e segnalare possibili pregiudizi in ognuno di loro.

L’intera faccenda del riconoscimento delle emozioni può sembrare astratta, ma ha già importanti applicazioni. La più comune è la tecnologia assistiva, como la descrizione automatica delle foto per i non vedenti. Você também pode usar um robô doméstico. Può essere applicato anche in medicina, dove è stato possibile riconoscere automaticamente il dolore nei neonati che a volte non lo esprimono attraverso il piano.

Nesse caso, lo studio dei pregiudizi nell’intelligenza artificiale va oltre le emozioni. Le technologie che sviluppiamo hanno um enorme impacto sulla vita delle persone. Abaixe o moral dovere di assicurarci che siano equi, che il loro imatto sul mondo sia positivo.

Vogliamo costtruire un’intelligenza artificiale di cui possiamo fidarci e che ci faccia sorridere. (Se vuoi participar alla creazione di un database di emozioni più equo e diversificato, puoi collaborare con il progetto Filmes emocionais)

Ricerca a cura di Mikel Galar Idoate, Daniel Paternain e Iris Dominguez Catena, publicado em The Conversation


Source: Il Blog di Beppe Grillo by beppegrillo.it.

*The article has been translated based on the content of Il Blog di Beppe Grillo by beppegrillo.it. If there is any problem regarding the content, copyright, please leave a report below the article. We will try to process as quickly as possible to protect the rights of the author. Thank you very much!

*We just want readers to access information more quickly and easily with other multilingual content, instead of information only available in a certain language.

*We always respect the copyright of the content of the author and always include the original link of the source article.If the author disagrees, just leave the report below the article, the article will be edited or deleted at the request of the author. Thanks very much! Best regards!