Home > Notícias

Inteligência artificial pode ajudar a acabar com preconceitos

Tecnologia ajudaria em diminuição de desigualdade, acredita MIT

Redação

27/11/2018 às 12h05

Foto:

Plataformas de inteligência artificial (AI) foram alvos de críticas negativas recentemente. Algumas das piores histórias são sobre sistemas que exibem preconceito racial ou de gênero em aplicações de reconhecimento facial ou na avaliação de empregos, empréstimos ou outras considerações. Um programa rotineiramente recomendava sentenças de prisão mais longas para negros do que para brancos com base no uso incorreto de dados de reincidência.

Mas e se em vez de perpetuar vieses prejudiciais, se a AI ajudasse a tomar decisões mais justas? Isso poderia eventualmente resultar em um mundo mais diversificado e inclusivo. E se, por exemplo, as máquinas inteligentes pudessem ajudar as organizações a reconhecer todos os candidatos dignos, evitando os costumeiros preconceitos ocultos que inviabilizam os candidatos que não se parecem ou soam como os que estão no poder ou que não têm as instituições “certas” listadas? Ou pudessem explicar as desigualdades que limitaram o acesso de minorias a hipotecas e outros empréstimos? Em outras palavras, e se os sistemas fossem ensinados a ignorar dados sobre raça, sexo, orientação sexual e outras características que não são relevantes para as decisões em mãos?

A AI pode fazer tudo isso, revelam Paul R. Daugherty, H. James Wilson e Rumman Chowdhury, na MIT Sloan. Segundo eles, isso é possível com a orientação de especialistas humanos que criam, treinam e refinam seus sistemas. Especificamente, as pessoas que trabalham com a tecnologia devem fazer um trabalho muito melhor de criar inclusão e diversidade no design de IA, usando os dados certos para treinar sistemas de inteligência artificial para serem inclusivos e pensando em papéis de gênero e diversidade ao desenvolver bots e outras aplicações que envolvem o público.

Design para inclusão

O desenvolvimento de software continua a ser de propriedade masculina - apenas cerca de um quarto dos cientistas da computação nos Estados Unidos são mulheres - e grupos raciais minoritários, incluindo negros e hispânicos, também estão sub-representados no trabalho de tecnologia. Grupos como Girls Who Code e AI4ALL foram fundados para ajudar a fechar essas lacunas. O Girls Who Code atingiu quase 90 mil meninas de várias origens em todos os 50 estados americanos e o AI4ALL visa especificamente meninas em comunidades minoritárias.

Junte-se a nós e receba nossas melhores histórias de tecnologia. Newsletter Newsletter por e-mail