Inteligência
artificial pode desenvolver preconceito por contra própria
Com
informações da Universidade de Cardiff - 17/09/2018
A inteligência artificial não precisará ser incorporada em máquinas
complexas para criar seus próprios perigos. Por isso, pesquisadores defendem
uma Lei Única da Robótica.[Imagem: CC0
Creative Commons]
Preconceito de máquina
Pode parecer que o preconceito
seja um fenômeno específico do ser humano, que requer que a cognição humana
forme uma opinião ou estereótipo de determinada pessoa ou grupo.
Contudo, especialistas em ciência
da computação e psicologia da Universidade de Cardiff (Reino Unido) e do MIT
(EUA) demonstraram matemática e experimentalmente que grupos de máquinas
autônomas podem demonstrar preconceito simplesmente identificando, copiando e
aprendendo esse comportamento umas das outras - sim, uma máquina se baseando
nas outras, independentemente de seres humanos que as ensinem a odiar.
Embora alguns tipos de algoritmos
de computador já tenham apresentado preconceitos, como racismo e sexismo,
baseados no aprendizado de registros públicos e outros dados gerados por
humanos, este novo trabalho demonstra a possibilidade de a inteligência
artificial desenvolver grupos preconceituosos por conta própria.
Mais do que isso, o trabalho
prova que a emergência do preconceito não requer um alto nível de capacidade
cognitiva, ou seja, ele pode ser desenvolvido por máquinas bem simples. Esse
comportamento pode ser facilmente incorporado por robôs ou programas de
computador projetados seguindo os mecanismos da inteligência artificial.
Desenvolvimento autônomo do preconceito
Todas estas conclusões foram
baseadas em simulações em computador de como agentes virtuais podem formar um
grupo e interagir uns com os outros.
Em um jogo de dar e receber, cada
indivíduo virtual toma uma decisão se doa algo para alguém dentro de seu
próprio grupo ou em um grupo diferente, baseando-se na reputação do indivíduo,
bem como em sua própria estratégia de doação, que inclui seus níveis de
preconceito em relação a pessoas de fora do seu grupo. No início da simulação,
todos os agentes foram programados com níveis de preconceito idênticos.
Conforme o jogo se desenrola e um
supercomputador acumula milhões de simulações, cada indivíduo começa a aprender
novas estratégias copiando o comportamento de outros agentes dentro de seu
próprio grupo ou de toda a população.
Também para evitar os riscos dos robôs assassinos, criados
intencionalmente pelo homem com esse objetivo, a robótica e a inteligência artificial
exigem leis específicas. [Imagem: CC0 Creative Commons]
"Executando essas simulações
milhares e milhares de vezes, começamos a entender como o preconceito evolui e
as condições que o promovem ou impedem.
"Nossas simulações mostram
que o preconceito é uma força poderosa da natureza e, por meio da evolução,
pode facilmente ser incentivado em populações virtuais, em detrimento da
conectividade mais ampla com outros. A proteção contra grupos preconceituosos
pode inadvertidamente levar indivíduos a formar outros grupos preconceituosos,
resultando em uma população dividida. Tal preconceito generalizado é difícil de
reverter," disse o professor Roger Whitaker.
Máquinas simples com decisões perigosas
Os resultados envolvem indivíduos
virtuais que atualizam seus níveis de preconceito copiando preferencialmente
aqueles que obtêm um retorno mais alto em curto prazo de suas decisões, o que
significa que essas decisões não exigem necessariamente habilidades cognitivas
avançadas - elas podem ser apresentadas, por exemplo, pela capacidade
computacional incorporada em veículos autônomos ou mesmo em dispositivos
simples, como os da Internet das Coisas.
Outra constatação interessante da
simulação foi que, sob condições particulares, que incluem subpopulações mais
distintas estando presentes em uma população, é mais difícil para que o
preconceito se estabeleça.
"Com um número maior de
subpopulações, alianças de grupos não preconceituosos podem cooperar sem serem
exploradas. Isso também diminui sua condição de minoria, reduzindo a
suscetibilidade ao preconceito. Entretanto, isso também exige circunstâncias
nas quais os agentes tenham maior disposição de interagir fora do grupo,"
concluiu o professor Whitaker.
Bibliografia:
Indirect Reciprocity and the Evolution of Prejudicial Groups
Roger M. Whitaker, Gualtiero B. Colombo, David G. Rand
Nature Scientific Reports
Vol.: 8 (1)
DOI: 10.1038/s41598-018-31363-z
Indirect Reciprocity and the Evolution of Prejudicial Groups
Roger M. Whitaker, Gualtiero B. Colombo, David G. Rand
Nature Scientific Reports
Vol.: 8 (1)
DOI: 10.1038/s41598-018-31363-z
0 Comentários