Robôs estão se tornando mais autônomos. A sociedade precisa desenvolver regras para administrá-los
No clássico filme de ficção científica “2001”, HAL, o computador da astronave, enfrenta um dilema. Suas instruções requerem tanto que ele cumpra a missão da nave — investigar um artefato próximo a Jupiter –, como que mantenha o verdadeiro propósito da missão em segredo. Para solucionar a contradição, ele resolve matar a tripulação.
Conforme os robôs se tornam mais autônomos, a ideia de máquinas controladas por computadores enfrentando decisões éticas está saindo do reino da ficção científica e adentrando o mundo real. A sociedade precisa encontrar modos de assegurar que elas estejam mais bem equipadas que HAL para fazer julgamentos morais.
De modo nem um pouco surpreendente, a tecnologia militar está na vanguarda da marcha em direção a máquinas autônomas. A sua evolução está produzindo uma variedade extraordinária de espécies. À medida que elas se tornam mais inteligentes e comuns, é inevitável que as máquinas autônomas acabem por fazer mais decisões de vida ou morte em situações imprevisíveis, desse modo assumindo – ou parecendo assumir – independência moral. Sistemas de armas atualmente contam com a participação de humanos na cadeia de comando, mas à medida que se tornarem mais sofisticados, será possível fazer com que as máquinas sigam ordens de modo autônomo.
Quando isso acontecer, elas serão confrontadas com dilemas éticos. Um veículo aéreo não tripulado deveria atirar em uma casa que abriga um suspeito, mas que também está servindo de abrigo a civis? Um carro sem motorista deveria dar uma guinada para evitar atropelar pedestres se isso significar bater em outros veículos ou pôr a vida de seus ocupantes em risco? Um robô envolvido em resgates em zonas de desastre deveria dizer a verdade às pessoas se isso pudesse desencadear pânico? Tais questões fazem parte da “ética das máquinas”, que pretende dar às máquinas a habilidade de tomar tais decisões de modo apropriado, ou, em outras palavras, distinguir o certo do errado.
As diretrizes mais conhecidas da ética robô são as “três leis da robótica” cunhadas por Isaac Asimov, um escritor de ficção científica, em 1942. As leis requerem que os robôs: 1. protejam humanos, 2. obedeçam ordens e 3. se preservem, nesta ordem. Infelizmente, tais leis não são muito úteis no mundo real. Robôs de combate podem precisar violar a primeira lei. Regular o desenvolvimento e uso dos robôs autônomos requererá um arcabouço muito mais elaborado. Necessita-se progredir em três áreas em particular.
Três leis para as leis de robótica
Primeiro, as leis precisam determinar se o programador, fabricante ou operador deve se responsabilizar caso um ataque de um veículo não tripulado dê errado ou se um carro sem motorista se envolver em um acidente. A fim de alocar a responsabilidade, sistemas autônomos devem manter registros detalhados para poder explicar o raciocínio por trás das decisões da máquina quando isso se fizer necessário. Isto tem implicações para o projeto de sistemas: pode ser, por exemplo, que o uso de redes neurais artificiais tenha que ser vetado, pois estas redes são sistemas capazes de aprender em vez de obedecer a regras pré-definidas.
Segundo, nos casos em que sistemas éticos sejam embutidos em robôs, os julgamentos que eles venham a fazer têm que ser aqueles que parecem mais apropriados para a maioria das pessoas. As técnicas da filosofia experimental, que estuda a resposta das pessoas a dilemas éticos, provavelmente poderão ajudar. Por último, e mais importante, é necessário haver mais colaboração entre engenheiros, filósofos, advogados e formuladores de políticas públicas, os quais criariam conjuntos diferentes de regras se fossem postos a trabalhar isoladamente.
A tecnologia conduziu o progresso da humanidade, mas cada novo avanço gerou novas questões preocupantes. Não será diferente com as máquinas autônomas. Quanto mais cedo a questão da independência moral que elas suscitam for respondida, mais fácil será para a humanidade gozar dos benefícios que elas sem dúvida trarão.
Nenhum comentário:
Postar um comentário