Robôs e sociedade

2311A leitura do artigo Termite-inspired robots build with bricks, publicado recentemente na ScienceMagazine, sobre protótipos de robôs construtores inspirados em cupins, leva a mente a pensar em impactos sociais que os robôs podem ter na sociedade em que forem inseridos. O que não é nada novo, Isaac Asimov e Arthur Clarke, para citar apenas dois autores de ficção científica séria que eu mais li na vida (outros são Jules Verne e H. G. Wells), tratam destes aspectos nos seus excelentes livros. No filme O homem bicentenário, que eu já vi pelo menos umas cinco vezes e que imagino que vocês leitores devem ter visto outras tantas, baseado no conto de mesmo nome do Isaac Asimov, são citadas as Três Leis da Robótica criadas pelo Asimov para pelo menos iniciar a discussão da relação entre robôs e o contexto social onde vão se inserir. Essas leis aparecem novamente no filme Eu, robô, baseado no livro de mesmo nome do Asimov, tendo Will Smith como protagonista.

Recentemente, um artigo publicado na CACM (Communications of the ACM), Legal issues with Robots (Keith Kirkpatrick, CACM November 2013, página 17-19), traz de volta o assunto para debate dentro da comunidade de computação. A pergunta lançada é: quem vai ser responsabilizado se algum dispositivo automatizado provocar  danos materiais ou ferimentos em seres humanos?  A resposta não é trivial, e o entendimento da questão está apenas começando, ainda sem posicionamento jurídico definitivo pois o tema é novo e ainda não há um número de casos suficientes para formar jurisprudência que possa, depois de algum tempo, ser transformada em lei geral. Imaginem, por exemplo, que um carro autoguiado (estão começando a aparecer em contextos limitados nos EUA e na Europa) esteja trafegando dentro de um estacionamento de um supermercado e, de repente, um carrinho de compra vazio aparece no meio do estacionamento e quando o carro vai desviar dele, dá de cara com um carrinho de bebê com um bebê dentro, e o carro tem que decidir o que fazer! Se a decisão for atropelar o carrinho de compras vazio, menos mal, danos materiais mas sem danos a vida humana. Mas, e se o software de decisão do carro decidir internamente pela colisão com o carrinho de bebê e, como consequência, o bebê e quem estiver empurrando o carrinho morrem? O caso vai para os tribunais na forma de processo, e as perguntas são: quem vai ser responsabilizado pelo acidente com vítimas? o carro autoguiado? o projetista do carro? a empresa que forneceu o software de decisão que está embarcado nos dispositivos de controle do carro? a empresa que fornece os dispositivos físicos de interação com o ambiente, como os sensores?

Como podem perceber, as respostas não são triviais. E estamos cada vez mais cercados por dispositivos com alguma autonomia, que estamos chamando genericamente de robôs que podem assumir diversas formas: o robô-vassoura-aspirador  que já se encontra no mercado, o dispositivo inteligente de controle para detecção de fumaça e regulação de  temperatura da empresa Nest (recentemente comprada pelo Google), o software que vem embutido em máquinas fotográficas e que permite obter imagens nítidas mesmo em situação de desequilíbrio, câmeras de ré que já são rotina nos carros de passeio, assistentes de estacionamento em carros, sensores de aproximação que acionam os freios dos carros quando há obstáculos adiante, auxiliares em cirurgias remotas que estão ficando mais comuns, etc. Se pensarmos friamente, todos esses citados e mais um monte de outros, são alguma forma de prótese para os seres humanos, pois assumem funções nossas, e supostamente as executam melhor do que nós, usando algum tipo de controle interno equipado com software que lhe confere capacidade de decisão.  

Outra questão importante, é qual deve ser o padrão de confiabilidade do dispositivo? Deve ser sempre falha zero para todo e qualquer dispositivo? Ou apenas melhor que o desempenho humano já seria suficiente? No caso dos carros autoguiados, por exemplo, um desempenho melhor que o de um ser humano consciente, sóbrio e ético seria aceitável? E em uma cirurgia, o desempenho esperado seria o de um especialista, o melhor disponivel no momento, teríamos uma réplica do conhecimento do especialista,  dentro do possivel? O que significam esses padrões de comportamento em termos de projeto dos dispositivos, principalmente pensando nos requisitos não-funcionais que vão explodir em quantidade e qualidade? E ainda estamos falando apenas de dispositivos eletro-mecânicos que têm função externa ao corpo humano. E quando estivermos falando de próteses reais, a serem implantadas no corpo humano, como já existem várias como os marca-passo? E em breve ainda vamos ter as próteses biológicas, que vão se incorporar ao corpo humano de tal forma que não será mais possivel distingui-la depois de um certo tempo.  Segundo alguns autores, estamos caminhando para um ponto de singularidade!

Para terminar, um trecho extraído do próprio artigo: “…liability and insurance structures are going to move very slowly in addressing the new wave of autonomous technologies, simple because there is little legal precedent for these systems.”

Atualização, artigo da ComputerWorld, 4 de fevereiro de 2014. 

(este artigo foi escrito por zeluisbraga, e postado no meu blog zeluisbraga . wordpress . com) (this post is authored by zeluisbraga, published on zeluisbraga . wordpress . com) (Viçosa, MG)

Consultor Independente, Treinamento Empresarial, Gerência de Projetos, Engenharia de Requisitos de Software, Inovação. Professor Titular Aposentado, Departamento de Informática, Universidade Federal de Viçosa, Minas Gerais, Brasil. Doutor em Informática, PUC-Rio, 1990. Pós-Doutoramento, University of Florida, 1998-1999

Marcado com:
Publicado em Inovação, Social, Tecnologia
Um comentário em “Robôs e sociedade
  1. railer disse:

    bacana a reflexão. eu li o ‘eu, robô’ e gostei muito.

Deixe uma resposta

Preencha os seus dados abaixo ou clique em um ícone para log in:

Logotipo do WordPress.com

Você está comentando utilizando sua conta WordPress.com. Sair / Alterar )

Imagem do Twitter

Você está comentando utilizando sua conta Twitter. Sair / Alterar )

Foto do Facebook

Você está comentando utilizando sua conta Facebook. Sair / Alterar )

Foto do Google+

Você está comentando utilizando sua conta Google+. Sair / Alterar )

Conectando a %s

%d blogueiros gostam disto: