“Não foi a primeira vez que o meu cartão de identificação falhou, então eu só achei que estivesse na hora de trocá-lo.”
O que o desenvolvedor de softwares americano Ibrahim Diallo não imaginava era que a “falha no acesso” ao prédio da empresa, naquele dia, era só o primeiro de uma série de eventos que sinalizaria sua demissão do trabalho – decidida não por sua gerente, mas por uma máquina.
Ele detalhou a história em um blog e espera que ela sirva de alerta às empresas que dependem excessivamente da automação.
“A automação pode ser um trunfo, mas é preciso ter um jeito de os humanos assumirem o controle se a máquina cometer um erro”, escreveu.
A história de demissão protagonizada por ele começou a se anunciar quando o cartão de acesso que usava para entrar no prédio da empresa, em Los Angeles, falhou, e ele teve que recorrer ao segurança para autorizar sua entrada.
“Assim que cheguei ao meu andar, procurei minha gerente para avisá-la do que tinha acontecido. E ela prometeu providenciar um novo cartão imediatamente.”
Logo ele percebeu, no entanto, que havia sido desconectado do sistema de trabalho e um colega avisou que ao lado de seu nome estava indicada a palavra “Inativo”.
Mas seu dia ainda ficaria pior.
Depois do almoço – e de uma espera de 10 minutos para que um colega permitisse sua entrada de volta ao escritório – Diallo foi informado por sua recrutadora que ela tinha sido avisada, por e-mail, que seu contrato havia sido rescindido, mas que ela resolveria o problema.
No dia seguinte, porém, ele havia sido excluído de todos os sistemas “exceto de um computador que opera o sistema Linux”. E, depois do almoço, duas pessoas apareceram em sua mesa com ordens recebidas por e-mail para escoltá-lo para fora do prédio.
Seus chefes estavam confusos, mas impotentes diante da situação, lembra Diallo.
“Eu fui demitido. Não havia nada que minha gerente pudesse fazer a respeito. Não havia nada que o diretor pudesse fazer. Eles ficaram impotentes enquanto eu arrumava minhas coisas e saía do prédio”.
Na época, ele tinha oito meses cumpridos em um contrato de três anos e nas três semanas seguintes foi copiado em mensagens de e-mail relacionadas ao caso.
“Meu caso passou pela análise de várias instâncias superiores e mais poderosas na empresa, mas ninguém podia fazer nada. Vez por outra, um e-mail emitido automaticamente pelo sistema era anexado ao processo”.
“Era um e-mail sem alma e escrito em vermelho enquanto dava ordens que ditavam o meu destino. Desabilite isso, desabilite aquilo, revogue o acesso aqui, revogue o acesso lá, o acompanhe para fora das instalações, etc.
“O sistema estava com sede de sangue e eu fui sua primeira vítima.”
Os patrões de Diallo levaram três semanas para descobrir por que ele havia sido demitido.
Sua empresa estava passando por mudanças, houve troca dos sistemas que eram usados juntamente com a admissão de vários novos funcionários.
Seu gerente inicial havia sido demitido recentemente e mandado trabalhar de casa pelo resto do tempo que tinha na função. Nesse intervalo, porém, não havia renovado o contrato de Diallo no novo sistema.
Depois disso, as máquinas assumiram – indicando ele como ex-empregado e foi aí que os problemas começaram.
“Todas as ordens (por esse sistema) são enviadas automaticamente e cada vez que uma é concluída, uma nova é acionada. Então, por exemplo, quando a ordem para desabilitar meu cartão de identificação é enviada, não há mais como reativá-lo.
“Uma vez desativado, a segurança do edifício recebe um e-mail sobre a demissão. A leitura do cartão de identificação é um sinal de alerta. A ordem para desativar minha conta dos sistemas de computadores que usamos também é enviada e assim por diante”.
Embora Diallo tenha sido autorizado a voltar ao trabalho, ele perdeu três semanas de pagamento e foi escoltado para fora do prédio “como um ladrão”. Ele teve que explicar seu sumiço a outras pessoas e percebeu que os colegas de trabalho ficaram distantes.
Decidiu então mudar de emprego.
Sua história deve servir de alerta sobre os perigos da relação homem-máquina, diz o especialista em Inteligência Artificial, Dave Coplin.
“É outro exemplo de falha do pensamento humano, que acaba colocando seres humanos contra máquinas em vez de termos humanos e máquinas se complementando”, disse ele.
“Uma das habilidades fundamentais para todos os seres humanos em um mundo de inteligência artificial é a responsabilidade – quer dizer que só porque o algoritmo diz que a resposta é esta, não significa que realmente seja.”
Fonte: G1
