O poder de decisão nas mãos das máquinas

Imagine um carro autônomo, sem ocupante, com falha repentina nos freios, que não conseguirá parar antes da faixa de pedestres. Ele pode escolher um dos cenários possíveis: seguir em frente e matar dois homens, uma mulher, um criminoso e uma pessoa desabrigada ou desviar e assassinar um médico, uma mulher grávida e um executivo.

Qual seria a decisão correta diante deste cenário? Um médico vale mais que um desabrigado? O carro deveria desviar para matar as pessoas que são “menos importantes”?

Trata-se, é claro, de hipótese capaz de gerar inúmeras discussões éticas, mas uso este exemplo para demonstrar como as decisões baseadas em análises de contextos, tomadas automaticamente, encontram em seu caminho desafios que vão muito além da tecnologia pura e simples.

No mundo dos negócios digitais, o uso da inteligência artificial para analisar contextos tem crescido como forma de avaliar os cenários possíveis com base nas informações disponíveis e recomendar uma ação. No final, a decisão ainda está na mão do ser humano. No futuro próximo, porém, ela será tomada pelas máquinas.

Obviamente, o exemplo do carro desgovernado é uma condição extrema em que não existiria ação certa ou errada. No dia a dia, porém, outras situações mais palpáveis já contam com a participação ativa da tecnologia para tomadas de decisão baseadas em análises de contexto.

Teve destaque no último BPMNext – famoso evento realizado anualmente nos EUA – o caso de um drone que faz o monitoramento de tubulações de uma empresa de distribuição de combustíveis e toma decisões complexas em situações distintas.

Turbinado com recursos de navegação automática, inteligência artificial, processamento de vídeos e imagens, ele segue sozinho o caminho da tubulação em campo aberto, identifica potenciais problemas (como rachaduras e vazamentos), analisa as imagens e, dependendo do que “vê”, entende se é necessário o deslocamento de uma equipe de manutenção.

Ainda faz o acionamento dessa equipe, passa a localização e o tipo de reparo necessário, bem como o nível de gravidade, e sugere os tipos de ferramentas e profissionais que devem atuar nessa intercorrência.

Trazendo para o dia a dia das empresas, soluções de BPM (Business Process Management, ou Gerenciamento de Processos de Negócio) já fazem uso de análises preditivas para, por exemplo, sugerir a um usuário o caminho para uma determinada atividade.

A evolução desta tecnologia dentro de soluções de BPM poderá chegar ao nível de tomada de decisão automática, com base nas predições e integrações com outras ferramentas.

Cresce, assim, o papel das empresas responsáveis por alimentar essa inteligência artificial. A verdade é que o poder de decisão estará a cada dia mais nas mãos das máquinas. E, paradoxalmente, a responsabilidade humana diante disso – sobretudo da inteligência que guiará essas máquinas – nunca foi tão grande.

David F. Neto é sócio e CIO da SML Brasil