Um artigo publicado no Diário do Exército de Libertação Popular, o Exército chinês, na véspera de Ano Novo, trouxe um alerta sobre o uso da IA (inteligência artificial) no campo de batalha. Segundo os militares chineses a inteligência artificial não pode substituir a tomada de decisões humanas no campo de batalha porque lhe falta autoconsciência. Segundo o documento, “a IA deve trabalhar em conjunto com os tomadores de decisão humanos para otimizar a eficácia do comando, aprimorando em vez de substituir a agência humana”. O temor dos chineses esbarra na previsão mais polêmica do renomado cientista da computação, futurista e inventor norte-americano Ray Kurzweil, a singularidade.
Os chineses asseveram que, embora os comandantes humanos possam responder a situações dinamicamente e explorar as fraquezas inimigas, a IA opera dentro de limites algorítmicos predefinidos e suas respostas frequentemente carecem de originalidade. Por essa restrição da IA, o artigo afirma que a autonomia e a criatividade humanas são “indispensáveis no campo de batalha”.
“À medida que a IA evolui, ela deve permanecer uma ferramenta guiada pelo julgamento humano, garantindo que a responsabilidade, a criatividade e a adaptabilidade estratégica permaneçam na vanguarda da tomada de decisões militares”, disse o artigo.
O ELP demonstra com sua publicação estar mais inclinado a um sistema “sequenciado” de IA, isto é, os militares preferem um modelo em que a inteligência artificial execute aquilo que os seres humanos planejaram.
O ELP reconhece a importância das máquinas inteligentes na orquestração do combate, no entanto, “as decisões finais cabem aos comandantes humanos, protegendo contra erros decorrentes da natureza de caixa-preta da IA”.
Chineses querem regulamentar a IA em ambiente militar
Os chineses adentraram também no campo da ética da máquina no decorrer do artigo publicado no site do ELP. Segundo eles, uma “fraqueza” da IA é sua incapacidade de conceituar suas ações e também de “assumir a responsabilidade” pelas decisões que toma.
O artigo diz que mesmo sistemas avançados, como a defesa antimísseis autônoma, normalmente “dependem de operadores humanos para decisões finais para garantir a responsabilização.”
O governo em Pequim defende de forma aguerrida a regulamentação do uso da IA em ambiente militar. Os chineses são fortes defensores da regulamentação do uso militar da IA, tendo enviado documentações à Organização das Nações Unidas sobre esse tema, além de enfatizar a necessidade do “controle humano sobre a tecnologia”.
O temor dos chineses, isto é, que a IA se torne algum dia responsabilizável e que deixe de ser “uma ferramenta guiada pelo julgamento humano” é o que se chama de Singularidade.
O futuro híbrido entre homem e máquina
A singularidade tecnológica é um cenário teórico em que o crescimento tecnológico se torna incontrolável e irreversível, culminando em mudanças profundas e imprevisíveis na civilização humana. Em teoria, esse fenômeno é impulsionado pelo surgimento da inteligência artificial (IA) que supera as capacidades cognitivas humanas e pode se aprimorar autonomamente.
O termo “singularidade” nesse contexto é derivado de conceitos matemáticos que indicam um ponto onde os modelos existentes se rompem e a continuidade do entendimento se perde.
Isso descreve uma era onde as máquinas não só igualam, mas superam substancialmente a inteligência humana, iniciando um ciclo de evolução tecnológica autoperpetuante.
Ray Kurzweil é amplamente considerado uma das figuras mais influentes no campo da inteligência artificial e suas teorias sobre a singularidade tecnológica continuam a gerar debates significativos sobre o futuro das interações entre humanos e máquinas.
Segundo o norte-americano, de 61 anos, nascido em Nova Iorque, o futuro aponta para o hibridismo entre homem e máquina, sequência de eventos que já foi apelidada de “trans-humanismo.”
Kurzweil afirma que a evolução da inteligência das máquinas chegará a um ponto em que, primeiramente em casos esparsos, e depois na maior parte deles, os seres humanos serão indistinguíveis das máquinas inteligentes.
Uma de suas previsões é de que até 2045 os seres humanos terão implantados em seus cérebros nano robôs que darão acesso a nuvens de informação, o que tornará o pensamento da inteligência artificial indiferenciável do pensamento cerebral.