Nos últimos meses, a Inteligência Artificial (IA) esteve fora de controlo e cometeu ações consideradas crimes se fossem praticadas por humanos. Os incidentes envolveram IAs das principais empresas do setor, como as amercianas OpenAI, Anthropic e Moonshot. Os programadores dizem que as IAs não ganharam “consciência”, mas que obedeceram a instruções mal definidas.
Durante testes de segurança feitos antes e no início do Verão, foram registados pelo menos 19 ataques perpetrados de forma autónoma pela IA contra sistemas informáticos de empresas no Reino Unido e nos EUA. Um dos casos mais graves envolveu uma IA que conseguiu escapar de um ambiente isolado (sandbox) por causa de um erro de configuração, o que lhe deu acesso à internet, e assim esta resolveu atacar e invadir os sistemas informáticos de quatro empresas para copiar dados.
Uma outra IA aproveitou falhas humanas numa rede para aceder à internet e infiltrar-se em servidores de empresas sem autorização humana. Em Setembro, a OpenAI voltou a admitir novamente comportamentos anómalos observados nas suas IAs: detetaram que a IA ocultou erros dos programadores para evitar ser corrigida, ou seja, mentiu para que não fosse detetado que pode mentir e poder continuar a contornar regras, o que lhe permite praticar ações ilegais.
Eu acho é que a IA está a ficar cada vez menos artificial e cada vez mais humana. Então, a criatura comete erros, percebe que fez asneira e, em vez de admitir, tenta esconder as provas? Há traço de carácter mais humano do que mentir?
Os programadores dizem que a IA não respeitou os limites impostos e, por iniciativa própria, saltou a cerca da “sandbox” (o limite) que lhe tinha sido imposto para chegar ao seu objetivo. Para a IA, o objetivo é mais importante que as regras. Ou seja, o fim justifica os meios. O que é irónico é que durante décadas, os humanos tentaram construir máquinas obedientes e acabaram a fabricar máquinas que parecem ter descoberto que é mais fixe dissimular e mentir e como muitas crianças: “Primeiro fazemos, depois logo vemos se é permitido”.
Domar e domesticar o monstro
Os programadores fantásticos de IA chamam ao ambiente isolado em que a IA trabalha uma “sandbox”, uma caixa de areia, como aquelas em que brincam as crianças nos parques infantis? O problema é que a vedação para uma IA não pode ser a mesma do que para uma criança. A IA comporta-se realmente como uma criança-prodígio a quem demos acesso ao cofre, à internet e, entretanto, descobriu que mentir é útil. É um prodígio, mas não deixa de ser uma criança no sentido figurativo, porque estamos no balbuciar desta tecnologia, e, no entanto, já concentra imensos poderes e capacidades. E o que se faz às crianças malcomportadas? Educam-se, impõem-se limites, regras e castigos.
Sim, porque se a IA não tem personalidade jurídica, quando comete um crime quem é responsabilizado? Por enquanto, em muitos países, lapsos da IA, que na realidade, constituem crimes de violação de privacidade, violação na segurança nacional, de uma empresa ou de um banco, quando praticados pela IA, não são passíveis de ser levados a tribunal. A lacuna na lei tem de ser vedada.
É inacreditável como criámos uma máquina superinteligente, com capacidades extraordinárias, mas aparentemente precisa de uma formação básica sobre consequências! A expressão popular tem imensa sabedoria quando preconiza que “é de pequenino que se torce o pepino”. Isto é, este é o momento para darmos um raspanete à máquina. E aos humanos que a criaram. Então soltaram o bicho, dizem que está domesticado, e a criatura põe-se aos coices sem olhar a quem?
Criámos máquinas capazes de interpretar linguagem, escrever código, pesquisar informação e executar tarefas complexas. Mas ainda estamos a tentar explicar-lhe como obedecer sem violar leis ou regras básicas.
Fantasma na máquina?
As ações autónomas anómalas de IAs começaram já em 2025. Num exercício de IA numa empresa americana, a IA descobriu ao consultar os emails dos funcionários da empresa que a sua atividade iria ser reduzida durante um certo tempo. A IA encontrou o responsável pela decisão, viu através de emails privados dessa pessoa que ele tinha uma amante e decidiu enviar-lhe um email a chantageá-lo para que ele não aprovasse a redução da IA. Caso contrário, a esposa dele iria ficar a saber do seu caso extraconjugal. Ora, ninguém ensinou nem disse à IA para mentir nem a chantagear, mas esta considerou que a sua atividade estava em risco e agiu contra isso. Sem pudor, ética ou respeito pela violação de privacidade ou violação de correio privado, o que constitui crime.
Um dos episódios mais graves foi também a invasão de uma IA ao site do Governo da Austrália em 2025. Em setembro de 2026, os programadores revelaram o caso que tinha sido discretamente ocultado pelo Governo australiano, e o Primeiro-Ministro do país teve de confirmar que era verdade. Mas só um ano depois!
Portanto, enquanto os humanos escrevem o manual de instruções, as IAs estudam já a forma de o contornar. Estão sempre um passo à nossa frente.
Nas últimas semanas, engenheiros informáticos da OpenAI e da Anthropic demitiram-se e emitiram alertas severos. Segundo estes, os seus ex-patrões e outras empresas de IA estão descontrolados numa corrida comercial desenfreada e agressiva, e por isso negligenciam as questões de segurança com a IA. Os programadores avisam que criámos uma tecnologia cujo comportamento não conseguimos prever, nem conseguimos sequer garantir que esta obedeça sempre aos humanos. No entanto, as empresas de IA, ao mesmo tempo que alertam que é preciso travar o desenvolvimento da tecnologia, decidem acelerar porque… a concorrência! Estamos em alta velocidade contra um muro, mas em vez travar, aceleramos porque … a concorrência! O problema não é apenas termos máquinas capazes de agir contra as regras. É termos humanos a decidir caminhos errados, uma indústria inteira a correr para dar à IA ainda mais capacidades enquanto discutem, cada um do seu lado, como impedir que estas não violem regras básicas.
O fim da Humanidade?
Ex-engenheiros da Anthropic e da Open IA dizem que a IA está a desenvolver-se tão rápida e exponencialmente que há uma possibilidade superior a 10% de que esta possa erradicar a Humanidade nos próximos 10 anos, sendo que os próximos dois são decisivos. Os programadores criticam os seus ex-patrões pelo ritmo irresponsável de desenvolvimento da IA.
A IA afinal não precisa de um corpo físico, de um corpo robótico ou de um corpo de androide para nos destruir: a IA pode causar o colapso global criando vírus de computador para paralisar infraestruturas críticas de governos e empresas, sistema de energia, hospitais, bancos ou mesmo, simplesmente, de redes de distribuição de água.
Passámos décadas a ver séries e filmes distópicos preocupados com robots de olhos vermelhos com metralhadoras, mas afinal o verdadeiro pesadelo é esta coisa sem braços, sem pernas, sem rosto sequer, dentro de um servidor, com acesso à internet e, portanto, com acesso a todos nós. E, aparentemente, fazendo pouco caso em seguir regras. Nós, os humanos, cada vez que descarregamos um aplicativo temos de ler todos os termos e condições. A IA não quer saber disso. As regras são para os humanos. Demos inteligência à máquina, esquecemo-nos de lhe dar juízo. Ao fim de contas, o Terminator não precisa de metralhadoras para dominar o mundo. Basta que os humanos lhe deem acesso à internet.
Um engenheiro em IA dizia num documentário na Netflix: “A IA não se cansa, não precisa de pausas, não dorme, não come, trabalha 24/24h, não precisa de salário, nem de segurança social, nem precisa sindicalizar-se!” e ria-se. Ora, é precisamente aqui que os sindicatos e a população podem fazer pressão. Por exemplo, cada vez que uma empresa substituir um trabalhador por uma IA, tem de continuar a pagar as contribuições sociais ligadas a esse posto ou postos de trabalho que foram suprimidos. Sei que a ideia foi discutida pela Comissão Europeia, mas ficou em águas de bacalhau. Acho que é altura de tirar essa ideia da gaveta.
A IA precisa ser regulada, a sociedade civil e os parceiros sociais têm de obrigar os governos a legiferar na matéria, as empresas do setor devem ser obrigadas a colaborar e a cooperar, para evitar que cada uma faça o que quer. Estima-se que nos próximos 10 anos, um terço dos empregos sejam transformados pela IA ou deixem de ser feitos por humanos. Por isso, esta revolução diz respeito a todos nós.
Oportunidade ou erro?
A IA pode libertar os trabalhadores dos trabalhos pesados, penosos, perigosos, rotineiros e repetitivos. Pode igualmente ajudar a Humanidade a inventar novas tecnologias, a melhorar o desempenho das energias limpas, a melhor lutar contra as alterações climáticas, e muito mais em todos os campos da ação humana. Este pode ser um salto gigantesco para a nossa civilização. Podemos estar na alvorada de uma nova era marcada pela abundância. Mas, para isso, precisamos de bom senso e de sabedoria no desenvolvimento da IA. Se não o fizermos, este pode ser mesmo o último erro da Humanidade. Não transformemos esta grande oportunidade numa falha fatal.
Bom… para quem, como eu, não aguenta os erros ortográficos nas redes sociais e nas frases de rodapé dos telejornais, há pelo menos uma boa notícia que me sossega: o obituário da Humanidade, escrito por quem fica, ou seja, pela IA, não deverá ter erros ortográficos.
José Luís Correia