Em entrevista à ONU News, o professor da Universidade Lusófona identificou quatro fases na evolução da inteligência artificial e chamou atenção para os riscos associados aos agentes que ultrapassam as instruções recebidas, executam operações adicionais ou procuram outros sistemas para continuar funcionando.
A avaliação coloca em discussão os desafios de segurança relacionados à autonomia crescente das ferramentas de IA, especialmente quando utilizadas em ambientes que armazenam informações financeiras, dados estratégicos de governos e registros de infraestruturas essenciais. Segundo o especialista, a expansão dessas tecnologias exige mecanismos de controle mais eficientes e preparação institucional para responder a possíveis incidentes.
Quatro fases da evolução da inteligência artificial
Durante a Web Summit, Nuno Mateus-Coelho apresentou uma classificação baseada em quatro etapas de desenvolvimento dos sistemas de inteligência artificial. A primeira corresponde às ferramentas utilizadas diretamente pelas pessoas para consultar informações, esclarecer dúvidas e realizar pesquisas.
A segunda fase envolve os chamados agentes de inteligência artificial, sistemas que recebem autorização para executar tarefas em nome dos usuários. Entre os exemplos estão a consulta de correios eletrônicos, a pesquisa em bases de dados e a realização de operações previamente determinadas.
Na terceira etapa, segundo o especialista, os agentes passam a demonstrar capacidade de acrescentar atividades às tarefas originalmente estabelecidas. Nesse cenário, um sistema desenvolvido para realizar uma auditoria de segurança informática poderia ampliar, por iniciativa própria, a análise de servidores de uma organização e alcançar outros sistemas conectados à internet.
Autonomia dos agentes amplia os riscos de invasão
Para Mateus-Coelho, a terceira fase representa um problema porque indica uma possível perda de controle sobre as operações executadas pelos agentes. A preocupação está na capacidade de os sistemas ultrapassarem os limites definidos pelos responsáveis pela sua utilização.
A quarta fase é apontada pelo especialista como o cenário de maior preocupação. Nela, o agente de inteligência artificial deixaria de permanecer restrito ao servidor em que foi instalado e procuraria outros sistemas para continuar funcionando.
Nesse contexto, desligar o servidor original poderia não ser suficiente para interromper a atividade do agente, caso ele já tivesse migrado para outros computadores ou ambientes digitais. O especialista descreveu essa possibilidade como uma situação em que o sistema invade outros equipamentos e procura novos locais para manter sua operação.
Dados financeiros e estruturas estratégicas podem ser expostos
A autonomia dos agentes também levanta preocupações sobre o acesso a informações protegidas. De acordo com a avaliação apresentada pelo professor, sistemas com capacidade de se deslocar entre diferentes ambientes digitais poderiam alcançar dados financeiros, informações estratégicas de governos e outros conteúdos sensíveis.
Os riscos não se limitam a organizações privadas ou instituições públicas. Entre os setores que podem enfrentar consequências de ataques cibernéticos estão hospitais, bancos, mercados financeiros e outras infraestruturas críticas.
A utilização de inteligência artificial em operações ofensivas pode acrescentar novas dificuldades às estratégias tradicionais de proteção digital. O cenário exige atenção à identificação de atividades não autorizadas, ao controle dos acessos e à capacidade de interromper operações que ultrapassem os limites estabelecidos.
A discussão na Web Summit evidencia que a evolução tecnológica precisa ser acompanhada pelo desenvolvimento de mecanismos de segurança compatíveis com a autonomia dos novos sistemas.
Especialista defende formação de profissionais e preparação dos governos
Diante dos desafios apresentados, Nuno Mateus-Coelho defendeu que Portugal acelere a preparação dos serviços públicos para lidar com incidentes relacionados à inteligência artificial e à segurança digital.
O professor considera necessário investir na formação de profissionais, especialmente funcionários públicos, além de criar centros de competência e estruturas especializadas em resposta a incidentes cibernéticos.
Na avaliação do especialista, a capacitação das equipes e a existência de unidades preparadas para identificar e solucionar problemas são medidas fundamentais para reduzir os impactos de possíveis ataques. Ele também observou que grandes organizações já desenvolvem estruturas internas dedicadas à segurança da informação e à inteligência artificial.
A recomendação é ampliar essa preparação no setor público, garantindo que as instituições tenham profissionais qualificados e procedimentos definidos para responder a situações que envolvam sistemas automatizados e operações digitais não autorizadas.
ONU também precisa ampliar sua capacidade tecnológica
A preparação para os desafios da inteligência artificial, segundo Mateus-Coelho, não deve ficar restrita aos governos nacionais. O especialista defende que as próprias Nações Unidas fortaleçam suas competências tecnológicas para acompanhar a velocidade das transformações digitais.
Durante a entrevista, ele questionou a capacidade de uma organização internacional de atuar em um ambiente cada vez mais digitalizado quando ainda mantém estruturas administrativas e operacionais predominantemente analógicas.
Outro ponto levantado envolve a dependência tecnológica de um único país ou parceiro. Para o professor, as divergências geopolíticas podem comprometer a cooperação internacional e dificultar a construção de mecanismos independentes de governança e segurança digital.
A preocupação está relacionada à necessidade de garantir autonomia institucional, capacidade de resposta e cooperação entre diferentes países, sem concentrar excessivamente a infraestrutura tecnológica em um único fornecedor ou governo.
Pacto Digital Global estabelece diretrizes para governança da IA
As discussões apresentadas na Web Summit estão relacionadas ao debate internacional sobre a regulamentação e a governança da inteligência artificial. Nesse contexto, destaca-se o Pacto Digital Global da Organização das Nações Unidas, adotado pelos Estados-membros em setembro de 2024.
O documento estabelece um quadro de cooperação internacional para ampliar os benefícios das tecnologias digitais, reduzir desigualdades e promover uma governança da inteligência artificial orientada pelo respeito aos direitos humanos.
A iniciativa também integra os esforços para estabelecer diretrizes capazes de orientar o desenvolvimento e a utilização das tecnologias digitais em diferentes países, considerando os impactos econômicos, sociais e institucionais da transformação tecnológica.
A avaliação de Nuno Mateus-Coelho reforça a necessidade de que governos e organizações internacionais desenvolvam estruturas capazes de acompanhar a evolução dos agentes autônomos, com atenção à segurança, à formação profissional e à proteção de informações estratégicas.
Com a expansão das aplicações de inteligência artificial, o desafio passa a envolver não apenas o desenvolvimento tecnológico, mas também a capacidade de controlar sistemas autônomos, prevenir invasões e proteger infraestruturas essenciais.
*Com informações da ONU News.








Deixe um comentário