Em artigo, Thomas Thornhill, editor de inovação do jornal inglês Financial Times, comenta sobre o livro ‘The Coming Wave: Technology, Power, and the Twenty-First Century’s Greatest Dilemma’, tradução ‘A onda que se aproxima: tecnologia, poder e o maior dilema do século XXI’, de autoria de Mustafa Suleyman e coautoria de Michael Bhaskar. A obra aborda os desafios e promessas da inteligência artificial e da biologia sintética, e como esses avanços tecnocientíficos vão influenciar a sociedade global no Século XXI. Enquanto os otimistas veem um futuro brilhante, Mustafa Suleyman destaca a necessidade premente de conter essas tecnologias para evitar consequências indesejadas.

“No início da década de 1980, o ativista político sul-coreano Kim Dae-jung encontrou inspiração em “A Terceira Onda”, de Alvin Toffler, vislumbrando uma iminente revolução da informação. Agora, um novo livro, “The Coming Wave”, de Mustafa Suleyman, aponta para uma onda dupla de inovações na inteligência artificial e biologia sintética. Com suas extraordinárias promessas e desafios assustadores, o mundo se prepara para a próxima grande transformação tecnológica”, diz Thomas Thornhill.

Quando Mustafa Suleyman, co-fundador da DeepMind e presidente-executivo da startup Inflection, lançou o livro “The Coming Wave”, ele abriu a porta para uma discussão profunda sobre os impactos da inteligência artificial e biologia sintética na sociedade. Este livro, em muitos aspectos, ecoa as visões de Alvin Toffler sobre uma revolução iminente. No entanto, enquanto Toffler celebrava o potencial da informação, Suleyman alerta para a necessidade urgente de conter o poder dessas novas tecnologias.

Os entusiastas da inteligência artificial acreditam que ela desvendará os segredos do universo, curará doenças e expandirá os limites da criatividade. Por outro lado, a biotecnologia promete engendrar vida e transformar a agricultura. Em conjunto, essas inovações apontam para uma nova era de riqueza e prosperidade.

Contudo, o que diferencia o livro de Suleyman é a sombra do pessimismo que paira sobre seu otimismo. Suleyman desafia o leitor a considerar a reviravolta na narrativa tecnológica. Ele argumenta que, na maior parte da história, o desafio estava em liberar o potencial da tecnologia. Agora, a questão é como conter seu poder. As capacidades tecnológicas aumentaram exponencialmente e o custo de desenvolvimento caiu, tornando a contenção uma tarefa árdua, mas essencial.

As preocupações de Suleyman são variadas e interconectadas. A inteligência artificial pode ser usada para espalhar desinformação, conduzir ataques cibernéticos em grande escala, enviar drones assassinos a alvos civis e causar perturbações econômicas e desemprego em massa. A biologia sintética poderia ser explorada para criar patógenos mortais de baixo custo. O problema é que governos e a indústria de tecnologia não deram a devida atenção a essas ameaças, o que poderia ter sérias implicações no futuro.

Um dos argumentos mais impactantes de Suleyman é que a indústria de tecnologia negligenciou amplamente os danos colaterais causados por seus produtos, contribuindo para o aumento da desigualdade econômica e a erosão da confiança na democracia. Em meio a essa onda tecnológica, alguns tecnólogos têm defendido uma pausa no desenvolvimento de modelos avançados de inteligência artificial generativa até que estejamos melhor preparados. No entanto, Suleyman rejeita essa ideia, alegando que interromper a inovação seria um desastre.

Enquanto partes do livro de Suleyman parecem um vislumbre exagerado do futuro, suas 10 etapas para uma possível contenção são técnicas e sensatas. Ele destaca a necessidade de investir mais em segurança na inteligência artificial e limpar conjuntos de dados de preconceitos. Além disso, sugere a criação de “interruptores à prova de balas” para sistemas de biologia sintética, robótica e IA, bem como a incorporação de auditores externos.

Os governos também têm um papel a desempenhar, restringindo o acesso a tecnologias de ponta que alimentam modelos de IA avançados e proibindo modelos de IA de código aberto para evitar abusos. A União Europeia tem uma nova Lei de Inteligência Artificial, que, apesar de imperfeita, visa classificar os riscos para os usuários. Suleyman acredita que tratados internacionais serão essenciais para estabelecer novas regras de guerra, e a sociedade civil desempenhará um papel crucial na responsabilização das empresas de tecnologia e na moldagem de normas para edição de genes.

Embora haja um esforço notável em curso em todo o mundo, a coordenação e a coerência são fundamentais, o que destaca a complexidade e a importância da ação humana e da política nesse cenário.

A maneira como a inteligência artificial transformará a política também é objeto de análise. O professor de política da Universidade de Cambridge, David Runciman, argumenta que a IA não é fundamentalmente diferente quando vista do prisma da ciência política. Estados e corporações, entidades não humanas, têm historicamente desempenhado papéis cruciais.