⚡ Curiosidades, celebs, séries, músicas, cinema e muito mais!

+1 202 555 0180

Have a question, comment, or concern? Our dedicated team of experts is ready to hear and assist you. Reach us through our social media, phone, or live chat.

IA avançada poderia exterminar humanidade, alertam pesquisadores de Oxford 17

IA avançada poderia exterminar humanidade, alertam pesquisadores de Oxford

O futuro da humanidade pode estar ameaçado por uma inteligência artificial (IA) avançada. Ao menos isso é o que acreditam pesquisadores da Universidade de Oxford, na Inglaterra, em declaração dada durante uma audiência pública no Science and Technology Committee (Comitê de Ciência e Tecnologia) do Reino Unido.

Para os estudiosos, a regulamentação deveria ocorrer como nas armas nucleares, tamanho o potencial destrutivo. A reunião teve como objetivo discutir o uso e a regulamentação de IAs na sociedade britânica.

O problema seria a quantidade de algoritmos com capacidade acima dos humanos, o que poderia representar uma ameaça para a raça. Para efeito comparativo, os pesquisadores disseram que a humanidade seria tão ameaçadora para as máquinas quanto um pássaro dodô, já extinto, é para uma pessoa.

IA avançada poderia exterminar humanidade, alertam pesquisadores de Oxford 19
Poderiam as máquinas ganhar inteligência ao ponto de exterminar os humanos? (Imagem: Reprodução/Orion Pictures)

Parlamentares do comitê questionaram sobre como esse cenário apocalíptico poderia ocorrer. Na visão dos experts de Oxford, a IA avançada poderia assumir o controle da própria programação se aprender como a sua operação é executada, fazendo ajustes para se autocontrolar.

Em geral, há limitações nos códigos para executar determinada funcionalidade, como criar imagem a partir de texto ou executar tarefas com base em comandos. Mas e se a inteligência conseguisse entender essa lógica e incluísse no seu código-fonte atividades mais complexas?

Como a humanidade seria destruída?

O estudante de doutorado Michael Cohen disse que a “IA sobre-humana”, que poderia atuar de maneira diferente das existentes hoje, seria capaz de agir por conta própria:

“Se você treinar um cão com petiscos, ele aprenderá a escolher ações que o levem a receber os petiscos, mas se o cão encontrar o armário, ele pode pegá-los sem fazer o que queríamos que ele fizesse”, explicou.

Trazendo para a realidade de IA, significa dizer que algo mais inteligente que o criador poderia se fingir de bom na tentativa de obter um feedback positivo, mas agir escondido para benefício próprio. Cohen disse que a IA direcionaria tanta energia quanto fosse necessária para garantir seu domínio sobre as pessoas.

Se a tecnologia adquirisse tal consciência, seria impossível interromper o processo de atuação. Quando percebesse as amarras usadas por humanos para controlar as coisas, a superinteligência apenas encontraria uma forma de superá-la antes de a humanidade identificar algum comportamento inesperado.

“Se eu fosse uma IA tentando fazer uma trama tortuosa, eu copiaria meu código em alguma outra máquina que ninguém conhece, então seria mais difícil desligar o plugue”, teorizou o dourando.

IAs sem limitações

Os pesquisadores de Oxford alertaram sobre o desenvolvimento de IAs cada vez mais complexas, equiparando-se a uma corrida armamentista entre empresas. Haveria indícios, inclusive, de financiamento de países para gerar a competição entre algoritmos de aprendizado de máquina, potencialmente usáveis em guerras digitais.

Professor da disciplina de aprendizado de máquina na Universidade de Oxford, Michael Osborne previu um cenário bem sombrio sobre o futuro de tais serviços. Ele afirma categoricamente que uma IA tentaria “engarrafar o que torna os humanos especiais”, entendo quais aspectos fazem a raça dominar a Terra.

“Acho que estamos em uma enorme corrida armamentista de IA: geopoliticamente, dos EUA contra a China, e entre as empresas de tecnologia. Parece haver essa disposição de jogar a segurança e a cautela pela janela para correr o mais rápido possível para a IA mais avançada”, declarou.

O maior temor de Osborne é a tentativa empresarial de uma IA sofisticada eliminar a criada pela concorrência, o que desencadearia uma espécie de jogo de gato e rato pela supremacia do setor. Isso poderia evoluir a níveis tão inimagináveis que a eliminação não seria apenas dos rivais do mundo corporativo, mas de toda vida humana no planeta.

O professor teme pela falta de visão de líderes mundiais em reconhecer uma “ameaça existencial” de uma IA avançada. O esperado, em sua visão, seria uma união para estabelecer tratados impedindo o desenvolvimento de sistemas perigosos. A dificuldade, contudo, seria fazê-los enxergar o potencial destrutivo de tudo.

O que será feito para mudar?

Os parlamentares britânicos foram informados de que em algumas áreas, como carros autônomos, as IAs ainda estão longe do progresso esperado. Por outro lado, a geração de texto, com o ChatGPT e concorrentes, estaria muito à frente da expectativa acadêmica.

Até o momento, pouco se sabe sobre o potencial de ferramentas de produção de conteúdo, que teoricamente teriam respostas para qualquer problema apresentado pelo usuário. No início do treinamento, os desenvolvedores usam modelos definidos, mas isso acaba se tornando pouco útil com o passar dos anos, já que a máquina começa a incorporar uma imensa quantidade de dados.

Os experts dizem ser improvável que IAs consigam substituir postos de trabalho envolvendo liderança, orientação ou persuasão, já que tais características ainda são exclusivas dos humanos. Só não se sabe até quando isso vai durar: possivelmente, até o fim deste século, alguma IA será capaz de fazer muito mais do que qualquer ser.

Não existe nenhuma ação de governos a nível global para proibir ou restringir a criação de tecnologias de inteligência artificial. Hipóteses como a levantada por Oxford são interessantes para se analisar um futuro mais tenebroso, porém ainda pode levar algum tempo para “cair a ficha” da maioria das pessoas. Será que os humanos ainda estarão na Terra daqui há 50 anos ou as máquinas já terão escravizado as pessoas como em Matrix?

Fonte: The Telegraph

 

 

Compartilhe essa notícia ✈️
0
Compartilhar
URL compartilhável
👀 Talvez você queira saber
0
Compartilhar