Imaginem um futuro onde a tecnologia supera a inteligência humana, desencadeando mudanças radicais na sociedade e possivelmente sinalizando o fim da era humana. Parece uma premissa de ficção científica, não é? Mas essa ideia, apresentada pelo cientista da computação e autor de ficção científica Vernor Vinge, em 1993, não é mais relegada aos domínios da especulação. Hoje, é um assunto sério de debate entre pesquisadores de Inteligência Artificial (IA), como uma matéria recente da revista “Popular Science” investigou.
A previsão de Vinge sobre a “AGI”
Na virada do século, Vernor Vinge lançou a semente da ideia que hoje floresce como a Inteligência Artificial Generalizada (AGI) — uma entidade capaz de igualar, ou até superar, a performance humana em todas as tarefas intelectuais. Isso desencadeou um debate fervoroso no campo da IA, alimentando a teoria de que “o fim da era humana” poderia estar à nossa porta.
Vinge foi responsável por popularizar o conceito de “Singularity” — um momento de ruptura na evolução tecnológica, onde emergiria uma entidade com habilidades superiores ao cérebro humano, provocando transformações imprevisíveis no mundo como o conhecemos. Enquanto muitos veem a AGI como um potencial caminho para essa singularidade, há uma facção que acredita que a AGI é nada mais do que um termo vazio, sem substância real.
A falta de controle pode ser catastrófica
No entanto, existem preocupações profundas associadas ao desenvolvimento da AGI. Roman Yampolskiy, cientista da computação na Universidade de Louisville, sugere que a previsibilidade de uma AGI é uma utopia. O imprevisível comportamento de uma AGI torna a tarefa de controle quase impossível — e as consequências dessa falta de controle podem ser catastróficas.
O futuro da AGI e da singularidade é alvo de opiniões divergentes entre os pesquisadores. Uma pesquisa do think tank AI Impact mostrou que enquanto 33% dos pesquisadores acreditam que um cenário de singularidade é “provável” ou “muito provável”, 47% consideram essa possibilidade “improvável” ou “muito improvável”.
O debate em torno da AGI
Para Sameer Singh, cientista da computação na Universidade da Califórnia, a falta de uma definição clara para AGI e Singularidade torna difícil examinar esses conceitos de maneira empírica. Ele também expressa preocupações de que o foco em AGI e seus possíveis impactos a longo prazo desvia a atenção dos problemas reais e presentes associados à IA, como questões legais, desemprego e geração de fake news.
Pioneiros da ciência da computação como Geoffrey Hinton e Yoshua Bengio recentemente expressaram preocupações sobre o campo da IA, que eles percebem como fora de controle. Alguns até pediram uma pausa de seis meses no desenvolvimento de sistemas de IA mais poderosos que o GPT-4. Yampolskiy apoia essa pausa, mas defende que uma parada temporária não é suficiente: “A única maneira da humanidade ganhar é não fazendo isso”, concluiu ele.
➤ Gostou deste conteúdo? Confira outras matérias semelhantes em destaque no site do El Hombre.
