Se Alguém a Criar, Morremos Todos, os perigos da IA explicados pelos cientistas Eliezer Yudkosky e Nate Soares

Ao contrário de outras visões que veem a IA como uma ferramenta útil ou um risco gerível, os autores defendem que a criação de uma IA Superinteligente (ASI) resultará na extinção inevitável da Humanidade. Para ambos, não se trata de uma possibilidade remota ou de um cenário de ficção científica, mas sim do desfecho matemático e probabilístico padrão se continuarmos na trajetória atual de desenvolvimento tecnológico. Am­bos são perentórios – uma ASI não apenas pode, como vai provocar o fim da espécie humana. Um manifesto da vertente mais pessimista do alinhamento de IA com os objetivos, valores e princípios éticos dos seres humanos. Os governos de todo o mundo têm de reconhecer os riscos e tomar medidas coletivas e eficazes.

Já em 2023, centenas de figuras destacadas na área da IA assinaram uma carta aberta alertando para o facto de a inteligência artificial representar um sério risco de extinção da humanidade. Desde então, a corrida à IA apenas se intensificou. Empresas e países competem para construir máquinas que serão mais inteligentes do que qualquer pessoa. E o mundo está devastadoramente impreparado para o que poderá acontecer a seguir.

Há décadas que dois dos signatários dessa carta – Eliezer Yudkowsky e Nate Soares – estudam a forma como inteligências mais inteligentes do que os humanos irão pensar, comportar-se e prosseguir os seus objetivos. A sua investigação indica que IA suficientemente avançadas irão desenvolver metas próprias, que as colocarão em conflito connosco – e que, se esse conflito se concretizar, uma superinteligência artificial vencerá. Não será sequer um confronto renhido.