Em 2002, Com fio Kevin Kelly, da revista, questionou Larry Page, do Google, sobre o motivo pelo qual seu mecanismo de busca era gratuito, relata o filósofo Yuval Noah Harari em ‘Nexus – Uma breve história das redes de informação da Idade da Pedra até a IA’ (Casa aleatória).
“Onde isso te leva?”, ele perguntou. Page respondeu que o Google não era sobre pesquisa.
“Estamos realmente criando uma IA”, ele disse. “Ter muitos dados torna mais fácil criar uma IA. “E a IA pode transformar muitos dados em muito poder.”
Em ‘Nexus’, Harari explora redes de informação desde os primeiros dias da linguagem até o Google e além, e prevê para onde essa “revolução da informação” está indo. “Como a atual revolução da informação é mais importante do que qualquer outra, é provável que ela crie realidades sem precedentes em uma escala sem precedentes”, ele acrescenta.
Não é nenhuma novidade. “A tendência de criar coisas poderosas com consequências não intencionais começou com a invenção da religião”, ele escreve. “Profetas invocaram espíritos poderosos que supostamente traziam amor e alegria, mas ocasionalmente acabavam inundando o mundo com sangue.”
Harari também alerta sobre as profundas implicações das capacidades da IA. “Faz apenas oitenta anos que os primeiros computadores digitais foram construídos e não estamos nem perto de esgotar seu potencial total”, ele escreve. “O que aconteceu nos últimos oitenta anos não é nada comparado ao que está por vir.”
Embora as empresas de tecnologia tenham uma linha direta com os governos mundiais, elas também têm o que Harari chama de “uma linha direta com o sistema emocional das pessoas”. E isso é perigoso.
“Se os gigantes da tecnologia obedecem aos desejos dos eleitores e clientes, mas ao mesmo tempo também moldam esses desejos, então quem realmente controla quem?”, ele pergunta.
Embora a capacidade da humanidade de se adaptar ofereça esperança, também há ameaças de maus atores. “A civilização humana também pode ser destruída por armas de destruição em massa social”, ele conclui.
“Uma IA desenvolvida em um país poderia ser usada para desencadear uma enxurrada de notícias falsas, dinheiro falso e humanos falsos, de modo que as pessoas perdessem a capacidade de confiar em qualquer coisa ou pessoa.
“A IA é um problema global.” — Gavin Newsham
