Para Elon Musk, a IA é um risco fundamental para a existência da civilização

Elon Musk, o Tony Stark da vida real, diz que precisamos regular a Inteligência Artificial antes que ela se torne um perigo para a humanidade, em uma palestra na NGA Summer Meeting ocorrida na semana passada.

Joy of Tech - Mankind's greatest threat!

Todos já conhecem os pensamentos de Elon Musk sobre a inteligência artificial, e agora foi bem mais longe. Ele comparou o trabalho com a IA como se fosse "convocar o demônio" e advertiu mais uma vez que a tecnologia representa um risco existencial para a humanidade, em uma reunião dos governadores dos EUA na semana passada, ele repetiu esses sentimentos, mas também enfatizou algo que ele diz ser ainda mais importante: que os governos precisam começar a regulamentar a IA imediatamente.

fonte: The Verve, foto por Justin Sullivan/Getty Images

"Eu tenho exposição à IA de ponta e acho que as pessoas deveriam estar muito preocupadas com isso", disse Musk aos participantes na reunião de verão da Associação Nacional de Governadores no sábado retrasado. "Eu continuo tocando o sino de alarme, mas até que as pessoas vejam robôs indo na rua matando pessoas, elas não sabem como reagir, porque parece tão etéreo".

A solução, diz Musk, é uma regulamentação: "A IA é um caso raro em que precisamos ser pró-ativos sobre a regulamentação em vez de sermos reativos. Pois eu penso que, no momento em que formos reativos na regulamentação da IA, será muito tarde". Ele acrescentou que o que vê como  modelo atual de regulamentação, no qual os governos intervêm somente após "um monte de coisas ruins acontecerem" é inadequado para a IA porque a tecnologia representa "um risco fundamental para a existência da civilização"!

Como sempre, Musk não está falando sobre o tipo de inteligência artificial que as empresas como o Google, Uber e a Microsoft estão usando atualmente, mas o que é conhecido como inteligência artificial geral - uma entidade consciente e super inteligente, como o tipo que você vê nos filmes de ficção científica. Musk (e muitos pesquisadores da IA) acreditam que o trabalho no primeiro acabará por conduzir ao último, mas há muitas pessoas na comunidade científica que duvidam que isso aconteça, especialmente em qualquer uma das nossas vidas.

O que os pesquisadores estão preocupados é como as formas atuais de inteligência artificial estreitas e "estúpidas" podem ser abusadas. David Ha, um pesquisador que trabalha com o Google Brain, disse no Twitter em resposta aos comentários de Musk que ele estava "mais preocupado com o" aprendizado de máquina sendo usado para "mascarar atividades humanas não éticas", do que a ameaça de IA super inteligente.

François Chollet, o criador da plataforma de rede neural profunda, Keras, respondeu que, enquanto a inteligência artificial "piora algumas ameaças existentes", não ficou claro se criou novas. "Provavelmente, a maior ameaça é o controle da população em massa através de grupos de apontadores de mensagens e propaganda.Porém, [o aprendizado da máquina não] não é um requisito", disse Chollet.

Esses usos da IA são muito menos emocionantes do que o Musk está discutindo, mas ao contrário da ameaça da Skynet, eles geram problemas reais e imediatos. Algoritmos criados pela aprendizagem de máquinas já estão sendo implantados em uma série de áreas questionáveis ​​nos EUA, incluindo a ajuda na condenação dos criminosos. E os pesquisadores alertam para que a falta de interesse da administração Trump na IA (e na ciência em geral) significará que muitos aspectos deste campo emergente não obterão o escrutínio que eles merecem.

fonte: The Verge