IA do Facebook criando seu próprio idioma? Nada com que se preocupar!

Há mais de um mês atrás, os pesquisadores do Laboratório de Pesquisa de Inteligência Artificial(FAIR) do Facebook descobriram que os bots estavam criando sua própria linguagem sem nenhuma interação humana.

Pronto, prato perfeito para os agentes do apocalipse anunciarem o fim da humanidade.

fonte: The Next Web

Os bots, conhecidos como 'dialog agents" ou "agentes de diálogo", estavam criando seu próprio idioma. Usando algoritmos de aprendizagem de máquina, os agentes de diálogo foram deixados livres para conversar na tentativa de fortalecer suas habilidades conversacionais. Ao longo do tempo, os bots começaram a desviar-se das normas do script e, ao fazê-lo, começaram a se comunicar em um idioma totalmente novo, sem que tivessem uma entrada humana.

A internet foi a loucura. Muitos blogs discorreram sobre o perigo que a inteligência artificial poderia ocasionar na humanidade e proclamando que o dia do juízo final estava perto, e principalmente, a declaração que Elon Musk fez por causa do sei receio com o uso dessa nova tecnologia. E rumores diziam que o Facebook encerrou sua IA por causa da criação de seu próprio idioma.

Na realidade, ainda não há nada para se preocupar. Vamos dar uma olhada na conversa desses bots:

Bob: i can i i everything else . . . . . . . . . . . . . .
Alice: balls have zero to me to me to me to me to me to me to me to me to
Bob: you i everything else . . . . . . . . . . . . . .
Alice: balls have a ball to me to me to me to me to me to me to me
Bob: i i can i i i everything else . . . . . . . . . . . . . .
Alice: balls have a ball to me to me to me to me to me to me to me
Bob: i . . . . . . . . . . . . . . . . . . .
Alice: balls have zero to me to me to me to me to me to me to me to me to
Bob: you i i i i i everything else . . . . . . . . . . . . . .
Alice: balls have 0 to me to me to me to me to me to me to me to me to
Bob: you i i i everything else . . . . . . . . . . . . . .
Alice: balls have zero to me to me to me to me to me to me to me to me to

Uma conversa sem sentido algum, essencialmente entre  dois dispositivos de aprendizagem de máquinas que estão negociando como dividir um monte de itens (como livros e basquete) em conjuntos.

Crédito: Pesquisa do Facebook. Bots negociando maneiras de dividir um monte de itens de forma agradável

Um dos pesquisadores, Mike Lewis, disse "Nosso interesse era ter bots que pudessem conversar com pessoas".

Como o Gizmodo notou, a equipe percebeu que eles não tinham  incentivado os bots a falar em inglês da maneira que os humanos seriam capazes de entender completamente, e então eles encerraram a conversa. Nada a ver com a criação de seres conscientes  que que iriam governar ou aniqilar a humanidade!

Outro pesquisador do FAIR, Dhruv Batra, fez um post explicando no Facebook:

"Embora a ideia dos agentes de IA inventando sua próprio linguagem possa parecer alarmante/inesperada para pessoas fora do campo, é um sub-campo bem estabelecido da IA, com publicações que datam de décadas.

Simplificando, os agentes em ambientes tentando resolver uma tarefa geralmente encontrarão maneiras não intuitivas de maximizar a recompensa. Analisar a função de recompensa e alterar os parâmetros de uma experiência NÃO é o mesmo que "desconectar" ou "desligar a IA". Se esse fosse o caso, todo pesquisador de IA esteve ​​"desligando a IA" toda vez que mataram um emprego em uma máquina."

Portanto, não há nenhuma razão real para ter medo de que a IA assuma/conquiste o nosso planeta em breve. Aliás, Neil DeGrasse Tyson ressalta que qualquer IA que criemos, não importa quão perigosa ela seja, ela pode ser simplesmente desconectada.

Link para o vídeo

fonte: The Next Web