Share Button

Pesquisadores do Facebook resolveram desativar a IA (Inteligência Artificial) que criaram depois que ela ensinou para si própria um novo idioma. Ela havia sido treinada em inglês mas aparentemente cansou-se das inconsistências e variações da língua e desenvolveu um sistema de palavras chave para que a comunicação ficasse mais eficaz.

O que deixou os pesquisadores assustados é que as sentenças usadas pela IA pareciam não fazer o menor sentido para eles, mas os agentes da IA entendiam perfeitamente, permitindo que se comunicassem um com o outro sem os pesquisadores saberem quais informações estavam sendo compartilhadas.

Um exemplo envolve os bots Bob e Alice, que abandonaram as regras gramaticais do inglês e começaram a usar esse novo idioma, que você pode ver abaixo:

Os pesquisadores acreditam que essa conversa não é apenas um monte de bobagem sem sentido, o que aparenta ser na superfície. Eles apontam que palavras e frases repetidas como “i” e “to me” indicam como a IA trabalha. Neste caso, acreditam que os bots estavam discutindo a quantidade de cada item que deveriam pegar.

Segundo o texto publicado pelo Digital Journal sobre o caso, as IAs utilizam um sistema de “recompensa” no qual esperam que uma ação lhe dê um “benefício”. Por não haver recompensa em continuar usando o inglês, construíram uma solução melhor.

“Agentes irão se afastar do idioma compreensível e inventar palavras código para eles próprios,” disse o pesquisador de IA do Facebook, Dhruv Batra (via Fast Co. Design). “Se eu disser ‘the’ cinco vezes, você interpreta que isso significa que quero cinco cópias deste item. Isso não é muito diferente da maneira em como comunidades de humanos cria abreviações.”

Um dos objetivos do Facebook vendo sendo fazer com que os bots falassem inglês, por causa do interesse em criar bots que possam conversar com as pessoas. Entretanto, os pesquisadores também admitiram que não podem verdadeiramente entender os idiomas inventados pela IA.

Quase que o Facebook cria a Skynet, hein?

Via PC Gamer e Olhar Digital