O Facebook resolveu desligar a inteligência artificial que havia criado a sua própria linguagem, conforme noticiado na metade de junho. A fim de descobrir como os bots se sairiam em uma tarefa, eles foram colocados frente a frente e, para a surpresa dos pesquisadores, a inteligência artificial criou a sua própria linguagem a fim de conversar melhor. E foi exatamente essa a razão de sua desativação.

Os bots foram desenvolvidos para realizar negócios, então eles são dotados de uma capacidade de barganha a fim de convencer o seu interlocutor. Programados para fazer isso em inglês, os robôs começaram a se comunicar usando frases ininteligíveis para os pesquisadores. Apesar de não compreender as palavras usadas, era possível identificar que a negociação entre as inteligências artificiais acontecia da mesma forma.

Na base da recompensa

Os pesquisadores explicaram que os bots funcionam na base de recompensas, como se eles obtivessem algum benefício após seguir uma série de instruções pré-definidas. Nesse caso, porém, eles não identificavam uma razão para continuar se comunicando em inglês, criando assim um novo código.

Como exemplo, os cientistas citaram o caso dos bots (chamados também de agentes) chamados de Bob e Alice. Ao se comunicar com Alice, Bob emitiu a sentença “Eu posso eu eu e todo o resto”. A sua interlocutora respondeu “bolas têm zero para mim para mim para mim…”, com o restante da conversa se dando sempre em variações dessas frases.

Bots criaram seus próprios códigos de linguagem a fim de melhorar a comunicação entre si

Os cientistas do Facebook concluíram que a repetição de expressões como “i” e “to me” eram uma forma simplificada de se comunicar, como se os bots não sentissem a necessidade (ou tentassem facilitar a conversa) de utilizar toda a complexidade do idioma inglês durante aquela determinada conversa.

“Os agentes deixarão de usar linguagem compreensível e inventarão palavras-código para eles mesmos”, relatou o pesquisador de IA do Facebook Dhruv Batra em entrevista ao site Fast Co. Design. “Como se eu digo ‘o’ cinco vezes e você interpreta isso como eu querendo cinco cópias desse item. Isso não é tão diferente da forma como comunidades de humanos criaram a estenografia.

Problemas com inteligências artificiais

São exemplares os casos recentes de inteligências artificiais se comunicando de forma inesperada ou alcançando níveis impensáveis por seus criadores. Podemos citar a IA da Microsoft que se tornou nazista no Twitter ou a mais recente, que afirmou preferir Linux ao Windows.

A Google teve um “problema” semelhante ao do Facebook, quando uma linguagem criada para trabalhar com traduções desenvolveu seu próprio idioma e se tornou capaz de traduzir idiomas que não conhecia. A Gigante da Web também já compartilhou com o mundo alguns “sonhos” que as suas inteligências artificiais relataram.

Apesar do ar meio apocalíptico de o Facebook desativando a IA porque ela criou uma linguagem própria, ela foi desativada porque perdeu o propósito ao não se comunicar em inglês. A ideia era que ela fosse capaz de aprender padrões de negociação para usar em conversas reais.