A história de Erbai
A história que tomou conta de muitos veículos de comunicação, seja digital ou de mídia tradicional, no final de 2024, é sobre o pequeno “Erbai” que “CONVENCE” (este é o termo mais ameno que encontrei sobre o fato) outros robôs para irem para sua casa, deixando o seu posto de trabalho. Em agosto de 2024, a fabricante de Hangzhou propôs um teste interno à empresa de Xangai, que autorizou o uso de seus robôs em uma simulação.
A intenção era verificar a capacidade de persuasão de Erbai e avaliar potenciais vulnerabilidades nos sistemas de segurança e protocolos de operação. A empresa confirmou a veracidade do vídeo em 11 de novembro, depois deste ter se espalhado na Ásia e pelo mundo inteiro, tornando-se viral e trazendo questionamentos sobre a IA (Inteligência Artificial) , seus limites e a segurança para o futuro.

O vídeo é do circuito de segurança interno da empresa. Através da legenda, entendemos que o pequeno robô “induz” os outros robôs por meio de um diálogo, “convencendo-os” a segui-lo para sua casa. Aos fatos: Não há informações técnicas mais detalhadas de como foram os requisitos do teste mas, seguindo um padrão técnico de mercado (é uma especulação, mas parece ser mais plausível), muito provavelmente, este diálogo que está legendado no vídeo nunca existiu e foi algo mais para divertir do que realmente aplicado ao teste. Aliás, a empresa deve estar feliz por este branding marketing global, justamente pelas legendas que tornam o vídeo curioso e divertido.
A comunicação entre os robôs, provavelmente, foi realizado por linguagem de programação, tentando primeiramente conectar e alterar a programação dos outros robôs, enviando instruções de diversas formas, a fim de quebrar a segurança e, então, assumindo o comando e enviando a instrução para que viessem a segui-lo. Falando desta forma, este vídeo não teria graça nenhuma e não teria a repercussão que teve, mas provavelmente deve ter ocorrido desta forma, para decepção e frustração de muitos.
Existe mais um porém: poderia especular também que este teste nem precisaria ser realizado por meio de uma IA! Em poucas linhas de programação, estas instruções poderiam ser enviadas apenas para cumprir a tarefa “conecte-se” (aqui seria o tal do convencimento, mas que na verdade, Erbai tentaria modificar a programação padrão dos outros robôs) – “envie a instrução siga-me” e fim, sem necessitar de IA! Mas, como o vídeo tem aquela legenda do diálogo, nos leva a pensar que foi definitivamente usado uma IA. Enfim, ficamos assim para não complicar a coisa ainda mais…

A paranoia da “Skynet”
É notória a franquia dos filmes do Exterminador do Futuro, onde uma IA militar chamada “Skynet” toma conta de todos os sistemas de armas do mundo e tenta aniquilar a humanidade. Bom, isso ficou registrado no inconsciente coletivo das pessoas e traz muitas dúvidas sobre as consequências morais, éticas e principalmente de segurança sobre a IA, e deve ser assim! Porém, a reação das pessoas nas redes sociais sobre o experimento Erbai demonstra um medo generalizado e o pouco conhecimento que as pessoas têm sobre o avanço desta tecnologia.
Uma coisa que as pessoas devem conceber é que máquinas e computadores não possuem “vontade própria”, elas seguem aquilo que foram programados por humanos para fazer. Se um robô é equipado com uma arma e sai atirando por aí, foi alguém que programou a máquina para isso, a máquina executa, não pensa, não sente, não julga, só faz o que foi determinado para fazer e pronto. Por fim, nenhuma máquina vai sair por aí, do nada, fazendo coisas que elas não estão programadas para fazer. Lembre-se desta parábola do dono da faca: “Ela serve para passar manteiga no pão, cortar alimentos ou matar uma pessoa, depende de quem a está manejando”.
Resumo deste post:
A empresa de Xangai transformou um teste simples de segurança interno em uma grande sacada de marketing (um dia eu acerto uma desta!). A IA tem seus desafios em relação a ética e segurança, como qualquer nova tecnologia, mas isso não deve ser encarado com temor ou receio, e sim, ser acompanhado com muita atenção. Para tanto, deve-se buscar o conhecimento sobre em qual direção esta e outras tecnologias que surgirão no futuro estão se direcionando, e como estas tecnologias deverão impactar a todos. Pois os propósitos dessas tecnologias sempre devem ser para tornarem feliz a humanidade. No mais, deve-se refutar a ideia de que os computadores e robôs irão promover um apocalipse, estabelecendo uma sociedade de máquinas, aniquilando seus criadores (os humanos) – ao contrário disto. Deixemos isso a cargo de Hollywood para nos divertir.