Desenvolvedores de inteligência artificial (IA) do Google encontraram recentemente uma misteriosa “caixa preta”.
Os engenheiros estavam trabalhando em um software de IA que inesperadamente ganhou a capacidade de entender um novo idioma.
“Descobrimos que, com muito pouca informação sobre o bengali [a língua oficial de Bangladesh], agora você pode traduzir tudo para esse idioma”, afirmou James Maneka, chefe da divisão de IA do Google, ao programa 60 Minutes da rede de televisão americana CBS.
Ao comentar sobre o assunto, o CEO do Google, Sundar Pichai, disse que essa capacidade dos programas de IA de gerar habilidades ou fornecer respostas de maneiras inesperadas é o que os especialistas chamam de “caixa preta”.
“Você não entende muito bem. Você não pode realmente dizer por que [o robô] disse isso ou por que errou. Temos algumas ideias e nossa capacidade de entender o assunto melhora com o tempo”, apontou.
O desenvolvimento da inteligência artificial acelerou bastante nos últimos anos. Grandes empresas de tecnologia estão investindo somas significativas para criar chatbots — como o Bard, do Google, ou o ChatGPT, da OpenAi e da Microsoft.
Mais recentemente, o bilionário Elon Musk anunciou que também entraria nesse ramo.
Ao mesmo tempo, especialistas em IA apontam que essa corrida pode causar riscos se a tecnologia não for controlada pelos desenvolvedores.
Um desses controles é justamente entender como elas aprendem habilidades para as quais não foram treinadas.
E essa é a grande caixa preta desse ramo da tecnologia.
“Se voltarmos a 2012 e compararmos os sistemas que estávamos construindo na época e os sistemas em desenvolvimento agora, aumentamos consistentemente a quantidade de dados e o poder de computação de modelos de IA”, contextualiza.
“Aumentamos a quantidade de poder computacional consumido por esses modelos em cerca de 100 milhões na última década. Portanto, embora na prática o ChatGPT pareça ter surgido do nada para a maioria das pessoas, essa é uma tendência de longa data.”
“E isso vai seguir em frente”, antevê.
As novas capacidades dos robôs que foram lançadas recentemente têm levantado questões sobre as diversas formas pelas quais eles influenciarão a sociedade, desde impactos no mercado de trabalho até o controle de processos de segurança pública ou no campo militar.
No programa 60 Minutes, o CEO do Google foi questionado sobre o fato de os engenheiros não entenderem completamente como as coisas acontecem na caixa preta, mesmo com chatbots como o Bard em pleno funcionamento.
“Acho que também não entendemos completamente como a mente humana funciona”, respondeu Sundar Pichai, que vê a chegada gradual da IA à sociedade como uma forma de se acostumar com ela.
“Acho que desenvolver isso precisa incluir não apenas engenheiros, mas também cientistas sociais, especialistas em ética, filósofos e assim por diante”, sugeriu Pichai.
“E temos que ser muito atenciosos. Essas são as coisas que a sociedade precisa descobrir à medida que avançamos. Não cabe a nós como empresa decidir”, disse ele.
Ian Hogarth também acredita que a IA acabará afetando a vida das pessoas — e um diálogo aberto sobre os impactos dessas tecnologias é necessário.
“Acho que elas têm um potencial notável para transformar todos os aspectos de nossas vidas. De certa forma, talvez elas sejam as tecnologias mais poderosas hoje”, avalia o especialista.
“O ponto principal é que deveríamos ter uma discussão pública sobre a rapidez com que esses sistemas estão progredindo e quais são as diferenças em relação às gerações anteriores desses softwares”, conclui Hogarth.
BBC Brasil
