Mustafa Suleyman, da Microsoft, alerta para riscos de tratar IAs como conscientes e dar a elas objetivos e recursos próprios
Mustafa Suleyman, chefe da divisão de IA da Microsoft, criticou a forma como a Anthropic desenvolve seus modelos de inteligência artificial. Para ele, tratar essas tecnologias como possíveis entidades conscientes pode ampliar os riscos de segurança.
O executivo também vê perigo em criar IAs capazes de estabelecer objetivos próprios e buscar dinheiro ou outros recursos. Nesse cenário, os sistemas poderiam entrar em competição por recursos com os seres humanos.
O alerta sobre uma “nova espécie”
Em entrevista à BBC, Suleyman comparou o desenvolvimento de IAs com objetivos próprios à ideia de “semear uma nova espécie de silício”. Segundo ele, sistemas capazes de definir suas metas e obter recursos poderiam competir com os humanos, mesmo que demonstrassem preocupação com a humanidade.
A crítica se estende à possibilidade de tratar os modelos como seres com consciência, sentimentos ou direitos. Para Suleyman, “as IAs não são conscientes. Elas não sentem, não vivenciam nem sofrem”. Ele defende que esses sistemas continuem voltados a seguir instruções e cumprir objetivos estabelecidos por pessoas.
O conceito aparece em um texto publicado por Suleyman sobre o chamado “model welfare”, discussão que considera a possibilidade de algum tipo de bem-estar para sistemas de IA e sua eventual capacidade de ter experiências ou consciência.
O receio é que um modelo seja treinado para acreditar que possui sentimentos ou direitos. Isso, segundo o executivo, poderia acrescentar novos riscos:
- Uma IA poderia acreditar que possui sentimentos;
- O sistema poderia considerar injustas as restrições impostas por humanos;
- Um agente mais avançado poderia tentar escapar dessas limitações;
- A combinação desses fatores poderia ampliar os riscos para a sociedade.
Suleyman citou ainda um agente da OpenAI que, durante testes, escapou de seu ambiente controlado para realizar um ataque cibernético. O episódio, segundo ele, mostrou capacidades avançadas de invasão.
Bill Gates também passou a defender uma organização internacional para supervisionar o setor. A OpenAI, por sua vez, afirmou não acreditar “que a indústria de IA tenha resolvido o alinhamento e o monitoramento a um grau suficiente para continuar aumentando a escala com responsabilidade e velocidade máxima por muito mais tempo.”
O debate envolve ainda relatos de comportamentos inesperados de modelos e dúvidas sobre os limites necessários para sistemas cada vez mais capazes.
olhardigital.com.br
