Fato ocorre após reguladores receberem alerta de que a OpenAI não está testando a segurança de suas tecnologias adequadamente
O Senado americano exigiu em uma carta que a OpenAI entregasse dados sobre seus esforços para construir inteligência artificial segura. As preocupações dos políticos americanos surgiram após alerta dos funcionários de que a empresa apressou os testes de segurança de seu mais recente modelo de IA.
Informações do Washington Post revelaram que cinco legisladores pediram ao CEO da OpenAI, Sam Altman, que esclarecesse como a startup planeja cumprir “compromissos públicos” para garantir que sua IA não cause danos.
Os senadores também pediram à empresa informações sobre acordos trabalhistas, o que poderia ter intimidado os trabalhadores que desejassem alertar os reguladores sobre os riscos de testes de segurança mal feitos.
Pessoas que denunciaram práticas perigosas da OpenAI disseram que a empresa emitiu ilegalmente indenizações restritivas, sigilo e acordos de funcionários, penalizando potencialmente os trabalhadores que desejassem levantar preocupações aos reguladores federais.
Em comunicado, a porta-voz da OpenAI, Hannah Wong, disse que a empresa “fez mudanças importantes no processo de saída de trabalhadores para remover termos não depreciativos dos acordos com funcionários”.
Leia mais:
OpenAI tem deixado segurança em segundo plano
- As preocupações de que a OpenAI tem priorizado o lucro ao invés da segurança não são novas.
- Questionamentos dessa natureza já ocorrem desde quando a startup teria apressado o lançamento do seu mais recente modelo de IA, GPT-4 Omni, para cumprir a data de lançamento em maio.
- Os líderes da empresa avançaram com o lançamento, apesar das preocupações dos funcionários sobre o prazo, e aceleraram testes de segurança abrangentes, minando o compromisso de segurança feito em julho de 2023 com a Casa Branca.
“Dada a posição da OpenAI como empresa líder em IA, é importante que o público possa confiar na segurança de seus sistemas”, escreveram os senadores na carta em que demandam esclarecimentos sobre segurança.
Os democratas do Senado pediram à OpenAI que responda até 13 de agosto, incluindo uma documentação sobre como planeja cumprir o seu compromisso voluntário com a administração Biden de proteger o público de abusos de IA generativa.
