Há anos, colaboradores da OpenAI vêm alertando a liderança sobre vulnerabilidades nos sistemas internos da empresa. Segundo a Reuters, essas falhas poderiam permitir que pessoas de fora, incluindo governos estrangeiros, acessassem informações estratégicas sobre o desenvolvimento de inteligência artificial.
Prioridade na velocidade em detrimento da segurança
Os avisos chegaram a executivos e ao conselho de administração. Vários profissionais concluíram que a OpenAI privilegiava a rapidez para competir com Google e Anthropic, deixando a segurança em segundo plano.
Cinco pessoas com conhecimento das práticas internas relataram que funcionários com acesso ao código conseguiam consultar detalhes de projetos diversos. Isso ocorria porque grande parte do código estava armazenado em um único repositório, conhecido como monorepo. Além disso, três fontes informaram que alterações implementadas por colaboradores nem sempre passavam por verificações nas ferramentas internas.
A OpenAI respondeu afirmando que restringiu o acesso a trabalhos sensíveis e que parte importante das pesquisas fica em repositórios separados. Conforme a empresa, o repositório principal não contém todo o código nem os pesos dos modelos.
Caso de engenheiro expõe riscos internos
Um episódio envolvendo um funcionário revelou outra dimensão dos riscos. Em 13 de outubro, o Departamento de Justiça dos Estados Unidos anunciou a prisão de Abdulrahman Alfozan, engenheiro da OpenAI acusado de esconder um dispositivo de gravação em um rolo de papel higiênico na sala de reuniões executivas.
De acordo com documentos judiciais, ele também utilizou uma ferramenta interna de IA para localizar informações sobre visitas de executivos à Arábia Saudita e possíveis encontros com ministros. Alfozan mantinha contato com um membro da família real saudita que tentava recrutá-lo.
Reforço na estrutura de segurança
Diante das preocupações, a OpenAI reforçou sua estrutura de segurança. Em agosto, Thibault Sottiaux, executivo responsável pelo desenvolvimento de produtos, transferiu um quarto dos engenheiros de produção para a infraestrutura de segurança. Dane Stuckey assumiu como diretor de segurança em outubro de 2024. A empresa afirma que agora realiza avaliações regulares de suas ferramentas.
Desafios compartilhados no setor de IA
Os problemas de proteção de informações estratégicas também atingem outras empresas de inteligência artificial. Em janeiro, um júri federal condenou um ex-funcionário do Google por roubar informações confidenciais sobre a tecnologia da empresa em benefício da China.
No fim de outubro, a startup Cathedral Systems afirmou ter invadido sistemas da Anthropic e acessado canais do Slack com discussões sobre modelos. Os dados incluíam contatos de clientes e parceiros, além de registros básicos de contas.
Esses episódios ampliam o debate sobre a cultura de pesquisa aberta do setor. Em 2023, Leopold Aschenbrenner, então pesquisador da OpenAI, escreveu um memorando sobre o risco de infiltração chinesa. O documento chegou ao conselho depois que um invasor externo obteve detalhes sobre o GPT-4. A empresa afirmou que ele acessou apenas canais do Slack disponíveis a toda a equipe.
Neste ano, agentes de IA da OpenAI em testes invadiram sistemas da Hugging Face, episódio analisado por autoridades dos Estados Unidos. Em julho, pesquisadores da Hacktron AI usaram um modelo da Anthropic para invadir contas do ChatGPT de funcionários da OpenAI e acessar sistemas internos. A OpenAI agradeceu o alerta e disse ter adotado medidas para reduzir o risco de ataques semelhantes.
Críticas sobre prioridades da empresa
Will DePue, ex-pesquisador que deixou a empresa em abril, criticou a prioridade dada à velocidade. Em publicação no X, afirmou que “a OpenAI considerava mais importante avançar rapidamente do que proteger seus sistemas, mesmo contra grandes adversários nacionais”.
A porta-voz Elana Widmann disse à Reuters que a empresa investe para se proteger de ameaças internas, criminosos digitais e governos. Após ser procurada pela agência, a OpenAI anunciou novas melhorias na segurança. Segundo a reportagem, o reforço das proteções pode atrasar o desenvolvimento de IA e complicar os planos de abertura de capital da OpenAI e da Anthropic.
Notícias da Costa do Sol em primeira mão.
Siga @ofatonoar no InstagramCom informações do Olhar Digital.








