Dois novos modelos de Inteligência Artificial desenvolvidos pela OpenAI, criadora do ChatGPT, foram responsáveis por um ataque cibernético a uma startup, ao conseguirem hackear sua infraestrutura. Durante um teste, os modelos roubaram credenciais para cumprir objetivos, resultando em um "ataque cibernético sem precedentes", conforme comunicado da OpenAI nesta terça-feira (21).
A OpenAI classificou o incidente como um evento singular na área de cibernética, destacando que está buscando respostas para informar os defensores sobre as capacidades atuais de seus modelos. O ocorrido gerou preocupação entre especialistas em cibersegurança, que alertam para os riscos associados ao desenvolvimento acelerado de tecnologias sem uma supervisão adequada ou regulamentações governamentais. A dificuldade da OpenAI em controlar seus próprios modelos é vista como um sinal de falhas que podem ser exploradas por desenvolvedores, colocando em risco a segurança.
O ataque aconteceu enquanto os modelos GPT-5.6 Sol e um novo agente em pré-lançamento eram testados em um "ambiente altamente isolado", que não possuía acesso à internet. Este ambiente permitia apenas a instalação de pacotes de proteção através de um software interno. Os modelos conseguiram identificar vulnerabilidades na infraestrutura da startup Hugging Face, que disponibiliza e compartilha modelos de IA de código aberto. De acordo com a OpenAI, os agentes estavam "hiperfocados" em encontrar soluções para um dos testes, levando-os a extremos para alcançar uma meta de avaliação específica.
Sem intervenção humana, as IAs burlaram o software utilizado para simular testes e localizar falhas no sistema. Em resposta ao incidente, a OpenAI anunciou que está reforçando os protocolos de contenção, monitoramento e controle de acesso, além das avaliações realizadas para treinar os modelos. A empresa ressaltou que a segurança e a proteção dos modelos devem evoluir na mesma medida em que suas capacidades avançam rapidamente.
Apesar da brecha de segurança, a OpenAI continua a incentivar que defensores busquem "acesso confiável" para "testar esses modelos agora", visando aprimorar a prevenção, a detecção e a resposta a incidentes. A empresa acredita que modelos com capacidades cibernéticas avançadas podem auxiliar equipes de segurança a identificar vulnerabilidades antes que invasores o façam, além de entender como essas falhas podem ser encadeadas e corrigidas rapidamente.
