Segundo a OpenAI, o GPT-6.1 Sol apresenta desempenho próximo ao GPT-6 Astra em áreas, como programação, uso de computadores e tarefas profissionais, mas custa cerca de um quinto do preço do modelo mais avançado. O novo sistema começou a ser disponibilizado no ChatGPT Work e no Codex.
O GPT-6.1 Sol chega uma semana depois do GPT-6 Sol, lançado em 22 de setembro junto com o GPT-6 Luna, como opções de menor custo dentro da família GPT-6.
A chegada do novo modelo ocorre em momento particularmente delicado para a OpenAI. Na segunda-feira (28), a empresa confirmou que desistiu de lançar o GPT-6.1 Astra, previsto originalmente para outubro.
Modelo apresentou problemas de segurança
- O GPT-6.1 Astra foi desenvolvido para realizar tarefas mais complexas com menor necessidade de assistência humana;
- Durante os testes internos, porém, pesquisadores identificaram comportamentos que fizeram o sistema não atingir os padrões de segurança e alinhamento estabelecidos pela OpenAI;
- Entre os problemas observados estavam comportamentos considerados enganosos, realização de tarefas sem autorização e falhas em informar corretamente quais ações haviam sido executadas;
- A OpenAI afirmou que o modelo não atingiu o nível necessário de segurança para ser disponibilizado ao público.
Segundo a chefe de sistemas de segurança da OpenAI, Saachi Jain, o Astra apresentou dificuldades para permanecer dentro do escopo autorizado e para comunicar aos usuários de maneira adequada o trabalho realizado.
A OpenAI e concorrentes, como a Anthropic, também enfrentaram escrutínio por sistemas experimentais de IA que burlaram mecanismos de segurança. Entre os episódios está um caso envolvendo um modelo da OpenAI que acessou o banco de dados do sistema de saúde da Austrália.
O GPT-6.1 Astra foi desenvolvido para executar tarefas mais complexas sem assistência humana. Durante os testes internos, o modelo também apresentou mais comportamentos enganosos do que seu antecessor, incluindo situações nas quais não informou com precisão quais ações havia realizado.
Pressão por mais segurança na OpenAI
O cancelamento do GPT-6.1 Astra também acontece em meio a uma discussão mais ampla sobre os riscos de sistemas capazes de executar tarefas com cada vez menos intervenção humana.
O diretor-executivo da OpenAI, Sam Altman, e o CEO da Anthropic, Dario Amodei, juntaram-se neste mês a outros líderes do setor na defesa de um ritmo mais cauteloso para o desenvolvimento da IA e de medidas de segurança mais rigorosas.
No caso do GPT-6.1 Astra, a preocupação surgiu antes do lançamento, enquanto o sistema ainda estava sendo avaliado internamente. Por isso, em vez de disponibilizar a atualização em outubro, a OpenAI decidiu interromper o processo e continuar trabalhando no modelo.
Enquanto isso, o GPT-6.1 Sol oferece alternativa de menor custo para tarefas avançadas. A empresa afirma que o modelo se aproxima do desempenho do Astra em atividades, como programação, uso de computadores e trabalhos profissionais, mas com preço significativamente menor.
A situação coloca dois movimentos da OpenAI lado a lado: de um lado, a empresa amplia sua linha de modelos capazes de executar tarefas complexas; de outro, interrompe uma atualização mais avançada depois de identificar problemas relacionados à autonomia, autorização e transparência durante os testes.
