–:–:–
Conecte-se conosco

OpenAI restringe ChatGPT sobre armas e violência

Plataforma terá proteções extras para menores de 18 anos e poderá encerrar conversas automaticamente

3 visualizações
OpenAI amplia restrições do ChatGPT sobre armas e violência para crianças e adolescentes

A OpenAI anunciou mudanças em seu sistema de segurança para limitar respostas do ChatGPT sobre armas de fogo e violência. As alterações, apresentadas na sexta-feira (30), incluem proteções específicas para menores de 18 anos, análise contextual de conversas e encaminhamento de situações perigosas às autoridades.

Proteções para adolescentes

Usuários com menos de 18 anos receberão restrições adicionais. Mesmo que uma pergunta sobre armamentos pareça inofensiva, o sistema limitará o acesso a informações práticas que possam facilitar atos violentos. Segundo a OpenAI, as regras anteriores já proibiam orientações para planejar ataques ou ajudar menores a obter armas. Agora, também serão bloqueadas informações sobre funcionamento de armamentos e sistemas de segurança que possibilitem violência, ainda que não haja intenção explícita de causar danos.

Para identificar usuários menores, a empresa utiliza um sistema de previsão de idade baseado em padrões de comportamento. Adultos classificados incorretamente poderão confirmar sua maioridade por meio da Persona, empresa parceira responsável pela verificação.

Os adolescentes continuarão tendo acesso a conteúdos sobre prevenção da violência, busca de apoio e orientações para se conectar com adultos de confiança.

Monitoramento e interrupção de conversas

O ChatGPT analisará o contexto completo das interações. Uma pergunta comum pode ganhar significado diferente após mensagens anteriores com sinais de intenção violenta. Se o sistema identificar que uma pessoa está obcecada por violência ou pela ideia de ferir alguém gravemente, encerrará automaticamente a conversa.

Múltiplos encerramentos pelo mesmo motivo resultarão em suspensão temporária da conta. A OpenAI realizou mais de 200 comunicações às autoridades policiais durante o terceiro trimestre de 2026 em casos avaliados como ameaças potencialmente graves.

Restrições sobre ataques em massa

Todos os usuários receberão respostas menos detalhadas sobre ataques em massa que já ocorreram. O sistema evitará reunir informações públicas de forma a facilitar reprodução de atos violentos ou ampliar notoriedade dos autores.

Serão restringidas reconstruções detalhadas incluindo armas utilizadas, como foram obtidas e comparações sobre dimensão dos danos. Usuários ainda poderão discutir esses episódios, solicitando explicações sobre o que aconteceu, impactos para vítimas e sinais de risco.

Alertas aos responsáveis

Os controles parentais serão ampliados. Responsáveis vinculados às contas de adolescentes já recebem alertas sobre automutilação e comportamentos associados a transtornos alimentares. Agora, receberão notificações quando uma conta for temporariamente suspensa após conversas repetidas sobre violência.

Relatório de Segurança

A OpenAI criará um Relatório de Segurança da Comunidade reunindo informações sobre identificação de ameaças, procedimentos adotados diante de comportamentos preocupantes e eficácia das medidas de prevenção. A primeira edição será publicada no início de 2027 com dados do segundo semestre de 2026.

A empresa trabalha com especialistas em saúde mental e comportamento, além de considerar atuação de familiares e órgãos públicos. As novas proteções começarão a ser implementadas nas próximas semanas.

Notícias da Costa do Sol em primeira mão.

Siga @ofatonoar no Instagram

Com informações do Olhar Digital.

Mais em Tecnologia

Ver tudo →