–:–:–
Conecte-se conosco

OpenAI restringe acesso de adolescentes a informações sobre armas no ChatGPT

Plataforma também vai encerrar conversas automaticamente quando detectar fixação em violência

2 visualizações
OpenAI vai limitar acesso de adolescentes a informações sobre armas no ChatGPT

A OpenAI anunciou medidas de segurança mais rigorosas para proteger adolescentes que usam o ChatGPT. A partir das próximas semanas, a plataforma vai restringir o fornecimento de informações sobre armas e sistemas de segurança para menores de 18 anos, mesmo quando as perguntas não revelarem intenções violentas.

Como a plataforma vai funcionar

O ChatGPT será capaz de encerrar automaticamente conversas quando identificar sinais de fixação em violência. Se esse padrão se repetir com frequência, a OpenAI poderá suspender temporariamente a conta do usuário. A empresa também notificará os pais que tiverem contas vinculadas às dos filhos caso haja suspensões por conversas recorrentes sobre o tema.

A OpenAI aprimorou sua tecnologia de estimativa de idade para direcionar com mais precisão adolescentes à versão apropriada da plataforma. Além disso, todos os usuários receberão menos detalhes sobre ataques em massa do passado, incluindo informações sobre armas utilizadas e como foram obtidas.

Contexto de segurança digital

As mudanças ocorrem em meio a debates sobre a segurança de menores que utilizam ferramentas de inteligência artificial. Segundo a OpenAI, adolescentes passam, em média, menos de 15 minutos por dia usando o ChatGPT, conforme dados do primeiro relatório da empresa sobre esse público.

A organização Common Sense Media identificou falhas nos alertas enviados aos pais pela versão do ChatGPT para adolescentes. De acordo com a entidade, esses avisos frequentemente chegam tarde demais ou não são enviados quando menores mantêm conversas sobre suicídio, automutilação ou transtornos alimentares.

A empresa afirmou que as novas medidas de segurança continuarão sendo aprimoradas nas próximas semanas.

Notícias da Costa do Sol em primeira mão.

Siga @ofatonoar no Instagram

Com informações do g1.

Mais em Tecnologia

Ver tudo →