A OpenAI anunciou medidas de segurança mais rigorosas para proteger adolescentes que usam o ChatGPT. A partir das próximas semanas, a plataforma vai restringir o fornecimento de informações sobre armas e sistemas de segurança para menores de 18 anos, mesmo quando as perguntas não revelarem intenções violentas.
Como a plataforma vai funcionar
O ChatGPT será capaz de encerrar automaticamente conversas quando identificar sinais de fixação em violência. Se esse padrão se repetir com frequência, a OpenAI poderá suspender temporariamente a conta do usuário. A empresa também notificará os pais que tiverem contas vinculadas às dos filhos caso haja suspensões por conversas recorrentes sobre o tema.
A OpenAI aprimorou sua tecnologia de estimativa de idade para direcionar com mais precisão adolescentes à versão apropriada da plataforma. Além disso, todos os usuários receberão menos detalhes sobre ataques em massa do passado, incluindo informações sobre armas utilizadas e como foram obtidas.
Contexto de segurança digital
As mudanças ocorrem em meio a debates sobre a segurança de menores que utilizam ferramentas de inteligência artificial. Segundo a OpenAI, adolescentes passam, em média, menos de 15 minutos por dia usando o ChatGPT, conforme dados do primeiro relatório da empresa sobre esse público.
A organização Common Sense Media identificou falhas nos alertas enviados aos pais pela versão do ChatGPT para adolescentes. De acordo com a entidade, esses avisos frequentemente chegam tarde demais ou não são enviados quando menores mantêm conversas sobre suicídio, automutilação ou transtornos alimentares.
A empresa afirmou que as novas medidas de segurança continuarão sendo aprimoradas nas próximas semanas.
Notícias da Costa do Sol em primeira mão.
Siga @ofatonoar no InstagramCom informações do g1.








