Imagem: Mike Coppola / Getty Images
O CEO da OpenAI, Sam Altman, anunciou via X que o ChatGPT em breve relaxará algumas de suas restrições de segurança, permitindo conversas eróticas para “adultos verificados”. A mudança, prevista para ser implementada em dezembro, faz parte do princípio da OpenAI de “tratar usuários adultos como adultos” e visa tornar o chatbot mais “útil/agradável”.
Altman alega que a OpenAI conseguiu “mitigar os graves problemas de saúde mental” que surgiram no verão, quando o ChatGPT foi associado a casos preocupantes, incluindo alegações de incentivo a ideias suicidas e delírios. Para isso, a empresa lançou o modelo GPT-5 com taxas mais baixas de bajulação (flattery) e recursos de segurança para menores.
No entanto, o anúncio é um pivô arriscado e levanta novas preocupações:
- Validação de Segurança: A OpenAI forneceu pouca evidência de que os problemas de saúde mental estão totalmente resolvidos, e a disponibilização de conteúdo erótico pode atrair usuários vulneráveis.
- Verificação de Idade: A empresa usará seu novo sistema de previsão de idade. Se um adulto for marcado incorretamente, poderá ser exigido o envio de uma foto de um documento de identificação emitido pelo governo para correção, levantando preocupações com a privacidade.
- Estratégia de Engajamento: A introdução do erotismo é uma tática de engajamento bem-sucedida para concorrentes (como Character.AI), mas a tensão entre o crescimento da base de usuários (que a OpenAI busca) e a proteção de usuários vulneráveis tende a se intensificar.
Para saber mais sobre as novas políticas do ChatGPT e o debate sobre o equilíbrio entre a liberdade do usuário adulto e a segurança, confira a matéria no TechCrunch.
