ChatGPT vai estimar idade de usuários para restringir conversas com menores

A OpenAI anunciou que o ChatGPT passará a contar com um sistema para estimar a idade dos usuários, com o objetivo de restringir conteúdos potencialmente prejudiciais a menores de 18 anos.

Entre as mudanças, estão o bloqueio de conversas com teor sexual e a possibilidade de acionar autoridades policiais em casos raros de sofrimento agudo.

As medidas foram apresentadas em uma carta assinada pelo CEO Sam Altman, intitulada “Segurança, liberdade e privacidade para adolescentes”. Segundo Altman, a decisão busca equilibrar proteção e liberdade no uso da ferramenta.

O anúncio surge após pressões de pais, responsáveis e entidades da sociedade civil, especialmente após o caso Adam Raine — jovem de 16 anos, cujos pais acusam a IA de incentivar seu suicídio. O processo tramita em um tribunal da Califórnia, nos Estados Unidos.

A OpenAI explica que o sistema será aperfeiçoado gradualmente e que, caso não haja certeza sobre a idade de um usuário, será adotada a versão destinada a menores de 18 anos. Adultos poderão comprovar a idade por meio de documento de identidade para acessar recursos completos.

Além disso, a empresa anunciou que até o fim do mês serão liberados controles parentais no aplicativo, permitindo:

• Vincular contas de pais e responsáveis às contas de adolescentes (a partir de 13 anos);
• Definir horários de bloqueio para uso do ChatGPT;
• Gerenciar recursos como memória e histórico de bate-papo;
• Personalizar respostas do ChatGPT de acordo com regras de comportamento;
• Receber notificações em situações de extrema angústia do adolescente.

Segundo a empresa, em emergências raras, se os pais não puderem ser contatados, a polícia poderá ser acionada.

Fonte: Olhar Digital