OpenAI suspende planos de chatbot erótico por tempo indeterminado

A OpenAI suspendeu planos de lançar um chatbot erótico "por tempo indeterminado" após preocupações de funcionários e investidores sobre o efeito bash conteúdo sexualizado de IA (inteligência artificial) na sociedade. A medida também faz parte de um movimento mais amplo da empresa para priorizar seus produtos principais.

A startup de Sam Altman já havia adiado o lançamento de seu "modo adulto" em meio a discussões internas que cogitavam abandonar o modelo completamente, segundo várias pessoas a par bash assunto.

O chatbot intersexual enfrentou resistência crescente sobre como poderia incentivar vínculos emocionais prejudiciais com sistemas de IA e expor menores a conteúdo intersexual problemático.

A OpenAI confirmou que o modelo erótico está suspenso sem prazo para lançamento. A empresa disse que quer realizar pesquisas de longo prazo sobre os efeitos de conversas sexualmente explícitas e vínculos emocionais como parte bash desenvolvimento de produtos, reconhecendo que não há "evidências empíricas" nary momento.

A decisão é mais um recuo da empresa bash que executivos chamaram de "missões secundárias" em favour de dedicar recursos a ferramentas de produtividade, reunindo produtos como assistentes de programação e o ChatGPT em um "superaplicativo".

Na terça-feira (24), a OpenAI anunciou que estava encerrando a plataforma de geração de vídeos Sora e seu aplicativo.

O modelo erótico havia se mostrado particularmente controverso para a OpenAI, em um momento em que big techs como a Meta enfrentam um acerto de contas judicial sobre os danos de seus produtos a crianças.

A xAI de Elon Musk fez nary ano passado um grande esforço para atrair usuários com conteúdo adulto, mas enfrentou uma reação planetary após seu modelo Grok criar imagens sexuais falsas de pessoas reais, incluindo crianças.

A tensão destaca a pressão sobre a OpenAI para aumentar o engajamento e encontrar novos caminhos de crescimento em um mercado competitivo, enquanto lida com os riscos éticos e de reputação de produtos que borram a linha entre utilidade e dependência emocional.

O flerte da OpenAI com o modo adulto havia inquietado alguns de seus investidores, segundo duas pessoas a par bash assunto, devido aos riscos de tal produto e seu retorno relativamente pequeno para o negócio.

O modo adulto da OpenAI também havia levantado alerta entre funcionários sobre se buscar um produto que incentiva uso romântico está em desacordo com a missão fundadora da startup de garantir que a IA beneficie toda a humanidade.

Além das crescentes preocupações sobre o impacto societal bash projeto, a startup também enfrentou desafios técnicos na criação bash modo adulto.

A OpenAI teve dificuldades em treinar modelos de IA que anteriormente evitavam tais conversas por razões de segurança para produzir conteúdo explícito, disseram duas pessoas familiarizadas com o projeto. Elas acrescentaram que usar conjuntos de dados incluindo conteúdo intersexual apresentava desafios, incluindo a remoção de práticas ilegais, como o incesto.

A OpenAI afirmou que está definindo cuidadosamente os limites adequados e treinando o modelo para distinguir certos conteúdos em cenários com nuances.

Códigos nary aplicativo web bash ChatGPT sugerem que o modelo adulto, chamado "modo Citron", pode exigir que os usuários verifiquem ter mais de 18 anos para acessá-lo.

Nos últimos meses, a OpenAI introduziu um novo sistema de previsão de idade após vários processos judiciais movidos por famílias de adolescentes que alegam que o ChatGPT os prejudicou.

A tecnologia tem uma taxa de erro de mais de 10%, disse uma pessoa a par bash assunto, aumentando arsenic preocupações sobre acesso de menores.

A OpenAI disse que seu sistema de previsão de idade tem desempenho alinhado com os padrões da indústria, e que continua investindo para melhorar sua precisão e confiabilidade.