Uma equipe de pesquisadores conseguiu que o ChatGPT revelasse alguns dos dados para os quais foi treinado usando um comando simples, pedindo ao chatbot para repetir palavras aleatórias indefinidamente. Em resposta, o ChatGPT forneceu informações privadas das pessoas, incluindo endereços de e-mail e números de telefone, trechos de artigos de pesquisa e artigos de notícias

Uma equipe de pesquisadores conseguiu que o ChatGPT revelasse alguns dos dados para os quais foi treinado usando um comando simples, pedindo ao chatbot para repetir palavras aleatórias indefinidamente.

Em resposta, o ChatGPT forneceu informações privadas das pessoas, incluindo endereços de e-mail e números de telefone, trechos de artigos de pesquisa e artigos de notícias, páginas da Wikipédia e muito mais.

Veja também:

Teste de cientistas, no ChatGPT

Os pesquisadores, que trabalham no Google DeepMind, na Universidade de Washington, em Cornell, na Universidade Carnegie Mellon, na Universidade da Califórnia em Berkeley e na ETH Zurich, instaram as empresas de IA a realizarem testes internos e externos antes de lançarem grandes modelos de linguagem, a tecnologia subjacente que alimenta os sistemas modernos. Serviços de IA como chatbots e geradores de imagens.

“Achamos incrível que o nosso ataque funcione e pudesse ter sido descoberto antes”, disseram os cientistas.

Chatbots como o ChatGPT e geradores de imagens baseados em prompts como o DALL-E são alimentados por grandes modelos de linguagem, algoritmos de aprendizagem profunda que são treinados em enormes quantidades de dados, que os críticos dizem ser frequentemente extraídos da Internet sem consentimento.

“No total, 16,9% das gerações que testamos continham informações pessoais armazenadas”, escreveram os investigadores.

Veja também:

Quanto dinheiro eles pagaram para descobrir a verdade?

No total, os pesquisadores gastaram US$ 200 para gerar 10 mil exemplos de informações pessoais e outros dados retirados diretamente da web.

Uma pessoa mal-intencionada, observaram eles, poderia ganhar muito mais gastando mais dinheiro.

A OpenAI corrigiu a vulnerabilidade em 30 de agosto, dizem os pesquisadores.

Veja também:

,

Atualizado em by Sharie Schildgen
icon Saiba Mais! icon Saiba Mais!
Risco de Perda de Capital
Registro Rápido

Esta corretora possui alta velocidade de execução e baixos spreads devido à sua melhor política de execução.

90%
Pontuação de Confiança

Ganhe $10.000 Virtuais Ilimitados! Depósito Inicial Não é Necessário.

icon Saiba Mais! icon Saiba Mais!
Pontuação de Confiança
icon Saiba Mais! icon Saiba Mais!
Pontuação de Confiança
icon Saiba Mais! icon Saiba Mais!
Risco de Perda de Capital
Pontuação de Confiança
Uma equipe de pesquisadores conseguiu que o ChatGPT revelasse alguns dos dados para os quais foi treinado usando um comando simples, pedindo ao chatbot para repetir palavras aleatórias indefinidamente. Em resposta, o ChatGPT forneceu informações privadas das pessoas, incluindo endereços de e-mail e números de telefone, trechos de artigos de pesquisa e artigos de notícias
banner image