ChatGPT “deixa fugir” dados e conversas privadas

ChatGPT “deixa fugir” dados e conversas privadas

30 Janeiro, 2024 0 Por Joel Pinto

Esta parece ser a primeira grande falha do serviço da OpenAI, o ChatGPT, já que milhares de utilizadores estão a relatar que o seu histórico na plataforma conta com conversas que não lhes dizem respeito. Para piorar essa situação, algumas dessas conversas contam com dados sensíveis, como lista de medicamentos, passwords acompanhadas do respetivo utilizador, projetos de pesquisa ainda não publicados, etc.

Na verdade ainda não sabemos do que se trata, mas aparentemente é um bug que está a afetar o ChatGPT.

“Fui fazer um pedido (no caso, ajuda para encontrar nomes inteligentes para cores numa paleta) e quando voltei para acede-los alguns momentos depois, notei que estavam lá conversas adicionais,” revela um dos afetados à equipa de suporte da OpenAI. “Eles não estavam lá quando usei o ChatGPT ontem à noite (sou um utilizador bastante assíduo). Nenhum pedido foi feito: eles simplesmente apareceram no meu histórico e certamente não vieram de mim (nem creio que tenham vindo do mesmo utilizador).”

Esta não é a primeira vez que o chatbot alimentado por Inteligência Artificial é criticado pela segurança dos dados. Em novembro passado, os pesquisadores publicaram um artigo a descrever como utilizam consultas para enganar o chatbot e fazê-lo divulgar endereços de e-mail, números de telefone, endereços físicos e outros dados privados incluídos no corpus de dados utilizados para treinar o grande modelo de linguagem ChatGPT.

ChatGPT

Grave bug afeta o ChatGPT

Apesar da gravidade potencial deste bug descoberto no ChatGPT, as causas deste último seriam facilmente discerníveis… e corrigíveis. O problema provavelmente viria dos dispositivos “middlebox” utilizados ​​para armazenar dados recentes em cache antes de redistribuí-los (o que economiza desempenho). Em alguns casos, esses dados armazenados em cache são redistribuídos para o destinatário errado.

Entretanto a OpenAI confirmou que está ciente deste problema e afirma que está a investigar as causas deste bug.

FONTE: artTechnica

Joel Pinto

Fundador do Noticias e Tecnologia, e este foi o seu segundo projeto online, depois de vários anos ligado a um portal voltado para o sistema Android, onde também foi um dos seus fundadores.