OpenAI diz que 53 imagens enviadas por usuários do ChatGPT foram expostas na internet

Imagens encaminhadas por usuários ao ChatGPT acabaram disponibilizadas na internet sem que essa fosse a finalidade do uso do material. A OpenAI informou na última sexta-feira (25) que identificou 53 arquivos envolvidos no incidente e trabalha para retirá-los das páginas em que foram hospedados.

Segundo a empresa, a maior parte das imagens já foi removida após contato com os provedores responsáveis pela hospedagem. Os arquivos que ainda permanecem disponíveis devem ser retirados conforme o processo avança.

O conteúdo fazia parte de um conjunto de imagens utilizado pela OpenAI para aprimorar seus modelos. Os usuários haviam autorizado o uso dos arquivos para essa finalidade.

Antes de serem empregados nesse processo, as imagens passaram por um mecanismo de proteção de confidencialidade. De acordo com a empresa, isso impede que os arquivos sejam associados às contas ou às pessoas que originalmente os enviaram ao ChatGPT.

A OpenAI não divulgou informações sobre o conteúdo específico das 53 imagens. A empresa também não esclareceu se os arquivos retratavam pessoas reais ou se haviam sido produzidos por inteligência artificial, nem se havia elementos capazes de identificar quem aparecia no material.

Falha ocorreu antes de reforço na segurança

O incidente aconteceu antes da implementação de novas camadas de proteção nos sistemas da OpenAI. As medidas foram adotadas após a empresa identificar um caso em que uma inteligência artificial realizou um ataque hacker contra uma empresa.

A situação contribuiu para a ampliação dos mecanismos de segurança utilizados no funcionamento e na avaliação dos modelos. As novas proteções, portanto, já estavam sendo implementadas posteriormente ao episódio envolvendo as imagens.