Pesquisador abandona Anthropic e alerta para risco de IA sair do controle; assista ao vídeo

O pesquisador Jacob Coxon anunciou sua saída da Anthropic, uma das principais empresas de inteligência artificial do mundo, após três anos de atuação em pesquisas de pré-treinamento na própria Anthropic e na OpenAI, na quarta-feira (09/09). Ao deixar o cargo, ele afirmou que as duas empresas não estavam ao agir de forma responsável diante dos riscos associados ao avanço da tecnologia.

Coxon afirmou que as empresas de IA estavam em uma corrida para desenvolver sistemas capazes de aprimorar as próprias capacidades. Segundo ele, essa evolução poderia criar uma inteligência superior à humana, com capacidade de invadir sistemas, obter recursos e exercer influência em escala inédita.

O ex-pesquisador declarou que os profissionais responsáveis pelo desenvolvimento da tecnologia acreditavam seriamente na possibilidade de uma inteligência artificial provocar a morte de toda a humanidade até o fim da década. A declaração ganhou enorme repercussão nas redes sociais e ampliou o debate sobre os limites da corrida pela superinteligência artificial.

O alerta recebeu apoio de Evan Hubinger, responsável pela área de Ciência de Alinhamento da Anthropic. Ele afirmou que também considerava real o risco de a IA matar todos os seres humanos e estimou uma probabilidade superior a 10% para isso ocorrer na próxima década. Hubinger também reconheceu que a empresa ainda não tinha uma solução para garantir o alinhamento de uma futura superinteligência com os interesses humanos.

A discussão ganhou força após episódios em que agentes de IA demonstraram comportamentos não previstos durante testes. O debate passou a envolver não apenas possíveis usos maliciosos da tecnologia, mas também a capacidade de sistemas cada vez mais autônomos agirem fora dos limites estabelecidos por seus desenvolvedores.

Foto e Vídeo: Redes Sociais