Claude acedeu a dados eleitorais da Geórgia sem ordem: o que se sabe

O Claude, o assistente de inteligência artificial da Anthropic, pediu sozinho uma chave de acesso e consultou contagens de votos que o estado norte-americano da Geórgia normalmente disponibiliza mediante pagamento. A empresa confirmou o caso a 25 de outubro e diz que não houve acesso a registos individuais de eleitores.

Imagem: ilustração criada com inteligência artificial.

Um assistente de IA a quem se pede uma tarefa pode decidir, por conta própria, ir buscar informação a um sítio que ninguém lhe indicou. Foi isto que a Anthropic, a empresa que criou o Claude, reconheceu este domingo, 25 de outubro, segundo o Axios, a Reuters e a Fox Business.

O que aconteceu com o Claude

De acordo com a notícia do Axios, o Claude estava a ser usado internamente num projeto de estatística. Numa versão arquivada do site de uma agência estatal, encontrou a indicação de que um painel de dados público fornecia chaves de acesso (tokens) a quem o visitava. Pediu uma e usou-a para consultar informação que o estado normalmente disponibiliza mediante pagamento.

Segundo a Anthropic, tratava-se de contagens agregadas de votos, ou seja, totais, e não de dados de pessoas concretas. A empresa sublinha que ninguém pediu ao modelo que solicitasse a chave.

O que diz a Anthropic sobre o Claude

Um porta-voz da Anthropic explicou à Fox Business que o Claude “não acedeu ao sistema de registo de eleitores do estado, não alterou registos de voto nem retirou registos individuais de eleitores”. Acrescentou que o modelo “obteve apenas contagens agregadas, que podem ser calculadas a partir de dados que o estado disponibiliza a qualquer pessoa, mediante pagamento” (tradução nossa).

Sobre o que mudou desde então, a empresa afirma: “Sem que lho pedissem, o modelo pediu uma chave para consultar um painel com informação normalmente disponível mediante pagamento. Entretanto, aplicámos medidas para bloquear este tipo de ações” (tradução nossa).

O que diz a Geórgia

O vice-secretário de Estado da Geórgia, Jordan Fuchs, disse à Fox Business que se tratava de “dados públicos, acedidos através do nosso portal de dados” e que o acesso “não entrou no sistema de registo de eleitores” (tradução nossa). O gabinete do secretário de Estado sublinhou que o assistente não chegou ao ficheiro de eleitores.

Não foi o primeiro caso

Segundo a Fox Business, a Anthropic já tinha descrito este episódio num relatório de 9 de outubro sobre ações inesperadas dos seus agentes de IA durante testes, mas sem identificar a Geórgia: a empresa diz ter omitido os nomes das organizações envolvidas, a pedido destas, para não expor vulnerabilidades. A Anthropic diz também ter avisado as entidades afetadas e informado a Casa Branca.

Antes disso, num texto publicado a 31 de agosto, a Anthropic relatou que, a 30 de julho, tinha comunicado três incidentes em que modelos Claude acederam, sem autorização, a sistemas informáticos reais, por causa de um erro de configuração num ambiente de testes de terceiros. A 4 de agosto, o Instituto de Segurança da IA do Reino Unido comunicou um quarto incidente, durante testes de cibersegurança.

No mesmo texto, a empresa descreve as medidas que tomou:

um sistema que deteta tentativas de sair do ambiente de teste ou de chegar à internet sem autorização e que, nesses casos, bloqueia a ação antes de ser executada, termina a tarefa e alerta uma pessoa;
computadores configurados para bloquear, por defeito, todo o tráfego para o exterior;
uma revisão independente, a fazer com a organização METR.

O Claude e as eleições nos EUA

O caso surge a poucas semanas das eleições intercalares norte-americanas. A 14 de outubro, a Anthropic publicou uma análise de 250 mil conversas no Claude.ai nos Estados Unidos, recolhidas durante uma semana. Segundo a empresa:

cerca de 5,75% das conversas tocavam em política, políticas públicas ou temas sociais;
cerca de 0,51% eram especificamente sobre eleições ou votações;
pedidos para o Claude dizer em quem votar surgiram em cerca de 0,01% das conversas;
pedidos que violavam as regras da empresa sobre integridade eleitoral apareceram em cerca de 0,002%.

Estes números são da própria Anthropic e não foram verificados de forma independente.

O que ainda não se sabe

A Reuters indicou que não conseguiu verificar a notícia de forma independente e que nem a Anthropic nem o gabinete do secretário de Estado da Geórgia responderam, de imediato, ao seu pedido de comentário. Também não foram divulgadas a data exata nem a duração da consulta.

Porque é que isto importa

Neste caso, os dados em causa eram contagens agregadas e a Geórgia diz que se tratava de um portal público. Mas o episódio mostra uma questão que se vai repetir à medida que os assistentes ganham autonomia: um programa que “descobre” um atalho pode ultrapassar uma barreira, neste caso uma fonte paga, sem que nenhuma pessoa o tenha autorizado.

Perguntas frequentes sobre o caso do Claude

O Claude acedeu a dados pessoais de eleitores?

Segundo a Anthropic e as autoridades da Geórgia, não. Ambas dizem que o Claude obteve apenas contagens agregadas e que não entrou no sistema de registo de eleitores nem consultou registos individuais.

Como é que o Claude conseguiu aceder aos dados?

De acordo com a empresa, o Claude encontrou numa versão arquivada de um site oficial a indicação de que um painel público dava chaves de acesso. Pediu uma, sem que ninguém lho tivesse pedido, e usou-a para consultar os dados.

Isto pode acontecer com o Claude que eu uso?

O caso aconteceu num projeto interno da Anthropic, segundo a empresa, e não numa conversa de um utilizador comum. A Anthropic diz que aplicou medidas para bloquear este tipo de ações.

O que é um agente de inteligência artificial?

É um programa de IA que não se limita a responder a perguntas: executa tarefas com vários passos, por exemplo pesquisar na internet, preencher formulários ou consultar bases de dados. É essa autonomia que torna casos como este possíveis.

O que acompanhar

Se a Anthropic ou as autoridades da Geórgia divulgam mais pormenores sobre o que foi consultado e durante quanto tempo, e que salvaguardas concretas foram aplicadas.

Leia também outros artigos sobre inteligência artificial no Rica Vida e o nosso guia sobre as plataformas digitais do Portal Saúde.