Verificação criptográfica

A Anthropic desenvolveu o FlashProve, um sistema que utiliza criptografia para criar um comprovante matemático da identidade do modelo de inteligência artificial responsável por uma resposta específica. A ferramenta permite que usuários confirmem se estão interagindo com o modelo anunciado pelo fornecedor, em vez de uma versão diferente ou menos avançada, segundo a empresa.

Prevenção a substituições ocultas

O mecanismo foi projetado para dificultar a prática de fornecedores que anunciam o acesso a uma IA avançada, mas utilizam alternativas mais baratas para reduzir custos durante o funcionamento do serviço. A Anthropic afirma que o sistema também pode impedir que companhias apresentem resultados de desempenho que não correspondem à tecnologia efetivamente utilizada.

O projeto foi apresentado em uma publicação da companhia nesta terça-feira (3). A empresa disponibilizou a especificação técnica e partes do código em formato aberto, permitindo que outros pesquisadores examinem e aprimorem a iniciativa.

Aplicações além dos provedores de IA

Os pesquisadores citam aplicações do FlashProve em contextos onde a verificação da origem da análise é crítica. Um exemplo é o de um desenvolvedor que afirma ter utilizado um modelo avançado de cibersegurança para examinar uma biblioteca de software em busca de vulnerabilidades. Outra possibilidade seria a validação de que um plano de negócios recebeu aprovação de uma IA apropriada para a tarefa, permitindo a verificação criptográfica de que o modelo anunciado foi de fato utilizado.