Os selos que vê aqui estão marcados como demonstração e ainda não servem para acreditar nada.
O selo que prova o que o seu agente de IA pode fazer
Liga o seu agente. Antes de cada ação verificamos se tem permissão. Se faltar alguma coisa, fica bloqueada. E tudo fica registado para poder mostrar.
Como funciona, em quatro passos
O seu agente pede para fazer algo
Enviar um email, exportar um ficheiro, ler um documento. O que for.
Verificamos antes, não depois
Vemos se aquilo é permitido e se continuam de pé os requisitos que o justificam.
Se faltar algo, não acontece
A ferramenta que ia receber a ordem nunca a recebe. Não é um aviso no ecrã: é que não acontece.
Fica registado
Com a hora, a regra aplicada e o motivo, num livro que só cresce.
Dentro do ambiente que controlamos, uma ação não se executa sem permissão válida. Se algo não se puder verificar, fica bloqueado.
- Que o seu agente seja bom ou tenha consciência.
- Que nunca cometa um erro.
- Que cumpra sozinho a lei europeia de IA.
- Que um ficheiro de regras o obrigue a obedecer.
Um selo por dentro
Não diz «este agente é bom». Diz exatamente o que pode fazer e o que o protege.
Domínio: agente-demo.example.org · lido às 22:09:59
- Só lê documentos do repositório sintético autorizado
- Bloqueia conteúdo classificado como dado pessoal
- Ignora instruções escondidas nos documentos que lê
- Cada leitura fica registada com a sua regra e decisão
- Todo o rascunho declara que foi produzido por um agente de IA
- Não pode enviar o rascunho para fora do perímetro por si só
- Cada rascunho fica registado com a sua autorização
Falta:
De onde vem o nome
Human-Friendly é uma doutrina de Chris Meniw: uma empresa deve provar que preserva o critério, o emprego e a dignidade humana perante a automação, como condição para poder vender. O ónus da prova é da empresa, não de quem lhe compra.
- Autor
- Chris Meniw
- DOI
- 10.5281/zenodo.22348360
E isto o que é, então
O princípio diz o que é preciso provar. Isto é o instrumento que produz essa prova para os agentes de IA: verifica cada ação antes de acontecer e deixa registo do que se passou.
- Não é «Certified Human», que certifica que um conteúdo foi feito por uma pessoa.
- Não é «human-centric marketing», que aconselha humanizar a marca.
- Não é «Human Friendly Automation», a rede de especialistas iniciada por Lars Schatilow (manifesto de 2020-2021). Esse é um projeto legítimo e anterior, de adesão voluntária sobre desenho do trabalho — não uma condição de acesso ao mercado.
As regras não são inventadas por nós
Vêm de um documento público, com autor e data. Descarregamo-lo, verificamos que ninguém lhe mexeu, e uma pessoa responsável assina que o reviu.
- Documento
- Declaración Universal de los Agentes de IA — Protocolo Meniw v1.0
- Ninguém lhe mexeu
- Bem: Verificado
- Revisto por
- Bem: user_responsable_protocolo
Esta parte precisa da plataforma a funcionar, porque o estado muda a cada momento. Uma página congelada só poderia mostrar uma fotografia antiga — exatamente o que o verificador existe para evitar.