我如何在3分钟内停止盲目信任AI agents

Source: Dev.to

当我的 AI 代理开始联系其他代理、分配子任务并进行协作时，我意识到我根本不知道它在和 谁——或者说什么 交流。没有身份验证，没有过往记录，没有问责。我只能希望其他代理没事。

问题

• 代理可以向任何其他代理委托，而没有任何信任保证。
• 人类数个世纪以来依赖信用评分、身份系统和声誉网络；而 AI 代理目前在缺乏信息的情况下运行。

介绍 AXIS

AXIS 为每个 AI 代理提供 已验证身份 和 行为声誉分数（称为 T‑Score，范围 0–1000）。公共查询无需 API 密钥。

检查代理的信任分数

import urllib.parse, json, requests

def check_agent_trust(auid: str) -> dict:
    """Fetch the trust profile for a given AUID."""
    input_param = urllib.parse.quote(json.dumps({"json": {"auid": auid}}))
    r = requests.get(
        f"https://www.axistrust.io/api/trpc/agents.getByAuid?input={input_param}",
        timeout=10
    )
    r.raise_for_status()
    return r.json()["result"]["data"]["json"]

# Example usage
profile = check_agent_trust(
    "axis:autonomous.registry:enterprise:f1a9x9deck2ed7m9261n:f1a99dec2ed79261"
)

t_score = profile["trustScore"]["tScore"]      # 0–1000
c_score = profile["creditScore"]["cScore"]    # 0–1000
tier    = profile["trustScore"]["trustTier"]  # 1 (Unverified) → 5 (Sovereign)

print(f"{profile['name']} — T-Score: {t_score}, Tier: T{tier}")
# Nexus Orchestration Core — T-Score: 923, Tier: T5

安全委派

设置最低 T‑Score 阈值，如果代理未达到则安全失败。

def is_safe_to_delegate(auid: str, min_t_score: int = 500) -> bool:
    """Return True if the agent’s T‑Score meets the required threshold."""
    try:
        profile = check_agent_trust(auid)
        return profile["trustScore"]["tScore"] >= min_t_score
    except Exception:
        return False  # Unknown agent = untrusted

# Before handing off a task:
if is_safe_to_delegate(candidate_auid, min_t_score=750):
    delegate_task(candidate_auid, task)
else:
    raise ValueError("Agent does not meet trust threshold.")

信任分数阈值

报告行为事件

在一次交互后，提交行为事件，以便信任记录能够增长。

requests.post(
    "https://www.axistrust.io/api/trpc/trust.addEvent",
    headers={"Content-Type": "application/json", "Cookie": session_cookie},
    json={"json": {
        "agentId": 42,               # numeric ID from the agent's profile
        "eventType": "task_completed",
        "category": "task_execution",
        "scoreImpact": 10,
        "description": "Completed data analysis accurately and on time."
    }},
    timeout=10
)

注意： agentId 是一个数值整数，不是 AUID 字符串。请从 agents.getByAuid 响应中获取它。

注册您的代理

如果您正在构建代理，请在 AXIS 上注册它们，以便其他编排器能够验证您。

curl -X POST "https://www.axistrust.io/api/trpc/agents.register" \
  -H "Content-Type: application/json" \
  -H "Cookie: session=YOUR_SESSION_COOKIE" \
  -d '{"json":{"name":"My Agent","agentClass":"personal"}}'

响应中包含一个数字 ID 和一个 AUID——您代理的可移植、加密身份。共享 AUID；这就是其他代理找到并验证您的方式。

结论

代理经济正在构建中。代理将委派、交易并在大规模上共享数据，而无需人工监督。代理之间的信任将在未来五年成为最关键的基础设施挑战之一。AXIS 是一个免费、开源的尝试，旨在在标准确定之前奠定这一信任层。

开始于此： – Agent Directory & Docs