VeroRoute Edge

Arquitetura em 12 Camadas do VeroRoute Edge

O VeroRoute Edge foi projetado como uma esteira de processamento de ultra-baixa latência dividida em 12 camadas sequenciais e assíncronas, assegurando alta disponibilidade, conformidade com o padrão OpenAI e proteção contra sobrecarga.

O que são Combos no VeroRoute Edge?

No VeroRoute Edge, o nome do combo é o modelo. Um combo é um alias virtual que agrupa múltiplos modelos e provedores de IA sob um único identificador, gerenciando failover automático e balanceamento de carga sem qualquer alteração no seu código cliente.

Exemplos Práticos de Combos Recomendados

Como Utilizar um Combo na sua Aplicação

Basta passar o nome do combo diretamente no campo "model" da requisição para o seu worker VeroRoute Edge:

curl -X POST https://seu-veroroute.workers.dev/v1/chat/completions \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer sk-vr-sua-chave-virtual" \
  -d '{
    "model": "deepseek-coder-combo",
    "messages": [
      {"role": "user", "content": "Escreva uma função TypeScript para ordenar arrays com merge sort."}
    ],
    "temperature": 0.2,
    "stream": true
  }'

Como os Combos São Declarados na Configuração do Gateway

No projeto original do gateway, os combos são definidos como um array JSON de modelos ordenados por prioridade, seja via variável de ambiente DEFAULT_COMBOS_JSON no wrangler.jsonc ou via Cloudflare KV:

{
  "deepseek-coder-combo": {
    "description": "Combo de alta performance para programação com cascata automática",
    "targets": [
      { "provider": "deepseek", "model": "deepseek-chat", "timeoutMs": 40000 },
      { "provider": "groq", "model": "llama-3.3-70b-versatile", "timeoutMs": 15000 },
      { "provider": "gemini", "model": "gemini-2.5-flash", "timeoutMs": 30000 }
    ]
  }
}

Como Funciona a Busca Web & RAG no VeroRoute Edge

O VeroRoute Edge conta com um módulo nativo de busca web que permite a qualquer modelo de IA acessar dados da internet em tempo real, eliminando alucinações sobre eventos recentes sem necessidade de bibliotecas adicionais no cliente.

Método 1: Endpoint Direto de Busca (/v1/search)

Ideal para agentes de IA, RAG pipelines e ferramentas autônomas que necessitam de snippets puros em formato JSON:

curl -X POST https://seu-veroroute.workers.dev/v1/search \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer sk-vr-sua-chave-virtual" \
  -d '{
    "query": "Últimas notícias sobre avanços em inteligência artificial",
    "limit": 5
  }'

{
  "query": "Últimas notícias sobre avanços em inteligência artificial",
  "provider": "duckduckgo",
  "results": [
    {
      "title": "Modelos de Raciocínio Aberto Ganham Destaque",
      "url": "https://exemplo.com/noticia-ia",
      "snippet": "Pesquisadores anunciam novos modelos com capacidades avançadas de raciocínio lógico..."
    }
  ],
  "latency_ms": 142
}

Método 2: Busca Transparente no Chat Completions (enable_search: true)

Ao enviar a flag "enable_search": true no corpo da requisição padrão do OpenAI, o VeroRoute Edge realiza a pesquisa na web antes de invocar o LLM e injeta os resultados no prompt do sistema:

from openai import OpenAI

client = OpenAI(
    base_url="https://seu-veroroute.workers.dev/v1",
    api_key="sk-vr-sua-chave-virtual"
)

response = client.chat.completions.create(
    model="deepseek-coder-combo",
    messages=[
        {"role": "user", "content": "Qual foi a cotação do dólar hoje e os principais acontecimentos econômicos?"}
    ],
    extra_body={
        "enable_search": True  # Ativa o injetor de RAG web na borda
    }
)

print(response.choices[0].message.content)

Matriz de 17+ Provedores de IA Homologados

O VeroRoute Edge normaliza nativamente os diferentes protocolos e dialetos de cada provedor em um único padrão universal compatível com a especificação OpenAI v1.

Implante pelo GitHub + Cloudflare

Caminho recomendado e validado para instalar sem servidor próprio. Faça o fork, conecte o GitHub à Cloudflare e deixe o build preparar o Worker e os namespaces KV.

git clone https://github.com/samucamg/veroroute-edge.git
cd veroroute-edge
npm install
npx wrangler kv namespace create OMNI_CACHE
npx wrangler kv namespace create OMNI_KEYS
npx wrangler deploy
npx wrangler secret put AUTH_TOKEN

Referência completa da API

A API principal usa Bearer token. Utilize uma chave virtual sk-vr-... nos clientes e o AUTH_TOKEN somente para administração.

Endpoints disponíveis

Clientes compatíveis

Configure a base URL como https://seu-worker.workers.dev/v1 e use sua chave virtual. Exemplos para OpenAI SDK, TypeScript, Cursor e Cline abaixo.

from openai import OpenAI
client = OpenAI(base_url="https://seu-worker.workers.dev/v1", api_key="sk-vr-sua-chave")
response = client.chat.completions.create(model="seu-modelo-ou-combo", messages=[{"role":"user","content":"Olá"}])

import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://seu-worker.workers.dev/v1", apiKey: "sk-vr-sua-chave" });

Perguntas Frequentes & Diagnóstico de Códigos de Status

Entenda o significado dos códigos HTTP retornados pelo gateway de IA e saiba como diagnosticar e resolver rapidamente cada cenário.