VeroRoute Edge

Arquitetura em 12 Camadas do VeroRoute Edge

O VeroRoute Edge foi projetado como uma esteira de processamento de ultra-baixa latência dividida em 12 camadas sequenciais e assíncronas, assegurando alta disponibilidade, conformidade com o padrão OpenAI e proteção contra sobrecarga.

O que são Combos no VeroRoute Edge?

No VeroRoute Edge, o nome do combo é o modelo. Um combo é um alias virtual que agrupa múltiplos modelos e provedores de IA sob um único identificador, gerenciando failover automático e balanceamento de carga sem qualquer alteração no seu código cliente.

Exemplos Práticos de Combos Recomendados

Como Utilizar um Combo na sua Aplicação

Basta passar o nome do combo diretamente no campo "model" da requisição para o seu worker VeroRoute Edge:

curl -X POST https://seu-veroroute.workers.dev/v1/chat/completions \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer sk-vr-sua-chave-virtual" \
  -d '{
    "model": "deepseek-coder-combo",
    "messages": [
      {"role": "user", "content": "Escreva uma função TypeScript para ordenar arrays com merge sort."}
    ],
    "temperature": 0.2,
    "stream": true
  }'

Como os Combos São Declarados na Configuração do Gateway

No projeto original do gateway, os combos são definidos como um array JSON de modelos ordenados por prioridade, seja via variável de ambiente DEFAULT_COMBOS_JSON no wrangler.jsonc ou via Cloudflare KV:

{
  "deepseek-coder-combo": {
    "description": "Combo de alta performance para programação com cascata automática",
    "targets": [
      { "provider": "deepseek", "model": "deepseek-chat", "timeoutMs": 40000 },
      { "provider": "groq", "model": "llama-3.3-70b-versatile", "timeoutMs": 15000 },
      { "provider": "gemini", "model": "gemini-2.5-flash", "timeoutMs": 30000 }
    ]
  }
}

Como Funciona a Busca Web & RAG no VeroRoute Edge

O VeroRoute Edge conta com um módulo nativo de busca web que permite a qualquer modelo de IA acessar dados da internet em tempo real, eliminando alucinações sobre eventos recentes sem necessidade de bibliotecas adicionais no cliente.

Método 1: Endpoint Direto de Busca (/v1/search)

Ideal para agentes de IA, RAG pipelines e ferramentas autônomas que necessitam de snippets puros em formato JSON:

curl -X POST https://seu-veroroute.workers.dev/v1/search \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer sk-vr-sua-chave-virtual" \
  -d '{
    "query": "Últimas notícias sobre avanços em inteligência artificial",
    "limit": 5
  }'

{
  "query": "Últimas notícias sobre avanços em inteligência artificial",
  "provider": "duckduckgo",
  "results": [
    {
      "title": "Modelos de Raciocínio Aberto Ganham Destaque",
      "url": "https://exemplo.com/noticia-ia",
      "snippet": "Pesquisadores anunciam novos modelos com capacidades avançadas de raciocínio lógico..."
    }
  ],
  "latency_ms": 142
}

Método 2: Busca Transparente no Chat Completions (enable_search: true)

Ao enviar a flag "enable_search": true no corpo da requisição padrão do OpenAI, o VeroRoute Edge realiza a pesquisa na web antes de invocar o LLM e injeta os resultados no prompt do sistema:

from openai import OpenAI

client = OpenAI(
    base_url="https://seu-veroroute.workers.dev/v1",
    api_key="sk-vr-sua-chave-virtual"
)

response = client.chat.completions.create(
    model="deepseek-coder-combo",
    messages=[
        {"role": "user", "content": "Qual foi a cotação do dólar hoje e os principais acontecimentos econômicos?"}
    ],
    extra_body={
        "enable_search": True  # Ativa o injetor de RAG web na borda
    }
)

print(response.choices[0].message.content)

Matriz de 17+ Provedores de IA Homologados

O VeroRoute Edge normaliza nativamente os diferentes protocolos e dialetos de cada provedor em um único padrão universal compatível com a especificação OpenAI v1.

Como Implantar o VeroRoute Edge no Cloudflare Workers

O VeroRoute Edge foi arquitetado para rodar inteiramente no plano gratuito da Cloudflare (Workers Free Tier: 100.000 requisições diárias + 10.000 neurônios de Workers AI por dia sem nenhum custo).

git clone https://github.com/samucamg/veroroute-edge.git
cd veroroute-edge
npm install

# Criar namespace de Cache
npx wrangler kv:namespace create OMNI_CACHE

# Criar namespace de Chaves e Configurações
npx wrangler kv:namespace create OMNI_KEYS

# Token de autenticação mestre do seu gateway
npx wrangler secret put AUTH_TOKEN

# Chaves dos provedores desejados (adicione apenas os que você utiliza)
npx wrangler secret put GEMINI_API_KEY
npx wrangler secret put GROQ_API_KEY
npx wrangler secret put DEEPSEEK_API_KEY
npx wrangler secret put OPENROUTER_API_KEY

npx wrangler deploy

curl https://seu-worker.workers.dev/health

Como Conectar suas Aplicações ao VeroRoute Edge

Como o VeroRoute Edge implementa fielmente o protocolo OpenAI v1 (/v1/chat/completions e /v1/models), você pode utilizar qualquer biblioteca, framework (LangChain, LlamaIndex) ou IDE de desenvolvimento simplesmente ajustando a base_url.

🐍 Python (SDK Oficial OpenAI)

from openai import OpenAI

client = OpenAI(
    base_url="https://seu-worker.workers.dev/v1",
    api_key="sk-vr-sua-chave-virtual"  # ou seu AUTH_TOKEN
)

# Chamada com streaming e combo resiliente
stream = client.chat.completions.create(
    model="deepseek-coder-combo",
    messages=[
        {"role": "system", "content": "Você é um assistente técnico especialista."},
        {"role": "user", "content": "Como criar um middleware de autenticação assíncrono?"}
    ],
    stream=True
)

for chunk in stream:
    if chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

⚡ TypeScript / Node.js

import OpenAI from 'openai';

const openai = new OpenAI({
  baseURL: 'https://seu-worker.workers.dev/v1',
  apiKey: 'sk-vr-sua-chave-virtual',
});

async function main() {
  const completion = await openai.chat.completions.create({
    model: 'deepseek-coder-combo',
    messages: [{ role: 'user', content: 'Explique o padrão Circuit Breaker em microsserviços.' }],
  });

  console.log(completion.choices[0].message.content);
}

main();

🛠️ Configuração Passo a Passo em IDEs e Agentes de Código

Perguntas Frequentes & Diagnóstico de Códigos de Status

Entenda o significado dos códigos HTTP retornados pelo gateway de IA e saiba como diagnosticar e resolver rapidamente cada cenário.