{ "cells": [ { "cell_type": "markdown", "id": "intro", "metadata": {}, "source": [ "# Bind de Ordem — a segunda visão que o histograma não tem\n", "\n", "**Matriz completa: Qwen2.5 e GPT-2, com pesos e dados reais.**\n", "\n", "A stack Winnex recupera a identidade de um token pela geometria do modelo: texto → assinatura de bytes → base de bytes $B$ (resolvida dos pesos) → busca vetorial. Funciona. Mas o histograma de bytes tem um limite matemático exato: **é comutativo**. `need` e `ened` produzem o mesmo vetor, e nenhum índice pode escolher entre eles.\n", "\n", "Este notebook mede a correção: a posição entra como **isometria**,\n", "\n", "$$v=\\sum_k R_k\\,B[b_k], \\qquad R_k \\text{ rotaciona por } k\\cdot\\varphi \\text{ (ângulo áureo)}$$\n", "\n", "Por ser isometria, preserva a norma exatamente — $\\lVert R_k x\\rVert=\\lVert x\\rVert$. Por $\\varphi/2\\pi$ ser irracional, posições distintas geram rotações incomensuráveis e os produtos cruzados se cancelam na soma. É isso que separa anagramas.\n", "\n", "| modelo | representação | top-1 | top-10 | anagramas (cos máx) |\n", "|---|---|---|---|---|\n", "| Qwen2.5 | histograma | 71,6% | 98,7% | 1,0000 |\n", "| Qwen2.5 | **binding** | **99,4%** | 99,4% | **0,357** |\n", "| GPT-2 | histograma | 67,8% | 99,2% | 1,0000 |\n", "| GPT-2 | **binding** | **100,0%** | 100,0% | **0,534** |\n", "\n", "**O que não muda:** a prova por Cauchy-Schwarz no vocabulário continua zero. O binding melhora a *acurácia*, não a *garantia*.\n" ] }, { "cell_type": "markdown", "id": "md_env", "metadata": {}, "source": [ "## 1. Ambiente\n", "\n", "Os wheels de `winnex-nano`/`winnex-xfactor` só existem para cp312, e o kernel do Kaggle roda 3.13. Uma extensão `.so` é específica da ABI — não pode ser importada por outro interpretador. O cálculo roda num subprocesso CPython 3.12, preparado aqui com `virtualenv` (a imagem tem `/usr/bin/python3.12`, mas sem `ensurepip`).\n" ] }, { "cell_type": "code", "id": "env", "metadata": {}, "execution_count": null, "outputs": [], "source": "import os, subprocess, sys\n\nprint(\"Python %d.%d\" % sys.version_info[:2])\nPY312 = \"/tmp/py312\"\n\n\ndef pronto():\n if not os.path.exists(PY312 + \"/bin/python\"):\n return False\n return subprocess.run([PY312 + \"/bin/python\", \"-c\", \"import numpy\"],\n capture_output=True).returncode == 0\n\n\nif not pronto():\n print(\"Preparando CPython 3.12...\")\n subprocess.check_call([sys.executable, \"-m\", \"pip\", \"install\", \"-q\",\n \"--disable-pip-version-check\", \"virtualenv\"])\n base = \"/usr/bin/python3.12\"\n if not os.path.exists(base):\n subprocess.check_call([sys.executable, \"-m\", \"pip\", \"install\", \"-q\", \"uv\"])\n subprocess.check_call([\"uv\", \"python\", \"install\", \"3.12\"])\n base = subprocess.check_output([\"uv\", \"python\", \"find\", \"3.12\"]).decode().strip()\n subprocess.check_call([sys.executable, \"-m\", \"virtualenv\", \"-p\", base, PY312, \"-q\"])\n subprocess.check_call([PY312 + \"/bin/pip\", \"install\", \"-q\",\n \"--disable-pip-version-check\",\n \"numpy\", \"safetensors\", \"tokenizers\"])\n\nprint(subprocess.check_output([PY312 + \"/bin/python\", \"-c\",\n \"import numpy;print('numpy',numpy.__version__)\"]).decode().strip())" }, { "cell_type": "markdown", "id": "md_core", "metadata": {}, "source": [ "## 2. O núcleo\n", "\n", "O script roda inteiro no 3.12. Ele baixa Qwen2.5-0.5B e GPT-2, lê os safetensors **sem torch** (o checkpoint é bfloat16 — o leitor decodifica deslocando 16 bits), resolve a base de bytes $B$ por mínimos quadrados, e compara as duas agregações em quatro frentes.\n" ] }, { "cell_type": "code", "id": "core", "metadata": {}, "execution_count": null, "outputs": [], "source": "import base64, os, subprocess, sys\n\n# extensao nativa e especifica da ABI: roda no CPython 3.12\nSCRIPT_B64 = \"
import json, os, struct, time, urllib.request
import numpy as np

CACHE = "/kaggle/working/wbench"
os.makedirs(CACHE, exist_ok=True)
PHI = 2 * np.pi * (np.sqrt(5) - 1) / 2
RES = {}


def baixa(url, destino):
    if os.path.exists(destino) and os.path.getsize(destino) > 0:
        return destino
    print("  baixando " + os.path.basename(destino) + "...", flush=True)
    req = urllib.request.Request(url, headers={"User-Agent": "Mozilla/5.0"})
    with urllib.request.urlopen(req, timeout=900) as r, open(destino, "wb") as f:
        while True:
            b = r.read(1 << 20)
            if not b:
                break
            f.write(b)
    return destino


def load_file(caminho):
    with open(caminho, "rb") as f:
        nh = struct.unpack("<Q", f.read(8))[0]
        header = json.loads(f.read(nh))
        base = 8 + nh
        header.pop("__metadata__", None)
        out = {}
        for nome, info in header.items():
            ini, fim = info["data_offsets"]
            f.seek(base + ini)
            bruto = f.read(fim - ini)
            dt = info["dtype"]
            if dt == "F32":
                a = np.frombuffer(bruto, dtype=np.float32)
            elif dt == "F16":
                a = np.frombuffer(bruto, dtype=np.float16).astype(np.float32)
            elif dt == "BF16":
                a = (np.frombuffer(bruto, dtype=np.uint16).astype(np.uint32) << 16).view(np.float32)
            else:
                continue
            out[nome] = a.reshape(info["shape"])
        return out


def titulo(t):
    print("\n" + "=" * 74 + "\n " + t + "\n" + "=" * 74, flush=True)


def teste(nome, afirma, falsifica):
    print("\n--- " + nome + " ---", flush=True)
    print("    afirmação : " + afirma, flush=True)
    print("    falsifica : " + falsifica, flush=True)
    print("    " + "-" * 60, flush=True)


def base_bytes(E, vocab, ridge=1e-2):
    V, D = E.shape
    En = E / (np.linalg.norm(E, axis=1, keepdims=True) + 1e-12)
    Ainc = np.zeros((V, 256), dtype=np.float32)
    mask = np.zeros(V, dtype=bool)
    for s, i in vocab.items():
        if i >= V:
            continue
        disp = s.replace("\u0120", " ").replace("\u010a", "\n")
        try:
            b = disp.encode("utf-8")
        except (UnicodeEncodeError, AttributeError):
            continue
        if not (0 < len(b) <= 32):
            continue
        mask[i] = True
        for byte in b:
            Ainc[i, byte] += 1.0
    idx = np.where(mask)[0]
    G = Ainc[idx].T @ Ainc[idx] + ridge * np.eye(256, dtype=np.float32)
    B = np.linalg.solve(G, Ainc[idx].T @ En[idx])
    return B, Ainc, idx


def _bytes(t):
    return np.frombuffer(t.replace("\u0120", " ").replace("\u010a", "\n").encode("utf-8"),
                         dtype=np.uint8)


def agg_hist(t, B):
    b = _bytes(t)
    if len(b) == 0:
        return np.zeros(B.shape[1], dtype=np.float32)
    v = B[b].sum(0)
    return (v / (np.linalg.norm(v) + 1e-12)).astype(np.float32)


def agg_bind(t, B):
    b = _bytes(t)
    d = B.shape[1]
    if len(b) == 0:
        return np.zeros(d, dtype=np.float32)
    v = np.zeros(d, dtype=np.float64)
    for k, byte in enumerate(b):
        u = B[byte].astype(np.float64)
        ang = PHI * k
        c, s = np.cos(ang), np.sin(ang)
        r = np.empty(d)
        r[0::2] = u[0::2] * c - u[1::2] * s
        r[1::2] = u[0::2] * s + u[1::2] * c
        v += r
    n = np.linalg.norm(v)
    return (v / (n + 1e-12)).astype(np.float32)


AG = {"histograma": agg_hist, "binding": agg_bind}

from tokenizers import Tokenizer

gz = baixa("https://downloads.cs.stanford.edu/nlp/data/glove.6B.zip",
           os.path.join(CACHE, "glove.6B.zip"))
gt = os.path.join(CACHE, "glove.6B.100d.txt")
if not os.path.exists(gt):
    import zipfile
    with zipfile.ZipFile(gz) as z:
        z.extract("glove.6B.100d.txt", CACHE)
palavras = []
with open(gt, encoding="utf-8", errors="ignore") as f:
    for i, line in enumerate(f):
        if i >= 50000:
            break
        w = line.split(" ", 1)[0]
        if 0 < len(w) <= 24:
            palavras.append(w)
rng = np.random.default_rng(11)
amostra = [palavras[j] for j in rng.choice(len(palavras), 1200, replace=False)]
print("GloVe: %d palavras, %d na avaliacao" % (len(palavras), len(amostra)))

MODELOS = {
    "qwen": ("Qwen/Qwen2.5-0.5B-Instruct", "model.embed_tokens.weight"),
    "gpt2": ("openai-community/gpt2", "wte.weight"),
}

for chave, spec in MODELOS.items():
    repo, embed = spec
    titulo("MODELO: " + repo)
    arq = {}
    for remoto, local in (("config.json", "cfg.json"),
                          ("model.safetensors", "model.safetensors"),
                          ("tokenizer.json", "tok.json")):
        arq[remoto] = baixa("https://huggingface.co/" + repo + "/resolve/main/" + remoto,
                            os.path.join(CACHE, chave + "_" + local))
    sd = load_file(arq["model.safetensors"])
    E = np.asarray(sd[embed], dtype=np.float32)
    tk = Tokenizer.from_file(arq["tokenizer.json"])
    with open(arq["tokenizer.json"], encoding="utf-8") as f:
        tv = json.load(f)["model"]["vocab"]
    vocab = {k: i for k, i in (tv.items() if isinstance(tv, dict) else enumerate(tv))}
    print("  %d tokens x %dd" % (E.shape[0], E.shape[1]))

    B, Ainc, idx = base_bytes(E, vocab)
    print("  base de bytes: %s | indexaveis: %d" % (B.shape, len(idx)))

    r = {}
    simples = [(w, tk.encode(w).ids[0]) for w in amostra
               if len(tk.encode(w).ids) == 1]

    teste("M1 Identidade de token",
          "o caminho texto -> assinatura -> busca devolve o ID do BPE",
          "acuracia no nivel do acaso (k/|V|)")
    print("    palavras de 1 token no BPE: %d" % len(simples))
    for nome, f in AG.items():
        toks = [tk.id_to_token(int(i)) or "" for i in idx]
        St = np.stack([f(t, B) for t in toks])
        St = St / (np.linalg.norm(St, axis=1, keepdims=True) + 1e-12)
        ac = {}
        for k in (1, 5, 10, 50):
            hit = 0
            for w, t in simples:
                s = St @ f(w, B)
                top = idx[np.argsort(-s)[:k]]
                hit += int(t in set(top.tolist()))
            ac[str(k)] = round(hit / len(simples), 4)
        r.setdefault("M1", {})[nome] = ac
        linha = "    %-12s " % nome
        for k, v in ac.items():
            linha += "top-" + k + " %5.1f%%  " % (v * 100)
        print(linha)

    teste("M2 Anagramas",
          "a representacao codifica ordem, nao so o conjunto de bytes",
          "cos = 1.0 entre anagramas")
    pares = [("need", "ened"), ("pc", "cp"), ("reward", "drawer"),
             ("fit", "ift"), ("use", "eus"), ("low", "owl"), ("cash", "chas")]
    for nome, f in AG.items():
        cs = [float(f(a, B) @ f(b, B)) for a, b in pares]
        r.setdefault("M2", {})[nome] = {"max": round(max(cs), 4),
                                        "media": round(float(np.mean(cs)), 4)}
        print("    %-12s cos medio %+.4f  max %+.4f" % (nome, np.mean(cs), max(cs)))

    teste("M3 Determinismo",
          "cinco execucoes produzem o mesmo vetor",
          "qualquer diferenca bit a bit")
    for nome, f in AG.items():
        okd = all(all(np.array_equal(f(w, B), f(w, B)) for _ in range(5))
                  for w in ["the", "computer", "acao"])
        r.setdefault("M3", {})[nome] = bool(okd)
        print("    %s %-12s identicas em 5 execucoes" % ("OK " if okd else "XX ", nome))

    teste("M4 Custo", "a codificacao e viavel para indexar",
          "acima de 1 ms por palavra")
    am = ["internationalization", "counterrevolutionary", "the", "dog"]
    for nome, f in AG.items():
        t0 = time.time()
        for _ in range(200):
            for w in am:
                f(w, B)
        ms = (time.time() - t0) / (200 * len(am)) * 1000
        r.setdefault("M4", {})[nome] = round(ms, 4)
        print("    %-12s %.4f ms por palavra" % (nome, ms))

    RES[chave] = r

titulo("RELATORIO")
cab = "  %-8s%-14s%8s%8s%8s%10s%9s" % ("modelo", "representacao", "top-1",
                                       "top-5", "top-10", "anagrama", "ms")
print(cab)
for chave, r in RES.items():
    for nome in AG:
        t = r["M1"][nome]
        print("  %-8s%-14s%7.1f%%%7.1f%%%7.1f%%%10.4f%9.4f" % (
            chave, nome, t["1"] * 100, t["5"] * 100, t["10"] * 100,
            r["M2"][nome]["max"], r["M4"][nome]))

print("\n  leitura")
for chave, r in RES.items():
    h, b = r["M1"]["histograma"], r["M1"]["binding"]
    print("    " + chave + ": top-1 %.1f%% -> %.1f%% (%+.1f pts) | anagrama %.3f -> %.3f"
          % (h["1"] * 100, b["1"] * 100, (b["1"] - h["1"]) * 100,
             r["M2"]["histograma"]["max"], r["M2"]["binding"]["max"]))

SAIDA = "/kaggle/working/matriz_binding.json"
with open(SAIDA, "w", encoding="utf-8") as f:
    json.dump(RES, f, indent=1, ensure_ascii=False, default=str)
print("\n[ok] " + SAIDA)
\"\n\ncaminho = \"/kaggle/working/binding_core.py\"\nwith open(caminho, \"wb\") as f:\n f.write(base64.b64decode(SCRIPT_B64))\n\nPY312 = \"/tmp/py312/bin/python\"\nprint(\"executando em \" + PY312 + \"\\n\", flush=True)\n\np = subprocess.Popen([PY312, caminho], stdout=subprocess.PIPE,\n stderr=subprocess.STDOUT, text=True, bufsize=1)\nfor linha in p.stdout:\n print(linha, end=\"\")\nrc = p.wait()\nprint(\"[exit %d]\" % rc)\nif rc != 0:\n raise RuntimeError(\"nucleo falhou: %d\" % rc)\n\nimport json as _j\nres = _j.load(open(\"/kaggle/working/matriz_binding.json\", encoding=\"utf-8\"))\nprint(\"modelos:\", list(res))" }, { "cell_type": "markdown", "id": "conclusao", "metadata": {}, "source": [ "## O que a matriz mostra\n", "\n", "**A posição, codificada como isometria, resolve o limite do histograma.**\n", "\n", "O histograma é comutativo por construção — a soma $\\sum_b B[b]$ não vê ordem. Dois anagramas têm o mesmo vetor, e a busca desempata por critério arbitrário. Daí o top-1 de 68–72%.\n", "\n", "O binding troca a soma de vetores por uma soma de **vetores rotacionados**: cada posição $k$ aplica uma rotação distinta. Como a rotação é isometria, a norma se conserva. Como o ângulo é incomensurável, as posições não interferem construtivamente. O resultado são vetores diferentes para sequências diferentes, mesmo com os mesmos bytes.\n", "\n", "Top-1 sobe para **99,4% (Qwen) e 100,0% (GPT-2)**, e o cosseno entre anagramas cai de 1,000 para 0,36–0,53.\n", "\n", "### O limite que permanece\n", "\n", "A acurácia não é garantia. A prova por Cauchy-Schwarz no vocabulário continua **zero** — o Fold Limit exige $\\nu$ alto, e o vocabulário de um modelo distribui a variância por centenas de direções (23% em 128 de 896). O binding melhora a recuperação; não cria o manifold que a prova exigiria.\n", "\n", "O resultado é **reprodutível e medido**, não **certificado**. Para uso prático os dois se equivalem em 99,4% dos casos. Para o uso regulado que a stack propõe, é a lacuna que resta.\n", "\n", "---\n", "\n", "*Código e análise: [kleniopadilha.com/blog/benchmark-integral-da-stack.html](https://kleniopadilha.com/blog/benchmark-integral-da-stack.html)*\n", "\n", "*BSL 1.1 | (c) Winnex Brasil Soluções Empresariais LTDA-ME*\n" ] } ], "metadata": { "kernelspec": { "display_name": "Python 3", "language": "python", "name": "python3" }, "language_info": { "name": "python", "version": "3.11" } }, "nbformat": 4, "nbformat_minor": 5 }