AI가 쓰는 모든 단어에는 확률이 붙어 있습니다. 확률이 낮은 곳은 추측한 부분입니다. 아래에서 실제 답변을 골라 임계값을 움직여 보거나, 더 아래에서 직접 질문해 보세요.
샘플은 examples/logprobs/에 있는 Llama 3.1 8B Instruct의 실제 응답입니다. 단어를 이루는 조각 중 하나라도 확률(p = elogprob)이 임계값보다 낮으면 그 단어가 표시되며, CLI와 똑같은 방식입니다. 단어에 마우스를 올리거나 탭하면 확률과 대안 후보가 보입니다.
토큰 확률을 반환하는 API만 여기서 쓸 수 있습니다. 하나를 고르고 키를 붙여 넣은 뒤 질문하면, 확신 없는 단어가 표시된 답변이 위에 나타납니다.
키는 브라우저 안에만 머뭅니다. 이 페이지에는 서버가 없습니다. 키는 질문을 보내는 요청에 담겨, 브라우저에서 선택한 제공자에게 직접 전송될 뿐입니다.
“기억하기”에 체크하지 않으면 어디에도 저장되지 않으며, 체크해도 이 브라우저에만 저장됩니다.
| 제공자 | 브라우저 호출 |
|---|---|
| OpenAI | 가능. 이 사이트의 교차 출처 요청에 응답합니다. gpt-4o-mini처럼 logprobs를 반환하는 모델을 쓰세요. |
| OpenRouter | 가능. 모든 사이트를 허용합니다. 일부 업스트림 제공자만 logprobs를 반환하므로, 모든 매개변수를 지원하는 곳으로 라우팅하도록 OpenRouter에 요청합니다. |
| Together AI | 가능. 모든 사이트를 허용합니다. Together 고유의 "logprobs": 3 형식으로 요청합니다. |
| 로컬 Ollama | 기본값으로는 불가. Ollama는 다른 웹사이트의 요청을 거부합니다. OLLAMA_ORIGINS=https://hallucination-highlighter.vercel.app로 실행한 다음 “사용자 지정”에서 http://localhost:11434/v1을 쓰세요. 사이트가 내 컴퓨터에 접근하기 전에 브라우저가 확인을 요청할 수도 있습니다. 이런 제한이 없는 CLI를 써도 됩니다. |
| Anthropic | 불가. API가 토큰 확률을 반환하지 않아 하이라이트할 것이 없습니다. |
브라우저 접근 여부는 2026-09-30에 이 사이트 주소에서 CORS 프리플라이트로 확인했습니다. 제공자가 바꿀 수 있습니다.
CLI로도 할 수 있습니다. 같은 제공자에 vLLM과 Ollama 프리셋까지 있고, 브라우저 제한도 없습니다:
llm-token-visualizer --live "Who painted The Night Watch?" --provider openrouter llm-token-visualizer --live "Who painted The Night Watch?" --provider ollama --model qwen2.5-coder:14b