Token 計數器

在本機使用 o200k_base 或 cl100k_base 統計文字 Token,查看分段與 ID。

文字與正則
正在準備工作區…
輸入
輸出
結果將顯示在這裡。

使用方法

  1. 貼上文字或載入範例,然後選擇 Tokenizer 編碼。
  2. 執行工具,檢查結果與狀態提示。
  3. 複製所需內容,或下載結果繼續使用。

Token 計數器

在本機使用 o200k_base 或 cl100k_base 統計文字 Token,查看分段與 ID。

處理在瀏覽器中完成,輸入與檔案不會上傳至 DevToolsy。

運作原理

依所選編碼統計純文字,不包含聊天訊息封裝、工具定義或 API 計費。

處理前後對照
輸入
你好,世界!讓開發更簡單。
輸出
{
  "encoding": "o200k_base",
  "count": 11,
  "ids": [
    177519,
    979,
    28428,
    3393,
    146508,
    29952,
    60733,
    11701,
    84508,
    107942,
    788
  ]
}

在本機使用 o200k_base 或 cl100k_base 統計文字 Token,查看分段與 ID。

處理行為

點選 Token 查看 ID,圓點表示空格。部分 Token 僅包含 UTF-8 字元的部分位元組,單獨預覽時可能顯示 �。

輸出

複製所需內容,或下載結果繼續使用。

處理限制

UTF-8 輸入最多 256 KiB;預覽前 1,000 個 Token,複製和 JSON 包含全部 ID。

延伸閱讀gpt-tokenizer
?

常見問題

這裡的數量等於 API 計費數量嗎?

依所選編碼統計純文字,不包含聊天訊息封裝、工具定義或 API 計費。

為什麼 Token 預覽可能顯示 �?

點選 Token 查看 ID,圓點表示空格。部分 Token 僅包含 UTF-8 字元的部分位元組,單獨預覽時可能顯示 �。

輸入會上傳嗎?

處理在瀏覽器中完成,輸入與檔案不會上傳至 DevToolsy。

處理限制是什麼?

UTF-8 輸入最多 256 KiB;預覽前 1,000 個 Token,複製和 JSON 包含全部 ID。

如何保留結果?

複製所需內容,或下載結果繼續使用。

尋找下一個實用工具

語言

要切換語言嗎?目前頁面的內容將被清空。請先複製或下載需要保留的資料。