【神ツール】Claude API代を9割削る「claude-thermos」登場!「4.5分ごとのダミーPingでキャッシュ保温」
投稿日時: 2026/07/24 02:06
■ 概要・編集部サマリー
1. 【背景・Claudeプロンプトキャッシュの保温ツール登場】Anthropicの Claude API において、5分間アクセスが無いと自動破棄されてしまうプロンプトキャッシュに対し、バックグラウンドで超軽量Pingを送信してキャッシュを維持し続けるオープンソースツールが Show HN で発表されました。 2. 【焦点・入力トークン代90%削減とKeep-Alive】大容量のコードベースや数万トークンのシステムプロンプトを常時「温まった状態」に維持することで、放置後の再リクエスト時に発生する高額な入力トークン再計算費用の9割カットが提示されています。 3. 【評価・開発者の節約ハック対インフラ負荷懸念】開発者の圧倒的なAPIコスト最適化とレスポンス高速化に賞賛が集まる一方、AnthropicのサーバーVRAM圧迫や今後の規約・仕様改定リスクについてスコア110超えの熱い議論が起きています。
■ 「5分間で自動消滅するプロンプトキャッシュ」の制約破元
Anthropic の Prompt Caching 機能は、数万〜数十万トークンにおよぶ大規模コードベースやシステムプロンプトの入力費用を9割カットする画期的仕様です。
しかし無風状態が5分間続くとキャッシュが完全に揮発(TTL切れ)し、次回リクエストで高額な再計算コストが発生するボトルネックを解決するソリューションが提示されました。
■ 4.5分間隔の超軽量ピン送信によるトークン費用90%削減
バックグラウンドの軽量デーモンが4.5分ごとに1トークン程度の超極小ダミーリクエストを自動送信することで、サーバー側のコンテキストキャッシュを常に「温まった状態」に維持します。
開発作業中の離席や間隔の開くAPI呼出であっても、常にキャッシュヒット率100%での爆速・格安レスポンスが実現されています。
■ ハッカー精神による開発コスト最適化とプロバイダの対抗策
開発者側のインフラコスト節約とレスポンス短縮を叶える一方、Anthropic側のサーバーVRAM(GPUメモリ)を常時占有する挙動となります。
ダミーPingの検知ロジックやTTL延長オプションの公式有料化など、今後のAPIプロバイダ側の利用規約・仕様改定に関する予測が議論を呼んでいます。
海外掲示板の反応・まとめ
■ Claude APIのキャッシュを保温するツール『claude-thermos』の紹介。トークン代90%削減とAnthropicの仕様が語られています。
Claudeのプロンプトキャッシュって5分放置すると消えてまた高い入力トークン代払わされるんだけど、4.5分ごとに1トークンのダミーPing送って『キャッシュ温め続ける』ツール『claude-thermos』作られててワロタw
>>2 天才かよw 10万トークンのコードベースぶち込んで開発してる時、トイレ行ったりジュース買いに行くだけでキャッシュ切れて$1飛ぶの理不尽だったから神ツールだわ。
>>3 1回のKeep-Aliveピンで数ポイントしかかからんから、何もしないより月額のAPI費用が1/10以下になる計算だな。
>>4 でもこれ流行ったらAnthropicのサーバーメモリ(VRAM)圧迫しまくるから『ダミーping検知してキャッシュ破棄する』か『キャッシュ維持の基本料金取る』改定来そう。
そもそも5分でTTL(有効期限)切れる仕様が短すぎるんよ。15分くらいにしてくれればこんな小細工ツール作らなくて済むのに。
IDEのバックグラウンドでこのThermosデーモン常駐させておくと、コード生成のレスポンス爆速に維持できるから実用性ヤバいわ。
GitHubのソース読んだらシンプルにCronでリクエスト投げるだけでコード量も軽くて最高。
OpenAIのキャッシュ仕様との比較も気になる。
ローカルのCLIツールとして動くから、他人にAPIキー渡さずに使えるのが良い。
Hacker Newsでもスコア110超えてて『ハッカー文化の鏡だ』って開発者達が大歓喜してるぞ。
ユーザーに優しくない5分TTLへの静かな抗議として機能してる。
これ公式でKeep-Aliveオプション作って月数ドルで固定維持させてくれたら全エンジニアが払うだろ。
自作エージェント開発してる人は今すぐ導入すべき。
コスト削減の知恵。APIプロバイダとの知恵比べとオープンソースの進化に期待だな。