キャッシュ

rpxyは、一時ファイルとオンメモリオブジェクトのハイブリッド方式でレスポンスをキャッシュするアプローチを採用しています。 config.tomlで[experimental.cache]を指定すると、一時ファイルとオンメモリオブジェクトを使用したローカルキャッシュ機能を利用できます。設定例は以下の通りです。

# これを指定するとファイルキャッシュ機能が有効になります
[experimental.cache]
cache_dir = './cache'                 # オプション。デフォルトは現在の作業ディレクトリからの相対パス"./cache"
max_cache_entry = 1000                # オプション。デフォルトは1k
max_cache_each_size = 65535           # オプション。デフォルトは64k
max_cache_each_size_on_memory = 65535 # オプション。デフォルトは64k（max_cache_each_sizeと同じ）。0の場合、常にファイルキャッシュになります。
max_cache_total_size = "1g"           # オプション。デフォルトは1 GiB。バイト単位の整数、接尾辞付き文字列（"256m"、"1g"）、または"unlimited"を指定できます。

HTTPメッセージのコンテキストにおいてストア可能なレスポンスは、サイズがmax_cache_each_sizeバイト以下の場合に保存されます。さらにmax_cache_each_size_on_memory以下の場合はオンメモリオブジェクトとして保存されます。それ以外は一時ファイルとして保存されます。max_cache_each_sizeはmax_cache_each_size_on_memory以上である必要があります。max_cache_each_size_on_memoryのデフォルトはmax_cache_each_sizeと同じ値のため、デフォルト設定ではキャッシュ可能なオブジェクトはすべてメモリから配信され、max_cache_each_sizeをこの値より大きくした場合にファイル層が使われます。最悪ケースのメモリ使用量はmax_cache_entry×max_cache_each_size_on_memoryです。

max_cache_total_sizeは、メモリ層とファイル層を合わせてキャッシュが保持する総バイト数の上限です（デフォルト1 GiB）。新しいレスポンスの保存によって上限を超える場合は、レスポンスが収まるまで最も使われていないエントリから追い出されます。"unlimited"で上限を無効化できます。なお0も容量ゼロではなく無制限を意味します。max_cache_each_size_on_memoryでは0が逆の意味（常にファイルキャッシュ）を持つため、文字列での指定を推奨します。