[B! thundering_herd] hirafooのブックマーク

hirafoo id:hirafoo

thundering_herdに関するhirafooのブックマーク (5)

不正動作するサーバ(Misbehaving servers) - メモ帳
はじめに Varnishの主要機能にWEBサーバ・アプリケーションの誤動作からあなたを守ることです。 Graceモード複数のクライアントが同じページをリクエストしている場合、Varnishはひとつのリクエストをバックエンドに要求しフェッチするまで他のリクエストを保留します。一部の製品では要求統合機能と呼ばれていますが、Varnishは自動的に行います。もし1秒あたりに数千のリクエストを処理している場合、キューは大きくなります。 2つの問題があります。コンテンツを提供するために数千のスレッドを開放することはサーバの負荷を非常に高くする可能性があります。誰もが待っています。この問題に対処するためにオブジェクトに設定されたTTLを超えてキャッシュを維持することをVarnishに指示することができます。期限の切れたコンテンツを提供するためには、当然ですが先に事前にコンテンツを保持
hirafoo 2011/09/05
varnish

thundering_herd
リンク
キャッシュシステムの Thundering Herd 問題対策モジュール Cache::Isolatorというのを書いた。 - blog.nomadscafe.jp
やや大袈裟な名前ですが「memcachedにおけるキャッシュシステムの Thundering Herd 問題への対策案」とか「キャッシュシステムの Thundering Herd 問題への対策案。その2 排他制御」で書いていたコードをモジュールにした github: https://github.com/kazeburo/Cache-Isolator 機能としては、平行動作数を制御できるget_or_setと、一定の確率で少し早く有効期限が切れるキャッシュの保存、取得、削除あたりがあげられます使い方ですが、まず、get_or_setの例。 my $isolator = Cache::Isolator->new( cache => Cache::Memcached::Fast->new(...), concurrency => 4, # get_or_setのcallbackの最大平行動作
hirafoo 2011/09/03
cache

thundering_herd
リンク
https://labs.cybozu.co.jp/blog/kazuho/archives/2007/09/keyedmutex.php
hirafoo 2011/09/02
cache

thundering_herd

KeyedMutex
リンク
https://labs.cybozu.co.jp/blog/kazuho/archives/2007/09/cache_and_thundering_herd.php
hirafoo 2011/09/02
cache

thundering_herd
リンク
preventing cache stampedes : maaash.jp
webサイトとかで、重いSQLを使ったページを快適に表示するために、重いSQLの結果をキャッシュするためにmemcachedとかをよく使います。キャッシュの有効期限が切れた後に、大量のリクエストに対応して大量の重いSQLが走ると困るので、どうしよう。これをthundering herd 問題といったり、cache stampede, database stampedeというそうです。キャッシュ切れた後にががっとくるやつ、です。 A. キャッシュの有効期限が切れる B. SQL発行 C. SQLの結果を受け取る D. キャッシュにつっこむ A-D.の間に大量のリクエストが来ると、重いSQLが走るので困ります。 Kazuhookuさんが書いています。キャッシュシステムの Thundering Herd 問題対策としては、以下の２種類の手段があります。 * バックエンドへ
hirafoo 2009/04/16
cache

thundering_herd
リンク
1