EDIT(2018/05/26): ChainerMN 1.2.0/13.0 において実装された double buffering および FP16 サポートの機能により AWS 環境でも高い分散効率を出せるようになったようです。See ChainerMNのクラウド環境向け新機能とAWSにおける性能評価 | Preferred Research AWS EC2 インスタンスにおける ChainerMN の分散効率に対する評価を実施した。ChainerMN のバージョンは 1.0.0。 AWS の p3 (v100) インスタンスもつい最近ローンチされたので、p2 と p3 インスタンスで評価を実施する。 バージョンなど AWS p2 (k80) および p3 (v100) インスタンス Ubuntu 16.04 Python 3.5.2 (/usr/bin/python3 of Ubunt
インフラエンジニアの多分、華形のお仕事の１つであるミドルウェアの性能検証を久々にガッツリやる機会がありましたので、検証作業の基本的な項目について初心から振り返っておきたいと思います。読みやすさ度外視の詰め込み記事注意警報です。 世の中、雑な検証結果もちょいちょい散乱していて、私自身もそうならないよう注意を払っているわけですが、ガチでやると気をつける項目が多くて、自分で忘れたりしないようにと、誰かにやってもらいたい時に基本を抑えてから取り掛かってもらうために、形にして残しておこうと思った次第であります。 目次 なぜ性能検証をするのか 環境の準備 インスタンスの用意 クライアントの用意 サーバーの用意 ボトルネックになりうる項目 CPU Utilization Memory Network Bandwidth Disk Bandwidth Disk IOPS Disk Latency Disk
Java 版 Fluentd サーバである、Influent のベンチマーク第二弾です。 MessagePack デシリアライズ処理を改善したので、その効果を測定します。 テスト概要 http://blog.okumin.com/entry/2017/01/24/002953#テスト概要 Disclaimer http://blog.okumin.com/entry/2017/01/24/002953#Disclaimer テスト環境 インスタンス 送信側、受信側共に Google Compute Engine asia-northeast1 リージョンの n1-highcpu-32 を用いました。 送信側は二台用意し、それぞれ20プロセス、合計40プロセスの Fluentd が並列にイベントを送信します。 バージョン 環境構築は influent-benchmark の a4565f88
Go 言語で Apache Bench (ab) を実装してみた。 https://github.com/takatoshiono/go-ab なぜか 以前、wc コマンドを実装した。その時に ab も候補に入っていたけど、ab は http 通信をするプログラムなので、より単純な wc を選択したのだった。その次に何やるか、ということで http クライアントのコードを書く練習になりそうな ab を実装してみることにした。 期間は2016年10月から1ヶ月くらいやったあと、2ヶ月くらいブランクがあって、2017年1月に再開して一ヶ月くらいやっていた。コツコツとよく続いたと思う。 Apache Bench (ab) とは Apache Bench (ab) は HTTP サーバーの性能を測定するためのプログラムでシングルスレッドで動作する。Apache HTTP サーバーのソースコードに含
This blog compares how PostgreSQL and MySQL handle millions of queries per second. Anastasia: Can open source databases cope with millions of queries per second? Many open source advocates would answer “yes.” However, assertions aren’t enough for well-grounded proof. That’s why in this blog post, we share the benchmark testing results from Alexander Korotkov (CEO of Development, Postgres Professio
For accurate results, please take the browser window full screen, or rotate the device to landscape orientation.
Webサーバのベンチマークをとるのが趣味になりつつあるmatsumotoryです。 Webサーバのベンチマークについては、abからはじまりwrk等を使っていたのですが、最近ではほぼh2loadを使っています。 h2loadはnghttp2というHTTP/2ライブラリのアプリケーションに含まれているツールですが、 HTTP/2（SPDYも）とHTTP/1.xに両対応している ベンチマーク側の同時スレッド数を増やせる TLS及びSNIもサポートしている 最小、最大、平均、標準偏差あたりもちゃんとでる ので、色々プロトコルを変えつつ同じベンチマークツールで、値の目安を出すにはとても重宝しています。 Nghttp2: HTTP/2 C Library - nghttp2.org 実行結果のサンプルは例えば以下、 $ h2load -c 100 -n 10000 https://localhost:
There are a variety of possible reasons that you could be having challenges with development. It could be the process, communication, team, or a host of related issues. We can help you assess what is going on and get things back on track. We are often brought in by people who want to evaluate software and teams as part of a due diligence effort. This could be part of an acquisition where the acqui
こんにちは、ツカノ(@snuffkin)です。 MQTT Broker 比較の第二弾です。 前回は、機能の比較を行いました。 MQTT Broker比較～機能比較編 実際のシステムへの適応を考えると、性能は特に気になるところ。 ということで、今回は性能比較を行ってみました。 ベンチマークは環境や測定方法、バージョンによっても大きく異なりますので、 あくまで一例として参考にしてもらえればと思います。 ベンチマークに利用したプログラムは、Goで開発された以下の MQTT-Bench を利用しています。 MQTT-Bench : MQTT Benchmark Tool ベンチマークの条件は以下の通りです。 構成、メッセージ長 MQTT Broker に対して、500connections で同時処理 1つのメッセージ長は 1024byte マシンスペック OS: CentOS 6.5 (64bi
MongoDB 3.0から従来のmmapベースのストレージエンジンから、Wired Tigerというストレージエンジンが使えるようになった。 主な変更点は以下のとおり。 mmapベース MongoDB ver 3にはMongoDB ver 2にあったmmapベースに改良を加えたものが乗っている MongoDBはOSのmmap()システムコールを読んで、OSにデータファイルをメモリに載せてもらう。 MongoDBはメモリを管理しない。OS任せ。 メモリ使用量を制限できない。OSから与えられるだけ使う。 メモリがいっぱいになるとOSが適宜スワップさせる データ圧縮できない コレクションレベルロック（ver 2のころはデータベースレベルロック） インデックスとデータは分離できない（同一ファイル内に混在） Wired Tiger MongoDB ver 3からの新規 Wired Tigerというス
7. 負荷試験対象システム全体像 クラウド上でスケール可能なシステムを構成 Elastic Load Balancing Availability Zone Availability Zone RDS DB instance RDS DB instance standby (Multi-AZ) EC2 instance web app server EC2 instance web app server EC2 instance web app server EC2 instance web app server • LAMP構成のシステム • WEBアプリケーションサーバはLBの後ろに設 置されている • 全てAZ（データセンター）をまたいだ形で設置 し、単一障害点はない • キャッシュを利用 • DBはスケールアップで対応 ElastiCache ElastiCache
GoはPythonのようなLLと比べると実行速度は速いのですが、GCは特別速いわけではないので、相対的にGCがパフォーマンスに与える影響は大きくなります。 また、Java に比べると、一時オブジェクトなどのために頻繁にヒープアロケーションを行うとGCの停止時間が長くなりがちですが、一方でヒープアロケーションを避けたプログラミングがしやすい言語でもあります。 MySQL ドライバのような低レイヤーのライブラリを作る場合、アプリケーション側の性能要件を勝手に決めることができないので、現実的な範囲でアロケーションを減らす努力をするべきです。 ということで、前回の記事 で紹介したプレースホルダ置換を実装するにあたって経験した、アロケーションに気を使ったプログラミングについて、チューニングする手順やコード上のテクニックを紹介したいと思います。 1. まずは正しく動くものを作る go-sql-driv
Product. Data. Code Archive Sequence Wow, this made front page of Hacker News! First for me! jacques_chester on HN has an EXCELLENT comment that’s definitely worth reading. My response. tl;dr SurgeMQ aims to provide a MQTT broker and client library that’s fully compliant with MQTT spec 3.1.1. In addition, it tries to be backward compatible with 3.1. SurgeMQ is under active development and should b
東大喜連川研究室の早水さんが日本PostgreSQLユーザ会で話された「性能測定道」がとても勉強になった。 スライドとYouTube動画が公開されています。YouTube にはスライドには書かれていない話しも出てきて、説明も非常にわかりやすいです。こういうアカデミックで最先端の研究をされている方が情報発信されるのはとてもうれしい。 id:hayamiz さんのことは何年も前から認識していたが、喜連川研究室でデータベースの研究をされているというのは初めて知りました。 TOP | Yuto Hayamizu's web site も要チェックです。 性能測定道 事始め編 性能測定道 事始め編 from Yuto Hayamizu 性能測定道 実践編 性能測定道 実践編 from Yuto Hayamizu 「性能測定道 事始め編」で紹介されていた本を買ってみましたが、なかなか歯ごたえのありそう
Ripperの出力とかParseletの解析結果などを扱うのに､ArrayやHashでパターンマッチして中身を取り出す処理を多用する必要があったのでパターンマッチライブラリを作りました｡ GitHub: todesking/patm 同様のライブラリとしてはpattern-matchがあります｡ 機能面ではpattern-matchのほうが豊富ですが､PATMは高速なのが売りです(DSLによるメソッド定義を使用した場合､ネイティブRubyコードにコンパイルされるため50倍くらい速い｡case式内で使用した場合でも7倍程度)｡ベンチマークについてはこの記事の下のほう参照｡ 主な機能 DSLによるメソッド定義 extend Patm::DSL することで define_matcherを使ったメソッド定義が可能です｡ 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16
Webアプリの負荷テストツールにsiegeというのがありまして、個人的にはずいぶん前から使っていたのですが、会社ではあんまり知られていなかったのでエントリ書きます。 http://www.joedog.org/ これは何？ 簡単に言うと高機能なabです。JMeterほどの機能は必要としないけどabよりもうちょっとめんどくさいことがしたい、というときに便利です。具体的には URL並べて簡単なシナリオを実行できる 並列にリクエストを投げれる ほかにもCookie使えるとかコネクションをcloseしないようにできるとかPOSTできるとか細々ありますが、詳細はマニュアルを参照をば。 あと、Sproxyというシナリオ記録用のプロキシサーバもあるみたいですが、こちらは使ったことはないです。 不便な点を上げると JMeterほど複雑なことはできない 特に定数スループットタイマみたいなのがないのが痛いです
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
