質問をすることでしか得られない、回答やアドバイスがある。15分調べてもわからないことは、質問しよう!新規登録して質問してみよう

本サイトでは、プログラムによってネットサーフィン(Webブラウジング)したり、 Webページから必要な情報を抽出したりする方法について解説しています。 例えば以下の事プログラムに行わせる事ができます。 サイトへのログインを自動で行う 毎日自動で大量サイトのクリックを行う 証券会社へ自動ログインして自動発注する ショッピングサイトから商品の一覧を取得する オリジナルブラウザを作成する Webサービス用のテストツールを作成する ウェブスクレピング(自動でWebの情報を取得する)を行うアプリケーション作成する etc 本サイトのコンテンツは画面左のメニューから選択してください。 初めての方はまずWebブラウジングの方法を見てください。
#0 前置き 昨今、様々な言語でスクレイピングが出来ますが、VBAなら開発環境構築が不要でサイトから引っ張ってきた値をCsvに出す必要もなく直接セルに設定できるのは中々魅力的だと個人的に思います。 作成したマクロはダウンロードできるのでよかったらどうぞ #1 事前準備 ##1.1 必要な環境 ・Excel ・Internet Explore ※バージョンについては知らない これだけでスクレイピングができる環境が整います。他の言語に比べるとかなりお手軽だと思いません? ##1.2 ライブラリの追加 標準のライブラリだとDOM操作、およびスクレイピングはできないのでライブラリを追加します。 ①Excelを開いたらVBEを開く(Alt+F11) ②メニューバー→「ツール」→「参照設定」 ③ずらずらとライブラリが並んでいるが、 その中から以下の二つを探してチェックを入れる。 ・Microsoft
スクレイピングとは Webサイトから自分の知りたい情報を抽出すること。 ex) 文章、画像、動画など 今回の目標 Qiitaで「ruby」と検索して「いいね順」に並べた検索結果一覧をスクレイピングします。 1. URLのパスパラメータ・クエリパラメータを理解する スクレイピングをするにはURLのパラメータについて理解する必要があります。 「そんなん余裕で知っとるわ!」という方は飛ばして次章へどうぞ! パラメータの種類 URLでドメイン以降の/で区切られたパス1つ1つがパスパラメータです URLの?以降がクエリパラメータです(複数記述する場合は&で繋ぎます)。 例えばこのURLは。 https://qiita.com/search?page=1&q=ruby&sort=like 以下のパラメータになります。 種類 パラメータ名 パラメータの値
マッシュアップで欠かせない技術の一つにスクレイピングが挙げられる。 WebAPIが提供されていないサイトに対して、HTMLから直接情報を取り出す技術だ。 これには大きく分けて2つの方法がある。 HTMLをテキストとみなし、正規表現で処理する方法と、 HTMLをXHTMLに変換し、そのDOMに対してXPathで処理する方法だ。 こういう分野に強いのはPHPやPerlなどの軽量スクリプト言語だろう。 しかしC#使いだってスクレイピングやってみたい。 というわけで、 http://d.hatena.ne.jp/todesking/20061027/1161879777を参考にやってみた。 ちなみにここでやってるのは上記2つの方法のうちの後者。 ・・・うまくいかない。 つかTidyマンドクセー! HTMLをXHTMLに変換したいだけなのに、オプションがありすぎて意味不明です。 もっと手軽なコンバー
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く