SUUMO(スーモ)から物件情報をスクレイピングする

Tuesday, June 19, 2018 5:21 PM

春から新卒で、一人暮らしを始める人も多いのではないでしょうか。はじめての部屋探し、たくさんある賃貸物件の中から「これだ!」という部屋を見つけるのは、簡単ではありません。SUUMO(スーモ)、マイナビ賃貸、HOME’Sなど数多くある不動産関連サイトなどの詳細調査を人力で調査するのはコストと時間の面を見ても困難といえます。もしWebスクレイピングスキルを身につけるなら、すべて楽になると思います。

今回のチュートリアルはWebスクレイピングツールOctoparse 7.Xを使って、SUUMO(スーモ)から物件情報の取得を簡単にします。

この度、新宿駅から徒歩15分以内、家賃7万円以下のワンルームを探します。
次のURLを例として使います。
https://suumo.jp/jj/chintai/ichiran/FR301FC005/?shkr1=03&cb=0.0&shkr3=03&rn=0005&shkr2=03&mt=9999999&ar=030&bs=040&shkr4=03&ct=7.0&ra=013&ek=000519670&md=01&cn=9999999&mb=0&fw2=&et=15

 

以下はチュートリアルの主な手順です。 [タスクファイルをダウンロードする]
1) 「Go To Web Page」 - 内蔵ブラウザで対象のWebページを開く
2) ページ遷移のループを作る - 複数のページからデータを取得する
3) 「Loop Item」を作る - 各ページ上のデータを取得する
4) データを抽出する - 抽出したいデータを選択する
5) データカスタマイズ - 余計なデータを削除する
6) 抽出タスクを始める - タスクの実行を行いデータを取得する

 

 

 

1) 「Go To Web Page」 - 内蔵ブラウザで対象のWebページを開く
  • 「Advanced Mode」を選択し、タスクを作ります。 自由度の高い「Advanced mode」は、複雑なウェブサイトを対応できます。
    URLを入力して「Save URL」をクリックします。
  • 「Workflow」をオンにするとタスクの作りはやすくなります。

 

2) ページ遷移のループを作る - 複数のページからデータを取得する
  • ページの下にある「つぎ」ボタンをクリックし、「Action Tips」パネルから「Loop click the selected link」を選択します。
  • チェックした結果、 ページ遷移のXpathは間違いました。「single element」に正しいXpathを入力します。
    //*[text()='次へ']

 

3) 「Loop Item」を作る - 各ページ上のデータを取得する
  • ステップ2では、2ページ目に移動しました。ですから、「Go To Web Page」をクリックして1ページ目に戻ります。
  • 「pagination」をクリックします。
  • 一番目の物件名のタイトルをクリックすると、前の5つだけが識別されます。6番目の物件をクリックすると、Octoparseは残りの同じのURLを自動的に識別します。
  • 「Action Tips」にある「Loop click each element」をクリックします。

 

4)データを抽出する - 抽出したいデータを選択する
  • 「Loop Item」をクリックします。
  • 「Loop Item」にある1番目のデータを選択し、「Click Item」をクリックして、詳細ページを開きます。
  • 必要なデータをクリックし、「Action Tips」にある「Extract data」を選択します。
  • フィールド名を編集します。

 

5) データカスタマイズ - 余計なデータを削除する

場合によっては、必要なデータが不要な文字列と一緒になることがあります。この場合、まずすべてを抽出し、不要な文字列を削除するために抽出したデータを再フォーマットする必要があります。 

例えば:

「管理費」データを選択し、「Customize data field」をクリックします。
「Refine extracted data」と「Add step」を選択し、「Replace」をクリックします。
「Replace」に 「管理費・共益費」を入力、「Evaluate」をクリックします。
「OK」をクリックします。
他のデータも同じように削除できます。

ヒント!

一回で削除できないデータは引き続き再フォーマットしてください。

 

 

 

 

6) 抽出タスクを始める - タスクの実行を行いデータを取得する

「Save」をクリックします。
「Start Extraction」をクリックします。

 

 

 


はじめての一人暮らしはドキドキするものよね。「なんとなく」で決めてしまって、結果失敗してしまったなんて先輩たちの話もよく聞きます。家賃の予算、お部屋の希望条件をしっかりと意識して、お気に入りのお部屋を見つけてね!

 

この記事は役に立ちましたか?もしご不明な点がございましたら、いつでもお問い合わせください!

 

 

btn_sidebar_use.png