scrapy startproject <project-name>

프로젝트 생성


scrapy crawl <spider-name>

스파이더 실행


scrapy shell <url>

scrapy object들(request/response/crawler/spider)을 interpreter에서 다뤄볼 수 있다

xpath도 테스트 해볼수 있다


https://doc.scrapy.org/en/latest/topics/shell.html#configuring-the-shell


shell 커맨드 사용시, ipython이 설치되어 있다면 ipython이 실행될 것이다


scrapy view <url>

JS 등이 실행되기 전, 즉 크롤러에서 받게되는 html 문서를 확인가능



'Language > python' 카테고리의 다른 글

[python] yield, generator, coroutine  (0) 2018.03.30
[python] elasticsearch-py max_tries  (0) 2018.03.30
[python] scrapy concurrent_requests  (0) 2018.03.27
[python] win32api ImportError  (0) 2018.03.26
[python] windows pip Twisted install error  (0) 2018.03.23

WRITTEN BY
hojongs
블로그 옮겼습니다 https://hojongs.github.io/