公司名称：上海某知名游戏公司
工作地点：上海
岗位职责：
1、负责相关网站、论坛的爬虫设计和开发，以及策略持续优化；
2、分析结构化和非结构化数据，并对数据抓取、信息提取、去重、清洗；
3、解决反爬疑难问题，设计及优化爬虫系统等。

任职要求：
1、本科及以上学历，计算机软件或相关专业，三年及以上python开发经验；
2、掌握网络爬虫开发原理，熟悉互联网各种类型数据交互模式；
3、掌握HTML，JS，精通JS逆向，精通常见的反爬虫技术如文本混淆反爬虫、验证码等；
4、精通一种爬虫框架，对分布式爬虫、海量数据采集有深刻的理解；
5、熟练掌握正则表达式、XPath等信息抽取技术；
6、有通用网站和论坛爬取及解析的经验如Readability、Newspaper等。