职责描述:
1、负责数据采集系统的技术架构设计与核心功能开发;产品开发和技术研究工作,解决各类技术疑难问题;
2、负责核心算法的策略优化研究,充分利用资源,避免限制;
3、有良好的成本意识,对产品性能有比较高的追求,好的大局观,有良好的学习能力。
任职要求:
1、有3年以上爬虫工作经验并有高并发大量采集项目经验优先考虑;
2、有较强的责任心、沟通协调能力,工作主动积极;
3、熟练Python编程语言,掌握反爬技术,图片识别码,滑动块识验码等技术优先考虑;
4、熟悉Scrapy,Django,Flask, Tornado等至少一种框架;
5、熟悉关系型数据库(MySQL/PostgreSQL/Oracle),缓存数据库(Redis/Memcached)优先考虑;
6、精通一种开源爬虫框架,如scrapy等,有开发爬虫框架、构建过分布式爬虫系统者优先;
7、有独立项目(前后台)开发经验优先;
8、能力突出可以带Python团队。