189 8069 5689
1、使用Java写爬虫，常见的网页解析和提取方法有两种：利用开源Jar包Jsoup和正则。一般来说，Jsoup就可以解决问题，极少出现Jsoup不能解析和提取的情况。Jsoup强大功能，使得解析和提取异常简单。知乎爬虫采用的就是Jsoup。
成都创新互联公司专注于企业成都全网营销推广、网站重做改版、涟水网站定制设计、自适应品牌网站建设、html5、电子商务商城网站建设、集团公司官网建设、外贸网站制作、高端网站制作、响应式网页设计等建站业务，价格优惠性价比高，为涟水等各大城市提供网站开发制作服务。
2、原理即是保存cookie数据保存登陆后的cookie.以后每次抓取页面把cookie在头部信息里面发送过去。系统是根据cookie来判断用户的。有了cookie就有了登录状态，以后的访问都是基于这个cookie对应的用户的。
3、普通的网页直接用httpclient封装的API就可以获取网页HTML了，然后 JSoup、正则 提取内容。若网站有反爬虫机制的，会需要构造User-Agent 伪装浏览器； 若有需要登录的，会传入cookie进去。
1、//isUrlAlreadyVisited：URL是否访问过，大型的搜索引擎往往采用BloomFilter进行排重，这里简单使用HashMap //isDepthAcceptable：是否达到指定的深度上限。爬虫一般采取广度优先的方式。
2、你可以简单的使用httpclient发送get/post请求，获取结果，然后使用截取字符串、正则表达式获取想要的内容。或者使用像Jsoup/crawler4j等这些已经封装好的类库，更方便的爬取信息。
3、WebSPHINX WebSPHINX是一个Java类包和Web爬虫的交互式开发环境。Web爬虫(也叫作机器人或蜘蛛)是可以自动浏览与处理Web页面的程序。WebSPHINX由两部分组成：爬虫工作平台和WebSPHINX类包。
4、普通的网页直接用httpclient封装的API就可以获取网页HTML了，然后 JSoup、正则 提取内容。若网站有反爬虫机制的，会需要构造User-Agent 伪装浏览器； 若有需要登录的，会传入cookie进去。
5、原理即是保存cookie数据保存登陆后的cookie.以后每次抓取页面把cookie在头部信息里面发送过去。系统是根据cookie来判断用户的。有了cookie就有了登录状态，以后的访问都是基于这个cookie对应的用户的。
6、我主要使用Jsoup解析，获取源码有时候使用Jsoup，比较复杂的时候比如需要换ip，改编码或者模拟登陆的时候使用HttpClient，以下是抓取开源中国新闻的一段代码，可以运行。
需要先用img标签的正则表达式匹配获取到img标签，再用src属性的正则表达式获取这个img标签中的src属性的图片url，然后再通过缓冲输入流对象读取到这个图片url的图片信息，配合文件输出流将读到的图片信息写入到本地即可。
爬虫的原理其实就是获取到网页内容，然后对其进行解析。只不过获取的网页、解析内容的方式多种多样而已。你可以简单的使用httpclient发送get/post请求，获取结果，然后使用截取字符串、正则表达式获取想要的内容。
第1行建立一个URL物件，带入参数为想要建立HTTP连线的目的地，例如网站的网址。 第2行建立一个HttpURLConnection物件，并利用URL的openConnection()来建立连线。
一般爬虫都不会抓登录以后的页面，如果你只是临时抓某个站，可以模拟登录，然后拿到登录以后的Cookies，再去请求相关的页面。
如Python的BeautifulSoup库），解析网页源代码，找到想要爬取的文字所在的HTML标签。提取文字：获取HTML标签的文本内容，即为所要爬取的文字。保存结果：将爬取的文字保存到文件中或数据库中，以便后续使用。
使用jsoup解析到这个url就行，dom结构如下：look-inside-cover类只有一个，所以直接找到这个img元素，获取src属性，就可以获取到图片路径。