java通过url读取远程数据并保持到本地的实例代码_Java教程

java通过url读取远程数据并保持到本地的实例代码

2021-05-12 15:51狐狈筱筱生 Java教程

本文通过实例代码给大家介绍了java通过url读取远程数据并保持到本地的方法，本文给大家介绍的非常详细，具有一定的参考借鉴价值，需要的朋友可以参考下

前几天老姐突然告诉我，她在jd上买了本电子图书，如何买完发现，只能在线或者使用它自己的阅读器看，很不方便，让我给想想办法。

如何我就开始琢磨，最开始，我直接使用acrobat reader打开，发现只有目录，没有其他，而且页面上面的都存在，我想可能在正确的内容上增加了一块蒙版，只能用"钥匙"的人可以过滤它，要破解别人的编辑器，短时间肯定是不行的的，网上也有很多人想到的是使用自动化脚本去自动对官方阅读器截图，但是我发现，截图不是一页一页的，这就很懵逼了。最后只能通过在线阅读这条线来想办法。

这个办法和网友的类似，都是保存为图片，如何通过pdf工具制作成pdf。

在线阅读惊奇发现，文档真好，一页一张图片，它已经给你做好，只是每次只更新出当前页的前后几张，其他的会被清除。到这里，思路就有了：

跳转到第n页
拉取刷新出来的额图片路径
保存图片路径到缓存(我使用的是redis)
通过网络工具类，将缓存中的图片地址全部下载到本地本次为图片
将图片通过pdf工作转为pdf

第1步到第3步需要重复，可以使用自动工具和脚本来实现。

第4步写个控制器就可以了，最简单的java接口就行。

第5步直接网上在线服务就可以实现。

为什么需要先缓存在下载咧，这里涉及到一个效率与图片去重和过滤的问题，因为每次调整后获取的图片可能有重复的，存在redis的map中，自动就去重了；也是为了避免一边获取图片路径，一边下载中途异常退出等任务不能正常执行完毕等问题。然后脚本获取路径，后保存到自己的服务器，唯一的问题可能就是跨域的问题。结果发现还是少了几张图，这样就体会出使用缓存的好处了，可以直接通过代码验证少了那几张图，不用去检查jpg文件，少的文件个位数，最后通过手动补全了。

通过这种方式得到的图片，唯一缺陷就是带有"jd读书"字样和图片分辨率不是很高，字体好像带点毛脚。有强迫症或者追求高品质的，就使用官方阅读器吧，个人看了蛮清晰的，是文档，不是图片！！！

下面附上java通过url获取网络数据保存到本地的代码。

				?

									public class httpurlconnectionutil {

									// 通过get请求得到读取器响应数据的数据流

									public static inputstream getinputstreambyget(string url) {

									  try {

									    httpurlconnection conn = (httpurlconnection) new url(url)

									        .openconnection();

									    conn.setreadtimeout(5000);

									    conn.setconnecttimeout(5000);

									    conn.setrequestmethod("get");

									    if (conn.getresponsecode() == httpurlconnection.http_ok) {

									      inputstream inputstream = conn.getinputstream();

									      return inputstream;

									    }

									  } catch (ioexception e) {

									    e.printstacktrace();

									  }

									  return null;

									}

									// 将服务器响应的数据流存到本地文件

									public static void savedata(inputstream is, file file) {

									  try (bufferedinputstream bis = new bufferedinputstream(is);

									     bufferedoutputstream bos = new bufferedoutputstream(

									         new fileoutputstream(file));) {

									    byte[] buffer = new byte[1024];

									    int len = -1;

									    while ((len = bis.read(buffer)) != -1) {

									      bos.write(buffer, 0, len);

									      bos.flush();

									    }

									  } catch (ioexception e) {

									    e.printstacktrace();

									  }

									}

									}

调用：

				?

									set<string> imgnumber = (set<string>) redistemplate.opsforhash().keys(map_key);

									imgnumber.stream().foreach(e->{

									        string url = (string) redistemplate.opsforhash().get(map_key,e);

									        string filename = e+".jpg";

									        file file = new file("e:\\pdf图片\\", filename);

									        inputstream inputstream = httpurlconnectionutil

									            .getinputstreambyget(url);

									        httpurlconnectionutil.savedata(inputstream, file);

									});