Java如何使用PaddleNLP paddle java

转载

mob64ca1405a060 2024-01-04 14:55:56

文章标签 Java如何使用PaddleNLP java 编程语言程序员程序人生 文章分类 Java 后端开发

Java如何使用PaddleNLP paddle java_Java如何使用PaddleNLP

自从飞桨框架 2.0 发布以来，一直有用户期待什么时候能够帮助 Java 用户更便捷高效完成他们的部署任务。在过去，我们往往需要自己部署一台 Model Server 来做这个事情。但是，无论是维护方面，还是速度方面，很多时候都没有办法达到预期。现在，我们联手 DeepJavaLibrary（以下简称为 DJL）—— 一个基于 Java 的深度学习开发包，提供了一套飞桨 Java 推理 API。

DJL x Paddle 是一个基于飞桨 C++ 推理库的轻量级 Java 推理库，它支持基本的飞桨 Tensor，并可以用来对所有飞桨模型进行推理。DJL x Paddle 可以直接在 Windows、Linux 和 Mac 操作系统，以及所有的 Java 环境中使用。

目前，我们为用户提供了两个基本的使用样例:

基于飞桨的口罩识别应用
基于 PaddleOCR 的文字识别应用

从性能角度上来说，DJL x Paddle 集成了飞桨的高速推理引擎，同时加入了所有 Java 的特性，包括高效的内存管理以及多线程推理。这样可以满足生产环境中大规模推理应用服务的需求。同时，它可以和现有的大数据平台集成，例如 Apache Spark，实现离线大数据推理服务。飞桨的预训练模型应用工具 PaddleHub 提供了很多产业实践应用案例，您可以直接通过我们的 Paddle 模型转换教程，轻松地将应用部署在您的 Java 服务上。为了更好地展示它的强大之处，让我们来看一则小故事吧。

Paddle 模型转换教程链接：

http://docs.djl.ai/docs/paddlepaddle/how_to_create_paddlepaddle_model_zh.html

一个小故事

Java如何使用PaddleNLP paddle java_程序人生_02

Aaron 是一名 Boss，负责一家位于田纳西州的冷冻炸鸡加工厂。最近，他一直因为工人不戴口罩进厂工作而苦恼。为了保护员工的健康，他在厂子门前安装了摄像头。这样，他就可以在每次上班的时候，监督工人佩戴口罩的情况，只有戴上口罩才能入内。

Java如何使用PaddleNLP paddle java_Java如何使用PaddleNLP_03

可是，因为人流量众多，他们需要时时刻刻去盯着屏幕来判断是否要让工人进来。这样不仅十分不方便，还让工人因为人工筛查耽误时间变得焦躁。于是乎，Aaron 就想：有没有什么办法能够将这个过程自动化，比如摄像头自动识别客人是否戴了口罩，然后自动将他们放进工厂？本科期间，他学过一点 Java，工厂的网页后端也是自己用 Java 写的。他在网上搜索，有没有什么 Java 的方法能够解决这个问题。此时，DJL 就出现在了眼前。对于 Aaron 来说，他并不了解 AI，只是想找到一个现成的方法解决这个问题。

Java如何使用PaddleNLP paddle java_程序员_04

Aaron 在 DJL 提供的案例里找到了基于飞桨的口罩识别应用模型！虽然飞桨和 DJL 都不曾听说过，但是代码看起来很简单，只需要稍作改动就可以完成任务。对于 Aaron 来说，这个模型可以进行面部识别，还能判断是否戴了口罩，完全满足了他的需求！

Java如何使用PaddleNLP paddle java_编程语言_05

心动不如行动，他开始尝试直接使用这里所介绍的步骤完成他的口罩识别应用。首先，他需要引入 DJL 相关的依赖项至 Gradle（Java 中常用的构建工具）里:

dependencies {
  implementation "ai.djl:api:0.10.0"
  implementation "ai.djl.paddlepaddle:paddlepaddle-model-zoo:0.10.0"
  runtimeOnly "ai.djl.paddlepaddle:paddlepaddle-native-auto:2.0.0"
}

之后，直接导入图片：

String url = "/user/home/my_client.jpg";
Image img = ImageFactory.getInstance().fromUrl(url);

Java如何使用PaddleNLP paddle java_java_06

Aaron 发现，DJL 直接把模型和前后处理都封装好了。而后，只需要下面这些代码，就可以直接导入模型并且用来推理。首先，使用第一个模型，用以寻找人脸:

Map<String, String> filter = new ConcurrentHashMap<>();
filter.put("flavor", "server");

ZooModel<Image, DetectedObjects> model =
                PpModelZoo.FACE_DETECTION.loadModel(filter, null, new ProgressBar());

Predictor<Image, DetectedObjects> predictor = model.newPredictor();
DetectedObjects obj = predictor.predict(img);

之后只需要将推理结果映射到图片上即可：

Java如何使用PaddleNLP paddle java_程序员_07

Aaron 心想：“WOW，两个人脸都识别出来了。不对，等一下，它只找到了人脸，但是我们如何判断他们有没有戴口罩呢？” 他继续往下看发现，原来还有一个模型需要使用，人们仅通过输入一张图片，就能判断是否戴了口罩：

Map<String, String> filter = new ConcurrentHashMap<>();
filter.put("flavor", "server");
ZooModel<Image, Classifications> model =
        PpModelZoo.MASK_DETECTION.loadModel(filter, null, new ProgressBar());
Predictor<Image, DetectedObjects> predictor = model.newPredictor();
Classifications result = predictor.predict(img);

“那就试试看？”Aaron 嘀咕着。他把每张面部的推理结果映射到图片试试看：

Java如何使用PaddleNLP paddle java_java_08