将 JavaScript 嵌入到 Rust 中|用 WasmEdge 运行 JavaScript

转载

Rust语言中文社区 2022-06-29 08:46:21

文章标签 javascript tensorflow 应用程序 文章分类 后端开发

WasmEdge 将 Rust 强大的性能和 JavaScript 的简单易用完美结合在一起。

在之前的文章中，我们讨论了如何在 WebAssembly 沙箱中运行 JavaScript 程序。WasmEdge runtime 为云原生 JavaScript 应用程序提供了一个轻量级、高性能且符合 OCI 标准的“容器”。

然而，JavaScript 是一种“慢”语言。使用 JavaScript 的原因主要是因为它用起来很容易，开发者生产力高，对初学者来说尤其如此。另一方面，WebAssembly 能够运行用 Rust 等语言编写的高性能应用程序。有没有结合 JavaScript 和 Rust 的解决方案？WasmEdge 给出了两全其美的答案。

有了 WasmEdge 和 QuickJS^[1]，开发者就可以完美搭配这两个最强大的语言来创造应用程序。就像下面这样：

该应用程序本身是用 Rust 写的并被编译成了 WebAssembly。它可以作为单个 wasm 字节码文件进行编译和部署。它可以由符合 OCI 的容器工具管理，如 Docker Hub、CRI-O 和 k8s。
JavaScript 程序嵌入在 Rust 应用程序中。Rust 程序可以在编译时包含JavaScript 源代码，也可以在 runtime 通过文件、STDIN、网络请求甚至函数调用引入JS。这样一来 JavaScript 程序可以由与Rust 程序不同的开发者编写。
Rust 程序可以处理应用程序中的计算密集型任务，而 JavaScript 程序可以处理“业务逻辑”。例如，Rust 程序可以为 JavaScript 程序准备数据。

接下来，让我们看几个示例。所有示例都在 wasmedge-quickjs^[2] repo 的 embed_in_rust 分支中。

$ git clone https://github.com/second-state/wasmedge-quickjs
$ git checkout embed_in_rust

确保你已经安装 Rust^[3] 和 WasmEdge^[4]，这样才能构建和运行本文中的示例。

Hello WasmEdge

main.rs^[5] 中的以下 Rust 程序在编译时嵌入了一个 JavaScript 程序。

pub mod quickjs_sys;

... ...

fn main() {
    use quickjs_sys as q;
    let mut ctx = q::Context::new();
    // include js code
    let code = include_str!("../example_js/demo.js");
    // get args and set into quickjs
    let mut res_args = args_parse();
    res_args.insert(0, "<embedded_no_filename>".to_string());
    ctx.put_args(res_args);
    // run js code
    ctx.eval_str(code, "");
}

example_js/demo.js^[6] 代码如下。

import * as std from 'std';

print('hello')
print('args:',...args)

//write fs
let wf = std.open('demo.txt','w')
wf.puts('hello quickjs')
wf.close()

//read fs
let rf = std.open('demo.txt','r')
let r = rf.getline()
print(r)
rf.close()

你可以将 Rust + JavaScript 应用程序构建到单个 WebAssembly 字节码程序中。

$ cargo build --target wasm32-wasi --release

运行它，就看到打印到控制台的结果了。

$ cd example_js
$ wasmedge --dir .:. ../target/wasm32-wasi/release/quickjs-rs-wasi.wasm

就是这样。Rust 代码可以通过传递参数甚至直接修改包含的 JavaScript 源代码，将数据传递到 JavaScript 代码中。JavaScript 代码还可以通过写入临时文件来返回值。

使用嵌入式 JavaScript 进行图片识别

你可以修改 main.rs^[7] 中的 Rust 程序以嵌入不同的 JavaScript 程序。在下面的示例中，让我们更改为

`pub mod quickjs_sys;

... ...

fn main() {
    ... ...
    let code = include_str!("../example_js/tensorflow_lite_demo/main.js");
    ... ...
    ctx.eval_str(code, "");
}`

main.js^[8] 代码使用 WasmEdge Tensorflow 扩展的 JavaScript API 来调用 ImageNet 读取和识别图像模型。

import {TensorflowLiteSession} from 'tensorflow_lite'
import {Image} from 'image'

let img = new Image('./example_js/tensorflow_lite_demo/food.jpg')
let img_rgb = img.to_rgb().resize(192,192)
let rgb_pix = img_rgb.pixels()

let session = new TensorflowLiteSession('./example_js/tensorflow_lite_demo/lite-model_aiy_vision_classifier_food_V1_1.tflite')
session.add_input('input',rgb_pix)
session.run()
let output = session.get_output('MobilenetV1/Predictions/Softmax');
let output_view = new Uint8Array(output)
let max = 0;
let max_idx = 0;
for (var i in output_view){
    let v = output_view[i]
    if(v>max){
        max = v;
        max_idx = i;
    }
}
print('label index:',max_idx,'\nconfidence:',max/255)

你可以将 Rust + JavaScript 应用程序构建到单个 WebAssembly 字节码程序中。注意 --features=tensorflow 标志，它要求 Rust 编译器使用 WasmEdge TensorFlow 扩展 API。

$ cargo build --target wasm32-wasi --release --features=tensorflow

运行并查看打印到控制台的结果。

$ cd example_js/tensorflow_lite_demo
$ wasmedge --dir .:. ../../target/wasm32-wasi/release/quickjs-rs-wasi.wasm

让运行变得更快

运行上面的 Tensorflow 推理示例需要花费 1-2 秒。这在 Web 应用场景中是可以接受的，但还能改进。在上篇文章中，我们提过由于其 AOT（提前编译器）优化，WasmEdge 是当前速度最快的 WebAssembly runtime。WasmEdge 提供了一个 wasmedgec 实用程序来将 wasm 文件编译为原生的 so 共享库。你可以使用 wasmedge 来运行 so 文件而不是 wasm 文件以获得更快的性能。

下面的例子使用了 wasmedge 和 wasmedgec 的扩展版本来支持 WasmEdge Tensorflow 扩展。

$ cd example_js/tensorflow_lite_demo
$ wasmedgec-tensorflow ../../target/wasm32-wasi/release/quickjs-rs-wasi.wasm quickjs-rs-wasi.so
$ wasmedge-tensorflow-lite --dir .:. quickjs-rs-wasi.so

你可以看到图像分类任务可以在 0.1 秒内完成。这至少是 10 倍的改进！