# Python中的同步与异步 gRPC
## 引言
随着微服务架构的普及，Remote Procedure Call（RPC）技术在现代分布式系统中变得尤为重要。gRPC（Google Remote Procedure Call）是一个高效的开源RPC框架，采用HTTP/2协议，支持多种语言，包括Python。在gRPC中，客户端可以以同步或异步的方式与服务器进行通信，这一特性使得在不同应用
线程中 有四个概念比较重要，阻塞， 非阻塞， 同步 ，异步阻塞： 就是只有当阻塞的程序运行完了，你才能结束，它不完成你就一定要等待 直到结束后，你再结束，前面我们介绍的线程或者 进程的 join() , 他们也是等待 子线程或者 子进程完成之后 才能结束。非阻塞： 他们的线程或者进程之间没有关系， 根本没有线程或者主进程 等待之说，也有可能主线程结束了，你也没有结束，直接中断子线程的运行。同步：
转载
2023-10-20 15:49:28
60阅读
1、tritonserver支持的协议tritonserver成功将模型serve后，client端可以通过http或grpc协议请求到server端部署的模型，而对于grpc通信方式，系统选择了其异步模式，选择这种模式的原因主要有：高并发：gRPC的异步模式允许服务器同时处理多个客户端请求，而不会因等待某个请求的响应而阻塞其他请求的处理。这使得TritonServer能够充分利用系统资源，提高并
目录1. 常用的服务调用方式1.1 同步服务调用1.2 并行服务调用1.3 异步服务调用2. 服务调用的一些误区和典型问题2.1 理解误区2.1.1 I/O 异步服务就是异步2.1.2 服务调用天生就是同步的2.1.3 异步服务调用性能更高2.2 Restful API 的潜在性能风险2.2.1 HTTP1.X 的性能问题2.2.2 异步非阻塞 I/O 的 HTTP 协议栈3. gRPC 服务调用
转载
2024-03-15 15:42:36
360阅读
目录1、编写proto文件，定义服务2、编译proto文件，生成代码3、编写服务端代码server.cpp 代码编译4、编写客户端代码client.cpp代码5、简单测试一下已经折腾grpc几天了，也基本搞明白了怎么用，这里做一个简单的记录，以便日后需要的时候有个参考。按照顺序，先写同步服务的简单实例，然后写异步服务的，最后写4中服务类型的使用。grpc源码的example目录下都有相关的实例，但
转载
2024-01-15 08:26:04
229阅读
一、AsyncTask的介绍与使用AsyncTask可以让程序进行异步工作，它在一个线程中执行某些操作，之后将结果返回给UI线程。使用AsyncTask类时，需要继承AsyncTask类并实现doInBackground()回调方法。要更新UI界面，需要实现onPostExecute()，并从doInBackground()方法中获得结果，最后，可以在UI线程中调用execute()方法来执行操作
转载
2023-07-09 21:09:19
94阅读
图源：unsplash异步编程是并行编程的一种方式。单个工作单元独立于主应用程序线程运行，并通知调用线程其完成、失败情况或进度。下面这张图理解起来会更直观一些：同步vs异步同步编程很普遍。如图，请求1被发出后等待响应1；一旦得到响应1就发出请求2，然后等待它的响应。在上面的代码中，向函数传递参数“a”后等待函数返回更改后的值，然后再次调用以更改数字，最后再次得到响应，这就是同步编程。而对于异步编程
转载
2023-08-15 14:51:42
127阅读
同步与异步同步与异步阻塞与非阻塞程序在运行中表现的状态分为三种：阻塞、运行、就绪阻塞：程序遇到IO阻塞。程序遇到IO阻塞会立马挂起，CPU马上切换，等到IO结束之后，再执行。非阻塞：程序没有IO或者遇到IO通过某种手段让CPU去执行其他任务，尽可能的占用CPU。同步与异步从线程发布任务的角度来讲：同步：任务发出去之后，等待，直到这个任务最终结束之后，给我一个返回值，在发布下一个任务。from co
转载
2023-08-08 22:50:55
197阅读
什么是异步编程？我们先来看看到底什么是异步。提到异步就不得不提另外一个概念：同步。那什么又叫同步呢？很多初学者在刚接触这个概念时会想当然的认为同步就是同时进行。显然，这样的理解是错误的，咱不能按字面意思去理解它。同步，英文全称叫做Synchronization。它是指同一时间只能做一件事，也就是说一件事情做完了才能做另外一件事。比如咱们去火车站买票，假设窗口只有1个，那么同一时间只能处理1个人的购
转载
2023-08-21 16:40:12
95阅读
由于request本身只能发送同步的请求，因此我们使用支持异步的httpx来访问网站，对比同步与异步的写法，用同步与异步的方法循环访问一个网站列表啊~没错，异步操作需要函数/三方库本身支持异步，这就是为什么上一节中使用await asyncio.sleep(1)，而不是await time.sleep(1)httpx官方文档：https://www.python-httpx.org/
httpx异
转载
2024-04-23 14:55:53
158阅读
同步是指：当程序1调用程序2时，程序1停下不动，直到程序2完成回到程序1来，程序1才继续执行下去。 异步是指：当程序1调用程序2时，程序1径自继续自己的下一个动作，不受程序2的的影响。同步是指：发送方发出数据后，等接收方发回响应以后才发下一个数据包的通讯方式。 异步是指：发送方发出数据后，不等接收方发回响应，接着发送下个数据包的通讯方式。举个不太恰当的例子,就像: SendMessage(…)
转载
2024-09-24 14:03:17
16阅读
你是否听到人们说过，异步 Python 代码比“普通(或同步)Python 代码更快？果真是那样吗？1 “同步”和“异步”是什么意思？Web 应用程序通常要处理许多请求，这些请求在很短的时间段内来自不同的客户端。为避免处理延迟，必须考虑并行处理多个请求，这通常称为“并发”。在本文中，我将继续使用 Web 应用程序作为例子，但是要记住还有其它类型的应用程序也从并发完成多个任务中获益，因此这个讨论并不
转载
2024-03-05 21:31:01
59阅读
# Python 异步 gRPC 科普
## 引言
随着互联网的发展，微服务架构和分布式系统越来越受到青睐。为支持这些结构，gRPC（Google的远程过程调用框架）成为了一个极具吸引力的选择，因为它支持多种语言且提供高性能传输。在Python中，gRPC还支持异步调用，使得编写高效的网络应用程序变得简便起来。
## 什么是 gRPC？
gRPC是一种高性能、开源的遥控过程调用（RPC）框
原创
2024-10-11 10:44:07
143阅读
# Python 异步 gRPC 实现的科普文章
在现代软件开发中，随着对性能和可扩展性要求的提高，异步编程逐渐成为主流。而 gRPC（Google Remote Procedure Call）是一种高性能、开源的远程过程调用框架，广泛用于微服务架构中。本文将介绍如何在 Python 中实现异步 gRPC。
## 什么是 gRPC？
gRPC 是一种高效的、语言无关的远程过程调用 (RPC)
原创
2024-09-25 04:25:55
82阅读
简单介绍一下rpcRPC是Remote Procedure Call的简称，中文叫远程过程调用。说的白话一点，可以这么理解：现在有两台服务器A和B。部署在A服务器上的应用，想调用部署在B服务器上的另一个应用提供的方法，由于不在一个内存空间，不能直接调用，需要通过网络来达到调用的效果。现在，我们在A服务的一个本地方法中封装调用B的逻辑，然后只需要在本地使用这个方法，就达到了调用B的效果。对使用者来说
转载
2023-07-12 01:12:30
283阅读
基于gRPC官方C++异步服务端与客户端示例代码的解读，附带详细的代码注释
对于同步API而言，程序的吞吐量并不高。因为在每次发送一个gRPC请求时，会阻塞整个线程，必须等待服务端的ack回到客户端才能继续运行或者发送下一个请求，因此异步API是提升程序吞吐量的必要手段。gRPC异步操作依赖于完成队列CompletionQueue
官网教程：https:
转载
2023-11-21 18:32:39
233阅读
同步和异步同步：调用一个函数，返回结果是自己去获取的，不管是阻塞还是非阻塞异步：调用一个函数，返回结果是别人通过通知、回调等方式给你的在IO操作的过程中，当前线程被挂起，而其他需要CPU执行的代码就无法被当前线程执行了。多线程和多进程虽然解决了并发问题，但是系统不能无上限的增加线程，由于系统切换线程的开销也很大，所以，一旦线程数量过多，CPU的时间就花在线程切换上了，会导致性能下降。为了解决CPU
转载
2023-07-12 01:25:21
349阅读
在本文中，我会详细解释异步是什么以及它与普通 Python 代码有什么不同。你是否听人们说过，异步 Python 代码比“普通(或同步)Python 代码更快？果真是那样吗？1. “同步”和“异步”是什么意思？Web 应用程序通常要处理许多请求，这些请求在短时间内来自不同的客户端。为避免处理延迟，必须考虑并行处理多个请求，这通常称为“并发”。在本文中，我将继续使用 Web 应用程序作为例子，但还有
转载
2023-08-02 08:43:09
81阅读
## Python 同步和异步 await
### 简介
在 Python 中，同步和异步是开发中常用的概念。同步指的是代码按照顺序执行，每一个操作完成后再执行下一个操作。而异步则是指可以在执行某个操作的同时继续执行其他操作，不需要等待当前操作完成。
Python 提供了 `async` 和 `await` 关键字来支持异步操作。`async` 用于定义一个异步函数，而 `await` 用于等
原创
2023-11-26 04:01:46
61阅读
gRPC 1.0的正式发布，正好赶上我们新项目的开始。出于Google的招牌以及“1.0”所代表的信心，在阅读了其特性列表，确定能够满足项目需求的情况下，我们哼哧哼哧的用上了。在gRPC之前，我在实际项目中大规模使用的是ZeroC出品的ICE，那是一个功能非常丰富、文档和工具也非常完备的RPC框架。不过一方面其是商业产品，虽然源代码开放，但是用于商用需要支付一笔不菲的费用；另一方面，由于功能特性很
转载
2024-02-26 14:09:54
218阅读
