最近一直想面对大规模程序时,如何提高运算速度,100个怪物循环100次没有问题,但是处理的过程会特别庞大,所以考虑到使用多线程,unity的单线程,而unity自带的dots系统也不知道什么时候成熟,不想造轮子所以jobsystem真心不想用,在网上偶然间看到了一个关于鸟群算法对Computeshader的使用,查阅了很多资料后终于暂时入门:简单说就是在显卡上扣出一部分性能给游戏的数值做运算。
首先转载一张经典的图和某位原作者的话:
个人理解:
numthreads 定义了一个三维的线程结构
如果我们在程序的Dispatch接口发送了(5,3,2)这样的结构,就会生成5x3x2个线程组,其中每个组的线程结构由ComputeShader中的numthreads定义,图中numthreads定义了10x8x3的三维结构,由此,我们可以分析4个HLSL关键词的定义。
- SV_GroupThreadID 表示该线程在该组内的位置
- SV_GroupID 表示整个组所分配的位置
- SV_DispatchThreadID 表示该线程在所有组的线程中的位置
- SV_GroupIndex 表示该线程在该组内的索引
我自己的表述:
如果我们有一个长度为20的数组需要处理,为了同时处理者10000个数据,我们需要向显卡申请至少10000个线程,此时就可以申请10000个线程,但是呢这10000个线程太大了,所以呢,把这10000个线程的布局成一个2维数组,但是这个二位数组还是太大,所以呢就把这个二维数组再次切割成一个1维数组,这样整个表就切割成了一个3维数组;但是呢这个三维数组还是太大,以一个三维索引R范围为单元,再次按照上面的方法再切割成一个三维数组G,结果就是三维单元R就是numthreads(x,y,z),而三维数组G就是Dispatch(x,y,z)。这里也利于理解,因为显卡的处理单元过于庞大,已经超过了一个数组索引的范围,或者显卡的设计就是以层层阵列的方式制作的,因此这种超维度结构可以更好的索引到需要的资源,而它申请索引的时候完全是靠数字电路硬件获取(学过计算机电子的都知道)。另外这样分块的好处将在下面的例子中提到。
所以再次对上面的索引做出解释:
- SV_GroupThreadID 表示该线程在该组内的位置----------即这个三维单元内的单元数组空间中索引
- SV_GroupID 表示整个组所分配的位置----------即该线程所在的组在组空间中的索引
- SV_DispatchThreadID 表示该线程在所有组的线程中的位置----------即不将整个三维单元分组的情况下的三维索引
- SV_GroupIndex 表示该线程在该组内的索引----------即这个三维单元内的数组转换成一个一维数组时所在的索引
例子:
对一个结构体数组内的所有结构内的数乘以2:
C#代码:
using System.Collections;
using System.Collections.Generic;
using System.Diagnostics;
using UnityEngine;
public class MyFirstComputeShader : MonoBehaviour
{
public ComputeShader computeShader = null;
data[] inputDatas = new data[3];//输入数组
data[] outputDatas = new data[3];//结果数组
struct data
{
public float a;
public float b;
public float c;
}
private void InitData()
{
inputDatas = new data[3];
outputDatas = new data[3];
UnityEngine.Debug.Log("---------------cpu输入------------------------");
for(int i = 0; i < inputDatas.Length; i++)
{
inputDatas[i].a = i * 3 + 1;
inputDatas[i].b = i * 3 + 2;
inputDatas[i].c = i * 3 + 3;
UnityEngine.Debug.Log(inputDatas[i].a + "," + inputDatas[i].b + "," + inputDatas[i].c);
}
}
private void ToComputeShader(ref data[] i,ref data[] o)
{
//data 数据里面float*3,而一个float的字节为4字节,所以3*4
ComputeBuffer inputBuffer = new ComputeBuffer(i.Length, 12);
ComputeBuffer outputBuffer = new ComputeBuffer(o.Length, 12);
//拿到核心
int k = computeShader.FindKernel("CSMain");
inputBuffer.SetData(i);
//写入gpu
computeShader.SetBuffer(k, "inputDatas", inputBuffer);
computeShader.SetBuffer(k, "outputDatas", outputBuffer);
//计算再输出到cpu
computeShader.Dispatch(k, 1, 1, 1);
outputBuffer.GetData(o);
UnityEngine.Debug.Log("---------------gpu输出------------------------");
for(int j = 0; j < o.Length; j++)
{
UnityEngine.Debug.Log(o[j].a + "," + o[j].b + "," + o[j].c);
}
//释放内存
inputBuffer.Release();
outputBuffer.Release();
}
private void Update()
{
if (!Input.GetKeyDown(KeyCode.Space))
return;
Stopwatch sw = new Stopwatch();
sw.Start(); //计时器开始
InitData();
ToComputeShader(ref inputDatas,ref outputDatas);
sw.Stop(); //计时器结束
UnityEngine.Debug.Log(sw.Elapsed); //开始到结束之间的时长
}
}
computeShader代码:
// Each #kernel tells which function to compile; you can have many kernels
#pragma kernel CSMain
struct data
{
float a;
float b;
float c;
};
//(cpu->gpu)
StructuredBuffer<data> inputDatas;
//(gpu->cpu)
RWStructuredBuffer<data> outputDatas;
//[numthreads(3,1,1)]
//void CSMain (uint3 id : SV_DispatchThreadID)
//{
// //if (id > 2)return;
// //计算一下
// outputDatas[id.x].a = inputDatas[id.x].a * 2;
// outputDatas[id.x].b = inputDatas[id.x].b * 2;
// outputDatas[id.x].c = inputDatas[id.x].c * 2;
//}
[numthreads(3, 1, 1)]
void CSMain(uint id : SV_GroupIndex)
{
//计算一下
outputDatas[id].a = inputDatas[id].a * 2;
outputDatas[id].b = inputDatas[id].b * 2;
outputDatas[id].c = inputDatas[id].c * 2;
}
结果如下:
因为我的数组长度是3,而numthreads(3,1,1),因此Dispatch(1,1,1),即申请了一个组,并且这个组内有3个线程。这里可以改进为numthreads(1,1,1),而dispatch(n,1,1),这样n的大小就是总的线程数量。关于这个问题以及常常出现的误区和某位仁兄讨论过如下:
解决:
其实本质就是我们申请到的是整个组区域中的所有线程,因此我们应该处理一下线程id超出的情况(貌似是难免的,当数组的不整齐的时候,就会有多余的线程出现),但是不知道为什么,显卡处理程序的时候,索引值超过缓存的长度也不会报错。
当要处理一个图片的时候比如图片大小是1024*1024,那么可以(512*2,512*2,1),即numthreads(2,2,1);dispatch(512,512,1);