本帖最后由 iory 于 2021-2-28 17:47 编辑

万兆内网的建设继续进行,之前交换机的网络设备:

https://koolshare.cn/thread-191487-1-1.html

本次说说服务器部分,万兆网络环境下的服务器处理能力也大幅提高,具体表现如下:

1、主路由性能千兆拨号万兆内网;

2、下载主机可千兆满速持续下载;

3、存储主机组多盘阵列万兆在线;

4、数据备份主机万兆离线;

5、其他一些功能性主机;

这些功能主机,经过多次的验证和爬坑总算稳定下来,接下来就分析并分享给大家。

首先是功能主机,都用裸机搭建虽然相互影响最小,但比较占空间,就用虚拟化平台吧,虚拟主机主要硬件如下:

1、2U的机箱1U的电源,需要较好的散热能力,并且可以内置SSD盘;

2、主板是X10SRL-F,CPU是E5-2683v4,内存是64G的DDR4带ECC;

3、扩展卡包括H730阵列卡,2块82599网卡,1块X550T2网卡;

4、7块SSD,2块240G和4块960G的SATA盘,1块256G的nvme盘;

再是存储主机,DS1819+继续服役,增购机架NAS机箱自己搭建:

1、3U16盘位机箱ATX电源,短NAS机箱太少了,收的二手;

2、主板是X10SLM-F,CPU是E3-1271v3,内存是32G的DDR3带ECC;

3、扩展卡是ASR-71605阵列卡,网卡是X550T1;

4、8块8T企业SATA盘,10块8T企业SAS盘,4块3T监控SATA盘;

以上配件前后用了一年时间才完全定下来,接下来就说说我的搭建过程:

1、虚拟化平台首选ESXI,我从6.5到7.0统统试过,既要保证直通,又要实现SR-IOV,为此还更换了多个网卡和阵列卡,最终7.0u1c稳定无问题,安装于2U虚拟主机当中,7个扩展槽位,32个线程,6个万兆口和2个千兆口,其中一个千兆口用于ESXI管理;

2、主路由,用虚拟主机实现,分配4c4G,千兆+万兆,千兆用来链接光猫拨号(光猫TL-EP110),万兆连接内网,千兆口直通主板集成的i210,万兆口用直通82599光口连接ST5416三层交换机,平时负载非常低,千兆满速(100MB+)BT下载的情况下,内网其他终端仍然可正常上网和在线流媒体,此时路由负载不超过30%;

ps.用过N3700的某马软路由,某域工控的i5-4200Y成品小主机,都能满足主要功能,但要扩展比较复杂,有兴趣可以参考我以前的帖子;

3、出国,也用虚拟主机实现,分配2c2G,万兆口用直通82599光口连接C2960L交换机,负载非常低,速度取决于机场;

4、下载机,也用虚拟主机实现,分配8c16G,万兆口用直通82599光口连接ST5416三层交换机,配置盘用主板直通的一块240G盘,数据盘用直通的H730阵列卡+4块960G组成的RAID0,阵列卡带1G缓存和电池,在满速下载的时候,数据盘读写负载比较低,但CPU负责超过50%,内存缓冲占用达到14G,2天总计下载超过6T数据,如果降低虚拟机的配置,将使下载机响应变慢,下载速度不稳定;

5、win10,安装到虚拟机,分配4c8G,万兆口用直通82599光口连接ST5416三层交换机,主要用于一些无法在linux下完成的任务,比如某度盘,115盘等;

6、种子机,用虚拟机实现,4c8G,万兆口用直通X550电口连接ST5416三层交换机,养PT用,兼职NAS的共享中转;

7、虚拟主机剩余资源待后续需要时使用。

8、存储主机,实体机安装,系统最终选了TrueNAS12u2,之前用过黑裙、openwrt+存储相关组件、win10存储池,我的经验是:黑裙的btrfs还不是很成熟至今未合并到Linux主线内核;openwrt可做超轻量级存储,但代码更新快,操作界面不友好;win10的自身资源占用不低且Bug10的更新可不是闹着玩的;本来想试试unRAID,一是我存储主机上没有虚拟化需求,再就是它的性能浪费了我的万兆内网;TrueNAS基于FreeBSD,属于UNIX分支,从我的工作经历看,UNIX的稳定性是最好的,至少是不输Linux的,加上ZFS的文件系统能及时发现数据静默错误,做存储主机还是非常理想的;

磁盘分配上,4x3T做R0,分配给种子机养PT用;10x8T做R0,做在线盘,用于存储各种数据和影音文件,共享给家里各个机顶盒、播放器、PC和其他终端;8x8T做R0装在DS1819+上,用于离线数据备份,定期与TrueNAS同步数据;

后续可能会再搞个家庭安防系统,不过好用且免费的人脸识别系统难搞