PCEVA,PC绝对领域,探寻真正的电脑知识

标题: ESXi家用服务器搭建:ROS软路由篇 [打印本页]

作者: overthink    时间: 2014-10-5 09:47
标题: ESXi家用服务器搭建:ROS软路由篇
本帖最后由 overthink 于 2015-3-27 22:10 编辑

ESXi家用服务器搭建:ROS软路由篇



才不是给流水小东东写的

在我的上篇帖子里,软路由的搭建是用的Windowsserver 2012R2 + VMware  Workstation方案(http://bbs.pceva.com.cn/thread-98219-1-1.html), ATOM D410 平台的性能就很一般,跑2012R2外加VMware  Workstation跑两个虚拟机压力还是比较大的。受@nighttob 的影响,我也搭建了一套IntelS1200BTL+E3 1230V2平台(负担得起的服务器主板-Intel S1200BTL 上手分享),准备搭建家庭服务器,由于功课没做到家,一开始上的是Celeron G1620,结果后来不支持直通,家用很重要的特性没法用。后来换成了E3 1230V2,软路由自然也就迁移到这个平台上了。同时虚拟化软件也从VMware  Workstation更新为ESXI,软路由上篇使用的是m0n0wall,这次就玩一下ROS.

     本文内容仅为ESXI上运行ROS的安装,简单设置,及相关资料教程下载。不涉及ESXI的安装,ESXI的安装nightTOB已经很详细的写了,我就不重复了,ESXI安装及使用大家可以参阅:华擎Z77 EX4实战VMware ESXi及双显卡直通

为了给后来搭建的NAS节省SATA接口,我的ESXI系统是安装在TF卡里面的,因为手上有张2G的TF卡,闲置,TF读卡器也有个,正好搭配。简单跑一下ATTO,发现小文件的性能还是很强大的。嗯,这货应该是MLC颗粒。

[attach]258201[/attach]

系统存储使用的是一块STEC 400G的的SSD,在上面多开几个虚拟机空间应该也够用。


ROS是收费软件,我在网上找了个虚拟机版本,可在ESXI运行,当然也可以在VMware  Workstation中运行,仅供研究使用。

MikroTik v6.15.rar及ROS 教程
链接:http://pan.baidu.com/s/1qWO92cW 密码: b4p6
RAR解压密码:http://bbs.pceva.com.cn/



Intel S1200BTL自带两个网卡,82574L和82579LM,做软路由刚好够用,至于用哪个做LAN口,哪个做WAN口呢?根据以后网卡的使用状态来看(以后搭建的NAS和HTPC都是通过内网接口访问的),应该是内网的压力比较大,所以,性能好的网卡做LAN口比较合适。

82574L和82579LM这两个网卡哪个性能更强些?从INTEL官方网站查到的资料,应该是82574L好,属于硬网卡,包含MAC和PHY,而82579LM仅是PHY,MAC是在PCH里面,算是软网卡,高负载下CPU占用应该比82574L高。

所以,用82574L做LAN口,用82579LM做WAN口。

把82574L接到内部交换机上,把82579LM接到光纤猫上。线路连接完毕。

ESXi的网络配置如下:

[attach]258202[/attach]

82574L做内网出口,82579LM做外网出口


ROS的安装:


其实上面的压缩包是已经安装好了的ROS,我们上传到ESXI存储里,添加一下就好了。

[attach]258203[/attach]
用VMwarevSphere Client登录上去,在配置,存储器里,浏览数据存储。

[attach]258204[/attach]

点上载按钮,把ROS文件夹上传就好
[attach]258205[/attach]


[attach]258206[/attach]


搞定,在ROS6.15成功上传

[attach]258207[/attach]

最后一步,简单添加一下虚拟机就好。选中MikroTik v6.15.vmx文件,添加到清单

[attach]258208[/attach]

给ROS虚拟机起个名
[attach]258209[/attach]

这个默认就好
[attach]258210[/attach]

最后一步,点完成

[attach]258211[/attach]


添加完成了,可以在虚拟机清单里看到刚刚添加的ROS6.15
[attach]258212[/attach]


虚拟机ROS硬件配置:

由于虚拟机配置文件里只有一个网卡,我们需要手动更改一下虚拟机的硬件配置。把自带的删除掉,再手动添加两个网卡,分别把网络标签设置为82574L和82579LM。
[attach]258213[/attach]
这里可以更改虚拟机配置,内存默认是512M,家用的话设置256M也够用,默认还带一个CD,可以手动移除,点添加,再添加一个网卡,硬件部分就设置好了。

[attach]258214[/attach]

[attach]258215[/attach]

适配器类型选E1000,网络标签,我想让这个接外网,选82579LM
[attach]258216[/attach]
重复以上步骤,再添加一个网络标签为82574L的网卡。

[attach]258217[/attach]

安装及硬件设置完成。

可以启动了。

[attach]258218[/attach]

点启动虚拟机后,会跳出一个虚拟机消息,选I Copied It 就好。
[attach]258219[/attach]

启动成功
[attach]258220[/attach]
用户名:admin
密码:无

[attach]258221[/attach]

对于老鸟来说,可以使用CLI做设置了。CLI(command-lineinterface,命令行界面)  

内网IP地址设置:

对于像我这种新手来说,建议使用WINBOX通过MAC地址进行连接并进行设置。

[attach]258263[/attach]

[attach]258222[/attach]
点MAC地址,登录进去

点开Interfaces可以看到ether1有流量,这个网口就是82574L了,下面的没流量的是82579LM,接下来就是把82574L设置成内网IP地址,并把两个网口重新命名一下,以做区分。

[attach]258223[/attach]

双击ether1,把Name改成82574L,或者改成LAN,名字随便起,只要知道这个是哪个网口,做什么用的就成。同理,把下面的ether2改成82579LM,或者WAN

[attach]258224[/attach]

更改完成
[attach]258225[/attach]

IP设置在 IP Address页面

[attach]258226[/attach]


[attach]258227[/attach]
这把Address设置成192.168.0.1/24   Interface是82574L


这样内网口IP就设置好了

[attach]258228[/attach]

PPPOE拨号:

在PPP里面添加一个PPPOEClient

[attach]258229[/attach]


[attach]258230[/attach]
名称随便起一个,最下面的Interfaces要选中外网的接口,因为是用外网拨号


在Dial Out页面,把ISP给你的用户名,密码输入上。

[attach]258231[/attach]

点OK,重启路由,应该就拨号成功了,都有流量。 如果没拨成功,请重启光猫,或者检查一下用户名,密码有无输入错误。
[attach]258232[/attach]

看一下PPPOE的状态

[attach]258233[/attach]

IP地址列表
[attach]258234[/attach]

已经获得公网IP地址了,拨号成功。但是此时内网机器还是上不了网,还需要在Firewall里面简单做一下NAT设置。

找到IP Firewall
[attach]258235[/attach]

在NAT里面添加一条规则

[attach]258236[/attach]

其它页面保持默认,Action设置如下:
[attach]258237[/attach]
点OK,设置完成

[attach]258238[/attach]


因为此时没开启DHCP,需要手动设置本机的IP地址才能上网。

[attach]258239[/attach]

这样就可以上网了。

开启DHCP设置:

使用DHCP分配IP,就省得每台机器都过手动设置IP才能上网了。方法如下:

点开IP,DHCP Server
[attach]258240[/attach]

点DHCP Setup,我们是在LAN口上分配IP地址,界面选LAN口,我这是82574L
[attach]258241[/attach]

[attach]258242[/attach]

[attach]258243[/attach]


[attach]258244[/attach]
分配的IP地址范围,默认是从192.168.0.2到192.168.0.254, 这改成100到150,51个IP,应该够用了,可以根据自己的需要设置。


把DNS地址填写上。
[attach]258245[/attach]

默认就好
[attach]258246[/attach]

设置成功
[attach]258247[/attach]

把本机改成自动获取IP测试一下

[attach]258248[/attach]

成功获取到IP,192.168.0.150  上网也没有问题

[attach]258249[/attach]

简单的小包优先策略:

玩ROS的重点在QOS,附送我目前在用的一个简单的小包优先策略

[attach]258250[/attach]

  1. / ip firewall mangle
  2. add chain=prerouting p2p=all-p2p action=mark-connection new-connection-mark=p2p_conn passthrough=no comment="all-p2p" disabled=no
  3. add chain=forward connection-mark=p2p_conn action=mark-packet new-packet-mark=p2p passthrough=no comment="P2p-Packet" disabled=no
  4. add chain=forward connection-mark=!p2p_conn action=mark-packet new-packet-mark=general passthrough=yes comment="!p2p-packet" disabled=no
  5. add chain=forward packet-size=0-512 action=mark-packet new-packet-mark=small passthrough=no comment="small-packet" disabled=no
  6. add chain=forward packet-size=513-1500 action=mark-packet new-packet-mark=big passthrough=no comment="big-packet" disabled=no
  7. / queue tree
  8. add name="All-packet" parent=global packet-mark="" limit-at=0 queue=default priority=8 max-limit=0 burst-limit=0 burst-threshold=0 burst-time=0s disabled=no
  9. add name="!p2p-packet" parent=All-packet packet-mark=general limit-at=0 queue=default priority=7 max-limit=0 burst-limit=0 burst-threshold=0 burst-time=0s disabled=no
  10. add name="small-packet" parent=!p2p-packet packet-mark=small limit-at=0 queue=default priority=5 max-limit=0 burst-limit=0 burst-threshold=0 bursttime=0s disabled=no
  11. add name="big-packet" parent=!p2p-packet packet-mark=big limit-at=0 queue=default priority=6 max-limit=0 burst-limit=0 burst-threshold=0burst-time=0s disabled=no
  12. add name="p2p" parent=All-packet packet-mark=p2p limit-at=0 queue=default priority=8 max-limit=0 burst-limit=0 burst-threshold=0 burst-time=0s disabled=no
复制代码

在WINBOX里面打开NewTerminal复制粘贴到终端里面就好。

[attach]258251[/attach]

ROS NAT CPU占用率测试:


新搭了一台机器,使用9400PTServer网卡,接到92579LM上,设置IP为10.10.10.10,充当外网

[attach]258252[/attach]

在本机连接到82574L,开启两个TfGen,目标设置为10.10.10.10,带宽1G, NAT转发能力975Mbps左右,CPU占用50%左右

[attach]258253[/attach]

在ESXI里看,NAT转发为975Mbps时,消耗CPU为1.6G,设置为1.8G就足够用(如果QOS策略复杂的话,CPU占用应该还要高一点。)内存可以设置成256M,这种状态512M内存感觉有点奢侈了。
[attach]258254[/attach]


       有关WIFI:

无线AP,我是用BuffaloWHR-HP-G54关路由功能,关DHCP,仅做AP使用,ROS在无线网卡支持上,使用AR芯片的无线网卡支持比较好,手上有miniPCIE的AR9283的一张,使用转接卡转成PCIE 1X,直通给ROS,可以认到,但是没有WIFI信号,直通到虚拟机的WIN7里也是这种情况,但是直接使用就没问题,应该是直通的兼容性问题,所以无线只好用闲置的路由做AP了。
[attach]258260[/attach]



[attach]258261[/attach]




意外断电来电之后的自动开机:

服务器一般是7X24小时开机,但是也不排除停电原因造成的意外关机,需要设置一下来电之后的自动开机运行。

首先,在BIOS里面找到

Restore on AC Power Loss这个设置为  Last State

[attach]258255[/attach]
简单解释一下:PowerOff则加电后需按下电源键才能开机,选Power On则加电后直接开机Last State将存储系统断电或中断发生前的状态,如果为开机状态则自动开机,如果为关机状态则不会自动开机。


这样,正常运行时突然停电了,再来电之后,主板会保持断电之前的状态,也就是会自动开机。

在VMwarevSphere Client里面设置一下需要随ESXI一同启动的系统

[attach]258256[/attach]
经过这两步设置,断电也不怕了,恢复供电之后就会自动开机并运行ROS。在运行期间也经历过几次意外停电,来电之后都完美的自动开机并正常启动ROS,运行还是比较良好的。

更新一下网络TOP图,应该看的更清楚些。图上的红线为物理连接线
[attach]258262[/attach]

最后俺网盘里的ROS教程送给大家:


作者: overthink    时间: 2014-10-5 09:48
本帖最后由 overthink 于 2014-10-5 11:11 编辑

@无心飘落 从2012R2转回来吧,我是从2012R2转到ESXi的
作者: nighttob    时间: 2014-10-5 11:15
ROS可以多播吧?pfSense好像没有PPPoE多播的功能,不过我也用不上。
作者: overthink    时间: 2014-10-5 11:26
nighttob 发表于 2014-10-5 11:15
ROS可以多播吧?pfSense好像没有PPPoE多播的功能,不过我也用不上。

添加几个虚拟网卡就可以多拨,但是我这ISP不行,只能拨一个,准备到期换电信看看。

作者: overthink    时间: 2014-10-5 11:37
nighttob 发表于 2014-10-5 11:15
ROS可以多播吧?pfSense好像没有PPPoE多播的功能,不过我也用不上。

[attach]258266[/attach]
这是他们用ROS,4拨的,你的ISP要是可以多拨,可以玩一下

作者: xxmvo    时间: 2014-10-5 22:57
同用ROS,路过。
作者: Asuka    时间: 2014-10-6 15:30

之前也是覺得router和nas甚至是HTPC都應該可以統一到一個設備裡面
但是之前弄pfsense的時候就感到了這批開發者的執念(偏執?)

他們認為,pfsense作為一個firewall就不應該同時掌管文件控制
所以他們壓根不打算集成nas4free之類的nas系統

結果就變成我們要用這麼迂迴曲折,并多少喪失了一些穩定性的手段來實現server的目標

╮(╯▽╰)╭    中國玩家靈活,外國開發者專注
真不知道該怎麼選
作者: nighttob    时间: 2014-10-6 18:03
Asuka 发表于 2014-10-6 15:30

之前也是覺得router和nas甚至是HTPC都應該可以統一到一個設備裡面
但是之前弄pfsense的時候就感到了這 ...

什么都能干,什么都要管,带来的复杂度就太高了……
这种执念其实也没错

反正我们有ESXi,逻辑上做不到一起的,可以物理上做到一起。
当然,boom了大家都玩完……
作者: a13606344553    时间: 2014-10-7 23:21
真正的技术文,不顶就没天理了!
作者: overthink    时间: 2014-10-8 07:34
nighttob 发表于 2014-10-6 18:03
什么都能干,什么都要管,带来的复杂度就太高了……
这种执念其实也没错

只要存储盘没BOOM就好,ESXi系统盘BOOM了,换个界质,重新安装下就好,可以把存储盘的虚拟系统存本地一份,这样会安全不少。

作者: demoxu    时间: 2014-10-8 10:02
好长,好多图片  慢慢看


作者: zeng88com    时间: 2014-10-12 22:40
好强大!学了!

作者: gmx168    时间: 2014-10-14 00:02
小东东咋了,ESXi挺好用的
作者: overthink    时间: 2014-10-14 21:20
gmx168 发表于 2014-10-14 00:02
小东东咋了,ESXi挺好用的

被ESXi折腾了呗

[attach]260316[/attach]

作者: gmx168    时间: 2014-10-14 22:33
overthink 发表于 2014-10-14 21:20
被ESXi折腾了呗

多花些时间就能搞定的
作者: じ☆ve寶寶    时间: 2014-10-15 23:57
最近流行ESXi? 我也弄个玩玩
作者: xudaiqing    时间: 2014-10-17 13:17
被esxi的内存占用吓到转了2012r2,现在用着hyperv感觉也不错
作者: overthink    时间: 2014-10-17 20:55
xudaiqing 发表于 2014-10-17 13:17
被esxi的内存占用吓到转了2012r2,现在用着hyperv感觉也不错

内存占用要看虚拟机内存使用量了,单ESXi应该内存占的不多吧

作者: xudaiqing    时间: 2014-10-18 07:57
本帖最后由 xudaiqing 于 2014-10-18 08:02 编辑
overthink 发表于 2014-10-17 20:55
内存占用要看虚拟机内存使用量了,单ESXi应该内存占的不多吧

esxi本身就要1.5G内存。
如果还要用第三方备份方案总共需要2.5G内存。
如果用vmware的那就更多了。

相对的,核心模式安装的hyperv大概需要0.5G,即使算上GUI也就1G左右
作者: 小黄蜂    时间: 2014-12-4 14:43
好高端...这是什么系统
作者: hfxiaozi    时间: 2014-12-16 00:26
ESXi 太强大了!
刚接触ing
作者: 635601535    时间: 2014-12-24 13:19
不错不错 学习了
作者: memory    时间: 2015-1-24 20:18
小东东连这都不会,弱爆了
作者: flymehome    时间: 2015-2-9 21:05
膜拜大神,慢慢看
作者: jxadmin    时间: 2015-3-12 22:33
楼主的精彩教程让我收益很多呀,有5年没有碰ROS软路由了。
作者: jxadmin    时间: 2015-3-12 22:33
谢谢您的ROS教程!
作者: az6338890    时间: 2015-3-27 20:42
这个小包优先规则...6.27用不了咋回事..
作者: overthink    时间: 2015-3-27 20:50
本帖最后由 overthink 于 2015-3-27 20:59 编辑
az6338890 发表于 2015-3-27 20:42
这个小包优先规则...6.27用不了咋回事..

可以用我现在用的是6.27,你把规则在CLI下输入看看。

作者: az6338890    时间: 2015-3-27 21:04
overthink 发表于 2015-3-27 20:50
可以用我现在用的是6.27,你把规则在CLI下输入看看。

[attach]295940[/attach]

作者: overthink    时间: 2015-3-27 21:14
az6338890 发表于 2015-3-27 21:04

命令输的不对,单行输入。

第一行是
/ ip firewall mangle


你输入的不是这个

作者: az6338890    时间: 2015-3-27 21:24
overthink 发表于 2015-3-27 21:14
命令输的不对,单行输入。

第一行是

[attach]295941[/attach]
.....
M红色标出来


作者: overthink    时间: 2015-3-27 22:11
az6338890 发表于 2015-3-27 21:24
.....
M红色标出来

粘贴的时候有空格掉了。 改了一下。你再重新输入一下。  

语法不对的话会有提示的,你对着修改一下,一般是掉了空格。


作者: az6338890    时间: 2015-3-27 22:26
overthink 发表于 2015-3-27 22:11
粘贴的时候有空格掉了。 改了一下。你再重新输入一下。  

语法不对的话会有提示的,你对着修改一下,一般 ...

有用了...
不知道为啥复制的东西一样
黏贴的时候有时候会冒出些莫名其妙的东西出来


作者: overthink    时间: 2015-3-28 16:19
az6338890 发表于 2015-3-27 22:26
有用了...
不知道为啥复制的东西一样
黏贴的时候有时候会冒出些莫名其妙的东西出来

WIN和LINUX的文本文件格式不一样。

作者: RecoLLect@2601    时间: 2015-4-1 10:34
一开始上的是Celeron G1620,结果后来不支持直通


支持直通的作用是什么?
作者: overthink    时间: 2015-4-1 13:15
RecoLLect@2601 发表于 2015-4-1 10:34
支持直通的作用是什么?

把PCI / PCIE 设备直接分配给某个虚拟机使用。

CPU要支持VT-D才可以。

搞HTPC什么的需要把显卡直接给虚拟机使用。

作者: RecoLLect@2601    时间: 2015-4-1 15:55
overthink 发表于 2015-4-1 13:15
把PCI / PCIE 设备直接分配给某个虚拟机使用。

CPU要支持VT-D才可以。

那如果只做NAS和软路由,直不直通式无所谓了

作者: overthink    时间: 2015-4-1 21:35
RecoLLect@2601 发表于 2015-4-1 15:55
那如果只做NAS和软路由,直不直通式无所谓了

HTPC也准备扔里面。

作者: qwerty861    时间: 2015-11-16 17:23
技术贴,学习下。谢谢分享。
作者: Iwantcomputer    时间: 2015-11-17 17:35
感觉ROS上手比较难啊,记得之前买过一个RB951N-2HND,在完全没有用过ROS的前提下,配个PPPOE拨号折腾了个我小时 。。。。
作者: overthink    时间: 2015-11-17 18:05
Iwantcomputer 发表于 2015-11-17 17:35
感觉ROS上手比较难啊,记得之前买过一个RB951N-2HND,在完全没有用过ROS的前提下,配个PPPOE拨号折腾了个我 ...

有教程啊

routeros入门到精通v63e
余松  写的,非常好。

作者: y8y8y8    时间: 2015-11-17 22:18
overthink 发表于 2014-10-5 11:37
这是他们用ROS,4拨的,你的ISP要是可以多拨,可以玩一下

请教楼主怎么设置多播呢?有没有稍微具体点的办法?谢谢您了!
作者: overthink    时间: 2015-11-18 14:05
y8y8y8 发表于 2015-11-17 22:18
请教楼主怎么设置多播呢?有没有稍微具体点的办法?谢谢您了!

ROS 20元购买,里面的视频教程不错。

链接:http://pan.baidu.com/s/1jG5OQGY 密码: 4c5w


里面有视频教程,可以参考一下,我这ISP没法多拔,没有测试。


作者: y8y8y8    时间: 2015-11-28 15:40
overthink 发表于 2015-11-18 14:05
ROS 20元购买,里面的视频教程不错。

链接:http://pan.baidu.com/s/1jG5OQGY 密码: 4c5w

非常感谢了 !已经在学习和下载了
作者: flame6188    时间: 2016-2-5 00:44
很棒的教程,最近也在折腾ROS,买了一个mikrotik的(交换机)设备顺便做路由试着玩(其实平时上网要求不高)。看了这篇文,其实我在想,如果买两块4口的pcie网卡直通给ROS,这样是不是就可以把路由、交换机、nas全虚拟化了……
作者: 脑浆断层现象    时间: 2016-2-5 08:52
flame6188 发表于 2016-2-5 00:44
很棒的教程,最近也在折腾ROS,买了一个mikrotik的(交换机)设备顺便做路由试着玩(其实平时上网要求不高 ...

ros的虚拟机里可以装openwrt的,所以你的想法是可以实现的。



作者: overthink    时间: 2016-2-5 08:54
flame6188 发表于 2016-2-5 00:44
很棒的教程,最近也在折腾ROS,买了一个mikrotik的(交换机)设备顺便做路由试着玩(其实平时上网要求不高 ...

目前我就是这样的, 除了交换机,其他的能虚拟化的就虚拟化了。

作者: 杰迪武士    时间: 2016-3-14 18:33
非常感谢@overthink ,最近准备折腾ros,您共享的资料非常有用!
作者: seash0re    时间: 2017-7-16 23:24
谢谢,找了很久了。。。




欢迎光临 PCEVA,PC绝对领域,探寻真正的电脑知识 (https://bbs.pceva.com.cn/) Powered by Discuz! X3.2