kknd1928 发表于 2017-1-3 21:19

家用DIY NAS[LSI 9271-8i 4盘位] 组建笔记

本帖最后由 kknd1928 于 2017-1-3 23:45 编辑

组建NAS 的想法很早就有了,之前是用Basic模式上的硬盘做PT和文件共享的。最近剁手入手了一块 LSI 9271-8i 试试组建RAID。中途遇到很多问题,仅当记录一下。 配置:机箱:    酷冷至尊小魔方主板:    华擎 B85M-ITXCPU:    i5 4570内存:    DDR31333 4GiBRAID卡:LSI 9271-8i硬盘:    西数2.5`` 500GiB * 2 (良好状态)            东芝 2.5`` 700GiB * 1(低健康) 以“在线扩容”上线            日立 3.5`` 500GiB * 1(低健康) 机箱:

                               LSI9271-8i彩盒 ↓已装风扇的卡。



一、组建前组建前计划是把上面配置表的4块硬盘做成RAID0的,做PT和家庭共享用,这样4块硬盘就有近2TiB的空间,虽然RAID0不具有任何数据的保护但是能最大限度发挥磁盘的容量和性能。
由于空闲空间不多,所以硬盘只好先上3块再把另外1块以在线扩容(OLM)的方式上线,对于低健康的硬盘是个考验。
入手RAID卡后发现运行时卡的CPU温度奇高,室温20℃装到机箱里轻松上100℃,之后再淘了一个4cm的3 Pin风扇,用自攻螺丝钉在卡的散热片上面,插到主板的机箱风扇插口,再在主板BIOS 上面设置风扇速度。
风扇弄好后温度100℃ → 63℃,效果相当不错。
二、RAID组建1)   系统安装RAID卡插到主板上面唯一的PCI-E 16x的口,然后等待启动。
由于3个硬盘里面都没有系统需要在RAID上安装操作系统。理论上按照下面流程(右路径)配置好RAID后,然后正常安装就可以了。我遇到的情况是按了Ctrl+H后直接就跳转到主板的BIOS界面,之后查了一些资料和测试,发现原来是这块B85M-ITX主板自身没有RAID 控制器的,推断也不支持从PCIE上启动,所以引导菜单(Boot menu) 上面一个选项都没有,直接进主板的BIOS了。
       理想不能因为现实而妥协,4块硬盘必须上,不得已只好安装操作系统到U盘上,恰好有一张128G的SD卡。

U盘的系统有三种可选:1、 ESXi 5.52、 Ubuntu3、 Window to Go(Windows 8)
据说ESXi支持LSI的RAID 控制器,首选是它,转了一圈发现还是主板问题,华擎B85M-ITX 用的网卡是Atheros AR8171,这款网卡并没有适合ESXi的驱动程序,于是放弃ESXi。一波三折。
没选Linux,怕Linux出问题解决不了。之后就装了Window 到SD卡上了。SD卡很慢,但是总算安装成功并且进入系统了。
装系统的卡

2)   RAID组建
SD卡上的Windows是完整系统,用起来跟在硬盘上的没区别,就是慢。RAID组建很简单,一路NEXT,能写Cache就写Cache,用的参数是sohueasy写的这篇。条带选512KiB。
http://bbs.pceva.com.cn/thread-130741-1-1.html
三、在线扩容修改RAID配置并把新磁盘加入到原先RAID中,同样选RAID。3盘共1.3TiB的RAID0带700GiB数据扩容到4盘共1.8TiB,需要近40小时。


下笔写这篇帖子的时候扩容已经运行了34小时。很多图已经没法截啦。
扩容过程中,MSM连接上去速度很慢是正常情况,还试过关机重启,扩容过程居然能正常继续。
OCE结束所有数据正常
============================
这个RAID 0 正常运行了5天,到1月1日晚,由于东芝的硬盘太多错了,RAID被阵列卡标记为不可用。
RAID离线前,阵列卡已经多次提醒会出现不可修复的读,当我正在把数据复制出来时,就崩了。虽然RAID 离线,但是硬盘其实还是可读的,阵列卡也能识别硬盘。
到MSM上面选择被标记为故障的硬盘,强行上线,忽略数据不一致的警告。(阵列离线的时候数据应该一致的?)
果然不出所料,数据还是可读的,赶紧把东西复制出来。
次日,把数据复制出来之后,删除RAID,用Hard Disk Sentinel扫描硬盘。全绿,不怕死,继续用这个用这堆硬盘组RAID5。

下面是东芝硬盘的健康图

这个RAID5的参数:

性能:

最后,这个随时会崩的NAS就是这样了。不怕死的时候上了RAID0,怕死了上个RAID5,也不知道这个性能是不是靠谱。(可能后继还有更新?)
       =========2017年1月3日===========四、一些疑问1,硬件RAID卡支持安装并引导系统吗?2,芯片组不支持RAID的话,用硬件RAID卡能不能在RAID上面安装并引导操作系统?是我这主板例外?3,扩容状态主机关机重开扩容过程正常继续是没问题的?必定可以还是偶然可行?

nighttob 发表于 2017-1-3 21:56

在线扩容是OCE,ORLM是在线阵列级别迁移,统称是阵列重构Reconstruction

阵列卡的主控叫RoC,RAID on Chip

目前非定制版阵列卡都只有Legacy的OpROM,所以在UEFI BIOS的POST过程中按Ctrl+H会没反应,但手动选择引导就可以出WebBios

硬卡必然支持安装引导系统,不然90%+的x86服务器就GG了;你的问题就是esxi检测不到可用网卡就会拒绝安装,win8不自带megasas2的驱动

硬卡是非常成熟的硬件,你遇到的这一切都是设计上考量到的

我实在不理解找几个快死的盘组RAID0是图啥,就算你给强制上线,读出来的也都是错的;就算你改成RAID5也一样会有uncorrectable error

RAID5是给企业级和不怕死的人用的,消费级的可靠性只靠RAID5可罩不住

Atom 发表于 2017-1-3 21:59

支持安装引导系统

AR的ESXi驱动要手动添加,或者买个Intel网卡就好。

mhemh 发表于 2017-1-3 22:19

首先,你的板子没有多余的PIC-E口,上网卡拆RAID卡
其次,纯组nas的话直接用openmediavault这种成品nas系统就OK了,不知道上exsi有什么必要性
最后,几块不行的盘换了吧,家用环境raid5该跪还是跪,重要的raid0稍微好点,多地备份才是王道

kknd1928 发表于 2017-1-3 23:39

nighttob 发表于 2017-1-3 21:56
在线扩容是OCE,ORLM是在线阵列级别迁移,统称是阵列重构Reconstruction

阵列卡的主控叫RoC,RAID on Chip ...

用近乎坏的盘组RAID。原因有几个,一、新硬盘还没买,12盘位的机箱还没找到。
二、HDS扫描是正常的,验证到底是SMART的信息有误还是盘的扇区真的有问题。
三、我就想试试RAID罢了。

至于OCE 变ORLM的。估计是被网上其他教程误导了。
Modify Drive Group -> Add unconfigured drive to group -> Select RAID Type
RAID类型选了跟之前一样的,开始OCE(ORLM)就停不下来了。
阵列都选一样的难度不是默认OCE?我再仔细读一下手册好了。
{:7_388:}


至于强制上线,是因为要把里面之前下载的资料复制出来,因为是这个RAID0 是作为PT下载的"缓存",只要数据能读出,在另一台主机上面重校验,把坏的块下载回来就可以了。


当前的RAID5是想看看东芝这个盘情况到底怎么样,能不能死透。


我想如果东芝这个盘情况继续恶化,直至读不出来,我拿掉这个盘,阵列降级,由于另外3个盘的数据是没问题的,我就可以把完整文件读出?

eterfinity 发表于 2017-1-4 01:33

建议用ssd组raid0
开启ssd guard ,放一个备用盘

飞翔的企鹅 发表于 2017-1-4 09:58

低健康度的盘基本不能用了吧,数据都错的再怎么搞也是坏的呀。smart出错的概率很小

powergx 发表于 2017-1-4 10:47

lz 就用这几个垃圾盘, 对得起这片卡吗?

copyleft2000 发表于 2017-1-5 12:47

kknd1928 发表于 2017-1-3 23:39
用近乎坏的盘组RAID。原因有几个,一、新硬盘还没买,12盘位的机箱还没找到。
二、HDS扫描是正常的,验证 ...

家用机箱上12盘位基本没可能吧?我自己用联力PCA04机箱,自带7个3.5寸位,光驱位用双光驱转三硬盘前置风扇,最多也只是10块硬盘。后面出的非服务器机箱,3.5寸盘位置比以前少得多了。

wxlg1117 发表于 2017-1-6 17:40

{:1_470:}我也上机测试了下,不上散热超100度...另外我上了超级电容和key,不知道是不是导致温度更高了

COO 发表于 2017-1-7 16:51

nighttob 发表于 2017-1-3 21:56
在线扩容是OCE,ORLM是在线阵列级别迁移,统称是阵列重构Reconstruction

阵列卡的主控叫RoC,RAID on Chip ...

那消费级一般用raid几?

nighttob 发表于 2017-1-7 18:02

copyleft2000 发表于 2017-1-5 12:47
家用机箱上12盘位基本没可能吧?我自己用联力PCA04机箱,自带7个3.5寸位,光驱位用双光驱转三硬盘前置风 ...

http://bbs.pceva.com.cn/thread-130529-1-1.html

8+4=12盘妥妥的
http://bbs.pceva.com.cn/data/attachment/forum/201604/24/131738uu1w21x38w377znn.png

nighttob 发表于 2017-1-7 18:08

COO 发表于 2017-1-7 16:51
那消费级一般用raid几?

消费级还RAID?
像我一样是闲得蛋疼+不怕死的话直接RAID6
反正LSI公版硬卡RAID6功能白给,ZFS那边有RAID-Z2,盘多不怕
盘少了还是别惦记RAID这回事

kknd1928 发表于 2017-1-9 11:56

nighttob 发表于 2017-1-7 18:08
消费级还RAID?
像我一样是闲得蛋疼+不怕死的话直接RAID6
反正LSI公版硬卡RAID6功能白给,ZFS那边有RAID- ...

看了一下,淘宝了上好像几乎没有 SAS Expander?搜出来的都是RAID Controller,看来只好用SATA Expander了。
我也计划用RAID6这样 3T*12盘 ,这样刚好30TiB!so,请问,机箱型号是?

nighttob 发表于 2017-1-9 17:56

kknd1928 发表于 2017-1-9 11:56
看了一下,淘宝了上好像几乎没有 SAS Expander?搜出来的都是RAID Controller,看来只好用SATA Expander ...

大淘宝的SAS Expander还是挺多的吧,就是坑也很多就是了
我个人不推荐新手买这个

SATA没有Expander只有Port Multipler,原理完全不一样的,也不能随便用

机箱是NZXT Source 210,早就停产没货了
而且这箱子太轻,硬盘多了镇不住的
我另外准备了一个NZXT H2,打算下次大改的时候换上,不过这箱子一样停产了,但存货应该还是有的

磊子1986 发表于 2017-1-10 10:09

nighttob 发表于 2017-1-7 18:02
http://bbs.pceva.com.cn/thread-130529-1-1.html

8+4=12盘妥妥的

又来炫耀机箱了

磊子1986 发表于 2017-1-10 10:17

用阵列卡最不好的就是硬盘不会休眠,家用耗电大点。如果不在乎耗电的话建议淘宝买dell 12盘位的2手服务器,2000以内,h700阵列卡,关键服务器比自己diy的稳定太多。

haierccc 发表于 2017-1-11 23:24

本帖最后由 haierccc 于 2017-1-11 23:26 编辑

这些存储的知识是从哪里学的啊。。。

xxj1978 发表于 2017-1-12 10:02

楼主折腾的很起劲啊。哈哈{:7_399:}

copyleft2000 发表于 2017-1-23 13:01

nighttob 发表于 2017-1-7 18:02
http://bbs.pceva.com.cn/thread-130529-1-1.html

8+4=12盘妥妥的

我少见了,这是服务器主板吧?貌似要清灰{:1_474:}了。能用服务器主板的机箱都比较大,我考虑的是MATX主板级别的箱子,长度够短才能放在书柜内。
页: [1]
查看完整版本: 家用DIY NAS[LSI 9271-8i 4盘位] 组建笔记