PCEVA,PC绝对领域,探寻真正的电脑知识
打印 上一主题 下一主题
开启左侧

想上Mellanox ConnectX MNPA19-XTR单口万兆以太网光纤卡

[复制链接]
1#
eterfinity 发表于 2018-4-8 13:51 | 显示全部楼层
本帖最后由 eterfinity 于 2018-4-8 14:06 编辑

我已经上了 非常好


这个卡option rom是flexboot 也就是ipxe
因此  只要dhcp服务器设置option17 为iscsi 根的root-path  格式为:  iscsi:192.168.130.101::::iqn.xxxxxxxxxxxx:xxxxxxxxx  不需要再弄tftp服务器
然后就能直接 iscsi sanboot  
上图是iscsiboot后win2016 系统自带网卡驱动全默认值 c盘跑分   双卡直连
拿来做iscsi target server的同样是win2016  cpu是最弱鸡的e3-1220Lv3  单通道ddr3L 4GB内存  intel 750 400G AIC, iscsi 用的动态vhdx文件,
利用hyper-v外部交换机,避免掉网卡直连的尴尬,使iscsi与dhcp service永久处于在线监听状态
所以各个环节都使性能打了折扣,请无视4kQD64成绩
此外   这个跑分正是gen8里面跑出来的


编辑一下,补一张iscsi server使用单块 sf2281主控240G固态的成绩



本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有帐号?注册

x

评分

参与人数 1绝对值 +1 收起 理由
红色狂想 + 1 很给力! 干货满满,我慢慢消化 \(^o^)/~.

查看全部评分

2#
eterfinity 发表于 2018-4-8 14:10 | 显示全部楼层
909648183 发表于 2018-3-17 19:04
都支持RDMA了,直接映射为本地磁盘操作就行了,拷文件都不需要

没错  创建存储池  设置读写权限在台式机 直接上线使用
3#
eterfinity 发表于 2018-4-8 14:14 | 显示全部楼层
本帖最后由 eterfinity 于 2018-4-8 14:16 编辑
红色狂想 发表于 2018-4-6 23:45
不知道Mellanox光纤网卡能否与Gen8板载的网卡完美并存,端口间不会有冲突吧? ...

十分完美  一点也不冲突
但是有一个细节
就是受HP主板固件的影响,这个卡option rom加载后, 端口上线比在普通电脑慢3-6秒左右
这6秒导致向win自带的dhcp server请求ip,10次有8次直接timeout
想要sanboot的话, 服务端只能换响应率更高的dhcp server, 比如tftpd64

4#
eterfinity 发表于 2018-4-8 14:18 | 显示全部楼层
在nas与台机各上一块这个卡,直连 用iscsi做无盘台机
就能避免台式机重复的硬盘投资了
nas里面nvme satassd NLSAS搭出来的分层存储终于有意义了。
5#
eterfinity 发表于 2018-4-8 14:41 | 显示全部楼层
利用网卡RDMA去拉别的机器的硬盘过来用,得创建存储池,可以裸盘建,也可以先做了物理卡的raid,再把vd加入存储池
此外随便怎么用
6#
eterfinity 发表于 2018-4-8 14:57 | 显示全部楼层
本帖最后由 eterfinity 于 2018-4-8 15:01 编辑
红色狂想 发表于 2018-4-8 14:48
option rom是指主板bios选项配置吗?
Mellanox这卡装在Gen8里运行温度表现怎么样,会不会导致风扇提速?
...

option rom 就是按ctrl+B进入网络启动功能,或者bios里设置网卡启动要用到.
温度可以忽略,常跑30%-50%带宽, 不怎么烫

我是去年8月就买回来用了  那时候要贵点,店铺名字前5个字看图,2u档片送了我两个,好像是特地为洋垃圾车出来的,光滑舒适的材料手感

此外  纯万兆交换机可以选dell8024f和它的山寨机xx7024

本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有帐号?注册

x

评分

参与人数 1绝对值 +1 收起 理由
红色狂想 + 1 很给力!

查看全部评分

7#
eterfinity 发表于 2018-4-8 15:12 | 显示全部楼层
红色狂想 发表于 2018-4-8 15:03
我就是在找这种东西,iscsi做无盘工作站才叫爽,我在隔壁看到有人说易趣上又出现一批100GE的新货 Mellano ...

日,俺需要静静,还好只买得到SDR/DDR的IB交换机
https://www.ebay.com/itm/QLOGIC-48-PORT-SDR-DDR-INFINI-BAND-SWITCH-9040-ENCLOSURE-euz/271538616757?hash=item3f38f679b5:g:PZoAAOSw91NTtFx6
8#
eterfinity 发表于 2018-4-9 09:09 | 显示全部楼层
红色狂想 发表于 2018-4-8 15:31
难不成这批网卡根本就没有原装2U挡片,凡是有的都是后来商家自制的?麻烦PM一下你入手那家店的链接{:1_44 ...

正宗的单口IB卡2u档片,我当年买过,在上海嘉定的上海汽车机房做项目的时候,买过正品的150片IB卡单口半高档片, 因为销售下单时候下成全高卡了.
红色大钞200张啊啊啊啊啊啊
9#
eterfinity 发表于 2018-4-11 21:56 | 显示全部楼层
红色狂想 发表于 2018-4-11 21:53
Mellanox这种网卡属于IB卡吗,正品采购每片价格多少,200张红色大钞补偿是瑞士法郎吗?  ...

没错  就是IB卡的处理器缩掉点外围电路再套了个万兆以太网的固件  
10#
eterfinity 发表于 2018-4-11 21:59 | 显示全部楼层
红色狂想 发表于 2018-4-11 21:57
你是在哪家店铺买的,给PM个链接呗

我买的卡送的半高挡片也带mac标签 成色10成新
丝滑舒适
这样说来 难道是原装的?
11#
eterfinity 发表于 2018-4-11 22:40 | 显示全部楼层
本帖最后由 eterfinity 于 2018-4-11 22:42 编辑

再说下交换机  目前好拍到的最便宜的纯万兆  是dell 8024f的原型机  广达7024    以及洋垃圾dell8024f
交换能力是480Gbps 包转发率 357 Mpps    价位在2000出头  
支持FCOE(FIP snooping)和DCBx (LLDP +PFC , 用于主动防止万兆网卡跑满端口极限。企业级部署中最佳实践一般是50% PFC on) , ,有完整文档,
花2000多可以满足自己组超融合或稳定的万兆nas的心理需求。

然后是 UBNT 16口 的  US-16-XG    价位是4200左右
交换能力是320Gbps  包转发率是 238 Mpps
官网文档里没有提到fcoe与LLDP字眼。
它的优势是傻瓜,能满足一般的万兆网卡的nas,但不适合超融合。

然后是各大厂商的在售入门级全万兆产品
基本是16口 7000  24口 12000 这个价位

12#
eterfinity 发表于 2018-5-8 20:24 | 显示全部楼层
红色狂想 发表于 2018-5-8 17:46
再问一下,Gen8安装了这块Mellanox万兆网卡后开机按F10能正常启动进入Intelligent Provisioning安装部署 ...

从来没用过hp的F10

驱动单独加载  直接装系统
装完系统后按顺序装下面这三个驱动  即可避免开机hypervisor无法加载的bug。


M记网卡不需要单独装驱动,系统自带的很稳。

本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有帐号?注册

x
13#
eterfinity 发表于 2018-5-11 14:16 | 显示全部楼层
本帖最后由 eterfinity 于 2018-5-11 14:19 编辑
红色狂想 发表于 2018-5-10 22:15
开机加载hypervisor是指的Gen8内建的KVM远程管理功能吗?
你说的图片中这三个驱动和Agentless Management ...

怪我没说清楚
HP全系列带有iLO且带有iLO 存储卡读卡器的单路服务器都有一个bug问题
如果不装iLO相关驱动,硬盘启动卷的绝对路径受iLO读卡器的影响,会导致打开了hyperv的windows无法进入桌面。
所以我一向认为HP不拿客户当智能生物,在他们的脑子里,单路服务器就不该跑虚拟化
打开hyper-v第一次重启前 , 要装图上后两个驱动,, 第一个是显卡驱动,只影响利用clover做UEFI引导后的显示。

14#
eterfinity 发表于 2018-11-17 13:12 | 显示全部楼层
本帖最后由 eterfinity 于 2018-11-17 13:13 编辑
doymll 发表于 2018-11-16 11:09
留贴备注一下。交换机。


现在华为的6720-26Q价格脱颖而出,,特别实惠



40GB IB卡好是好  然而用起来比较麻烦  IB交换机  IPoIB这些都不怎么方便
15#
eterfinity 发表于 2018-11-17 15:10 | 显示全部楼层
doymll 发表于 2018-11-17 13:24
好,我去查交换机,看了下.大概4k-5k的价位,其实我觉得10g应该够用了,我发的那个双口卡.
...

那个卡相当高端  是40G的口  必须用40G的头  而且如果不是直连, 必须用IB的40GB交换机  不能直接用10g的线连以太网交换机的
16#
eterfinity 发表于 2018-11-17 16:02 | 显示全部楼层
doymll 发表于 2018-11-17 15:27
太高端用不起,我还是买个单口10g的来试试,我终于有点明白,你当初说的主副机,存储的那个事,一台挂了 ...

那个主副不用rdma  就是找到vhd文件双击一下的事情  用上RDMA的是S2D超融合了(其实没有RDMA也能用,只是慢点)
您需要登录后才可以回帖 登录 | 注册

本版积分规则

快速回复 返回顶部