<div dir="ltr">Hi<div><br></div><div>I have a hosted engine cluster running <span style="color:rgb(0,0,0);font-family:&#39;Arial Unicode MS&#39;,Arial,sans-serif;line-height:21.6666679382324px;text-align:-webkit-center">3.5.2 on f20.  I have 6 nodes running centos 6.6 and three storage nodes also running centos 6.6 with gluster 3.6.3,</span></div><div><span style="color:rgb(0,0,0);font-family:&#39;Arial Unicode MS&#39;,Arial,sans-serif;line-height:21.6666679382324px;text-align:-webkit-center"><br></span></div><div><span style="color:rgb(0,0,0);font-family:&#39;Arial Unicode MS&#39;,Arial,sans-serif;line-height:21.6666679382324px;text-align:-webkit-center">My primary data store is a replica 3 gluster volume.  I noticed that the size of some image files differs wildly on one server&#39;s brick.  Disks are all thin provisioned.  The bricks are thin provisioned lvm volume with xfs file systems.   The only difference between the systems is that the problem node is newer, a Dell R530 with MD1400 where as the other two are Dell R510&#39;s each with MD1200s.  The storage arrays all have the same 4TB disks.</span></div><div><span style="color:rgb(0,0,0);font-family:&#39;Arial Unicode MS&#39;,Arial,sans-serif;line-height:21.6666679382324px;text-align:-webkit-center"><br></span></div><div><span style="color:rgb(0,0,0);font-family:&#39;Arial Unicode MS&#39;,Arial,sans-serif;line-height:21.6666679382324px;text-align:-webkit-center">e.g. for a disk that the ovirt console repost as having virtual size 500G and actual size 103G I see:</span></div><div><span style="text-align:-webkit-center"><div style><br></div><div style="text-align:left"><br></div><div style="text-align:left"><div><blockquote style="margin:0px 0px 0px 0.8ex;border-left-width:1px;border-left-color:rgb(204,204,204);border-left-style:solid;padding-left:1ex" class="gmail_quote">[root@gluster0 479d2197-de09-4012-8183-43c6baa7e65b]# cd ../d0d58fb9-ecaa-446f-bc42-dd681a16aee2/<br>[root@gluster0 d0d58fb9-ecaa-446f-bc42-dd681a16aee2]# du -sh *<br>106G<span class="" style="white-space:pre">        </span>c1b70bf0-c750-4177-8485-7b981e1f21a3<br>1.0M<span class="" style="white-space:pre">        </span>c1b70bf0-c750-4177-8485-7b981e1f21a3.lease<br>4.0K<span class="" style="white-space:pre">        </span>c1b70bf0-c750-4177-8485-7b981e1f21a3.meta<br>[root@gluster1 d0d58fb9-ecaa-446f-bc42-dd681a16aee2]# pwd<br>/export/brick5/ovirt-data/54d9ee82-0974-4a72-98a5-328d2e4007f1/images/d0d58fb9-ecaa-446f-bc42-dd681a16aee2<br>[root@gluster1 d0d58fb9-ecaa-446f-bc42-dd681a16aee2]# du -sh *<br>103G<span class="" style="white-space:pre">        </span>c1b70bf0-c750-4177-8485-7b981e1f21a3<br>1.0M<span class="" style="white-space:pre">        </span>c1b70bf0-c750-4177-8485-7b981e1f21a3.lease<br>4.0K<span class="" style="white-space:pre">        </span>c1b70bf0-c750-4177-8485-7b981e1f21a3.meta<br><font color="#000000" face="Arial Unicode MS, Arial, sans-serif"><span style="line-height:21.6666679382324px">[root@gluster-2 d0d58fb9-ecaa-446f-bc42-dd681a16aee2]# pwd<br></span></font><font color="#000000" face="Arial Unicode MS, Arial, sans-serif"><span style="line-height:21.6666679382324px">/export/brick5/ovirt-data/54d9ee82-0974-4a72-98a5-328d2e4007f1/images/d0d58fb9-ecaa-446f-bc42-dd681a16aee2<br></span></font><font color="#000000" face="Arial Unicode MS, Arial, sans-serif"><span style="line-height:21.6666679382324px">[root@gluster-2 d0d58fb9-ecaa-446f-bc42-dd681a16aee2]# du -sh *<br></span></font><font color="#000000" face="Arial Unicode MS, Arial, sans-serif"><span style="line-height:21.6666679382324px">501G<span class="" style="white-space:pre">        </span>c1b70bf0-c750-4177-8485-7b981e1f21a3<br></span></font><font color="#000000" face="Arial Unicode MS, Arial, sans-serif"><span style="line-height:21.6666679382324px">1.0M<span class="" style="white-space:pre">        </span>c1b70bf0-c750-4177-8485-7b981e1f21a3.lease<br></span></font><font color="#000000" face="Arial Unicode MS, Arial, sans-serif"><span style="line-height:21.6666679382324px">4.0K<span class="" style="white-space:pre">        </span>c1b70bf0-c750-4177-8485-7b981e1f21a3.meta</span></font></blockquote></div><div style><div style="color:rgb(0,0,0);font-family:&#39;Arial Unicode MS&#39;,Arial,sans-serif;line-height:21.6666679382324px"><br></div><div style="color:rgb(0,0,0);font-family:&#39;Arial Unicode MS&#39;,Arial,sans-serif;line-height:21.6666679382324px">I&#39;d appreciate any suggestions about troubleshooting and resolving his. H<span style="line-height:21.6666679382324px">ere is the volume info:</span></div><div style="color:rgb(0,0,0);font-family:&#39;Arial Unicode MS&#39;,Arial,sans-serif;line-height:21.6666679382324px"><span style="line-height:21.6666679382324px"><br></span></div><div style="color:rgb(0,0,0);font-family:&#39;Arial Unicode MS&#39;,Arial,sans-serif;line-height:21.6666679382324px"><blockquote style="margin:0px 0px 0px 0.8ex;border-left-width:1px;border-left-color:rgb(204,204,204);border-left-style:solid;padding-left:1ex" class="gmail_quote">Volume Name: data<br>Type: Replicate<br>Volume ID: 5c6ff46d-1159-4c7e-8b16-5ffeb15cbaf9<br>Status: Started<br>Number of Bricks: 1 x 3 = 3<br>Transport-type: tcp<br>Bricks:<br>Brick1: gluster-2:/export/brick5/ovirt-data<br>Brick2: gluster1:/export/brick5/ovirt-data<br>Brick3: gluster0:/export/brick5/ovirt-data<br>Options Reconfigured:<br>performance.least-prio-threads: 4<br>performance.low-prio-threads: 16<br>performance.normal-prio-threads: 24<br>performance.high-prio-threads: 24<br>performance.io-thread-count: 32<br>diagnostics.count-fop-hits: off<br>diagnostics.latency-measurement: off<br>auth.allow: *<br>nfs.rpc-auth-allow: *<br>network.remote-dio: on<br>performance.stat-prefetch: off<br>performance.io-cache: off<br>performance.read-ahead: off<br>performance.quick-read: off<br>storage.owner-gid: 36<br>storage.owner-uid: 36<br>cluster.eager-lock: enable<br>cluster.min-free-disk: 5%<br>cluster.rebalance-stats: on<br>cluster.background-self-heal-count: 16<br>cluster.readdir-optimize: on<br>cluster.metadata-self-heal: on<br>cluster.data-self-heal: on<br>cluster.entry-self-heal: on<br>cluster.self-heal-daemon: on<br>cluster.heal-timeout: 500<br>cluster.self-heal-window-size: 8<br>cluster.data-self-heal-algorithm: diff<br>cluster.quorum-type: auto<br>cluster.self-heal-readdir-size: 64KB<br>network.ping-timeout: 20<br>performance.open-behind: disable<br>cluster.server-quorum-ratio: 51%</blockquote><div><br></div></div><div style="color:rgb(0,0,0);font-family:&#39;Arial Unicode MS&#39;,Arial,sans-serif;line-height:21.6666679382324px"><br></div><div style="color:rgb(0,0,0);font-family:&#39;Arial Unicode MS&#39;,Arial,sans-serif;line-height:21.6666679382324px"><br></div><div style="color:rgb(0,0,0);font-family:&#39;Arial Unicode MS&#39;,Arial,sans-serif;line-height:21.6666679382324px"><br></div><div style="color:rgb(0,0,0);font-family:&#39;Arial Unicode MS&#39;,Arial,sans-serif;line-height:21.6666679382324px"><br></div><div style="color:rgb(0,0,0);font-family:&#39;Arial Unicode MS&#39;,Arial,sans-serif;line-height:21.6666679382324px"><br></div><div style="color:rgb(0,0,0);font-family:&#39;Arial Unicode MS&#39;,Arial,sans-serif;line-height:21.6666679382324px"><br></div></div></div></span></div></div>