<div dir="ltr"><div><div>Ok I found the conflict. The ip rule list  does not have any record on IB0 interface, all other networks are updated correctly but not IB one.<br></div>Probably this is not a good idea to have an ISCSI storage devices with the same interface as VM network. <br></div><div>the network update operation trying to put interface up and down in that point all iscsi devices going to IO/failure this stops to update IB interface data.<br><br></div><div>Maybe one need to put whole cluster to maintenance mode in order to change Storage dependent network setup? <br></div><div><br>this is the main trouble which prevents to fix/change any network setup on IB0 interface.<br>tail -f  /var/log/vdsm/vdsm.log<br>Traceback (most recent call last):<br>  File &quot;/usr/share/vdsm/storage/hsm.py&quot;, line 2430, in connectStorageServer<br>    conObj.connect()<br>  File &quot;/usr/share/vdsm/storage/storageServer.py&quot;, line 367, in connect<br>    iscsi.addIscsiNode(self._iface, self._target, self._cred)<br>  File &quot;/usr/share/vdsm/storage/iscsi.py&quot;, line 164, in addIscsiNode<br>    iscsiadm.node_login(<a href="http://iface.name">iface.name</a>, portalStr, target.iqn)<br>  File &quot;/usr/share/vdsm/storage/iscsiadm.py&quot;, line 295, in node_login<br>    raise IscsiNodeError(rc, out, err)<br>IscsiNodeError: (8, [&#39;Logging in to [iface: default, target: iqn.2003-01.org.linux-iscsi.data01.x8664:sn.f5c9b017e103, portal: 10.10.10.31,3260] (multiple)&#39;], [&#39;iscsiadm: Could not login to [iface: default, target: iqn.2003-01.org.linux-iscsi.data01.x8664:sn.f5c9b017e103, portal: 10.10.10.31,3260].&#39;, &#39;iscsiadm: initiator reported error (8 - connection timed out)&#39;, &#39;iscsiadm: Could not log into all portals&#39;])<br><br></div>PS<br>&quot;save network configuration&quot;  is always checked.<br><br><div><br><div><br></div></div></div><div class="gmail_extra"><br clear="all"><div><div class="gmail_signature"><div dir="ltr"><pre cols="72"><span><pre cols="72">***********************************************************</pre></span> Dr. Arman Khalatyan              eScience -SuperComputing 
 Leibniz-Institut für Astrophysik Potsdam (AIP)            
 An der Sternwarte 16, 14482 Potsdam, Germany              <br><span><pre cols="72">***********************************************************<br></pre></span></pre>
</div></div></div>
<br><div class="gmail_quote">On Tue, Dec 30, 2014 at 7:05 AM, Moti Asayag <span dir="ltr">&lt;<a href="mailto:masayag@redhat.com" target="_blank">masayag@redhat.com</a>&gt;</span> wrote:<br><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex"><span class=""><br>
<br>
----- Original Message -----<br>
&gt; From: &quot;Arman Khalatyan&quot; &lt;<a href="mailto:arm2arm@gmail.com">arm2arm@gmail.com</a>&gt;<br>
</span><span class="">&gt; To: &quot;Moti Asayag&quot; &lt;<a href="mailto:masayag@redhat.com">masayag@redhat.com</a>&gt;<br>
&gt; Cc: &quot;users&quot; &lt;<a href="mailto:users@ovirt.org">users@ovirt.org</a>&gt;<br>
&gt; Sent: Monday, December 29, 2014 3:59:46 PM<br>
&gt; Subject: Re: [ovirt-users] Unable to reinstall hosts after network removal.<br>
&gt;<br>
&gt; My setup  has 3 networks: 1xIB,1x10Gbit+1Gbit for ovirt-management.<br>
&gt; The ovirt network does not have any trouble, it is always there.<br>
&gt; I was trying to rename or remove my IB network which was used for VM<br>
&gt; migrations.<br>
&gt; I was using web-GUI, which was removing IB0 network w/o problem. After<br>
&gt; removal the hosts where ok.<br>
<br>
</span>Have you checked the option of &quot;save network configuration&quot; in the setup networks<br>
dialog (iirc should have been checked by default) ?<br>
<br>
Could you also attach the /var/log/ovirt-engine/engine.log from the engine server<br>
and /var/log/vdsm/vdsm.log and /var/log/vdsm/supervdsm.log from the node so<br>
we can see which request was sent to vdsm and its result ?<br>
<div class="HOEnZb"><div class="h5"><br>
&gt; Then I put them to maintenance mode. To refresh<br>
&gt; iptables rules I did reinstall. then reinstall was failing with message<br>
&gt; that IB0 not attached to any interface. But IB0 interface is not possible<br>
&gt; to attach it is already deleted and not visible in any network dialog.<br>
&gt; After creating interface with the same name everything is online now.<br>
&gt; My current interface list is following:<br>
&gt;  virsh -r net-list<br>
&gt; Name                 State      Autostart     Persistent<br>
&gt; --------------------------------------------------<br>
&gt; ;vdsmdummy;          active     no            no<br>
&gt; vdsm-cls10G          active     yes           yes<br>
&gt; vdsm-IB0             active     yes           yes<br>
&gt; vdsm-ovirtmgmt       active     yes           yes<br>
&gt;<br>
&gt; On this host the IB0 is not atached to any interface, I wondered, if it<br>
&gt; should show up  in the net list?<br>
&gt;<br>
&gt; I think the GUI does not rename/remove the interface from the DB. Some<br>
&gt; constrain keeps still IB0 in DB.<br>
&gt;<br>
&gt;<br>
&gt;<br>
&gt; ***********************************************************<br>
&gt;<br>
&gt; Dr. Arman Khalatyan eScience -SuperComputing Leibniz-Institut für<br>
&gt; Astrophysik Potsdam (AIP) An der Sternwarte 16, 14482 Potsdam, Germany<br>
&gt;<br>
&gt; ***********************************************************<br>
&gt;<br>
&gt;<br>
&gt; On Sun, Dec 28, 2014 at 10:31 AM, Moti Asayag &lt;<a href="mailto:masayag@redhat.com">masayag@redhat.com</a>&gt; wrote:<br>
&gt;<br>
&gt; &gt;<br>
&gt; &gt;<br>
&gt; &gt; ----- Original Message -----<br>
&gt; &gt; &gt; From: &quot;Arman Khalatyan&quot; &lt;<a href="mailto:arm2arm@gmail.com">arm2arm@gmail.com</a>&gt;<br>
&gt; &gt; &gt; To: &quot;users&quot; &lt;<a href="mailto:users@ovirt.org">users@ovirt.org</a>&gt;<br>
&gt; &gt; &gt; Sent: Wednesday, December 24, 2014 1:22:43 PM<br>
&gt; &gt; &gt; Subject: [ovirt-users] Unable to reinstall hosts after network removal.<br>
&gt; &gt; &gt;<br>
&gt; &gt; &gt; Hello,<br>
&gt; &gt; &gt; I have a little trouble with ovirt 3.5 on CentOS6.6:<br>
&gt; &gt; &gt; I was removing all networks from all hosts.<br>
&gt; &gt;<br>
&gt; &gt; Did you use the setup networks dialog from the UI in order to remove those<br>
&gt; &gt; networks ?<br>
&gt; &gt; Or have you removed those networks from the host directly (where you<br>
&gt; &gt; should used the:<br>
&gt; &gt; 1. virsh net-destroy &#39;the-network-name&#39;<br>
&gt; &gt; 2. virsh net-undefine &#39;the-network-name&#39;<br>
&gt; &gt; )<br>
&gt; &gt;<br>
&gt; &gt; can you report the output of &#39;virsh -r net-list&#39;  ?<br>
&gt; &gt;<br>
&gt; &gt; &gt; Then after removing network from data center the hosts went to unusable.<br>
&gt; &gt;<br>
&gt; &gt; What was the host&#39;s status prior to removing its networks ? Was it up ?<br>
&gt; &gt;<br>
&gt; &gt; &gt; Every time after reinstall the host claims that the network is not<br>
&gt; &gt; &gt; configured, but it s already removed from network tab in DC.<br>
&gt; &gt;<br>
&gt; &gt; What is the missing network name ? Is it &#39;ovirtmgmt&#39; ?<br>
&gt; &gt;<br>
&gt; &gt; &gt; Where from it gets the old configuration? the old interfaces also<br>
&gt; &gt; restored<br>
&gt; &gt; &gt; every time on the reinstalled hosts.<br>
&gt; &gt;<br>
&gt; &gt; The hosts via vdsm reports their network configuration via the<br>
&gt; &gt; &#39;getCapabilities&#39; verb<br>
&gt; &gt; of vdsm. You can try running it on the host:<br>
&gt; &gt;<br>
&gt; &gt; vdsClient -s 0 getVdsCaps<br>
&gt; &gt;<br>
&gt; &gt; and examine the nics / neworks / bridges / vlans / bonds elements.<br>
&gt; &gt;<br>
&gt; &gt; &gt; Which DB table is in charge of dc-networks?<br>
&gt; &gt; &gt;<br>
&gt; &gt;<br>
&gt; &gt; The retrieved information from vdsm is reported to &#39;vds_interace&#39; table.<br>
&gt; &gt; The dc networks are stored in &#39;networks&#39; table and networks attached to<br>
&gt; &gt; clusters are stored in network_cluster table.<br>
&gt; &gt;<br>
&gt; &gt; I wouldn&#39;t recommend on deleting entries from the tables directly. There<br>
&gt; &gt; are<br>
&gt; &gt; certain constraints which shouldn&#39;t be violated, i.e. the management<br>
&gt; &gt; network<br>
&gt; &gt; &#39;ovirtmgnt&#39; is blocked for removal from the engine.<br>
&gt; &gt;<br>
&gt; &gt; &gt; Thanks,<br>
&gt; &gt; &gt; Arman.<br>
&gt; &gt; &gt;<br>
&gt; &gt; &gt;<br>
&gt; &gt; &gt; ***********************************************************<br>
&gt; &gt; &gt; Dr. Arman Khalatyan eScience -SuperComputing Leibniz-Institut für<br>
&gt; &gt; Astrophysik<br>
&gt; &gt; &gt; Potsdam (AIP) An der Sternwarte 16, 14482 Potsdam, Germany<br>
&gt; &gt; &gt; ***********************************************************<br>
&gt; &gt; &gt;<br>
&gt; &gt; &gt; _______________________________________________<br>
&gt; &gt; &gt; Users mailing list<br>
&gt; &gt; &gt; <a href="mailto:Users@ovirt.org">Users@ovirt.org</a><br>
&gt; &gt; &gt; <a href="http://lists.ovirt.org/mailman/listinfo/users" target="_blank">http://lists.ovirt.org/mailman/listinfo/users</a><br>
&gt; &gt; &gt;<br>
&gt; &gt;<br>
&gt;<br>
</div></div></blockquote></div><br></div>