<html>
<head>
<style><!--
.hmmessage P
{
margin:0px;
padding:0px
}
body.hmmessage
{
font-size: 12pt;
font-family:Calibri
}
--></style></head>
<body class='hmmessage'><div dir='ltr'><br>&nbsp;<BR><div><hr id="stopSpelling">From: cybertimber2000@hotmail.com<br>To: danken@redhat.com; jvdwege@xs4all.nl<br>CC: users@ovirt.org<br>Subject: RE: [Users] very odd permission problem<br>Date: Fri, 6 Sep 2013 21:35:51 -0400<br><br>

<style><!--
.ExternalClass .ecxhmmessage P {
padding:0px;
}

.ExternalClass body.ecxhmmessage {
font-size:12pt;
font-family:Calibri;
}

--></style>
<div dir="ltr"><br>&nbsp;<br><div>&gt; Date: Fri, 6 Sep 2013 22:05:05 +0100<br>&gt; From: danken@redhat.com<br>&gt; To: jvdwege@xs4all.nl<br>&gt; CC: users@ovirt.org<br>&gt; Subject: Re: [Users] very odd permission problem<br>&gt; <br>&gt; On Fri, Sep 06, 2013 at 04:05:13PM +0200, Joop wrote:<br>&gt; &gt; Alessandro Bianchi wrote:<br>&gt; &gt; &gt;&gt;On 6-9-2013 12:34, Alessandro Bianchi wrote:<br>&gt; &gt; &gt;&gt;&gt;Hi all<br>&gt; &gt; &gt;&gt;&gt;<br>&gt; &gt; &gt;&gt;&gt;I'm running 3.2 on several Fedora 18 nodes<br>&gt; &gt; &gt;&gt;&gt;<br>&gt; &gt; &gt;&gt;&gt;One of them has a local storage running 4 VMs<br>&gt; &gt; &gt;&gt;&gt;<br>&gt; &gt; &gt;&gt;&gt;Today the UPS crashed and host was rebboted after UPS replacement<br>&gt; &gt; &gt;&gt;&gt;<br>&gt; &gt; &gt;&gt;&gt;None of the VM's were able to be started<br>&gt; &gt; &gt;&gt;&gt;<br>&gt; &gt; &gt;&gt;&gt;I tried to put the Host in maintenance and reinstalled it, but this<br>&gt; &gt; &gt;&gt;&gt;didn't give any result<br>&gt; &gt; &gt;&gt;&gt;<br>&gt; &gt; &gt;&gt;&gt;Digging into the logs I discovered the following error:<br>&gt; &gt; &gt;&gt;&gt;<br>&gt; &gt; &gt;&gt;&gt;The first was of this kind (on every VM)<br>&gt; &gt; &gt;&gt;&gt;<br>&gt; &gt; &gt;&gt;&gt;  File "/usr/lib64/python2.7/site-packages/libvirt.py", line 2630, in<br>&gt; &gt; &gt;&gt;&gt;createXML<br>&gt; &gt; &gt;&gt;&gt;     if ret is None:raise libvirtError('virDomainCreateXML() failed',<br>&gt; &gt; &gt;&gt;&gt;conn=self)<br>&gt; &gt; &gt;&gt;&gt;libvirtError: errore interno process exited while connecting to<br>&gt; &gt; &gt;&gt;&gt;monitor: ((null):5034): Spice-Warning **: reds.c:3247:reds_init_ssl:<br>&gt; &gt; &gt;&gt;&gt;Could not use private key file<br>&gt; &gt; &gt;&gt;&gt;qemu-kvm: failed to initialize spice server<br>&gt; &gt; &gt;&gt;&gt;<br>&gt; &gt; &gt;&gt;&gt;Thread-564::DEBUG::2013-09-06<br>&gt; &gt; &gt;&gt;&gt;11:31:32,814::vm::1065::vm.Vm::(setDownStatus)<br>&gt; &gt; &gt;&gt;&gt;vmId=`49d84915-490b-497d-a3f8-c7dac7485281`::Changed state to Down:<br>&gt; &gt; &gt;&gt;&gt;errore interno process exited while connecting to monitor:<br>&gt; &gt; &gt;&gt;&gt;((null):5034): Spice-Warning **: reds.c:3247:reds_init_ssl: Could not<br>&gt; &gt; &gt;&gt;&gt;use private key file<br>&gt; &gt; &gt;&gt;&gt;qemu-kvm: failed to initialize spice server<br>&gt; &gt; &gt;&gt;&gt;<br>&gt; &gt; &gt;&gt;&gt;The private key was marked 440 as permission owned by vdsm user and<br>&gt; &gt; &gt;&gt;&gt;kvm group<br>&gt; &gt; &gt;&gt;&gt;<br>&gt; &gt; &gt;&gt;&gt;I had to change it to 444 to allow everyone to read it<br>&gt; &gt; &gt;&gt;&gt;<br>&gt; &gt; &gt;&gt;&gt;After that I had for every VM the following error:<br>&gt; &gt; &gt;&gt;&gt;<br>&gt; &gt; &gt;&gt;&gt;could not open disk image<br>&gt; &gt; &gt;&gt;&gt;/rhev/data-center/3935800a-abe4-406d-84a1-4c3c0b915cce/6818de31-5cda-41d0-a41a-681230a409ba/images/54144c03-5057-462e-8275-6ab386ae8c5a/01298998-32d5-44c2-b5d1-91be1316ed19:<br>&gt; &gt; &gt;&gt;&gt;<br>&gt; &gt; &gt;&gt;&gt;Permission denied<br>&gt; &gt; &gt;&gt;&gt;<br>&gt; &gt; &gt;&gt;&gt;Disks were owned by vdsm:kvm with 660 permission<br>&gt; &gt; &gt;&gt;&gt;<br>&gt; &gt; &gt;&gt;&gt;I had to relax this to 666 to enable the VMs to start<br>&gt; &gt; &gt;&gt;&gt;<br>&gt; &gt; &gt;&gt;&gt;Has anyone faced this kind f problem before?<br>&gt; &gt; &gt;&gt;&gt;<br>&gt; &gt; &gt;&gt;Yes, me.<br>&gt; &gt; &gt;&gt;&gt;Any hint about what may have caused this odd problem?<br>&gt; &gt; &gt;&gt;&gt;<br>&gt; &gt; &gt;&gt;yum update.<br>&gt; &gt; &gt;&gt;<br>&gt; &gt; &gt;&gt;I updated one of my hosts and after that that host couldn't start VMs<br>&gt; &gt; &gt;&gt;anymore with exact the same errors. See thread 'Starting VM error' by<br>&gt; &gt; &gt;&gt;Shaun Glass. I tried a couple of things but not making world readable<br>&gt; &gt; &gt;&gt;those files. Will probably restore a backup and try it.<br>&gt; &gt; &gt;&gt;I added the virt-preview repo for F18 and updated qemu/libvirt which<br>&gt; &gt; &gt;&gt;also solved the problem.<br>&gt; &gt; &gt;&gt;The difference between the updated and not updated host were really<br>&gt; &gt; &gt;&gt;minimal. See the thead for logs.<br>&gt; &gt; &gt;&gt;<br>&gt; &gt; &gt;&gt;Regards,<br>&gt; &gt; &gt;&gt;<br>&gt; &gt; &gt;&gt;Joop<br>&gt; &gt; &gt;Thank you for your very quick answer<br>&gt; &gt; &gt;<br>&gt; &gt; &gt;I suspected the same thing !<br>&gt; &gt; &gt;<br>&gt; &gt; &gt;I'll update libvirt and revert the permission changes<br>&gt; &gt; &gt;<br>&gt; &gt; That will give you way way newer libvirt/qemu than you probably<br>&gt; &gt; want. I would keep the permission changes and hope that one of the<br>&gt; &gt; following updates to either libvirt/qemu fixes this problem.<br>&gt; <br>&gt; Joop, I'm sorry that I have many requests and few answers, but if indeed<br>&gt; the problem is related to a version of libvirt/qemu, would yould you try<br>&gt; to reproduce it outside ovirt?<br>&gt; <br>&gt; I mean, in your working/non-working hosts, could you create a vdsm:kvm-<br>&gt; owned image, and try to run it from virsh (using vdsm@ovirt user and the<br>&gt; ever-so-secret password listed in vdsm/libvirt_password)?<br>&gt; <br>&gt; What happens if you chown your image to vdsm:qemu? (keeping mode as 660)<br>&gt; <br>&gt; What's `groups qemu` on your hosts?<br>&gt; <br>&gt; Could you attach gdb to the short-living qemu process, and run<br>&gt; getgroups(2) on it?<br>&gt; <br>&gt; Dan.</div><div>&nbsp;</div><div>&gt; &gt; &gt;&gt;&gt;errore interno process exited while connecting to monitor:<br>&gt; &gt; &gt;&gt;&gt;((null):5034): Spice-Warning **: reds.c:3247:reds_init_ssl: Could not<br>&gt; &gt; &gt;&gt;&gt;use private key file</div><div>&nbsp;</div><div>I just ran into this myself on a fresh 3.2.2 install. Enabling the virt-preview repo and doing a yum update&nbsp;fixed the spice-warning issue and the VMs started right up. That might help you Joop.</div><div>&nbsp;</div><div>&nbsp;</div><div>Another issue,&nbsp;ovirt-engine-sdk is newer on the fedora repos than in the ovirt-repo. The fedora one caused issues (I forget which error at the moment), so I had to disable the fedora repos, remove ovirt-engine-sdk, and then reinstall it from the ovirt-repo.</div><div>&nbsp;</div><div>*Forgot to note that I attached a text file of what&nbsp;updated once I added the virt-preview&nbsp;repo&nbsp;</div><div>&nbsp;</div><div>&nbsp;</div><div><br>&gt; _______________________________________________<br>&gt; Users mailing list<br>&gt; Users@ovirt.org<br>&gt; http://lists.ovirt.org/mailman/listinfo/users<br></div>                                               </div></div>                                               </div></body>
</html>