<html>
  <head>

    <meta http-equiv="content-type" content="text/html; charset=ISO-8859-1">
  </head>
  <body bgcolor="#FFFFFF" text="#000000">
    Hi all!<br>
    <br>
    I'm having trouble on removing virtual machines. My environment run
    on a ISCSI domain storage. When I try remove, the SPM logs:<br>
    <br>
    # Start vdsm SPM log #<br>
    Thread-6019517::INFO::2014-02-03
    09:58:09,293::logUtils::41::dispatcher::(wrapper) Run and protect:
    deleteImage(sdUUID='c332da29-ba9f-4c94-8fa9-346bb8e04e2a',
    spUUID='9dbc7bb1-c460-4202-8f10-862d2ed3ed9a',
    imgUUID='57ba1906-2035-4503-acbc-5f6f077f75cc', postZero='false',
    force='false')<br>
    Thread-6019517::INFO::2014-02-03
    09:58:09,293::blockSD::816::Storage.StorageDomain::(validate)
    sdUUID=c332da29-ba9f-4c94-8fa9-346bb8e04e2a<br>
    Thread-6019517::ERROR::2014-02-03
    09:58:10,061::task::833::TaskManager.Task::(_setError)
    Task=`8cbf9978-ed51-488a-af52-a3db030e44ff`::Unexpected error<br>
    Traceback (most recent call last):<br>
    &nbsp; File "/usr/share/vdsm/storage/task.py", line 840, in _run<br>
    &nbsp;&nbsp;&nbsp; return fn(*args, **kargs)<br>
    &nbsp; File "/usr/share/vdsm/logUtils.py", line 42, in wrapper<br>
    &nbsp;&nbsp;&nbsp; res = f(*args, **kwargs)<br>
    &nbsp; File "/usr/share/vdsm/storage/hsm.py", line 1429, in deleteImage<br>
    &nbsp;&nbsp;&nbsp; allVols = dom.getAllVolumes()<br>
    &nbsp; File "/usr/share/vdsm/storage/blockSD.py", line 972, in
    getAllVolumes<br>
    &nbsp;&nbsp;&nbsp; return getAllVolumes(self.sdUUID)<br>
    &nbsp; File "/usr/share/vdsm/storage/blockSD.py", line 172, in
    getAllVolumes<br>
    &nbsp;&nbsp;&nbsp; vImg not in res[vPar]['imgs']):<br>
    KeyError: '63650a24-7e83-4c0a-851d-0ce9869a294d'<br>
    Thread-6019517::INFO::2014-02-03
    09:58:10,063::task::1134::TaskManager.Task::(prepare)
    Task=`8cbf9978-ed51-488a-af52-a3db030e44ff`::aborting: Task is
    aborted: u"'63650a24-7e83-4c0a-851d-0ce9869a294d'" - code 100<br>
    Thread-6019517::ERROR::2014-02-03
    09:58:10,066::dispatcher::70::Storage.Dispatcher.Protect::(run)
    '63650a24-7e83-4c0a-851d-0ce9869a294d'<br>
    Traceback (most recent call last):<br>
    &nbsp; File "/usr/share/vdsm/storage/dispatcher.py", line 62, in run<br>
    &nbsp;&nbsp;&nbsp; result = ctask.prepare(self.func, *args, **kwargs)<br>
    &nbsp; File "/usr/share/vdsm/storage/task.py", line 1142, in prepare<br>
    &nbsp;&nbsp;&nbsp; raise self.error<br>
    KeyError: '63650a24-7e83-4c0a-851d-0ce9869a294d'<br>
    Thread-6019518::INFO::2014-02-03
    09:58:10,087::logUtils::41::dispatcher::(wrapper) Run and protect:
    getSpmStatus(spUUID='9dbc7bb1-c460-4202-8f10-862d2ed3ed9a',
    options=None)<br>
    Thread-6019518::INFO::2014-02-03
    09:58:10,088::logUtils::44::dispatcher::(wrapper) Run and protect:
    getSpmStatus, Return response: {'spm_st': {'spmId': 14, 'spmStatus':
    'SPM', 'spmLver': 64}}<br>
    Thread-6019519::INFO::2014-02-03
    09:58:10,100::logUtils::41::dispatcher::(wrapper) Run and protect:
    getAllTasksStatuses(spUUID=None, options=None)<br>
    Thread-6019519::INFO::2014-02-03
    09:58:10,101::logUtils::44::dispatcher::(wrapper) Run and protect:
    getAllTasksStatuses, Return response: {'allTasksStatus': {}}<br>
    Thread-6019520::INFO::2014-02-03
    09:58:10,109::logUtils::41::dispatcher::(wrapper) Run and protect:
    spmStop(spUUID='9dbc7bb1-c460-4202-8f10-862d2ed3ed9a', options=None)<br>
    Thread-6019520::INFO::2014-02-03
    09:58:10,681::clusterlock::121::SafeLease::(release) Releasing
    cluster lock for domain c332da29-ba9f-4c94-8fa9-346bb8e04e2a<br>
    Thread-6019521::INFO::2014-02-03
    09:58:11,054::logUtils::41::dispatcher::(wrapper) Run and protect:
    repoStats(options=None)<br>
    Thread-6019521::INFO::2014-02-03
    09:58:11,054::logUtils::44::dispatcher::(wrapper) Run and protect:
    repoStats, Return response:
    {u'51eb6183-157d-4015-ae0f-1c7ffb1731c0': {'delay':
    '0.00799298286438', 'lastCheck': '5.3', 'code': 0, 'valid': True},
    u'c332da29-ba9f-4c94-8fa9-346bb8e04e2a': {'delay':
    '0.0197920799255', 'lastCheck': '4.9', 'code': 0, 'valid': True},
    u'0e0be898-6e04-4469-bb32-91f3cf8146d1': {'delay':
    '0.00803208351135', 'lastCheck': '5.3', 'code': 0, 'valid': True}}<br>
    Thread-6019520::INFO::2014-02-03
    09:58:11,732::logUtils::44::dispatcher::(wrapper) Run and protect:
    spmStop, Return response: None<br>
    Thread-6019523::INFO::2014-02-03
    09:58:11,835::logUtils::41::dispatcher::(wrapper) Run and protect:
    getAllTasksStatuses(spUUID=None, options=None)<br>
    Thread-6019523::INFO::2014-02-03
    09:58:11,835::logUtils::44::dispatcher::(wrapper) Run and protect:
    getAllTasksStatuses, Return response: {'allTasksStatus': {}}<br>
    Thread-6019524::INFO::2014-02-03
    09:58:11,844::logUtils::41::dispatcher::(wrapper) Run and protect:
    spmStop(spUUID='9dbc7bb1-c460-4202-8f10-862d2ed3ed9a', options=None)<br>
    Thread-6019524::ERROR::2014-02-03
    09:58:11,846::task::833::TaskManager.Task::(_setError)
    Task=`00df5ff7-bbf4-4a0e-b60b-1b06dcaa7683`::Unexpected error<br>
    Traceback (most recent call last):<br>
    &nbsp; File "/usr/share/vdsm/storage/task.py", line 840, in _run<br>
    &nbsp;&nbsp;&nbsp; return fn(*args, **kargs)<br>
    &nbsp; File "/usr/share/vdsm/logUtils.py", line 42, in wrapper<br>
    &nbsp;&nbsp;&nbsp; res = f(*args, **kwargs)<br>
    &nbsp; File "/usr/share/vdsm/storage/hsm.py", line 601, in spmStop<br>
    &nbsp;&nbsp;&nbsp; pool.stopSpm()<br>
    &nbsp; File "/usr/share/vdsm/storage/securable.py", line 66, in wrapper<br>
    &nbsp;&nbsp;&nbsp; raise SecureError()<br>
    SecureError<br>
    Thread-6019524::INFO::2014-02-03
    09:58:11,855::task::1134::TaskManager.Task::(prepare)
    Task=`00df5ff7-bbf4-4a0e-b60b-1b06dcaa7683`::aborting: Task is
    aborted: u'' - code 100<br>
    Thread-6019524::ERROR::2014-02-03
    09:58:11,857::dispatcher::70::Storage.Dispatcher.Protect::(run) <br>
    Traceback (most recent call last):<br>
    &nbsp; File "/usr/share/vdsm/storage/dispatcher.py", line 62, in run<br>
    &nbsp;&nbsp;&nbsp; result = ctask.prepare(self.func, *args, **kwargs)<br>
    &nbsp; File "/usr/share/vdsm/storage/task.py", line 1142, in prepare<br>
    &nbsp;&nbsp;&nbsp; raise self.error<br>
    SecureError<br>
    Dummy-6018624::INFO::2014-02-03
    09:58:14,220::storage_<a class="moz-txt-link-freetext" href="mailbox::674::Storage.MailBox.SpmMailMonitor::(run)">mailbox::674::Storage.MailBox.SpmMailMonitor::(run)</a>
    SPM_MailMonitor - Incoming mail monitoring thread stopped<br>
    Thread-34627::INFO::2014-02-03
    09:58:17,696::logUtils::41::dispatcher::(wrapper) Run and protect:
    getVolumeSize(sdUUID='c332da29-ba9f-4c94-8fa9-346bb8e04e2a',
    spUUID='9dbc7bb1-c460-4202-8f10-862d2ed3ed9a',
    imgUUID='974d9602-8fbe-485b-a12d-59b6c34826b7',
    volUUID='c1bcfe5c-20ab-4f50-a88b-e2e0e1184bf8', options=None)<br>
    Thread-34757::INFO::2014-02-03
    09:58:17,696::logUtils::41::dispatcher::(wrapper) Run and protect:
    getVolumeSize(sdUUID='c332da29-ba9f-4c94-8fa9-346bb8e04e2a',
    spUUID='9dbc7bb1-c460-4202-8f10-862d2ed3ed9a',
    imgUUID='49f65bfd-8592-42b9-9a31-91268402903f',
    volUUID='511e6584-4f19-426d-9379-b223d0c2d9c6', options=None)<br>
    Thread-34627::INFO::2014-02-03
    09:58:17,697::logUtils::44::dispatcher::(wrapper) Run and protect:
    getVolumeSize, Return response: {'truesize': '10737418240',
    'apparentsize': '10737418240'}<br>
    Thread-34757::INFO::2014-02-03
    09:58:17,698::logUtils::44::dispatcher::(wrapper) Run and protect:
    getVolumeSize, Return response: {'truesize': '32212254720',
    'apparentsize': '32212254720'}<br>
    Thread-6019529::INFO::2014-02-03
    09:58:21,672::logUtils::41::dispatcher::(wrapper) Run and protect:
    repoStats(options=None)<br>
    Thread-6019529::INFO::2014-02-03
    09:58:21,673::logUtils::44::dispatcher::(wrapper) Run and protect:
    repoStats, Return response:
    {u'51eb6183-157d-4015-ae0f-1c7ffb1731c0': {'delay':
    '0.00730204582214', 'lastCheck': '5.9', 'code': 0, 'valid': True},
    u'c332da29-ba9f-4c94-8fa9-346bb8e04e2a': {'delay':
    '0.0207469463348', 'lastCheck': '5.3', 'code': 0, 'valid': True},
    u'0e0be898-6e04-4469-bb32-91f3cf8146d1': {'delay':
    '0.00734615325928', 'lastCheck': '5.9', 'code': 0, 'valid': True}}<br>
    Thread-243::INFO::2014-02-03
    09:58:27,800::logUtils::41::dispatcher::(wrapper) Run and protect:
    getVolumeSize(sdUUID='c332da29-ba9f-4c94-8fa9-346bb8e04e2a',
    spUUID='9dbc7bb1-c460-4202-8f10-862d2ed3ed9a',
    imgUUID='50f2c3e9-aa94-4ad1-9c3f-91b452292374',
    volUUID='d7cddb76-a5b7-49ed-9efe-44d92ec18d93', options=None)<br>
    Thread-34590::INFO::2014-02-03
    09:58:27,801::logUtils::41::dispatcher::(wrapper) Run and protect:
    getVolumeSize(sdUUID='c332da29-ba9f-4c94-8fa9-346bb8e04e2a',
    spUUID='9dbc7bb1-c460-4202-8f10-862d2ed3ed9a',
    imgUUID='c36bb1da-babd-47bd-a406-58f0cb529c00',
    volUUID='6ea83f9e-c614-4e11-ab57-314ed4efeeaa', options=None)<br>
    Thread-243::INFO::2014-02-03
    09:58:27,802::logUtils::44::dispatcher::(wrapper) Run and protect:
    getVolumeSize, Return response: {'truesize': '10737418240',
    'apparentsize': '10737418240'}<br>
    Thread-34590::INFO::2014-02-03
    09:58:27,803::logUtils::44::dispatcher::(wrapper) Run and protect:
    getVolumeSize, Return response: {'truesize': '107374182400',
    'apparentsize': '107374182400'}<br>
    Thread-6019535::INFO::2014-02-03
    09:58:32,337::logUtils::41::dispatcher::(wrapper) Run and protect:
    repoStats(options=None)<br>
    Thread-6019535::INFO::2014-02-03
    09:58:32,337::logUtils::44::dispatcher::(wrapper) Run and protect:
    repoStats, Return response:
    {u'51eb6183-157d-4015-ae0f-1c7ffb1731c0': {'delay':
    '0.0119340419769', 'lastCheck': '6.6', 'code': 0, 'valid': True},
    u'c332da29-ba9f-4c94-8fa9-346bb8e04e2a': {'delay':
    '0.0190720558167', 'lastCheck': '6.0', 'code': 0, 'valid': True},
    u'0e0be898-6e04-4469-bb32-91f3cf8146d1': {'delay':
    '0.00720596313477', 'lastCheck': '6.6', 'code': 0, 'valid': True}}<br>
    Thread-2017487::INFO::2014-02-03
    09:58:37,692::logUtils::41::dispatcher::(wrapper) Run and protect:
    getVolumeSize(sdUUID='c332da29-ba9f-4c94-8fa9-346bb8e04e2a',
    spUUID='9dbc7bb1-c460-4202-8f10-862d2ed3ed9a',
    imgUUID='827f2d81-dc8c-414e-90d2-75e76b3250a0',
    volUUID='f86ec330-0815-4361-8ce7-abf3318a8939', options=None)<br>
    Thread-2017487::INFO::2014-02-03
    09:58:37,693::logUtils::44::dispatcher::(wrapper) Run and protect:
    getVolumeSize, Return response: {'truesize': '10737418240',
    'apparentsize': '10737418240'}<br>
    Thread-6019540::INFO::2014-02-03
    09:58:39,118::logUtils::41::dispatcher::(wrapper) Run and protect:
    getAllTasksStatuses(spUUID=None, options=None)<br>
    Thread-6019540::INFO::2014-02-03
    09:58:39,118::logUtils::44::dispatcher::(wrapper) Run and protect:
    getAllTasksStatuses, Return response: {'allTasksStatus': {}}<br>
    Thread-6019541::INFO::2014-02-03
    09:58:39,126::logUtils::41::dispatcher::(wrapper) Run and protect:
    spmStop(spUUID='9dbc7bb1-c460-4202-8f10-862d2ed3ed9a', options=None)<br>
    Thread-6019541::ERROR::2014-02-03
    09:58:39,127::task::833::TaskManager.Task::(_setError)
    Task=`1f478485-401b-4b9b-b58b-1e7973cf64a2`::Unexpected error<br>
    Traceback (most recent call last):<br>
    &nbsp; File "/usr/share/vdsm/storage/task.py", line 840, in _run<br>
    &nbsp;&nbsp;&nbsp; return fn(*args, **kargs)<br>
    &nbsp; File "/usr/share/vdsm/logUtils.py", line 42, in wrapper<br>
    &nbsp;&nbsp;&nbsp; res = f(*args, **kwargs)<br>
    &nbsp; File "/usr/share/vdsm/storage/hsm.py", line 601, in spmStop<br>
    &nbsp;&nbsp;&nbsp; pool.stopSpm()<br>
    &nbsp; File "/usr/share/vdsm/storage/securable.py", line 66, in wrapper<br>
    &nbsp;&nbsp;&nbsp; raise SecureError()<br>
    SecureError<br>
    Thread-6019541::INFO::2014-02-03
    09:58:39,128::task::1134::TaskManager.Task::(prepare)
    Task=`1f478485-401b-4b9b-b58b-1e7973cf64a2`::aborting: Task is
    aborted: u'' - code 100<br>
    Thread-6019541::ERROR::2014-02-03
    09:58:39,130::dispatcher::70::Storage.Dispatcher.Protect::(run) <br>
    Traceback (most recent call last):<br>
    &nbsp; File "/usr/share/vdsm/storage/dispatcher.py", line 62, in run<br>
    &nbsp;&nbsp;&nbsp; result = ctask.prepare(self.func, *args, **kwargs)<br>
    &nbsp; File "/usr/share/vdsm/storage/task.py", line 1142, in prepare<br>
    &nbsp;&nbsp;&nbsp; raise self.error<br>
    SecureError<br>
    # End vdsm SPM log #<br>
    <br>
    And after, the cluster elects another SPM.<br>
    <br>
    The webgui shows on 'events' tab:<br>
    <br>
    # Start webgui events #<br>
    <meta http-equiv="content-type" content="text/html;
      charset=ISO-8859-1">
    Data Center is being initialized, please wait for initialization to
    complete.<br>
    <meta http-equiv="content-type" content="text/html;
      charset=ISO-8859-1">
    Failed to remove VM _12.147_postgresql_default.sir.inpe.br_apagar
    (User: eduardo.ramos).<br>
    # End webgui events #<br>
    <br>
    Engine logs nothing but normal change of SPM.<br>
    <br>
    I would like to know how I can identify what is stuck, and if I can
    delete by hand, deleting entry from DB and lvremove.<br>
    <br>
    Thanks!<br>
  </body>
</html>