+ wait_for_file /etc/pki/CA/cacert.pem
+ local file=/etc/pki/CA/cacert.pem
+ '[' '!' -f /etc/pki/CA/cacert.pem ']'
+ sleep 1
+ '[' '!' -f /etc/pki/CA/cacert.pem ']'
+ sleep 1
+ '[' '!' -f /etc/pki/CA/cacert.pem ']'
+ sleep 1
+ '[' '!' -f /etc/pki/CA/cacert.pem ']'
+ sleep 1
+ '[' '!' -f /etc/pki/CA/cacert.pem ']'
+ sleep 1
+ '[' '!' -f /etc/pki/CA/cacert.pem ']'
+ wait_for_file /etc/pki/qemu/ca-cert.pem
+ local file=/etc/pki/qemu/ca-cert.pem
+ '[' '!' -f /etc/pki/qemu/ca-cert.pem ']'
+ wait_for_file /etc/pki/libvirt/servercert.pem
+ local file=/etc/pki/libvirt/servercert.pem
+ '[' '!' -f /etc/pki/libvirt/servercert.pem ']'
+ wait_for_file /etc/pki/libvirt/clientcert.pem
+ local file=/etc/pki/libvirt/clientcert.pem
+ '[' '!' -f /etc/pki/libvirt/clientcert.pem ']'
+ wait_for_file /etc/pki/qemu/server-cert.pem
+ local file=/etc/pki/qemu/server-cert.pem
+ '[' '!' -f /etc/pki/qemu/server-cert.pem ']'
+ wait_for_file /etc/pki/qemu/client-cert.pem
+ local file=/etc/pki/qemu/client-cert.pem
+ '[' '!' -f /etc/pki/qemu/client-cert.pem ']'
+ wait_for_file /etc/pki/libvirt/private/serverkey.pem
+ local file=/etc/pki/libvirt/private/serverkey.pem
+ '[' '!' -f /etc/pki/libvirt/private/serverkey.pem ']'
+ wait_for_file /etc/pki/libvirt/private/clientkey.pem
+ local file=/etc/pki/libvirt/private/clientkey.pem
+ '[' '!' -f /etc/pki/libvirt/private/clientkey.pem ']'
+ wait_for_file /etc/pki/qemu/server-key.pem
+ local file=/etc/pki/qemu/server-key.pem
+ '[' '!' -f /etc/pki/qemu/server-key.pem ']'
+ wait_for_file /etc/pki/qemu/client-key.pem
+ local file=/etc/pki/qemu/client-key.pem
+ '[' '!' -f /etc/pki/qemu/client-key.pem ']'
+ wait_for_file /etc/pki/libvirt-vnc/ca-cert.pem
+ local file=/etc/pki/libvirt-vnc/ca-cert.pem
+ '[' '!' -f /etc/pki/libvirt-vnc/ca-cert.pem ']'
+ wait_for_file /etc/pki/libvirt-vnc/server-cert.pem
+ local file=/etc/pki/libvirt-vnc/server-cert.pem
+ '[' '!' -f /etc/pki/libvirt-vnc/server-cert.pem ']'
+ wait_for_file /etc/pki/libvirt-vnc/server-key.pem
+ local file=/etc/pki/libvirt-vnc/server-key.pem
+ '[' '!' -f /etc/pki/libvirt-vnc/server-key.pem ']'
++ grep -w libvirtd
++ cat /proc/1/comm /proc/10/comm /proc/100/comm /proc/100702/comm /proc/101771/comm /proc/102/comm /proc/103/comm /proc/10344/comm /proc/104/comm /proc/105/comm /proc/106/comm /proc/106276/comm /proc/107039/comm /proc/107504/comm /proc/108/comm /proc/10852/comm /proc/10853/comm /proc/109/comm /proc/11/comm /proc/110/comm /proc/1100/comm /proc/111/comm /proc/112/comm /proc/112886/comm /proc/112911/comm /proc/113/comm /proc/113212/comm /proc/113249/comm /proc/113250/comm /proc/114/comm /proc/114332/comm /proc/114360/comm /proc/114371/comm /proc/114394/comm /proc/114660/comm /proc/114661/comm /proc/114870/comm /proc/114961/comm /proc/114963/comm /proc/114965/comm /proc/115/comm /proc/115547/comm /proc/115930/comm /proc/116/comm /proc/116391/comm /proc/116416/comm /proc/116600/comm /proc/116617/comm /proc/116623/comm /proc/116752/comm /proc/116755/comm /proc/116769/comm /proc/116961/comm /proc/117/comm /proc/118101/comm /proc/118124/comm /proc/118146/comm /proc/118171/comm /proc/12/comm /proc/120434/comm /proc/120437/comm /proc/120920/comm /proc/121015/comm /proc/122100/comm /proc/122103/comm /proc/12246/comm /proc/12277/comm /proc/12319/comm /proc/12357/comm /proc/12369/comm /proc/124700/comm /proc/125801/comm /proc/12607/comm /proc/12639/comm /proc/126746/comm /proc/12696/comm /proc/12720/comm /proc/12738/comm /proc/128228/comm /proc/128241/comm /proc/128242/comm /proc/129814/comm /proc/13/comm /proc/131202/comm /proc/131228/comm /proc/131242/comm /proc/131272/comm /proc/131819/comm /proc/132244/comm /proc/132477/comm /proc/14/comm /proc/142702/comm /proc/1431/comm /proc/14418/comm /proc/145464/comm /proc/145489/comm /proc/146812/comm /proc/148589/comm /proc/149698/comm /proc/15/comm /proc/15029/comm /proc/150796/comm /proc/150797/comm /proc/150868/comm /proc/150892/comm /proc/151554/comm /proc/151567/comm /proc/151568/comm /proc/152753/comm /proc/152754/comm /proc/1549/comm /proc/1550/comm /proc/1551/comm /proc/1552/comm /proc/1556/comm /proc/159847/comm /proc/159848/comm /proc/159850/comm /proc/159852/comm /proc/16/comm /proc/160080/comm /proc/160662/comm /proc/160686/comm /proc/161092/comm /proc/161127/comm /proc/161141/comm /proc/161173/comm /proc/161174/comm /proc/161175/comm /proc/161176/comm /proc/161813/comm /proc/161838/comm /proc/1623/comm /proc/162508/comm /proc/162589/comm /proc/162625/comm /proc/1627/comm /proc/162992/comm /proc/163018/comm /proc/163058/comm /proc/163104/comm /proc/163295/comm /proc/163316/comm /proc/163356/comm /proc/163371/comm /proc/163401/comm /proc/163416/comm /proc/163494/comm /proc/163523/comm /proc/1636/comm /proc/163609/comm /proc/163643/comm /proc/163841/comm /proc/164030/comm /proc/164035/comm /proc/164392/comm /proc/164420/comm /proc/164421/comm /proc/164422/comm /proc/164688/comm /proc/164711/comm /proc/164963/comm /proc/164980/comm /proc/164986/comm /proc/165/comm /proc/165033/comm /proc/165034/comm /proc/165044/comm /proc/165113/comm /proc/166/comm /proc/166967/comm /proc/167/comm /proc/167003/comm /proc/167034/comm /proc/167053/comm /proc/167080/comm /proc/167105/comm /proc/167165/comm /proc/167203/comm /proc/167229/comm /proc/167253/comm /proc/167279/comm /proc/167371/comm /proc/167406/comm /proc/167640/comm /proc/167665/comm /proc/167882/comm /proc/167906/comm /proc/168/comm /proc/168474/comm /proc/169/comm /proc/170/comm /proc/170644/comm /proc/171/comm /proc/172/comm /proc/173/comm /proc/173503/comm /proc/173511/comm /proc/174116/comm /proc/175/comm /proc/175618/comm /proc/175940/comm /proc/176/comm /proc/176926/comm /proc/176954/comm /proc/178/comm /proc/178547/comm /proc/178554/comm /proc/178559/comm /proc/179/comm /proc/179138/comm /proc/179175/comm /proc/179176/comm /proc/179270/comm /proc/179283/comm /proc/179284/comm /proc/18/comm /proc/180011/comm /proc/180087/comm /proc/180129/comm /proc/180371/comm /proc/180377/comm /proc/180574/comm /proc/180575/comm /proc/180613/comm /proc/180615/comm /proc/180970/comm /proc/181128/comm /proc/181152/comm /proc/181361/comm /proc/181377/comm /proc/181383/comm /proc/181480/comm /proc/181481/comm /proc/181491/comm /proc/181638/comm /proc/182/comm /proc/182943/comm /proc/182986/comm /proc/182996/comm /proc/183042/comm /proc/183095/comm /proc/183124/comm /proc/183168/comm /proc/183229/comm /proc/183315/comm /proc/183341/comm /proc/183420/comm /proc/183453/comm /proc/184/comm /proc/184044/comm /proc/184137/comm /proc/184150/comm /proc/184528/comm /proc/185/comm /proc/18512/comm /proc/18533/comm /proc/18556/comm /proc/18583/comm /proc/186/comm /proc/18600/comm /proc/187/comm /proc/187045/comm /proc/187752/comm /proc/187755/comm /proc/188/comm /proc/188412/comm /proc/188436/comm /proc/188629/comm /proc/188908/comm /proc/188963/comm /proc/189/comm /proc/189044/comm /proc/189096/comm /proc/189148/comm /proc/189159/comm /proc/189775/comm /proc/19/comm /proc/191/comm /proc/192971/comm /proc/193072/comm /proc/193124/comm /proc/193187/comm /proc/193341/comm /proc/193453/comm /proc/193454/comm /proc/193460/comm /proc/193560/comm /proc/193562/comm /proc/193563/comm /proc/193683/comm /proc/193895/comm /proc/193946/comm /proc/193980/comm /proc/193981/comm /proc/193994/comm /proc/194007/comm /proc/194008/comm /proc/194070/comm /proc/194116/comm /proc/194141/comm /proc/194154/comm /proc/194306/comm /proc/194318/comm /proc/194329/comm /proc/194330/comm /proc/194331/comm /proc/2/comm /proc/20/comm /proc/203/comm /proc/204/comm /proc/205/comm /proc/206/comm /proc/21/comm /proc/215/comm /proc/21515/comm /proc/21572/comm /proc/21573/comm /proc/21589/comm /proc/218/comm /proc/219/comm /proc/22/comm /proc/224/comm /proc/24/comm /proc/246/comm /proc/24852/comm /proc/25/comm /proc/25121/comm /proc/25139/comm /proc/25163/comm /proc/25175/comm /proc/26/comm /proc/266/comm /proc/27/comm /proc/28/comm /proc/284/comm /proc/285/comm /proc/286/comm /proc/288/comm /proc/29530/comm /proc/29808/comm /proc/29826/comm /proc/29850/comm /proc/29862/comm /proc/3/comm /proc/30/comm /proc/307/comm /proc/308/comm /proc/31/comm /proc/312/comm /proc/313/comm /proc/314/comm /proc/315/comm /proc/316/comm /proc/317/comm /proc/318/comm /proc/319/comm /proc/32/comm /proc/33/comm /proc/34/comm /proc/34238/comm /proc/34511/comm /proc/34528/comm /proc/34553/comm /proc/34565/comm /proc/35224/comm /proc/358/comm /proc/36/comm /proc/37/comm /proc/38/comm /proc/38826/comm /proc/38834/comm /proc/38932/comm /proc/38953/comm /proc/38977/comm /proc/39/comm /proc/39025/comm /proc/39041/comm /proc/392/comm /proc/396/comm /proc/4/comm /proc/40/comm /proc/41531/comm /proc/41538/comm /proc/41574/comm /proc/41590/comm /proc/41595/comm /proc/41637/comm /proc/41668/comm /proc/41670/comm /proc/41695/comm /proc/41709/comm /proc/41773/comm /proc/41799/comm /proc/41811/comm /proc/41849/comm /proc/41941/comm /proc/41998/comm /proc/42/comm /proc/42157/comm /proc/42180/comm /proc/42205/comm /proc/42878/comm /proc/42899/comm /proc/42937/comm /proc/42960/comm /proc/43/comm /proc/43204/comm /proc/43411/comm /proc/43832/comm /proc/44/comm /proc/44235/comm /proc/44259/comm /proc/44291/comm /proc/44679/comm /proc/44702/comm /proc/44716/comm /proc/44747/comm /proc/44768/comm /proc/44811/comm /proc/45/comm /proc/45191/comm /proc/452/comm /proc/45217/comm /proc/45387/comm /proc/45704/comm /proc/45732/comm /proc/45738/comm /proc/45773/comm /proc/45783/comm /proc/45808/comm /proc/45923/comm /proc/45966/comm /proc/46/comm /proc/46016/comm /proc/47853/comm /proc/47894/comm /proc/47961/comm /proc/47984/comm /proc/48/comm /proc/48243/comm /proc/48256/comm /proc/48325/comm /proc/48529/comm /proc/48847/comm /proc/48871/comm /proc/48949/comm /proc/48972/comm /proc/49/comm /proc/49019/comm /proc/49141/comm /proc/49316/comm /proc/49339/comm /proc/49458/comm /proc/49602/comm /proc/49630/comm /proc/5/comm /proc/50/comm /proc/50006/comm /proc/50030/comm /proc/50139/comm /proc/50216/comm /proc/50313/comm /proc/50342/comm /proc/50410/comm /proc/50457/comm /proc/51/comm /proc/518/comm /proc/52/comm /proc/52258/comm /proc/52281/comm /proc/52500/comm /proc/52523/comm /proc/52555/comm /proc/52661/comm /proc/52851/comm /proc/52955/comm /proc/52997/comm /proc/54/comm /proc/55/comm /proc/56/comm /proc/57/comm /proc/57349/comm /proc/57374/comm /proc/58/comm /proc/58077/comm /proc/58115/comm /proc/58130/comm /proc/58161/comm /proc/58178/comm /proc/58205/comm /proc/58382/comm /proc/58406/comm /proc/58444/comm /proc/58484/comm /proc/58520/comm /proc/58593/comm /proc/6/comm /proc/60/comm /proc/61/comm /proc/610/comm /proc/614/comm /proc/619/comm /proc/62/comm /proc/624/comm /proc/625/comm /proc/63/comm /proc/63028/comm /proc/63029/comm /proc/63031/comm /proc/63220/comm /proc/63300/comm /proc/63333/comm /proc/63440/comm /proc/63467/comm /proc/63486/comm /proc/63514/comm /proc/63521/comm /proc/63550/comm /proc/63860/comm /proc/64/comm /proc/64089/comm /proc/641/comm /proc/64112/comm /proc/64250/comm /proc/643/comm /proc/64376/comm /proc/64377/comm /proc/64401/comm /proc/64402/comm /proc/64727/comm /proc/65171/comm /proc/65194/comm /proc/65209/comm /proc/65240/comm /proc/65257/comm /proc/65281/comm /proc/65367/comm /proc/65391/comm /proc/65654/comm /proc/65656/comm /proc/65657/comm /proc/65743/comm /proc/65778/comm /proc/65848/comm /proc/65873/comm /proc/65957/comm /proc/66/comm /proc/66033/comm /proc/66242/comm /proc/66273/comm /proc/66296/comm /proc/66394/comm /proc/66416/comm /proc/66417/comm /proc/66418/comm /proc/66419/comm /proc/66420/comm /proc/66493/comm /proc/66521/comm /proc/66602/comm /proc/66857/comm /proc/66965/comm /proc/66997/comm /proc/67/comm /proc/67021/comm /proc/67622/comm /proc/67676/comm /proc/67817/comm /proc/67842/comm /proc/67946/comm /proc/67983/comm /proc/68/comm /proc/68139/comm /proc/68184/comm /proc/68224/comm /proc/68372/comm /proc/68739/comm /proc/68781/comm /proc/68826/comm /proc/68948/comm /proc/68998/comm /proc/69/comm /proc/69019/comm /proc/69074/comm /proc/69158/comm /proc/69286/comm /proc/69311/comm /proc/69859/comm /proc/69876/comm /proc/69882/comm /proc/69929/comm /proc/69930/comm /proc/69940/comm /proc/70/comm /proc/700/comm /proc/70105/comm /proc/703/comm /proc/704/comm /proc/71364/comm /proc/71388/comm /proc/717/comm /proc/72/comm /proc/73/comm /proc/74/comm /proc/74271/comm /proc/74676/comm /proc/74691/comm /proc/74692/comm /proc/74693/comm /proc/74694/comm /proc/74695/comm /proc/74696/comm /proc/74698/comm /proc/74700/comm /proc/74702/comm /proc/74705/comm /proc/74706/comm /proc/74707/comm /proc/74708/comm /proc/74709/comm /proc/75/comm /proc/76/comm /proc/77934/comm /proc/78/comm /proc/79/comm /proc/8/comm /proc/80/comm /proc/80164/comm /proc/80531/comm /proc/80574/comm /proc/80678/comm /proc/80695/comm /proc/80701/comm /proc/80843/comm /proc/80844/comm /proc/80854/comm /proc/80949/comm /proc/81/comm /proc/82/comm /proc/82173/comm /proc/82196/comm /proc/84/comm /proc/85/comm /proc/85112/comm /proc/86/comm /proc/86177/comm /proc/862/comm /proc/87/comm /proc/87540/comm /proc/87641/comm /proc/87681/comm /proc/88/comm /proc/88537/comm /proc/88561/comm /proc/89443/comm /proc/9/comm /proc/90/comm /proc/91/comm /proc/92/comm /proc/9241/comm /proc/9258/comm /proc/9274/comm /proc/93/comm /proc/9357/comm /proc/94/comm /proc/95948/comm /proc/95972/comm /proc/96/comm /proc/96150/comm /proc/96168/comm /proc/96174/comm /proc/96224/comm /proc/96225/comm /proc/96235/comm /proc/96557/comm /proc/97/comm /proc/98/comm /proc/98353/comm /proc/98377/comm /proc/98401/comm /proc/98430/comm /proc/98841/comm /proc/98966/comm /proc/99/comm /proc/99698/comm /proc/9975/comm /proc/self/comm /proc/thread-self/comm
+ '[' -n '' ']'
+ rm -f /var/run/libvirtd.pid
+ [[ -c /dev/kvm ]]
+ chmod 660 /dev/kvm
+ chown root:kvm /dev/kvm
+ CGROUPS=
+ for CGROUP in blkio cpu devices freezer hugetlb memory net_cls perf_event rdma misc pids
+ '[' -d /sys/fs/cgroup/blkio ']'
+ grep -w blkio /sys/fs/cgroup/cgroup.controllers
+ for CGROUP in blkio cpu devices freezer hugetlb memory net_cls perf_event rdma misc pids
+ '[' -d /sys/fs/cgroup/cpu ']'
+ grep -w cpu /sys/fs/cgroup/cgroup.controllers
cpuset cpu io memory hugetlb pids rdma misc
+ CGROUPS+=cpu,
+ for CGROUP in blkio cpu devices freezer hugetlb memory net_cls perf_event rdma misc pids
+ '[' -d /sys/fs/cgroup/devices ']'
+ grep -w devices /sys/fs/cgroup/cgroup.controllers
+ for CGROUP in blkio cpu devices freezer hugetlb memory net_cls perf_event rdma misc pids
+ '[' -d /sys/fs/cgroup/freezer ']'
+ grep -w freezer /sys/fs/cgroup/cgroup.controllers
+ for CGROUP in blkio cpu devices freezer hugetlb memory net_cls perf_event rdma misc pids
+ '[' -d /sys/fs/cgroup/hugetlb ']'
+ grep -w hugetlb /sys/fs/cgroup/cgroup.controllers
cpuset cpu io memory hugetlb pids rdma misc
+ CGROUPS+=hugetlb,
+ for CGROUP in blkio cpu devices freezer hugetlb memory net_cls perf_event rdma misc pids
+ '[' -d /sys/fs/cgroup/memory ']'
+ grep -w memory /sys/fs/cgroup/cgroup.controllers
cpuset cpu io memory hugetlb pids rdma misc
+ CGROUPS+=memory,
+ for CGROUP in blkio cpu devices freezer hugetlb memory net_cls perf_event rdma misc pids
+ '[' -d /sys/fs/cgroup/net_cls ']'
+ grep -w net_cls /sys/fs/cgroup/cgroup.controllers
+ for CGROUP in blkio cpu devices freezer hugetlb memory net_cls perf_event rdma misc pids
+ '[' -d /sys/fs/cgroup/perf_event ']'
+ grep -w perf_event /sys/fs/cgroup/cgroup.controllers
+ for CGROUP in blkio cpu devices freezer hugetlb memory net_cls perf_event rdma misc pids
+ '[' -d /sys/fs/cgroup/rdma ']'
+ grep -w rdma /sys/fs/cgroup/cgroup.controllers
cpuset cpu io memory hugetlb pids rdma misc
+ CGROUPS+=rdma,
+ for CGROUP in blkio cpu devices freezer hugetlb memory net_cls perf_event rdma misc pids
+ '[' -d /sys/fs/cgroup/misc ']'
+ grep -w misc /sys/fs/cgroup/cgroup.controllers
cpuset cpu io memory hugetlb pids rdma misc
+ CGROUPS+=misc,
+ for CGROUP in blkio cpu devices freezer hugetlb memory net_cls perf_event rdma misc pids
+ '[' -d /sys/fs/cgroup/pids ']'
+ grep -w pids /sys/fs/cgroup/cgroup.controllers
cpuset cpu io memory hugetlb pids rdma misc
+ CGROUPS+=pids,
+ cgcreate -g cpu,hugetlb,memory,rdma,misc,pids:/osh-libvirt
++ cat /proc/meminfo
++ grep HugePages_Total
++ tr -cd '[:digit:]'
+ hp_count=0
+ '[' 00 -gt 0 ']'
+ '[' -n 457eb676-33da-42ec-9a8c-9293d545c337 ']'
+ cgexec -g cpu,hugetlb,memory,rdma,misc,pids:/osh-libvirt systemd-run --scope --slice=system libvirtd --listen
++ mktemp --suffix .xml
+ tmpsecret=/tmp/tmp.llyQDBO0Cr.xml
+ '[' -n '' ']'
+ trap cleanup EXIT
+ TIMEOUT=60
+ [[ ! -f /var/run/libvirtd.pid ]]
+ [[ 60 -gt 0 ]]
+ let TIMEOUT-=1
+ sleep 1
Running as unit: run-r873b10fa7c3f47379b00493beb6c99a0.scope; invocation ID: 8b833d5965df4464a6f28adaedebbc02
+ [[ ! -f /var/run/libvirtd.pid ]]
+ TIMEOUT=10
+ [[ ! -e /var/run/libvirt/libvirt-sock ]]
+ '[' -z '' ']'
+ '[' -n cinder ']'
++ awk '/key/{print $3}' /etc/ceph/ceph.client.cinder.keyring
+ CEPH_CINDER_KEYRING=AQDi/8xqOFZeFBAAsvA3uHiJtvj9mWFljqBVQQ==
+ '[' -n cinder ']'
+ create_virsh_libvirt_secret cinder 457eb676-33da-42ec-9a8c-9293d545c337 AQDi/8xqOFZeFBAAsvA3uHiJtvj9mWFljqBVQQ==
+ sec_user=cinder
+ sec_uuid=457eb676-33da-42ec-9a8c-9293d545c337
+ sec_ceph_keyring=AQDi/8xqOFZeFBAAsvA3uHiJtvj9mWFljqBVQQ==
+ cat
+ virsh secret-define --file /tmp/tmp.llyQDBO0Cr.xml
Secret 457eb676-33da-42ec-9a8c-9293d545c337 created

+ virsh secret-set-value --secret 457eb676-33da-42ec-9a8c-9293d545c337 --base64 AQDi/8xqOFZeFBAAsvA3uHiJtvj9mWFljqBVQQ==
error: Passing secret value as command-line argument is insecure!
+ '[' -n '' ']'
+ '[' -n '' ']'
+ cleanup
+ rm -f /tmp/tmp.llyQDBO0Cr.xml
Secret value set

+ '[' -n '' ']'
++ cat /var/run/libvirtd.pid
+ LIBVIRTD_PID=194351
+ kill 194351
+ tail --pid=194351 -f /dev/null
+ cgexec -g cpu,hugetlb,memory,rdma,misc,pids:/osh-libvirt systemd-run --scope --slice=system libvirtd --listen
Running as unit: run-rbf389d89ad9648478aa0f5543aa8728e.scope; invocation ID: c867e328ea3b47a381545c75b89b7c14