<html xmlns:v="urn:schemas-microsoft-com:vml" xmlns:o="urn:schemas-microsoft-com:office:office" xmlns:w="urn:schemas-microsoft-com:office:word" xmlns:m="http://schemas.microsoft.com/office/2004/12/omml" xmlns="http://www.w3.org/TR/REC-html40">
<head>
<meta http-equiv="Content-Type" content="text/html; charset=us-ascii">
<meta name="Generator" content="Microsoft Word 15 (filtered medium)">
<!--[if !mso]><style>v\:* {behavior:url(#default#VML);}
o\:* {behavior:url(#default#VML);}
w\:* {behavior:url(#default#VML);}
.shape {behavior:url(#default#VML);}
</style><![endif]--><style><!--
/* Font Definitions */
@font-face
        {font-family:SimSun;
        panose-1:2 1 6 0 3 1 1 1 1 1;}
@font-face
        {font-family:"Cambria Math";
        panose-1:2 4 5 3 5 4 6 3 2 4;}
@font-face
        {font-family:Calibri;
        panose-1:2 15 5 2 2 2 4 3 2 4;}
@font-face
        {font-family:SimSun;
        panose-1:2 1 6 0 3 1 1 1 1 1;}
/* Style Definitions */
p.MsoNormal, li.MsoNormal, div.MsoNormal
        {margin:0in;
        margin-bottom:.0001pt;
        font-size:11.0pt;
        font-family:"Calibri",sans-serif;}
a:link, span.MsoHyperlink
        {mso-style-priority:99;
        color:#0563C1;
        text-decoration:underline;}
a:visited, span.MsoHyperlinkFollowed
        {mso-style-priority:99;
        color:#954F72;
        text-decoration:underline;}
p.msonormal0, li.msonormal0, div.msonormal0
        {mso-style-name:msonormal;
        margin:0in;
        margin-bottom:.0001pt;
        font-size:11.0pt;
        font-family:"Calibri",sans-serif;}
p.xmsonormal, li.xmsonormal, div.xmsonormal
        {mso-style-name:x_msonormal;
        margin:0in;
        margin-bottom:.0001pt;
        font-size:11.0pt;
        font-family:"Calibri",sans-serif;}
p.xmsonormal0, li.xmsonormal0, div.xmsonormal0
        {mso-style-name:x_msonormal0;
        mso-margin-top-alt:auto;
        margin-right:0in;
        mso-margin-bottom-alt:auto;
        margin-left:0in;
        font-size:11.0pt;
        font-family:"Calibri",sans-serif;}
p.xmsochpdefault, li.xmsochpdefault, div.xmsochpdefault
        {mso-style-name:x_msochpdefault;
        mso-margin-top-alt:auto;
        margin-right:0in;
        mso-margin-bottom-alt:auto;
        margin-left:0in;
        font-size:10.0pt;
        font-family:"Calibri",sans-serif;}
span.xmsohyperlink
        {mso-style-name:x_msohyperlink;
        color:#0563C1;
        text-decoration:underline;}
span.xmsohyperlinkfollowed
        {mso-style-name:x_msohyperlinkfollowed;
        color:#954F72;
        text-decoration:underline;}
span.xemailstyle18
        {mso-style-name:x_emailstyle18;
        font-family:"Calibri",sans-serif;
        color:windowtext;}
span.xemailstyle19
        {mso-style-name:x_emailstyle19;
        font-family:"Calibri",sans-serif;
        color:#1F497D;}
span.xemailstyle20
        {mso-style-name:x_emailstyle20;
        font-family:"Calibri",sans-serif;
        color:windowtext;}
span.xemailstyle22
        {mso-style-name:x_emailstyle22;
        font-family:"Calibri",sans-serif;
        color:windowtext;}
span.EmailStyle29
        {mso-style-type:personal-reply;
        font-family:"Calibri",sans-serif;
        color:windowtext;}
.MsoChpDefault
        {mso-style-type:export-only;
        font-size:10.0pt;}
@page WordSection1
        {size:8.5in 11.0in;
        margin:1.0in 1.25in 1.0in 1.25in;}
div.WordSection1
        {page:WordSection1;}
--></style><!--[if gte mso 9]><xml>
<o:shapedefaults v:ext="edit" spidmax="1026" />
</xml><![endif]--><!--[if gte mso 9]><xml>
<o:shapelayout v:ext="edit">
<o:idmap v:ext="edit" data="1" />
</o:shapelayout></xml><![endif]-->
</head>
<body lang="EN-US" link="#0563C1" vlink="#954F72">
<div class="WordSection1">
<p class="MsoNormal">Hi Andy :<o:p></o:p></p>
<p class="MsoNormal">   Thanks your reply. <o:p></o:p></p>
<p class="MsoNormal">Some output <o:p></o:p></p>
<p class="MsoNormal">currently , the result of ‘openstack endpoint list’ in cinder-bootstrap is
<o:p></o:p></p>
<p class="MsoNormal"><o:p> </o:p></p>
<p class="MsoNormal">[root@cinder-bootstrap-rtxf7 /]# openstack endpoint list | grep identity<o:p></o:p></p>
<p class="MsoNormal">| 0da674cb1d384ae0999d02b0ababd5c9 | subcloud1 | keystone     | identity     | True    | internal  | http://keystone-api.openstack.svc.cluster.local:5000/v3                   |<o:p></o:p></p>
<p class="MsoNormal">| 6eabcff1e83e45e3911940cd3195e09c | subcloud1 | keystone     | identity     | True    | public    | http://keystone.openstack.svc.cluster.local:80/v3                         |<o:p></o:p></p>
<p class="MsoNormal">| e6f5720ee62c4c1ab378fe20c7d6716f | subcloud1 | keystone     | identity     | True    | admin     | http://keystone-admin.openstack.svc.cluster.subcloud1:80/v3               |<o:p></o:p></p>
<p class="MsoNormal"><o:p> </o:p></p>
<p class="MsoNormal">controller-0:~$ kubectl get ingress --all-namespaces<o:p></o:p></p>
<p class="MsoNormal">NAMESPACE   NAME                              HOSTS                                                                                                           ADDRESS   PORTS   AGE<o:p></o:p></p>
<p class="MsoNormal">openstack   cinder                            cinder,cinder.openstack,cinder.openstack.svc.cluster.local                                                                80      31h<o:p></o:p></p>
<p class="MsoNormal">openstack   glance                            glance,glance.openstack,glance.openstack.svc.cluster.local                                                                80      31h<o:p></o:p></p>
<p class="MsoNormal">openstack   keystone                          keystone,keystone.openstack,keystone.openstack.svc.cluster.local                                                          80      31h<o:p></o:p></p>
<p class="MsoNormal">openstack   keystone-admin                    keystone-admin,keystone-admin.openstack,keystone-admin.openstack.svc.cluster.local                                        80      31h<o:p></o:p></p>
<p class="MsoNormal">openstack   keystone-admin-cluster-fqdn       keystone-admin.openstack.svc.cluster.subcloud1                                                                            80      31h<o:p></o:p></p>
<p class="MsoNormal">openstack   keystone-admin-namespace-fqdn     keystone-admin.openstack.svc.cluster.subcloud1                                                                            80      31h<o:p></o:p></p>
<p class="MsoNormal">openstack   openstack-osh-openstack-ingress   *.openstack.svc.cluster.local                                                                                             80      31h<o:p></o:p></p>
<p class="MsoNormal">openstack   osh-openstac-mgr-e50215           osh-openstac-mgr-e50215,osh-openstac-mgr-e50215.openstack,osh-openstac-mgr-e50215.openstack.svc.cluster.local             80      31h<o:p></o:p></p>
<p class="MsoNormal"><o:p> </o:p></p>
<p class="MsoNormal"><o:p> </o:p></p>
<p class="MsoNormal"><span style="font-size:12.0pt;color:black">‘ kubectl get ingress –openstack’ run with error
<o:p></o:p></span></p>
<p class="MsoNormal"><span style="font-size:12.0pt;color:black"><o:p> </o:p></span></p>
<p class="MsoNormal"><span style="font-size:12.0pt;color:black">But <o:p></o:p></span></p>
<p class="MsoNormal">controller-0:~$ kubectl get ingress -n openstack<o:p></o:p></p>
<p class="MsoNormal">NAME                              HOSTS                                                                                                           ADDRESS   PORTS   AGE<o:p></o:p></p>
<p class="MsoNormal">cinder                            cinder,cinder.openstack,cinder.openstack.svc.cluster.local                                                                80      31h<o:p></o:p></p>
<p class="MsoNormal">glance                            glance,glance.openstack,glance.openstack.svc.cluster.local                                                                80      31h<o:p></o:p></p>
<p class="MsoNormal">keystone                          keystone,keystone.openstack,keystone.openstack.svc.cluster.local                                                          80      31h<o:p></o:p></p>
<p class="MsoNormal">keystone-admin                    keystone-admin,keystone-admin.openstack,keystone-admin.openstack.svc.cluster.local                                        80      31h<o:p></o:p></p>
<p class="MsoNormal">keystone-admin-cluster-fqdn       keystone-admin.openstack.svc.cluster.subcloud1                                                                            80      31h<o:p></o:p></p>
<p class="MsoNormal">keystone-admin-namespace-fqdn     keystone-admin.openstack.svc.cluster.subcloud1                                                                            80      31h<o:p></o:p></p>
<p class="MsoNormal">openstack-osh-openstack-ingress   *.openstack.svc.cluster.local                                                                                             80      31h<o:p></o:p></p>
<p class="MsoNormal">osh-openstac-mgr-e50215           osh-openstac-mgr-e50215,osh-openstac-mgr-e50215.openstack,osh-openstac-mgr-e50215.openstack.svc.cluster.local             80      31h<o:p></o:p></p>
<p class="MsoNormal"><o:p> </o:p></p>
<p class="MsoNormal"><o:p> </o:p></p>
<p class="MsoNormal">But keystone-admin.openstack.svc.cluster.subcloud1 cannot be found from host or container :<o:p></o:p></p>
<p class="MsoNormal"><o:p> </o:p></p>
<p class="MsoNormal">controller-0:~$ curl http://keystone-admin.openstack.svc.cluster.subcloud1<o:p></o:p></p>
<p class="MsoNormal">curl: (6) Could not resolve host: keystone-admin.openstack.svc.cluster.subcloud1; Name or service not known<o:p></o:p></p>
<p class="MsoNormal"><o:p> </o:p></p>
<p class="MsoNormal">[root@cinder-bootstrap-rtxf7 /]# curl http://keystone-admin.openstack.svc.cluster.subcloud1<o:p></o:p></p>
<p class="MsoNormal">curl: (6) Could not resolve host: keystone-admin.openstack.svc.cluster.subcloud1; Unknown error<o:p></o:p></p>
<p class="MsoNormal"><o:p> </o:p></p>
<p class="MsoNormal">Thanks.<o:p></o:p></p>
<p class="MsoNormal">BR<br>
Austin Sun. <o:p></o:p></p>
<p class="MsoNormal"><o:p> </o:p></p>
<p class="MsoNormal"><o:p> </o:p></p>
<div>
<div style="border:none;border-top:solid #E1E1E1 1.0pt;padding:3.0pt 0in 0in 0in">
<p class="MsoNormal"><b>From:</b> Ning, Antai (Andy) <Andy.Ning@windriver.com> <br>
<b>Sent:</b> Wednesday, April 29, 2020 9:07 PM<br>
<b>To:</b> Sun, Austin <austin.sun@intel.com>; starlingx-discuss@lists.starlingx.io<br>
<b>Cc:</b> Jones, Bruce E <bruce.e.jones@intel.com><br>
<b>Subject:</b> Re: [Starlingx-discuss] [starlingx] cinder bootstrap failed on subcloud<o:p></o:p></p>
</div>
</div>
<p class="MsoNormal"><o:p> </o:p></p>
<div>
<p class="MsoNormal"><span style="font-size:12.0pt;color:black">Hi Austin,<o:p></o:p></span></p>
</div>
<div>
<p class="MsoNormal"><span style="font-size:12.0pt;color:black"><o:p> </o:p></span></p>
</div>
<div>
<p class="MsoNormal"><span style="font-size:12.0pt;color:black">What's the output of "openstack endpoint list" on containerized openstack like?
<o:p></o:p></span></p>
</div>
<div>
<p class="MsoNormal"><span style="font-size:12.0pt;color:black"><o:p> </o:p></span></p>
</div>
<div>
<p class="MsoNormal"><span style="font-size:12.0pt;color:black">keystone-admin should be show up as identity's admin endpoint .... if not, that could be a bug.<o:p></o:p></span></p>
</div>
<div>
<p class="MsoNormal"><span style="font-size:12.0pt;color:black"><o:p> </o:p></span></p>
</div>
<div>
<p class="MsoNormal"><span style="font-size:12.0pt;color:black">Also what's the output of "kubectl get ingress --all-namespaces" or "kubectl get ingress --openstack"? I want to see whether the ingress for keystone-admin is created or not.<o:p></o:p></span></p>
</div>
<div>
<p class="MsoNormal"><span style="font-size:12.0pt;color:black"><o:p> </o:p></span></p>
</div>
<div>
<p class="MsoNormal"><span style="font-size:12.0pt;color:black">Andy  <o:p></o:p></span></p>
</div>
<div class="MsoNormal" align="center" style="text-align:center">
<hr size="2" width="98%" align="center">
</div>
<div id="divRplyFwdMsg">
<p class="MsoNormal"><b><span style="color:black">From:</span></b><span style="color:black"> Sun, Austin <<a href="mailto:austin.sun@intel.com">austin.sun@intel.com</a>><br>
<b>Sent:</b> Tuesday, April 28, 2020 4:34 AM<br>
<b>To:</b> Ning, Antai (Andy) <<a href="mailto:Andy.Ning@windriver.com">Andy.Ning@windriver.com</a>>;
<a href="mailto:starlingx-discuss@lists.starlingx.io">starlingx-discuss@lists.starlingx.io</a> <<a href="mailto:starlingx-discuss@lists.starlingx.io">starlingx-discuss@lists.starlingx.io</a>><br>
<b>Cc:</b> Jones, Bruce E <<a href="mailto:bruce.e.jones@intel.com">bruce.e.jones@intel.com</a>><br>
<b>Subject:</b> FW: [Starlingx-discuss] [starlingx] cinder bootstrap failed on subcloud</span>
<o:p></o:p></p>
<div>
<p class="MsoNormal"> <o:p></o:p></p>
</div>
</div>
<div>
<div>
<p class="xmsonormal">Hi Andy:<o:p></o:p></p>
<p class="xmsonormal">    I deployed dist-cloud in virtual env  based on 20200414, but openstack application on subcloud deployed failed . 
<o:p></o:p></p>
<p class="xmsonormal"> <o:p></o:p></p>
<p class="xmsonormal">From cinder-api po logs:<o:p></o:p></p>
<p class="xmsonormal"> <o:p></o:p></p>
<p class="xmsonormal">>: Failed to establish a new connection: [Errno -2] Name or service not known',)): ConnectFailure: Unable to establish connection to
<a href="http://keystone-admin.openstack.svc.cluster.subcloud1:80/v3/auth/tokens">
http://keystone-admin.openstack.svc.cluster.subcloud1:80/v3/auth/tokens</a>: HTTPConnectionPool(host='keystone-admin.openstack.svc.cluster.subcloud1', port=80): Max retries exceeded with url: /v3/auth/tokens (Caused by NewConnectionError('<urllib3.connection.HTTPConnection
 object at 0x7fc6beac6d10>: Failed to establish a new connection: [Errno -2] Name or service not known',))<o:p></o:p></p>
<p class="xmsonormal"> <o:p></o:p></p>
<p class="xmsonormal">This keystone-admin.openstack.svc.cluster.subcloud1 can not be found in subcloud1  controllers
<o:p></o:p></p>
<p class="xmsonormal"> <o:p></o:p></p>
<p class="xmsonormal">This url seems override from  helm keystone:<o:p></o:p></p>
<p class="xmsonormal">host_fqdn_override:                                      <o:p>
</o:p></p>
<p class="xmsonormal">  admin:                                                 <o:p>
</o:p></p>
<p class="xmsonormal">    host: keystone-admin.openstack.svc.cluster.subcloud1 <o:p>
</o:p></p>
<p class="xmsonormal">  public: {}                                             <o:p>
</o:p></p>
<p class="xmsonormal"> <o:p></o:p></p>
<p class="xmsonormal">and introduced in commit [1]  by you. <o:p></o:p></p>
<p class="xmsonormal"> <o:p></o:p></p>
<p class="xmsonormal">is these any additional config needed to bring up openstack on subcloud  besides the deploy guide [2]?
<o:p></o:p></p>
<p class="xmsonormal"> <o:p></o:p></p>
<p class="xmsonormal">[1] <a href="https://review.opendev.org/#/c/697361/1">https://review.opendev.org/#/c/697361/1</a><o:p></o:p></p>
<p class="xmsonormal">[2] <a href="https://docs.starlingx.io/deploy_install_guides/r3_release/distributed_cloud/index.html">
https://docs.starlingx.io/deploy_install_guides/r3_release/distributed_cloud/index.html</a>
<o:p></o:p></p>
<p class="xmsonormal"> <o:p></o:p></p>
<p class="xmsonormal">Thanks.<o:p></o:p></p>
<p class="xmsonormal">BR<br>
Austin Sun. <o:p></o:p></p>
<p class="xmsonormal"> <o:p></o:p></p>
<div>
<div style="border:none;border-top:solid #E1E1E1 1.0pt;padding:3.0pt 0in 0in 0in">
<p class="xmsonormal"><b>From:</b> Sun, Austin <<a href="mailto:austin.sun@intel.com">austin.sun@intel.com</a>>
<br>
<b>Sent:</b> Saturday, April 18, 2020 9:06 AM<br>
<b>To:</b> Jones, Bruce E <<a href="mailto:bruce.e.jones@intel.com">bruce.e.jones@intel.com</a>>;
<a href="mailto:starlingx-discuss@lists.starlingx.io">starlingx-discuss@lists.starlingx.io</a><br>
<b>Subject:</b> Re: [Starlingx-discuss] [starlingx] cinder bootstrap failed on subcloud<o:p></o:p></p>
</div>
</div>
<p class="xmsonormal"> <o:p></o:p></p>
<p class="xmsonormal">Hi Bruce:<o:p></o:p></p>
<p class="xmsonormal">   No, for stx.3.0 the openstack on subcloud works well .  central cloud does not support openstack .
<o:p></o:p></p>
<p class="xmsonormal"> <o:p></o:p></p>
<p class="xmsonormal">Thanks.<o:p></o:p></p>
<p class="xmsonormal">BR<br>
Austin Sun. <o:p></o:p></p>
<p class="xmsonormal"> <o:p></o:p></p>
<div>
<div style="border:none;border-top:solid #E1E1E1 1.0pt;padding:3.0pt 0in 0in 0in">
<p class="xmsonormal"><b>From:</b> Jones, Bruce E <<a href="mailto:bruce.e.jones@intel.com">bruce.e.jones@intel.com</a>>
<br>
<b>Sent:</b> Friday, April 17, 2020 11:01 PM<br>
<b>To:</b> Sun, Austin <<a href="mailto:austin.sun@intel.com">austin.sun@intel.com</a>>;
<a href="mailto:starlingx-discuss@lists.starlingx.io">starlingx-discuss@lists.starlingx.io</a><br>
<b>Subject:</b> RE: [starlingx] cinder bootstrap failed on subcloud<o:p></o:p></p>
</div>
</div>
<p class="xmsonormal"> <o:p></o:p></p>
<p class="xmsonormal"><span style="color:#1F497D">I thought that dist-cloud sub-nodes are Kubernetes only – without OpenStack support…</span><o:p></o:p></p>
<p class="xmsonormal"><span style="color:#1F497D"> </span><o:p></o:p></p>
<p class="xmsonormal"><span style="color:#1F497D">        brucej</span><o:p></o:p></p>
<p class="xmsonormal"><span style="color:#1F497D"> </span><o:p></o:p></p>
<div>
<div style="border:none;border-top:solid #E1E1E1 1.0pt;padding:3.0pt 0in 0in 0in">
<p class="xmsonormal"><b>From:</b> Sun, Austin [<a href="mailto:austin.sun@intel.com">mailto:austin.sun@intel.com</a>]
<br>
<b>Sent:</b> Friday, April 17, 2020 5:45 AM<br>
<b>To:</b> <a href="mailto:starlingx-discuss@lists.starlingx.io">starlingx-discuss@lists.starlingx.io</a><br>
<b>Subject:</b> [Starlingx-discuss] [starlingx] cinder bootstrap failed on subcloud<o:p></o:p></p>
</div>
</div>
<p class="xmsonormal"> <o:p></o:p></p>
<p class="xmsonormal">Hi community:<o:p></o:p></p>
<p class="xmsonormal" style="text-indent:10.2pt">I deployed dist-cloud in virtual env (20200414) ,   but the openstack application applied failed. The reason is cinder-bootstrap job failed.
<o:p></o:p></p>
<p class="xmsonormal" style="text-indent:10.2pt"> <o:p></o:p></p>
<p class="xmsonormal" style="text-indent:10.2pt">The logs are <o:p></o:p></p>
<p class="xmsonormal" style="text-indent:10.2pt">[root@cinder-bootstrap-rkp7j /]# openstack volume type show ceph-store<o:p></o:p></p>
<p class="xmsonormal" style="text-indent:10.2pt">The server is currently unavailable. Please try again at a later time.<br /><br /><o:p></o:p></p>
<p class="xmsonormal" style="text-indent:10.2pt">The Keystone service is temporarily unavailable.<o:p></o:p></p>
<p class="xmsonormal" style="text-indent:10.2pt"> <o:p></o:p></p>
<p class="xmsonormal" style="text-indent:10.2pt">(HTTP 503)<o:p></o:p></p>
<p class="xmsonormal" style="text-indent:10.2pt"> <o:p></o:p></p>
<p class="xmsonormal" style="text-indent:10.2pt">But openstack endpoint list works fine on this pod
<o:p></o:p></p>
<p class="xmsonormal" style="text-indent:10.2pt">Does any one meet same issue on recently ? 
<o:p></o:p></p>
<p class="xmsonormal" style="text-indent:10.2pt"> <o:p></o:p></p>
<p class="xmsonormal" style="text-indent:10.2pt">Thanks.<o:p></o:p></p>
<p class="xmsonormal" style="text-indent:10.2pt">BR<br>
Austin Sun. <o:p></o:p></p>
</div>
</div>
</div>
</body>
</html>