Анатомия запроса до и после движка ClickHouse

В данной статье описано, как устроен запрос в CHYT и откуда можно получить информацию об исполнении запроса.

Идентификаторы запроса: trace id, query id, datalens request id

С любым запросом связаны несколько идентификаторов, которые позволяют постфактум восстановить всю необходимую информацию об исполнении запроса.

  • query id — это идентификатор, назначаемый каждому запросу в ClickHouse. В отличие от оригинального ClickHouse, в CHYT этот идентификатор не контролируется пользователем и всегда имеет вид YTsaurus GUID – четыре шестнадцатеричных uint32, разделенных дефисами.
  • trace id — это идентификатор, который позволяет провязывать цепочки вызовов в распределенных системах, создавая "след" исполнения запроса. Это часть протокола трассировки opentracing, а конкретно — его реализации под названием Jaeger Tracing, использующейся в YTsaurus. trace id также является YTsaurus GUID, который в некоторых ситуациях совпадает с query id, а в некоторых не совпадает, о чем подробно будет написано ниже.

Путь запроса от клиента до тяжелых прокси

Чтобы лучше понимать, по какой логике существуют и назначаются эти идентификаторы, следует разобраться в том, через какие компоненты в каком порядке проходит запрос в CHYT. Единственным публичным API доступа к CHYT на текущий момент является HTTP API, поэтому дальнейшее описание относится именно к протоколу HTTP.

Первым важным пунктом на пути исполнения запроса являются так называемые тяжелые прокси YTsaurus. Они узнают, где сейчас живут инстансы клики с заданным алиасом, а также те, до которых есть сетевой доступ у всех пользователей YTsaurus.

Ниже показаны 3 самых популярных способа доступа к YTsaurus.

При обращении к CHYT напрямую из скрипта либо из командной строки посредством утилиты curl в качестве endpoint используется SLB-балансер, например http://$YT_PROXY. За ним скрывается сложная конструкция из балансеров, которая направляет запрос на так называемые контрольные прокси, которые отвечают HTTP-редиректом на тяжелые прокси, обслуживающие всю тяжелую нагрузку в YTsaurus. При таком интерфейсе доступа query id совпадает с trace id: их можно увидеть в хедерах X-Yt-Trace-Id и X-ClickHouse-Query-Id. Ниже показан пример взаимодействия с CHYT через утилиту CURL, в котором отмечены наиболее интересные заголовки ответа.

curl -v --location-trusted 'http://$YT_PROXY/query?database=*ch_public' -d 'select max(a) from "//sys/clickhouse/sample_table"' -H "Authorization: OAuth `cat ~/.yt/token`"
*   Trying ip_address:80...
* Connected to $YT_PROXY (ip_address) port 80 (#0)
> POST /query?database=*ch_public HTTP/1.1
> Host: $YT_PROXY
> User-Agent: curl/7.69.1-DEV
> Accept: */*
> Authorization: OAuth <i>...<my_token>...</i> 
> Content-Length: 50
> Content-Type: application/x-www-form-urlencoded
> 
* upload completely sent off: 50 out of 50 bytes
* Mark bundle as not supporting multiuse
<b> // Получаем redirect на тяжелую прокси.</b>
< HTTP/1.1 307 Temporary Redirect
< Content-Length: 0
< Location: http://sas4-9923-proxy-$YT_PROXY/query?database=*ch_public
< X-YTsaurus-Trace-Id: 8e9bcc43-5c2be9b4-56f18c4e-117ea314  
< 
* Connection #0 to host $YT_PROXY left intact
* Issue another request to this URL: 'http://sas4-9923-$YT_PROXY/query?database=*ch_public'
*   Trying ip_address:80...
* Connected to sas4-9923-$YT_PROXY (ip_address) port 80 (#1)
> POST /query?database=*ch_public HTTP/1.1
> Host: sas4-9923-$YT_PROXY
> User-Agent: curl/7.69.1-DEV
> Accept: */*
> Authorization: OAuth <i>...<my_token>...</i>
> Content-Length: 50
> Content-Type: application/x-www-form-urlencoded
> 
* upload completely sent off: 50 out of 50 bytes
* Mark bundle as not supporting multiuse
< HTTP/1.1 200 OK
< Transfer-Encoding: chunked
<b>  // Обратите внимание, query id = trace id. </b>
< <b>X-ClickHouse-Query-Id:</b> 3fa9405e-15b29877-524e3e67-2be50e94
< <b>X-Yt-Trace-Id:</b> 3fa9405e-15b29877-524e3e67-2be50e94 
<b>  // По техническим причинам X-YTsaurus-Trace-Id встретится дважды.</b> 
< X-YTsaurus-Trace-Id: 3fa9405e-15b29877-524e3e67-2be50e94
< Keep-Alive: timeout=10
<b>  // Адрес инстанса-координатора запроса. </b>
< <b>X-ClickHouse-Server-Display-Name:</b> sas2-1374-node-$YT_PROXY
< X-YTsaurus-Request-Id: 3fa9405d-26285349-db14531a-2a12b9f9
< Date: Sun, 05 Apr 2020 18:49:57 GMT
< Content-Type: text/tab-separated-values; charset=UTF-8
< X-ClickHouse-Summary: {"read_rows":"0","read_bytes":"0","written_rows":"0","written_bytes":"0","total_rows_to_read":"0"}
<b>  // Адрес тяжелой прокси, которая обслуживала запроса. </b> 
< <b>X-YTsaurus-Proxy:</b> sas4-9923-$YT_PROXY
< 
1100
* Connection #1 to host sas4-9923-$YT_PROXY left intact
В этой статье: