COVID-19 Open-Data стремится собрать крупнейшую эпидемиологическую базу данных по Covid-19, а также мощный набор дополнительных признаков (ковариат). Она включает открытые, общедоступные, лицензированные данные, относящиеся к демографии, экономике, эпидемиологии, географии, здравоохранению, госпитализациям, мобильности, реакции правительств, погоде и многому другому.
Подробности — в репозитории GitHub здесь.
Загрузить эти данные в ClickHouse очень просто...
Примечание
Следующие команды были выполнены на production-инстансе ClickHouse Cloud. Вы также можете легко выполнить их на локальной установке.
- Давайте посмотрим, как выглядят данные:
DESCRIBE url(
'https://storage.googleapis.com/covid19-open-data/v3/epidemiology.csv',
'CSVWithNames'
);
CSV-файл содержит 10 столбцов:
┌─name─────────────────┬─type─────────────┐
│ date │ Nullable(Date) │
│ location_key │ Nullable(String) │
│ new_confirmed │ Nullable(Int64) │
│ new_deceased │ Nullable(Int64) │
│ new_recovered │ Nullable(Int64) │
│ new_tested │ Nullable(Int64) │
│ cumulative_confirmed │ Nullable(Int64) │
│ cumulative_deceased │ Nullable(Int64) │
│ cumulative_recovered │ Nullable(Int64) │
│ cumulative_tested │ Nullable(Int64) │
└──────────────────────┴──────────────────┘
10 строк в наборе. Затрачено: 0.745 сек.
- Теперь давайте просмотрим несколько строк:
SELECT *
FROM url('https://storage.googleapis.com/covid19-open-data/v3/epidemiology.csv')
LIMIT 100;
Обратите внимание, как функция url легко читает данные из CSV‑файла:
┌─c1─────────┬─c2───────────┬─c3────────────┬─c4───────────┬─c5────────────┬─c6─────────┬─c7───────────────────┬─c8──────────────────┬─c9───────────────────┬─c10───────────────┐
│ date │ location_key │ new_confirmed │ new_deceased │ new_recovered │ new_tested │ cumulative_confirmed │ cumulative_deceased │ cumulative_recovered │ cumulative_tested │
│ 2020-04-03 │ AD │ 24 │ 1 │ ᴺᵁᴸᴸ │ ᴺᵁᴸᴸ │ 466 │ 17 │ ᴺᵁᴸᴸ │ ᴺᵁᴸᴸ │
│ 2020-04-04 │ AD │ 57 │ 0 │ ᴺᵁᴸᴸ │ ᴺᵁᴸᴸ │ 523 │ 17 │ ᴺᵁᴸᴸ │ ᴺᵁᴸᴸ │
│ 2020-04-05 │ AD │ 17 │ 4 │ ᴺᵁᴸᴸ │ ᴺᵁᴸᴸ │ 540 │ 21 │ ᴺᵁᴸᴸ │ ᴺᵁᴸᴸ │
│ 2020-04-06 │ AD │ 11 │ 1 │ ᴺᵁᴸᴸ │ ᴺᵁᴸᴸ │ 551 │ 22 │ ᴺᵁᴸᴸ │ ᴺᵁᴸᴸ │
│ 2020-04-07 │ AD │ 15 │ 2 │ ᴺᵁᴸᴸ │ ᴺᵁᴸᴸ │ 566 │ 24 │ ᴺᵁᴸᴸ │ ᴺᵁᴸᴸ │
│ 2020-04-08 │ AD │ 23 │ 2 │ ᴺᵁᴸᴸ │ ᴺᵁᴸᴸ │ 589 │ 26 │ ᴺᵁᴸᴸ │ ᴺᵁᴸᴸ │
└────────────┴──────────────┴───────────────┴──────────────┴───────────────┴────────────┴──────────────────────┴─────────────────────┴──────────────────────┴───────────────────┘
- Теперь, когда мы знаем структуру данных, создадим таблицу:
CREATE TABLE covid19 (
date Date,
location_key LowCardinality(String),
new_confirmed Int32,
new_deceased Int32,
new_recovered Int32,
new_tested Int32,
cumulative_confirmed Int32,
cumulative_deceased Int32,
cumulative_recovered Int32,
cumulative_tested Int32
)
ENGINE = MergeTree
ORDER BY (location_key, date);
- Следующая команда загружает весь набор данных в таблицу
covid19:
INSERT INTO covid19
SELECT *
FROM
url(
'https://storage.googleapis.com/covid19-open-data/v3/epidemiology.csv',
CSVWithNames,
'date Date,
location_key LowCardinality(String),
new_confirmed Int32,
new_deceased Int32,
new_recovered Int32,
new_tested Int32,
cumulative_confirmed Int32,
cumulative_deceased Int32,
cumulative_recovered Int32,
cumulative_tested Int32'
);
- Это выполняется довольно быстро — посмотрим, сколько строк было вставлено:
SELECT formatReadableQuantity(count())
FROM covid19;
┌─formatReadableQuantity(count())─┐
│ 12,53 миллиона │
└─────────────────────────────────┘
- Давайте посмотрим, сколько всего случаев COVID-19 было зарегистрировано:
SELECT formatReadableQuantity(sum(new_confirmed))
FROM covid19;
┌─formatReadableQuantity(sum(new_confirmed))─┐
│ 1,39 миллиарда │
└────────────────────────────────────────────┘
- Вы увидите, что в данных много нулей по датам — это либо выходные, либо дни, когда показатели не сообщались каждый день. Мы можем использовать оконную функцию, чтобы сгладить средние суточные значения новых случаев:
SELECT
AVG(new_confirmed) OVER (PARTITION BY location_key ORDER BY date ROWS BETWEEN 2 PRECEDING AND 2 FOLLOWING) AS cases_smoothed,
new_confirmed,
location_key,
date
FROM covid19;
- Этот запрос определяет последние значения для каждой локации. Мы не можем использовать
max(date), потому что не все страны отчитывались каждый день, поэтому берём последнюю строку с помощью ROW_NUMBER:
WITH latest_deaths_data AS
( SELECT location_key,
date,
new_deceased,
new_confirmed,
ROW_NUMBER() OVER (PARTITION BY location_key ORDER BY date DESC) AS rn
FROM covid19)
SELECT location_key,
date,
new_deceased,
new_confirmed,
rn
FROM latest_deaths_data
WHERE rn=1;
- Мы можем использовать
lagInFrame, чтобы вычислить LAG числа новых случаев по дням. В этом запросе мы фильтруем данные по региону US_DC:
SELECT
new_confirmed - lagInFrame(new_confirmed,1) OVER (PARTITION BY location_key ORDER BY date) AS confirmed_cases_delta,
new_confirmed,
location_key,
date
FROM covid19
WHERE location_key = 'US_DC';
Ответ будет выглядеть так:
┌─confirmed_cases_delta─┬─new_confirmed─┬─location_key─┬───────date─┐
│ 0 │ 0 │ US_DC │ 2020-03-08 │
│ 2 │ 2 │ US_DC │ 2020-03-09 │
│ -2 │ 0 │ US_DC │ 2020-03-10 │
│ 6 │ 6 │ US_DC │ 2020-03-11 │
│ -6 │ 0 │ US_DC │ 2020-03-12 │
│ 0 │ 0 │ US_DC │ 2020-03-13 │
│ 6 │ 6 │ US_DC │ 2020-03-14 │
│ -5 │ 1 │ US_DC │ 2020-03-15 │
│ 4 │ 5 │ US_DC │ 2020-03-16 │
│ 4 │ 9 │ US_DC │ 2020-03-17 │
│ -1 │ 8 │ US_DC │ 2020-03-18 │
│ 24 │ 32 │ US_DC │ 2020-03-19 │
│ -26 │ 6 │ US_DC │ 2020-03-20 │
│ 15 │ 21 │ US_DC │ 2020-03-21 │
│ -3 │ 18 │ US_DC │ 2020-03-22 │
│ 3 │ 21 │ US_DC │ 2020-03-23 │
- Этот запрос вычисляет процентное изменение числа новых случаев по дням и возвращает в результирующем наборе дополнительный столбец
increase или decrease:
WITH confirmed_lag AS (
SELECT
*,
lagInFrame(new_confirmed) OVER(
PARTITION BY location_key
ORDER BY date
) AS confirmed_previous_day
FROM covid19
),
confirmed_percent_change AS (
SELECT
*,
COALESCE(ROUND((new_confirmed - confirmed_previous_day) / confirmed_previous_day * 100), 0) AS percent_change
FROM confirmed_lag
)
SELECT
date,
new_confirmed,
percent_change,
CASE
WHEN percent_change > 0 THEN 'увеличение'
WHEN percent_change = 0 THEN 'без изменений'
ELSE 'уменьшение'
END AS trend
FROM confirmed_percent_change
WHERE location_key = 'US_DC';
Результаты будут выглядеть следующим образом:
┌───────date─┬─new_confirmed─┬─percent_change─┬─trend─────┐
│ 2020-03-08 │ 0 │ nan │ снижение │
│ 2020-03-09 │ 2 │ inf │ рост │
│ 2020-03-10 │ 0 │ -100 │ снижение │
│ 2020-03-11 │ 6 │ inf │ рост │
│ 2020-03-12 │ 0 │ -100 │ снижение │
│ 2020-03-13 │ 0 │ nan │ снижение │
│ 2020-03-14 │ 6 │ inf │ рост │
│ 2020-03-15 │ 1 │ -83 │ снижение │
│ 2020-03-16 │ 5 │ 400 │ рост │
│ 2020-03-17 │ 9 │ 80 │ рост │
│ 2020-03-18 │ 8 │ -11 │ снижение │
│ 2020-03-19 │ 32 │ 300 │ рост │
│ 2020-03-20 │ 6 │ -81 │ снижение │
│ 2020-03-21 │ 21 │ 250 │ рост │
│ 2020-03-22 │ 18 │ -14 │ снижение │
│ 2020-03-23 │ 21 │ 17 │ рост │
│ 2020-03-24 │ 46 │ 119 │ рост │
│ 2020-03-25 │ 48 │ 4 │ рост │
│ 2020-03-26 │ 36 │ -25 │ снижение │
│ 2020-03-27 │ 37 │ 3 │ рост │
│ 2020-03-28 │ 38 │ 3 │ рост │
│ 2020-03-29 │ 59 │ 55 │ рост │
│ 2020-03-30 │ 94 │ 59 │ рост │
│ 2020-03-31 │ 91 │ -3 │ снижение │
│ 2020-04-01 │ 67 │ -26 │ снижение │
│ 2020-04-02 │ 104 │ 55 │ рост │
│ 2020-04-03 │ 145 │ 39 │ рост │
Примечание
Как указано в репозитории на GitHub, набор данных больше не обновляется с 15 сентября 2022 года.
