В недавней статье про преимущества хранилища метаданных Apache Hive и другие плюсы этого популярного инструмента SQL-on-Hadoop, мы упоминали формат открытых таблиц Iceberg как альтернативу для хранения огромных наборов аналитических данных.…
Метка: Hadoop
Перспективы Apache Hive: развитие или забвение?
Автор Анна ВичуговаКатегория Hive, Статьи
Появившись более 10 лет назад, Apache Hive до сих пор является самым популярным инструментом стека SQL-on-Hadoop и активно используется для аналитики больших данных. Однако, технологии Big Data постоянно развиваются: Spark…
Еще пара примеров по Apache Hive и Spark: безопасный доступ и реализация SCD
Автор Анна ВичуговаКатегория Hive, Spark, Статьи
В этой статье для разработчиков распределенных приложений Apache Spark, администраторов SQL-on-Hadoop и дата-аналитиков рассмотрим особенности аутентификации удаленного пользователя, а также отслеживание измененных данных в таблицах Apache Hive. Читайте далее, зачем…
Строим масштабируемые ETL/ELT-конвейеры обработки данных с Apache Spark и AirFlow: 4 совета дата-инженеру
Автор Анна ВичуговаКатегория AirFlow, Spark, Статьи
В этой статье для дата-инженеров мы собрали лучшие практики построения масштабируемых конвейеров обработки данных, а также популярные рекомендации по проектированию ETL/ELT-процессов с Apache Spark, AirFlow и другими технологиями Big Data.…
От JDBC-подключения до SQL-запросов: пара примеров по Apache Hive, HBase и Spark
Автор Анна ВичуговаКатегория Hive, Статьи
В рамках курсов по Apache Hadoop для дата-аналитиков и инженеров данных сегодня рассмотрим пару практических примеров работы с популярным SQL-on-Hadoop инструментом этой экосистемы. Читайте далее, как настроить соединение удаленного сервера…
Управление кластерами Apache Hadoop и Spark с YARN: 3 варианта планирования ресурсов
Автор Анна ВичуговаКатегория Spark, Статьи
YARN считается самым распространенным диспетчером ресурсов в кластерах Apache Hadoop и Spark, отвечая за выделение ресурсам распределенным приложениям. Сегодня в рамках обучения дата-инженеров и администраторов Hadoop рассмотрим достоинства и недостатки…
Что такое Erasure Coding и как это устроено: под капотом Apache Hadoop HDFS 3.3.1
Автор Анна ВичуговаКатегория Новости, Статьи
Недавно мы рассказывали про новые функции свежего релиза Apache Hadoop 3.3.1. Сегодня разберем подробнее, что такое Erasure Coding и как эта технология кодирования со стиранием экономит место в распределенной файловой…
Зачем вам Beekeeper или как очистить метаданные таблицы Apache Hive
Автор Анна ВичуговаКатегория Hive, Статьи
Сегодня рассмотрим, что такое Beekeeper и как этот сервис помогает администраторам Hadoop и пользователям Apache Hive очищать метаданные этого NoSQL-хранилища. Читайте далее, зачем удалять устаревшие пути из Metastore и как…
Зачем Apache Hive внешняя база данных для MetaStore: смотрим на примере Arenadata Hadoop 2.1.4 со Spark 3
Автор Анна ВичуговаКатегория Hive, Spark, Статьи
В июле 2021 года «Аренадата Софтвер», российская ИТ-компания разработчик отечественных решений для хранения и аналитики больших данных, представила минорный релиз корпоративного дистрибутива на базе Apache Hadoop — Arenadata Hadoop 2.1.4.…
Новый релиз Apache Hadoop 3.3.1: ТОП-15 обновлений
Автор Анна ВичуговаКатегория Новости, Статьи
Постоянно обновляя наши курсы по Apache Hadoop для администраторов кластеров и инженеров данных, сегодня рассмотрим главные новинки июньского релиза 2021. Читайте далее, как поддержка Erasure Coding сэкономит место в HDFS,…
