В недавней статье про преимущества хранилища метаданных Apache Hive и другие плюсы этого популярного инструмента SQL-on-Hadoop, мы упоминали формат открытых таблиц Iceberg как альтернативу для хранения огромных наборов аналитических данных.…
Метка: HDFS
Перспективы Apache Hive: развитие или забвение?
Автор Анна ВичуговаКатегория Hive, Статьи
Появившись более 10 лет назад, Apache Hive до сих пор является самым популярным инструментом стека SQL-on-Hadoop и активно используется для аналитики больших данных. Однако, технологии Big Data постоянно развиваются: Spark…
Еще пара примеров по Apache Hive и Spark: безопасный доступ и реализация SCD
Автор Анна ВичуговаКатегория Hive, Spark, Статьи
В этой статье для разработчиков распределенных приложений Apache Spark, администраторов SQL-on-Hadoop и дата-аналитиков рассмотрим особенности аутентификации удаленного пользователя, а также отслеживание измененных данных в таблицах Apache Hive. Читайте далее, зачем…
От JDBC-подключения до SQL-запросов: пара примеров по Apache Hive, HBase и Spark
Автор Анна ВичуговаКатегория Hive, Статьи
В рамках курсов по Apache Hadoop для дата-аналитиков и инженеров данных сегодня рассмотрим пару практических примеров работы с популярным SQL-on-Hadoop инструментом этой экосистемы. Читайте далее, как настроить соединение удаленного сервера…
Что такое Erasure Coding и как это устроено: под капотом Apache Hadoop HDFS 3.3.1
Автор Анна ВичуговаКатегория Новости, Статьи
Недавно мы рассказывали про новые функции свежего релиза Apache Hadoop 3.3.1. Сегодня разберем подробнее, что такое Erasure Coding и как эта технология кодирования со стиранием экономит место в распределенной файловой…
Зачем вам Beekeeper или как очистить метаданные таблицы Apache Hive
Автор Анна ВичуговаКатегория Hive, Статьи
Сегодня рассмотрим, что такое Beekeeper и как этот сервис помогает администраторам Hadoop и пользователям Apache Hive очищать метаданные этого NoSQL-хранилища. Читайте далее, зачем удалять устаревшие пути из Metastore и как…
Зачем Apache Hive внешняя база данных для MetaStore: смотрим на примере Arenadata Hadoop 2.1.4 со Spark 3
Автор Анна ВичуговаКатегория Hive, Spark, Статьи
В июле 2021 года «Аренадата Софтвер», российская ИТ-компания разработчик отечественных решений для хранения и аналитики больших данных, представила минорный релиз корпоративного дистрибутива на базе Apache Hadoop — Arenadata Hadoop 2.1.4.…
Новый релиз Apache Hadoop 3.3.1: ТОП-15 обновлений
Автор Анна ВичуговаКатегория Новости, Статьи
Постоянно обновляя наши курсы по Apache Hadoop для администраторов кластеров и инженеров данных, сегодня рассмотрим главные новинки июньского релиза 2021. Читайте далее, как поддержка Erasure Coding сэкономит место в HDFS,…
Под капотом кластера Apache Hadoop: как работает YARN, где он может сломаться и что чинить
Автор Анна ВичуговаКатегория Use Cases, Статьи
Продолжая обучение основам Apache Hadoop для начинающих администраторов, сегодня рассмотрим архитектуру и принципы работы YARN в кластере. Также разберем, какие отказы могут случиться на каждом из его компонентов и как…
Основы Hadoop HDFS для начинающих администраторов: как вывести узел из кластера без потери данных
Автор Анна ВичуговаКатегория Use Cases, Статьи
При том, что Apache Hadoop – высоконадежная экосистема хранения и аналитики больших данных, отказы случаются и в ней. Сегодня в рамках обучения начинающих администраторов и разработчиков Hadoop разберем, какие типы…
