Чтобы сделать обучение разработчиков Apache Spark, дата-аналитиков и инженеров Big Data еще более наглядным, сегодня рассмотрим проблему JOIN-соединений при неравномерном распределении данных по узлам кластера и способы ее решения. Читайте…
Метка: Spark SQL
Что такое Apache Sedona или GeoSpark: Spark-фреймворк для обработки пространственных геоданных
Автор Анна ВичуговаКатегория Spark, Статьи
Сегодня поговорим про обработку геопространственных данных с Apache Spark и рассмотрим, что такое Apache Sedona, как этот фреймворк связан с GeoSpark, какие форматы и структуры данных он поддерживает. Читайте далее…
Зачем вам Hue или как писать SQL-запросы к Apache Spark еще проще
Автор Анна ВичуговаКатегория Hive, Spark, Статьи
Сегодня рассмотрим инструмент, который облегчает практическое использование Apache Spark, позволяя дата-аналитику и разработчику распределенных приложений быстро писать и выполнять SQL-запросы в рамках удобного веб-редактора. Читайте далее, что такое Hue, как…
Аналитика больших данных со Apache Spark SQL из внешних СУБД: про JDBC-драйверы
Автор Анна ВичуговаКатегория Spark, Статьи
В этой статье рассмотрим особенности подключения Apache Spark к внешним СУБД как к источникам данных для аналитики Big Data средствами SQL-модуля этого фреймворка. Читайте далее о том, что такое JDBC-драйвер,…
Еще 4 особенности бакетирования таблиц в Apache Spark и 7 конфигураций их настройки
Автор Анна ВичуговаКатегория Hive, Spark, Статьи
Продолжая разбирать особенности бакетирования таблиц в Apache Spark, сегодня мы рассмотрим несколько примеров, как дата-инженер и аналитик данных могут работать с этим методом оптимизации SQL-запросов. Также читайте далее, какие конфигурации…
Apache Spark для дата-инженеров: трудности бакетирования и способы их решения
Автор Анна ВичуговаКатегория Hive, Spark, Статьи
Бакетирование таблиц в Apache Spark – один из самых популярных методов оптимизации производительности задач последовательного чтения данных. Сегодня поговорим про сложности бакетирования с точки зрения дата-инженера, а также рассмотрим факторы,…
На заметку разработчику: 3 причуды Apache Spark и как с ними бороться
Автор Анна ВичуговаКатегория Spark, Статьи
Развивая наши курсы по Apache Spark, сегодня мы рассмотрим несколько особенностей, с разработчик которыми может столкнуться при выполнении обычных операции, от чтения архивированного файла до обращения к сервисам Amazon. Читайте…
Вспомнить все: 6 сегментов памяти Apache Spark и параметры их конфигурирования
Автор Анна ВичуговаКатегория Spark, Статьи
В этой статье продолжим говорить про обучение разработчиков Apache Spark и рассмотрим, какие сегменты памяти есть в этом Big Data фреймворке и как с ними работать наиболее эффективно. Читайте далее,…
Как помочь Apache Spark SQL обрабатывать большие датасеты быстрее: 5 простых способов
Автор Анна ВичуговаКатегория Spark, Use Cases, Статьи
Продолжая разговор про практическое обучение разработчиков Apache Spark, сегодня рассмотрим пример повышения скорости выполнения SQL-запросов к большому датафрейму. Читайте далее, как определить и исправить асимметрию распределения данных по разделам, зачем…
Как устранить дубли в датасете: 5 методов для разработчика Apache Spark
Автор Анна ВичуговаКатегория Spark, Статьи
На практике каждый аналитик Big Data и Data Scientist часто сталкивается с удалением дублирующихся значений в датасете. Поэтому, чтобы добавить в наши курсы по Apache Spark еще больше полезных примеров,…
