В новой версии Apache Spark

В прошлом месяце Apache Spark выпустили свою последнюю новую версию Apache Spark 2.4.0. Это пятая версия в серии 2.x. В новой версии Apache Spark появляется метод Барьерной синхронизации для лучшей интеграции с системами глубокого обучения. Apache Spark 2.4.0 содержит более 30 встроенных функций и функций более высокого порядка для работы со сложными типами данных. Эти функции работают с Scala 2.12 и улучшают интеграцию K8s (Kubernetes). Новая версия также фокусируется на удобстве использования и стабильности. Что нового в новой версии Apache Spark 2.4.0? 1) Встроенная поддержка Apache Avro — популярного формата сериализации данных. Теперь разработчики могут считывать и записывать свои данные в Avro формате, прямо в Apache Spark 2) Устранение ограничения на размер блока 2 ГБ 3) Улучшения Pandas UDF Большие Далее …

Apache Airflow

В этой статье я бы хотел рассказать об основных концепциях Airflow и как с ним работать. Что такое Airflow? Airflow – это open-source оркестратор для управления процессами загрузки и обработки данных. Если у вас есть большое количество задач, запускаемых на cron, особенно, если между ними есть зависимости, то Airflow может вам сильно помочь. Основные его преимущества – это несложная инсталяция и первые шаги, хорошая визуализация, а также возможность автоматически создавать большое число задач и широкие возможности кастомизации. Основной объект Airflow – это направленный ацикличный граф (DAG). Узлы DAG – это task (задачи, которые выполняют основную работу). Между task’ами есть связи. Как следует из определения, циклов в зависимостях быть не может. DAG в Airflow может состоять из множества веток, различных ветвлений Далее …

Почему вам не помешает изучить каждый открытый курс машинного обучения?

открытый курс машинного обучения

Что такое открытый курс машинного обучения, и зачем он может понадобиться вам? Под данным термином обычно подразумевается предоставление свободного доступа к набору структурированных материалов. Человек, изучивший их, получает новые или углубляет существующие знания. Он получает возможность приобрести дополнительные навыки. Это поспособствует личностному, профессиональному, а также карьерному росту. Машинное обучение – востребованная отрасль знаний, в которой сейчас наблюдается огромный дефицит компетентных специалистов. Это связано с тем, что само направление в данный момент находится на этапе становления. И у вас есть шанс стать у его истоков, получить фору перед другими специалистами. Это поможет построить головокружительную карьеру. На начальном этапе освоения новой для себя темы даже не нужно за что-то платить, ведь можно использовать возможности общедоступных, открытых курсов машинного обучения. Структура курсов Как Далее …