Люди и код

Инфраструктура data science: хранилища данных, ПО, витрины, озёра и важные скиллы


Listen Later

Содержание выпуска:

— Из каких компонентов состоит инфраструктура data science в идеальном варианте и как компании её выстроить.

— Из каких источников в систему приходят сырые данные.

— Куда данные сохраняются и в каком виде.

— Как предварительно обрабатываются и готовятся данные.

— Как отбираются данные для обработки и анализа.

— Как происходит анализ в DS и чем он отличается от традиционной аналитики.

— Какие решения и инструменты существуют для анализа и изучения данных в data science.

— Витрины, озёра данных, Kafka, S3, Hadoop и всё остальное.

— Чем занимается отдел data science. Какие роли связаны с data science.

— Как правильно формулировать задачу для специалистов по data science, какие ошибки в формулировках задач могут встречаться.

— Насколько data science — это программирование. Чем задачи и стиль программирования специалистов по data science отличаются от задач и стиля программирования обычных разработчиков.

— Какие языки и для каких задач используются.

— Что необходимо знать специалисту для первой работы. Кто такие мидлы и сеньоры.

— Какие зарплаты, специализации и перспективы есть в data science.


Полезные ссылки:

— Apache Spark https://spark.apache.org

— Apache Hadoop https://hadoop.apache.org

— Язык программирования Scala https://skillboxcode.mave.digital/ep-35

— Amazon Simple Storage Service (S3) https://aws.amazon.com/ru/s3

— Redis https://ru.wikipedia.org/wiki/Redis

— MLflow https://mlflow.org

— CI/CD https://ru.wikipedia.org/wiki/CI/CD

— Apache Kafka https://kafka.apache.org

— Debezium https://debezium.io

— Micro Batching https://bit.ly/40gr29I

— Витрина данных https://bit.ly/40h0tkO

— Слои в data science https://bit.ly/3JuwFes

— REST API https://bit.ly/3Jsrrjh

— Модель вычислений MapReduce https://ru.wikipedia.org/wiki/MapReduce

— Google File System https://ru.wikipedia.org/wiki/Google_File_System

— HDFS https://bit.ly/3XVnS9I

— Захват изменения данных https://bit.ly/3wIYR5V

— Apache NiFi https://ru.wikipedia.org/wiki/Apache_NiFi

— Nginx https://ru.wikipedia.org/wiki/Nginx

— Apache Airflow https://ru.wikipedia.org/wiki/Apache_Airflow

— Dimensional modeling https://en.wikipedia.org/wiki/Dimensional_modeling

— Сайт-тренажёр sql-ex.ru

— «Книга с кабанчиком» https://habr.com/ru/post/423981

— Codewars https://www.codewars.com

— LeetCode https://leetcode.com

— YouTube-канал «Диджитализируй!» https://bit.ly/3kWYvG0

— Марк Лутц. «Изучаем Python»

— Эви Немет, Гарт Снайдер, Трент Хейн, Бэн Уэйли, Дэн Макин. «Unix и Linux: руководство системного администратора»


Гость: Влад Гоцуляк. Директор по Data&AI в «Еаптеке». Окончил МФТИ. В свободное время читает лекции для студентов кафедры БИТ в МФТИ по big data.

Стартовать в программировании вместе со Skillbox: skillbox.ru/code

Наш подкаст удобно слушать на популярных платформах:

Castbox: https://bit.ly/3tZ3eJF

«Яндекс Музыка»: https://bit.ly/3FWQsOk

Apple Podcasts: https://apple.co/3KLXpVZ

Google Podcasts: https://bit.ly/3qFvYUY

Подписывайтесь, ставьте лайки, делитесь с друзьями и оставляйте комментарии!


...more
View all episodesView all episodes
Download on the App Store

Люди и кодBy Skillbox Media Code

  • 1.5
  • 1.5
  • 1.5
  • 1.5
  • 1.5

1.5

2 ratings


More shows like Люди и код

View all
ШоПоКо by Anton Pozdnyakov

ШоПоКо

150 Listeners

Два по цене одного by libo/libo

Два по цене одного

89 Listeners

kuji podcast by kuji podcast

kuji podcast

132 Listeners

Давай Поговорим by Анна Марчук, Стелла Васильева

Давай Поговорим

93 Listeners

Книги на миллион | бизнес блог by Книги на миллион

Книги на миллион | бизнес блог

64 Listeners

Интересный Подкаст by KULTBAZA

Интересный Подкаст

15 Listeners

Серёжа и микрофон. Подкаст by Сережа и микрофон. Подкаст

Серёжа и микрофон. Подкаст

56 Listeners

Запуск завтра by libo/libo

Запуск завтра

84 Listeners

К тебе или ко мне? 18+ by Кристина Вазовски, Егор Егоров

К тебе или ко мне? 18+

30 Listeners

Крупным планом by Кинопоиск

Крупным планом

38 Listeners

План Б by Т—Ж

План Б

17 Listeners

Тюремный подкаст by Поехавший

Тюремный подкаст

30 Listeners

Ты – это важно by Елена Мицкевич

Ты – это важно

38 Listeners

Почему мы еще живы by libo/libo

Почему мы еще живы

110 Listeners

На каком основании by libo/libo

На каком основании

19 Listeners