Оценка производительности hadoop кластера.
•
4 likes•1,130 views
В презентации описан подход к оценке производительности hadoop кластера. Описаны вероятные узкие места, влияющие на производительность кластера. Приведен пример сравнения производительности двух кластеров на различном железе.
Оценка производительности hadoop кластера.
- 1. http://retailrocket.ru/Content/Img/promo/logo.png Как измерить слона? Оценка производительности кластера Hadoop Мурашкин Вячеслав mvjacheslav@gmail.com
- 2. RetailRocket сегодня ● 50M хостов в месяц ● 40G логов в сутки ● 15 машин в кластере ● 5 часов ежедневно на регулярные задачи
- 4. 1 Производительность Число выполненных задач за единицу времени
- 5. ● Время выполнения задачи ● Воспроизводимость результатов ○ Одни и те же входные данные ○ Одни и те же задачи 1.1 Как оцениваем?
- 6. github.com/intel-hadoop/HiBench ● Набор типовых задач ○ Sort, WordCount, TeraSort, Nutch indexing, PageRank, Bayesian classification, K-means clustering ● Утилиты для генерации входных данных 1.2 Чем оцениваем?
- 7. 1.3 Время измерили А дальше?
- 8. 2 Поиск узких мест ● Железо (CPU, Disks, Network) ● Конфигурация кластера ● Оптимизация задачи
- 9. 2.1 Утилиты ● sysbench (CPU, File IO) ● iperf (Network)
- 11. ● Cloudera Manager ● Ganglia ● Zabbix 2.2 Система мониторинга
- 12. ● Число занятых слотов ● Объем свободного места в HDFS ● Jobtracker Heap Usage 2.3 Метрики hadoop
- 14. ● Dsik IO operations ● CPU (load, context switches, iowait) ● Network traffic ● RAM 2.3 Системные метрики
- 17. ● Оптимизируем число map/reduce слотов ○ mapred.tasktracker.map.tasks.maximum ○ mapred.tasktracker.reduce.tasks.maximum 3.1 CPU Context switches
- 18. ● Используем несколько дисков ○ mapred.local.dir 3.2 CPU iowait
- 19. 3.3 CPU load ● Режим работы CPU ○ devices/system/cpu/cpu0/cpufreq/scaling_governor ○ userspace powersave conservative ondemand performance
- 20. 4 Пример из жизни: 2 кластера ● Дистрибутив Cloudera CDH4.1 ● по 4 машины в кластере ● тестируем HiBench Sort 24G/node
- 21. 4.1 Пример из жизни: 2 кластера A: Intel® Xeon® Processor E3-1245 v2 # of Cores 4 # of Threads 8 # Clock Speed 3.4 GHz # Map/Reduce 4/3 # Sort time 13,5 min # Cost 71 $ B: Intel® Xeon® Processor E5-2620 # of Cores 6 # of Threads 12 # Clock Speed 2 GHz # Map/Reduce 6/5 # Sort time 22,5 min # Cost 230 $