2. CS MSU Graphics & Media Lab (Video Group)
www.compression.ru/video/
Only for
Maxus
Содержание
Введение
Принцип работы видеокодека
Стандарты сжатия видео
Нововведения стандарта H.265
Сжатие 3D видео
Заключение
2
3. CS MSU Graphics & Media Lab (Video Group)
www.compression.ru/video/
Only for
Maxus
Проблема сжатия видео
1920×1080 @ 25 fps, RGB24 = 150 МБ/с
Используется избыточность:
Пространственная
Временная
Цветового пространства RGB
3
4. CS MSU Graphics & Media Lab (Video Group)
www.compression.ru/video/
Only for
Maxus
Структура видеопотока
Типы кадров:
I – сжатые независимо
P – со ссылкой только назад
B – с зависимостью от двух кадров
4x264. Algorithm Overview
http://veetle.com/images/article/ipbFrameSequence.jpg
5. CS MSU Graphics & Media Lab (Video Group)
www.compression.ru/video/
Only for
Maxus
Сжатие I-кадров
Поблочное ДКП
Квантование
RLE
Компенсация движения
Сжатие межкадровой разницы
Энтропийное кодирование
5
Простейший видеокодек
Описание
6. CS MSU Graphics & Media Lab (Video Group)
www.compression.ru/video/
Only for
Maxus
6
http://commons.wikimedia.org/wiki/File:H.265.png
Схема видеокодера
7. CS MSU Graphics & Media Lab (Video Group)
www.compression.ru/video/
Only for
Maxus
Содержание
Введение
Принцип работы видеокодека
Стандарты сжатия видео
Нововведения стандарта H.265
Сжатие 3D видео
Заключение
7
8. CS MSU Graphics & Media Lab (Video Group)
www.compression.ru/video/
Only for
Maxus
Стандарты сжатия видео
1983-1996
H.261 (1983)
Общая концепция
I/P-кадры
Максимальное разрешение 352×288
MPEG1 (1992)
B-кадры
Полупиксельная точность ME
MPEG2 (1996)
8
9. CS MSU Graphics & Media Lab (Video Group)
www.compression.ru/video/
Only for
Maxus
Стандарты сжатия видео
1998-2013
MPEG4 (1998)
H.264/MPEG4 Part 10 (2003)
H.265/HEVC (2013)
Февраль 2012: Полный проект стандарта
Июль 2012: Проект международного стандарта
Январь 2013: Окончательный проект
Международного стандарта
Апрель 2013: Международный стандарт
9
10. CS MSU Graphics & Media Lab (Video Group)
www.compression.ru/video/
Only for
Maxus
H.265/HEVC
Разрабатывается Joint Collaborative Team
on Video Coding (MPEG и VCEG)
Принятие стандарта намечено на 2013 год
Главная цель – уменьшение битрейта на 50%
по сравнению с H.264 при том же качестве
10
11. CS MSU Graphics & Media Lab (Video Group)
www.compression.ru/video/
Only for
Maxus
Разработка стандарта
1. Call for Proposals
2. Оценка предложений
3. Создание верификационной модели
4. Итерации развития модели
Генерация проектов стандарта
Новые версии модельного ПО
5. Принятие международного стандарта
11
12. CS MSU Graphics & Media Lab (Video Group)
www.compression.ru/video/
Only for
Maxus
HEVC Call for Proposals
Тестовые последовательности
6 классов, 5 битрейтов для каждого класса
Класс Е – видеоконференции
12K. McCann et al., “Video coding technology proposal by Samsung
(and BBC),” in Documents of the first meeting of JCT-VC, 2010
13. CS MSU Graphics & Media Lab (Video Group)
www.compression.ru/video/
Only for
Maxus
HEVC Call for Proposals
Ограничения
Ограничения на структуру видеопотока
Без переупорядочивания кадров в декодере
Переупорядочивание не более, чем на 8 кадров
Ограничения на процесс кодирования
Отсутствие препроцессинга
Отсутствие постпроцессинга вне декодера
Постоянный коэффициент квантования
Отсутствие машинного обучения
13
14. CS MSU Graphics & Media Lab (Video Group)
www.compression.ru/video/
Only for
Maxus
HEVC Call for Proposals
Требования
Участник обязан предоставить:
Битовый поток (закодированное видео)
Исполнительный файл декодера
Выход декодера в форматах YUV и AVI
14
15. CS MSU Graphics & Media Lab (Video Group)
www.compression.ru/video/
Only for
Maxus
Субъективное тестирование
Методика
Reference – видео до сжатия
Test – все предложения + видео до сжатия
+ 2 раза опорные результаты (H.264)
15
Double Stimulus Impairment Scale (DSIS)
K. McCann et al., “Video coding technology proposal by Samsung
(and BBC),” in Documents of the first meeting of JCT-VC, 2010
16. CS MSU Graphics & Media Lab (Video Group)
www.compression.ru/video/
Only for
Maxus
Субъективное тестирование
Условия
16
3 лаборатории, 850 человек, 4200 видео
Одинаковые устройства отображения
Постоянная цветовая температура освещения
Неизменная методика
Оценка по 11-бальной шкале
17. CS MSU Graphics & Media Lab (Video Group)
www.compression.ru/video/
Only for
Maxus
Субъективное тестирование
Результаты
17
Два худших результата – H.264/AVC
K. McCann et al., “Video coding technology proposal by Samsung
(and BBC),” in Documents of the first meeting of JCT-VC, 2010
18. CS MSU Graphics & Media Lab (Video Group)
www.compression.ru/video/
Only for
Maxus
H.265/HEVC
Нововведения
18K. McCann et al., “Video coding technology proposal by Samsung
(and BBC),” in Documents of the first meeting of JCT-VC, 2010
19. CS MSU Graphics & Media Lab (Video Group)
www.compression.ru/video/
Only for
Maxus
Содержание
Введение
Нововведения стандарта H.265
Структура деления на блоки
Sample Adaptive Offset
Сжатие 3D видео
Заключение
19
20. CS MSU Graphics & Media Lab (Video Group)
www.compression.ru/video/
Only for
Maxus
Разбиение на блоки
Примеры предложений
Разделение квадратного блока прямой
Большой объем дополнительных данных
Оценка использованного разбиения
на стороне декодера
Никаких дополнительных данных в потоке
Невозможно гарантировать точность оценки
Увеличение сложности декодера
20
21. CS MSU Graphics & Media Lab (Video Group)
www.compression.ru/video/
Only for
Maxus
Разбиение на блоки в HEVC
CTU & CU
Coding Tree Unit (CTU)
Элемент равномерной сетки
Каждый CTU – корень квадродерева
Размер определяется параметром Largest CU
Coding Unit (CU)
Элемент квадродерева
Аналог макроблоков
Размер зависит от параметра Maximum
Hierarchical Depth
21
22. CS MSU Graphics & Media Lab (Video Group)
www.compression.ru/video/
Only for
Maxus
Разбиение на блоки в HEVC
PU with AMP
Prediction Unit (PU)
Блок для выбора предсказания
Максимальный размер равен размеру
соответствующего CU
22Il-Koo Kim et al., “Coding efficiency improvement of HEVC using
asymmetric motion partitioning,” in IEEE Symposium on BMSB, 2012
2Nx2N NxN
2Nx2N Nx2N 2NxnU2NxN NxN 2NxnD nLx2N nRx2N
Intra
Inter
2Nx2N
Skip
23. CS MSU Graphics & Media Lab (Video Group)
www.compression.ru/video/
Only for
Maxus
Разбиение на блоки в HEVC
Выигрыш от AMP
23Il-Koo Kim et al., “Coding efficiency improvement of HEVC using
asymmetric motion partitioning,” in IEEE Symposium on BMSB, 2012
24. CS MSU Graphics & Media Lab (Video Group)
www.compression.ru/video/
Only for
Maxus
Разбиение на блоки в HEVC
TU
Transform Unit (TU)
Блок для ДКП
Максимальный размер равен размеру
соответствующего CU
24
2N
2N
0 1
2 3
N
N
2N
2N
N/2
N/2
transform unit size flag = 0 transform unit size flag = 0transform unit size flag = 1 transform unit size flag = 1
(a) 2Nx2N, 2NxN, Nx2N, NxN case (b) 2NxnU, 2NxnD, nLx2N, nRxN case
Il-Koo Kim et al., “Coding efficiency improvement of HEVC using
asymmetric motion partitioning,” in IEEE Symposium on BMSB, 2012
25. CS MSU Graphics & Media Lab (Video Group)
www.compression.ru/video/
Only for
Maxus
Содержание
Введение
Нововведения стандарта H.265
Структура деления на блоки
Sample Adaptive Offset
Сжатие 3D видео
Заключение
25
26. CS MSU Graphics & Media Lab (Video Group)
www.compression.ru/video/
Only for
Maxus
Sample Adaptive Offset
Введение
SAO – способ уменьшения искажений
на границах объектов
В схеме кодека расположен после фильтра
удаления блочности
Две составные части: Edge и Band Offset
26Chih-Ming Fu et al., “Sample adaptive offset for HEVC,”
in IEEE 13th International Workshop on MMSP, 2011
27. CS MSU Graphics & Media Lab (Video Group)
www.compression.ru/video/
Only for
Maxus
Sample Adaptive Offset
Edge Offset
27
Для каждого класса вычисляется среднее значение
разницы между исходным и восстановленным сигналами
Chih-Ming Fu et al., “Sample adaptive offset for HEVC,”
in IEEE 13th International Workshop on MMSP, 2011
28. CS MSU Graphics & Media Lab (Video Group)
www.compression.ru/video/
Only for
Maxus
Sample Adaptive Offset
Band Offset
Вычисляется среднее значение ошибки
для диапазонов значений пикселей
Для классификации используются
5 старших бит значения пикселя
Ошибка стремится к нулю при увеличении
числа пикселей из данного диапазона
28Chih-Ming Fu et al., “Sample adaptive offset for HEVC,”
in IEEE 13th International Workshop on MMSP, 2011
29. CS MSU Graphics & Media Lab (Video Group)
www.compression.ru/video/
Only for
Maxus
Sample Adaptive Offset
Результаты (1)
29Chih-Ming Fu et al., “Sample adaptive offset for HEVC,”
in IEEE 13th International Workshop on MMSP, 2011
30. CS MSU Graphics & Media Lab (Video Group)
www.compression.ru/video/
Only for
Maxus
Sample Adaptive Offset
Результаты (2)
30
31. CS MSU Graphics & Media Lab (Video Group)
www.compression.ru/video/
Only for
Maxus
Содержание
Введение
Нововведения стандарта H.265
Сжатие 3D видео
Заключение
31
32. CS MSU Graphics & Media Lab (Video Group)
www.compression.ru/video/
Only for
Maxus
Сжатие 3D видео
Введение
Простейшие варианты:
Сжимать каждый ракурс отдельно
Объединять все ракурсы в один поток
Расширения стандартов:
H.264/AVC – MVC (2009)
H.265/HEVC – MV-HEVC (2014)
32
33. CS MSU Graphics & Media Lab (Video Group)
www.compression.ru/video/
Only for
Maxus
Расширение HEVC
Call for Proposals
Joint Collaborative Team on 3D Video Coding
Extension Development (JCT-3V)
Тестовые последовательности:
Съемка и синтезированные
1920×1080 и 1024×768
Двухракурсные и трехракурсные
Тестовое оборудование:
46″ Hyundai S465D polarized stereo monitor
52″ Dimenco BDL5231V autostereo monitor
33
34. CS MSU Graphics & Media Lab (Video Group)
www.compression.ru/video/
Only for
Maxus
Расширение HEVC
Схема кодирования
34Jakub Stankowski et al., “Multiview HEVC – experimental results,”
in Documents of JCT-VC meeting, Geneva, 2011
35. CS MSU Graphics & Media Lab (Video Group)
www.compression.ru/video/
Only for
Maxus
Расширение HEVC
Результаты
35
Performance of multiview HEVC compared to simulcast HEVC (HM 3.0)
1st dependent view 2nd dependent view
Y BD-rate
U BD-
rate
V BD-rate Y BD-rate
U BD-
rate
V BD-rate
Poznan_Hall2 -22.7 -16.6 -21.8 -46.6 -42.0 -41.8
Poznan_Street -36.6 -37.3 -31.9 -64.2 -64.7 -63.5
Undo_Dancer -50.2 -52.9 -51.9 -73.2 -75.6 -74.6
GT_Fly -52.9 -54.1 -54.3 -78.3 -79.1 -79.2
Kendo -21.8 -14.3 -19.3 -51.8 -46.1 -48.0
Balloons -30.4 -25.6 -27.3 -51.5 -47.8 -50.7
Lovebird1 -36.3 -32.2 -33.0 -52.1 -48.7 -49.5
Newspaper -16.0 -13.8 -15.3 -50.3 -45.7 -46.9
Overall -33.4 -30.9 -31.9 -58.5 -56.2 -56.8
Jakub Stankowski et al., “Multiview HEVC – experimental results,”
in Documents of JCT-VC meeting, Geneva, 2011
36. CS MSU Graphics & Media Lab (Video Group)
www.compression.ru/video/
Only for
Maxus
Расширение HEVC
Кодирование карты глубины
Карта глубины занимает 10-20% потока
при сжатии вместе с видео
Это значение можно сократить, передавая
уменьшенную карту глубины
При изменении размера карты глубины
можно учитывать информацию о текстуре
36
37. CS MSU Graphics & Media Lab (Video Group)
www.compression.ru/video/
Only for
Maxus
Расширение HEVC
Схема кодирования карт глубины
37Sebastian Schwarz et al., “Adaptive depth filtering for HEVC 3D
video coding,” in Picture Coding Symposium (PCS), 2012
38. CS MSU Graphics & Media Lab (Video Group)
www.compression.ru/video/
Only for
Maxus
Расширение HEVC
Adaptive Blur
Идея: увеличить однородность карты
глубины, сохранив важные детали
38Sebastian Schwarz et al., “Adaptive depth filtering for HEVC 3D
video coding,” in Picture Coding Symposium (PCS), 2012
39. CS MSU Graphics & Media Lab (Video Group)
www.compression.ru/video/
Only for
Maxus
Расширение HEVC
Edge Weighted Optimization Concept (1)
39Sebastian Schwarz et al., “Adaptive depth filtering for HEVC 3D
video coding,” in Picture Coding Symposium (PCS), 2012
40. CS MSU Graphics & Media Lab (Video Group)
www.compression.ru/video/
Only for
Maxus
Расширение HEVC
Edge Weighted Optimization Concept (2)
40Sebastian Schwarz et al., “Adaptive depth filtering for HEVC 3D
video coding,” in Picture Coding Symposium (PCS), 2012
41. CS MSU Graphics & Media Lab (Video Group)
www.compression.ru/video/
Only for
Maxus
Расширение HEVC
Результаты
41Sebastian Schwarz et al., “Adaptive depth filtering for HEVC 3D
video coding,” in Picture Coding Symposium (PCS), 2012
42. CS MSU Graphics & Media Lab (Video Group)
www.compression.ru/video/
Only for
Maxus
Содержание
Введение
Нововведения стандарта H.265
Сжатие 3D видео
Заключение
42
43. CS MSU Graphics & Media Lab (Video Group)
www.compression.ru/video/
Only for
Maxus
Тестирование HEVC
Результаты (1)
43
44. CS MSU Graphics & Media Lab (Video Group)
www.compression.ru/video/
Only for
Maxus
Тестирование HEVC
Результаты (2)
44
45. CS MSU Graphics & Media Lab (Video Group)
www.compression.ru/video/
Only for
Maxus
Тестирование HEVC
Результаты (3)
45
46. CS MSU Graphics & Media Lab (Video Group)
www.compression.ru/video/
Only for
Maxus
Тестирование HEVC
Результаты (4)
46
47. CS MSU Graphics & Media Lab (Video Group)
www.compression.ru/video/
Only for
Maxus
Литература (1)
1. Gary J. Sullivan et al., “Overview of the High Efficiency Video Coding
(HEVC) Standard,” in IEEE Transactions on Circuits and Systems
for Video Technology, 2012
2. Jens-Rainer Ohm et al., “Comparison of the Coding Efficiency of Video
Coding Standards – Including High Efficiency Video Coding (HEVC),”
in IEEE Transactions on Circuits and Systems for Video Technology,
2012
3. Il-Koo Kim et al., “Coding efficiency improvement of HEVC using
asymmetric motion partitioning,” in IEEE International Symposium
on Broadband Multimedia Systems and Broadcasting (BMSB), 2012
4. Chih-Ming Fu et al., “Sample adaptive offset for HEVC,” in IEEE 13th
International Workshop on Multimedia Signal Processing (MMSP), 2011
5. K. McCann et al., “Video coding technology proposal by Samsung
(and BBC),” in Documents of the first meeting of JCT-VC, 2010
47
48. CS MSU Graphics & Media Lab (Video Group)
www.compression.ru/video/
Only for
Maxus
Литература (2)
1. Jakub Stankowski et al., “Multiview HEVC – experimental results,”
in Documents of JCT-VC meeting, Geneva, 2011
2. Anthony Vetro and Dong Tian, “Analysis of 3D and multiview extensions
of the emerging HEVC standard,” in SPIE Applications of Digital Image
Processing XXXV, San Diego, 2012
3. Sebastian Schwarz et al., “Adaptive depth filtering for HEVC 3D video
coding,” in Picture Coding Symposium (PCS), 2012
48