ݺߣ

ݺߣShare a Scribd company logo
Оценка и тестирование ПИ
Иван Бурмистров
Цитата
Разработать хороший пользовательский
интерфейс с первого раза совершенно
невозможно
Ларри Константайн
Темы занятия
 Юзабилити-тестирование
 Экспертная оценка
 Пользовательская оценка
Тема I
 Юзабилити-тестирование
 Экспертная оценка
 Пользовательская оценка
Определение юзабилити
согласно стандарту ISO 9241-11
Юзабилити – это степень, в которой продукт может
быть использован определённой группой
пользователей для достижения определённых целей
в определённом контексте использования
результативно, производительно и с чувством
удовлетворённости
 Результативность – точность и полнота, с
которой пользователи достигают определённых
целей
 Производительность – отношение
затрачиваемых ресурсов к точности и полноте
достижения пользователями целей
 Удовлетворённость – отсутствие чувства
дискомфорта и позитивное отношение к
использованию продукта
Основные юзабилити-метрики
Все составляющие юзабилити подлежат
количественному измерению:
 результативность: процент
выполненных заданий; количество
ошибок
 производительность: время выполнения
задания
 удовлетворённость: опросники,
автоматическое распознавание эмоций
Специальные метрики
 Лёгкость освоения (learnability)
 Доступность для людей с
ограниченными возможностями
(accessibility)
 Универсализм (universality)
 Безрисковость
Измерение удовлетворённости 1/2
Опросник ОПУС (Дегтяренко, 2011)
21 пункт. Шкалы: Эффективность, Простота,
Полезность, Эмоциональная привлекательность
Измерение удовлетворённости 2/2
FaceReader (Noldus Information Technology)
Юзабилити-тестирование 1/9
 Констатирующее (summative testing):
диагностика текущего состояния ПИ;
количественно-ориентированное
тестирование
 Формирующее (formative testing):
включено в жизненный цикл разработки
ПО на каждой итерации; качественно-
ориентированное тестирование
 Сравнительное (A/B testing): выявляет
лучший вариант ПИ из нескольких;
количественно-ориентированное
тестирование
Юзабилити-тестирование 2/9
 Цели тестирования
 Измеряемые показатели и критерии
оценки
 Контингент пользователей
 Тестовые задания
 Рекрутинг участников тестирования
 Проведение тестирования (наблюдение
и замеры)
 Качественный анализ тестовых
протоколов
 Объединение индивидуальных
протоколов и статистический анализ
 Отчёт: выводы и рекомендации
Юзабилити-тестирование 3/9
Сколько нужно пользователей?
Тестирование с 5-ю пользователями
позволяет выявить 85% юзабилити-
проблем
Юзабилити-тестирование 4/9
Юзабилити-тестирование 5/9
Юзабилити-лаборатория interUX, Таллинн
Юзабилити-тестирование 6/9
Картинка на мониторах в комнате
наблюдения: левый монитор – Morae
Observer, правый – вид с панорамной
камеры и управление
Юзабилити-тестирование 9/9
Отчёт по результатам теста:
 количественные данные
 качественные данные
 рекомендации по улучшению
Eye-tracking 1/7
Анализ движений глаз
Eye-tracking 2/7
Eye-tracking 3/7
Eye-tracking 4/7
Eye-tracking 5/7
Тепловые карты
Eye-tracking 6/7
Иллюстрация баннерной слепоты
Eye-tracking 7/7
Области интереса
Тема II
 Юзабилити-тестирование
 Экспертная оценка
 Пользовательская оценка
Определения
Экспертной называется субъективная
оценка юзабилити-качества продукта,
построенная на основе собственного
опыта и суждений эксперта
Юзабилити-дефект – это любой аспект
продукта, способный привести к путанице,
ошибкам, задержкам, или невозможности
выполнения каких-либо задач хотя бы
частью пользователей, для которых
предназначен продукт
Классификация юзабилити-
дефектов (юзабилити-ошибок)
 4 – критический: очевидный дефект;
серьёзно усложняет использование
продукта в целом
 3 – крупный: усложняет выполнение
некоторых задач; значительно повышает
вероятность ошибок
 2 – небольшой: есть вероятность, что
дефект вызовет проблемы; снижает
производительность; немного усложняет
обучение; несколько повышает вероятность
ошибок
 1 – незначительный: досадная, но не
опасная мелочь; есть небольшая
вероятность возникновения ошибок или
снижения производительности
Основы
 Целью экспертной оценки является
выявление юзабилити-дефектов;
обнаружение дефекта – это успех, а не
неудача
 Результат экспертизы больше зависит от
собственных суждений экспертов, чем
от используемых ими методов
Сколько нужно экспертов?
 1 эксперт выявляет 35% юзабилити-
дефектов
 2 эксперта – 50%
 5 экспертов – 75%
 Для выявления 90% дефектов
потребуется 12 экспертов
 Кривая экономической
целесообразности имеет пик в
интервале 3-5 экспертов
Разновидности экспертных
оценок
 Соответствие стандартам и
руководящим указаниям (guidelines)
 Эвристическая оценка (heuristic
evaluation)
 Когнитивный сквозной контроль
(cognitive walkthrough)
 Плюралистический сквозной контроль
(pluralistic walkthrough)
 Формальное инспектирование
юзабилити (formal usability inspections)
 Субъективная оценка (subjective
assessment)
Эвристичеcкая оценка
 В любой момент времени система показывает, что с ней
происходит
 Система использует термины, понятия и метафоры,
присутствующие в реальном мире, а не обусловленные
компьютером
 В любой момент пользователь контролирует систему, а не
наоборот; любую команду можно отменить или повторить
 В любой момент времени система выглядит и функционирует
единообразным и стандартным способом
 Интерфейс системы препятствует появлению человеческих ошибок
 В любой момент времени интерфейс показывает объекты и
команды сам, не требуя от пользователя вспоминать их
 В интерфейсе есть методы ускорения работы, предназначенные
для опытных пользователей и не мешающие новичкам
 Интерфейс эстетичен и в любой момент времени не содержит
ненужной сейчас информации
 Интерфейс помогает пользователям обнаруживать и исправлять
проблемы, включая человеческие ошибки
 Справка доступна в любой момент времени; она достаточна, но не
избыточна; к ней легко обращаться; она нацелена на решение
конкретных задач пользователя
© Jakob Nielsen
© Перевод
Влада Головача
Когнитивный сквозной контроль
 Метод фокусируется на выявлении
проблем, возникающих у
пользователей, впервые приступающих
к работе с продуктом
 Исходит из того, что пользователи
обычно пытаются освоить систему без
помощи документации
 Начинается с анализа задач и
формирования сценариев
 Задача: обнаружить потенциальные
барьеры, способные помешать изучению
системы
Действия по результатам
экспертизы
 Оценка сложности и стоимости
устранения дефектов
 Сортировка дефектов по серьёзности и
ожидаемым затратам на устранение
 Пересмотр архитектуры ПИ в поисках
возможностей улучшений или
реорганизации
 Выяснение того, кто будет устранять те
или иные дефекты, и когда выйдет
следующая версия продукта
 Реализация переделок изменившихся
частей ПИ
Пример оценки: Аэрофлот 1/7
Выполненные работы:
 Интервью с представителями компании
и разработчиками
 Конкурентный анализ
 Анализ литературы и выявление
наработанных методов (best practices)
 Когнитивный сквозной контроль
 Отчёт, включая редизайн ключевых
страниц
Пример оценки: Аэрофлот 2/7
Конкурентный анализ
Пример оценки: Аэрофлот 3/7
Анализ литературы
Пример оценки: Аэрофлот 4/7
Best practices
Пример оценки: Аэрофлот 5/7
Критический дефект: форма ввода
информации о пассажире
Пример оценки: Аэрофлот 6/7
Сравнение формы с конкурентами
Пример оценки: Аэрофлот 7/7
Фрагмент отчёта
Тема III
 Юзабилити-тестирование
 Экспертная оценка
 Пользовательская оценка
Виды пользовательской оценки
 Интервью
 Опросники (анкеты)
Интервью
 Структурированные интервью
 Проведение на рабочем месте
 Видео/аудиозапись
Опросники 1/
Software Usability Measurement Inventory (SUMI)
Спасибо за внимание!

More Related Content

Оценка и тестирование ПИ

  • 1. Оценка и тестирование ПИ Иван Бурмистров
  • 2. Цитата Разработать хороший пользовательский интерфейс с первого раза совершенно невозможно Ларри Константайн
  • 3. Темы занятия  Юзабилити-тестирование  Экспертная оценка  Пользовательская оценка
  • 4. Тема I  Юзабилити-тестирование  Экспертная оценка  Пользовательская оценка
  • 5. Определение юзабилити согласно стандарту ISO 9241-11 Юзабилити – это степень, в которой продукт может быть использован определённой группой пользователей для достижения определённых целей в определённом контексте использования результативно, производительно и с чувством удовлетворённости  Результативность – точность и полнота, с которой пользователи достигают определённых целей  Производительность – отношение затрачиваемых ресурсов к точности и полноте достижения пользователями целей  Удовлетворённость – отсутствие чувства дискомфорта и позитивное отношение к использованию продукта
  • 6. Основные юзабилити-метрики Все составляющие юзабилити подлежат количественному измерению:  результативность: процент выполненных заданий; количество ошибок  производительность: время выполнения задания  удовлетворённость: опросники, автоматическое распознавание эмоций
  • 7. Специальные метрики  Лёгкость освоения (learnability)  Доступность для людей с ограниченными возможностями (accessibility)  Универсализм (universality)  Безрисковость
  • 8. Измерение удовлетворённости 1/2 Опросник ОПУС (Дегтяренко, 2011) 21 пункт. Шкалы: Эффективность, Простота, Полезность, Эмоциональная привлекательность
  • 10. Юзабилити-тестирование 1/9  Констатирующее (summative testing): диагностика текущего состояния ПИ; количественно-ориентированное тестирование  Формирующее (formative testing): включено в жизненный цикл разработки ПО на каждой итерации; качественно- ориентированное тестирование  Сравнительное (A/B testing): выявляет лучший вариант ПИ из нескольких; количественно-ориентированное тестирование
  • 11. Юзабилити-тестирование 2/9  Цели тестирования  Измеряемые показатели и критерии оценки  Контингент пользователей  Тестовые задания  Рекрутинг участников тестирования  Проведение тестирования (наблюдение и замеры)  Качественный анализ тестовых протоколов  Объединение индивидуальных протоколов и статистический анализ  Отчёт: выводы и рекомендации
  • 12. Юзабилити-тестирование 3/9 Сколько нужно пользователей? Тестирование с 5-ю пользователями позволяет выявить 85% юзабилити- проблем
  • 15. Юзабилити-тестирование 6/9 Картинка на мониторах в комнате наблюдения: левый монитор – Morae Observer, правый – вид с панорамной камеры и управление
  • 16. Юзабилити-тестирование 9/9 Отчёт по результатам теста:  количественные данные  качественные данные  рекомендации по улучшению
  • 24. Тема II  Юзабилити-тестирование  Экспертная оценка  Пользовательская оценка
  • 25. Определения Экспертной называется субъективная оценка юзабилити-качества продукта, построенная на основе собственного опыта и суждений эксперта Юзабилити-дефект – это любой аспект продукта, способный привести к путанице, ошибкам, задержкам, или невозможности выполнения каких-либо задач хотя бы частью пользователей, для которых предназначен продукт
  • 26. Классификация юзабилити- дефектов (юзабилити-ошибок)  4 – критический: очевидный дефект; серьёзно усложняет использование продукта в целом  3 – крупный: усложняет выполнение некоторых задач; значительно повышает вероятность ошибок  2 – небольшой: есть вероятность, что дефект вызовет проблемы; снижает производительность; немного усложняет обучение; несколько повышает вероятность ошибок  1 – незначительный: досадная, но не опасная мелочь; есть небольшая вероятность возникновения ошибок или снижения производительности
  • 27. Основы  Целью экспертной оценки является выявление юзабилити-дефектов; обнаружение дефекта – это успех, а не неудача  Результат экспертизы больше зависит от собственных суждений экспертов, чем от используемых ими методов
  • 28. Сколько нужно экспертов?  1 эксперт выявляет 35% юзабилити- дефектов  2 эксперта – 50%  5 экспертов – 75%  Для выявления 90% дефектов потребуется 12 экспертов  Кривая экономической целесообразности имеет пик в интервале 3-5 экспертов
  • 29. Разновидности экспертных оценок  Соответствие стандартам и руководящим указаниям (guidelines)  Эвристическая оценка (heuristic evaluation)  Когнитивный сквозной контроль (cognitive walkthrough)  Плюралистический сквозной контроль (pluralistic walkthrough)  Формальное инспектирование юзабилити (formal usability inspections)  Субъективная оценка (subjective assessment)
  • 30. Эвристичеcкая оценка  В любой момент времени система показывает, что с ней происходит  Система использует термины, понятия и метафоры, присутствующие в реальном мире, а не обусловленные компьютером  В любой момент пользователь контролирует систему, а не наоборот; любую команду можно отменить или повторить  В любой момент времени система выглядит и функционирует единообразным и стандартным способом  Интерфейс системы препятствует появлению человеческих ошибок  В любой момент времени интерфейс показывает объекты и команды сам, не требуя от пользователя вспоминать их  В интерфейсе есть методы ускорения работы, предназначенные для опытных пользователей и не мешающие новичкам  Интерфейс эстетичен и в любой момент времени не содержит ненужной сейчас информации  Интерфейс помогает пользователям обнаруживать и исправлять проблемы, включая человеческие ошибки  Справка доступна в любой момент времени; она достаточна, но не избыточна; к ней легко обращаться; она нацелена на решение конкретных задач пользователя © Jakob Nielsen © Перевод Влада Головача
  • 31. Когнитивный сквозной контроль  Метод фокусируется на выявлении проблем, возникающих у пользователей, впервые приступающих к работе с продуктом  Исходит из того, что пользователи обычно пытаются освоить систему без помощи документации  Начинается с анализа задач и формирования сценариев  Задача: обнаружить потенциальные барьеры, способные помешать изучению системы
  • 32. Действия по результатам экспертизы  Оценка сложности и стоимости устранения дефектов  Сортировка дефектов по серьёзности и ожидаемым затратам на устранение  Пересмотр архитектуры ПИ в поисках возможностей улучшений или реорганизации  Выяснение того, кто будет устранять те или иные дефекты, и когда выйдет следующая версия продукта  Реализация переделок изменившихся частей ПИ
  • 33. Пример оценки: Аэрофлот 1/7 Выполненные работы:  Интервью с представителями компании и разработчиками  Конкурентный анализ  Анализ литературы и выявление наработанных методов (best practices)  Когнитивный сквозной контроль  Отчёт, включая редизайн ключевых страниц
  • 34. Пример оценки: Аэрофлот 2/7 Конкурентный анализ
  • 35. Пример оценки: Аэрофлот 3/7 Анализ литературы
  • 37. Пример оценки: Аэрофлот 5/7 Критический дефект: форма ввода информации о пассажире
  • 38. Пример оценки: Аэрофлот 6/7 Сравнение формы с конкурентами
  • 39. Пример оценки: Аэрофлот 7/7 Фрагмент отчёта
  • 40. Тема III  Юзабилити-тестирование  Экспертная оценка  Пользовательская оценка
  • 41. Виды пользовательской оценки  Интервью  Опросники (анкеты)
  • 42. Интервью  Структурированные интервью  Проведение на рабочем месте  Видео/аудиозапись
  • 43. Опросники 1/ Software Usability Measurement Inventory (SUMI)