ݺߣ

ݺߣShare a Scribd company logo
Оценка затрат на автоматизацию
         тестирования
      Илья Гаврилов. Exigen Services
Цель

“Головы”          Продукт
Цель

Бюджет   Рентабельность инвестиций



          ROI = (G – I)/I
                 I=?
План
• Обзор существующих методов оценки затрат на
  автоматизацию
• Анализ сильных и слабых сторон
• Выработка критериев для нового метода оценки
• Разработка нового метода
• Анализ результатов
Существующие подходы оценки
         затрат на автоматизацию
• Оценка по типовому коэффициенту
• Оценка методом декомпозиции задач
Оценка по типовому
               коэффициенту


                  %
                           Итоговая
Разработка
                            оценка
Оценка методом
            декомпозиции задач
1   Manage entities functionality                                   39   20
    2.1  DB                                                          3
    2.2    Entity list UI + filtration business                     9
    2.3    UI for add/edit/view entity item                         9
           Support for cutoff date/time (including Region default
    2.4                                                             9
           values overriding); extension time
           Support for dependent lists (Region, Country,
    2.5                                                             3
           Business unit)
    2.10   Support for audit                                        3
    2.11   Permissions                                              3
    2.15   TC for view/add/edit Entity creation                           4
    2.16   TC for view/add/edit Entity execution                          6
    2.17   Automation for view/add/edit Entity                           10
Критерии для нового
   метода оценки
Анализ задачи
        Время на оценку
Вход                      Выход
        Точность оценки

  TCs
Анализ задачи - проблема

Все тест кейсы отличаются:
• по объему
• сложности
• и т.п.
Анализ тест кейса
Содержание           Тип активности тестировщика



                             Взаимодействие с
                              Взаимодействие
                             интерфейсом
                              с интерфейсом




                               Подготовка
                          Написание хранимых
                               тестовых
                          процедур, для
                               данных через
                          подготовки тестовых
                               базу данных
                          данных
Автоматизация набора тест
         кейсов

TCs

               TCUIA



                TCDB
Оценка написания
       хранимых процедур




TCDB
Оценка написания
хранимых процедур
Единицы-> Часы

              На основании
          статистики 100 единиц
                = X часов

Единицы
Оценка тест кейсов
            Все тест кейсы разные




TCUIA
                                    ?
“Оценочный” тест кейс
Разные по объему тест кейсы   “Оценочный” тест
                              кейс
Границы “оценочного” тест
                     кейса

“Оценочный” тест        Взаимодействие с интерфейсом
кейс



                   1<                            ≤ 10
“Оценочный” тест кейс -> Часы


 На основании статистики
 10 оценочных тест кейсов
        = Y часов
Суммарная оценка затрат
         на автоматизацию

                 Оценочные
TCs
                 Тест Кейсы
        TCUIA




        TCDB


                  Единицы
Проекты

Проект 1                        Проект 2
•   Большие тест кейсы          •   Небольшие тест кейсы
•   Тестовые данные             •   Тестовые данные
    создаются через интерфейс       создаются через базу
•   Много не стандартных            данных
    элементов управления
Время потраченное на оценку


Проект     Кол-во тест      Метод       Новый
           кейсов, шт    декомпозиц   метод, часы
                          ии задач,
                            часы
Проект 1       58            3            1

Проект 2      205            7            2
Точность оценки


Проект       Метод       Новый        Факт
           декомпозиц    метод
            ии задач
Проект 1    127 часов   142 часов   136 часов

            93,38 %     104,41 %      100%

Проект 2    298 часов   260 часов   280 часов

            106,42 %    92,85 %       100%
Анализ результатов

• Время затраченное на оценку ~ в 3 раза меньше от
  метода декомпозиции задач
• Точность варьируется в пределах 8% от
  фактического результата
• Точность сопоставимая с методом декомпозиции
  задач
• Меньше субъективность оценки
Спасибо за внимание!

     Вопросы?


                               Илья Гаврилов
            Iliya.Gavrilov@exigenservices.com

More Related Content

Similar to Илья Гаврилов, Оценка затрат на автоматизацию тестирования (20)

Человеко-дни на тестирование или как не ошибиться с оценкой
Человеко-дни на тестирование или как не ошибиться с оценкойЧеловеко-дни на тестирование или как не ошибиться с оценкой
Человеко-дни на тестирование или как не ошибиться с оценкой
SQALab
Как оценивать состояние проекта по разработке с помощью формальных метрик и о...
Как оценивать состояние проекта по разработке с помощью формальных метрик и о...Как оценивать состояние проекта по разработке с помощью формальных метрик и о...
Как оценивать состояние проекта по разработке с помощью формальных метрик и о...
Dmitry Andreev
Test Strategy: creation and optimization - QA Fest-2017 (Тестовая стратегия: ...
Test Strategy: creation and optimization - QA Fest-2017 (Тестовая стратегия: ...Test Strategy: creation and optimization - QA Fest-2017 (Тестовая стратегия: ...
Test Strategy: creation and optimization - QA Fest-2017 (Тестовая стратегия: ...
Andrey Ladutko
QA Fest 2017. Андрей Ладутько.Тестовая стратегия: создание и оптимизация
QA Fest 2017. Андрей Ладутько.Тестовая стратегия: создание и оптимизацияQA Fest 2017. Андрей Ладутько.Тестовая стратегия: создание и оптимизация
QA Fest 2017. Андрей Ладутько.Тестовая стратегия: создание и оптимизация
QAFest
Инна Слизовская - Тест-менеджмент: статистика, документация и планы
Инна Слизовская - Тест-менеджмент: статистика, документация и планыИнна Слизовская - Тест-менеджмент: статистика, документация и планы
Инна Слизовская - Тест-менеджмент: статистика, документация и планы
Yandex
Роман Кокин «Организация тестирования в больших командах»
Роман Кокин «Организация тестирования в больших командах»Роман Кокин «Организация тестирования в больших командах»
Роман Кокин «Организация тестирования в больших командах»
DataArt
Маргарита Сафарова - Аудит процессов тестирования при смене проектной команды
Маргарита Сафарова - Аудит процессов тестирования при смене проектной командыМаргарита Сафарова - Аудит процессов тестирования при смене проектной команды
Маргарита Сафарова - Аудит процессов тестирования при смене проектной команды
SQALab
Сергей Кащенко - Опыт внедрения метрик
Сергей Кащенко - Опыт внедрения метрикСергей Кащенко - Опыт внедрения метрик
Сергей Кащенко - Опыт внедрения метрик
Luxoft Education Center
доклад на SQADays 2011 в Казани
доклад на SQADays  2011 в Казанидоклад на SQADays  2011 в Казани
доклад на SQADays 2011 в Казани
margo-qa
Оценка трудоёмкости и сроков разработки ПО
Оценка трудоёмкости и сроков разработки ПООценка трудоёмкости и сроков разработки ПО
Оценка трудоёмкости и сроков разработки ПО
SQALab
Автоматизация сборки и тестирования в разрезе эффективного производства
Автоматизация сборки и тестирования в разрезе эффективного производстваАвтоматизация сборки и тестирования в разрезе эффективного производства
Автоматизация сборки и тестирования в разрезе эффективного производства
SQALab
Становление процесса автоматизированного тестирования в интернет-магазине ОКЕЙ
Становление процесса автоматизированного тестирования в интернет-магазине ОКЕЙСтановление процесса автоматизированного тестирования в интернет-магазине ОКЕЙ
Становление процесса автоматизированного тестирования в интернет-магазине ОКЕЙ
CEE-SEC(R)
Process Quality, QA and QC. QA Club. Kharkov. Ukraine
Process Quality, QA and QC. QA Club. Kharkov. UkraineProcess Quality, QA and QC. QA Club. Kharkov. Ukraine
Process Quality, QA and QC. QA Club. Kharkov. Ukraine
Sergiy Povolyashko
Оценка трудозатрат на тестирование в проектах сопровождения
Оценка трудозатрат на тестирование в проектах сопровожденияОценка трудозатрат на тестирование в проектах сопровождения
Оценка трудозатрат на тестирование в проектах сопровождения
SQALab
2.3 Тестирование: процесс, роли, артефакты
2.3 Тестирование: процесс, роли, артефакты2.3 Тестирование: процесс, роли, артефакты
2.3 Тестирование: процесс, роли, артефакты
Natalia Odegova
Process Quality, QA and QC. QA Club. Kharkov. Ukraine
Process Quality, QA and QC. QA Club. Kharkov. UkraineProcess Quality, QA and QC. QA Club. Kharkov. Ukraine
Process Quality, QA and QC. QA Club. Kharkov. Ukraine
Sergiy Povolyashko, PMP
DevOps guide for awesome quality assurance
DevOps guide for awesome quality assuranceDevOps guide for awesome quality assurance
DevOps guide for awesome quality assurance
Анастасия Асеева
Слайдкаст. Измерения в ИТ и ПО. Часть II
Слайдкаст. Измерения в ИТ и ПО. Часть IIСлайдкаст. Измерения в ИТ и ПО. Часть II
Слайдкаст. Измерения в ИТ и ПО. Часть II
Sergiy Povolyashko
2016-01-16 02 Екатерина Боброва. Архитектура автоматизированных тестов
2016-01-16 02 Екатерина Боброва. Архитектура автоматизированных тестов2016-01-16 02 Екатерина Боброва. Архитектура автоматизированных тестов
2016-01-16 02 Екатерина Боброва. Архитектура автоматизированных тестов
Омские ИТ-субботники
Человеко-дни на тестирование или как не ошибиться с оценкой
Человеко-дни на тестирование или как не ошибиться с оценкойЧеловеко-дни на тестирование или как не ошибиться с оценкой
Человеко-дни на тестирование или как не ошибиться с оценкой
SQALab
Как оценивать состояние проекта по разработке с помощью формальных метрик и о...
Как оценивать состояние проекта по разработке с помощью формальных метрик и о...Как оценивать состояние проекта по разработке с помощью формальных метрик и о...
Как оценивать состояние проекта по разработке с помощью формальных метрик и о...
Dmitry Andreev
Test Strategy: creation and optimization - QA Fest-2017 (Тестовая стратегия: ...
Test Strategy: creation and optimization - QA Fest-2017 (Тестовая стратегия: ...Test Strategy: creation and optimization - QA Fest-2017 (Тестовая стратегия: ...
Test Strategy: creation and optimization - QA Fest-2017 (Тестовая стратегия: ...
Andrey Ladutko
QA Fest 2017. Андрей Ладутько.Тестовая стратегия: создание и оптимизация
QA Fest 2017. Андрей Ладутько.Тестовая стратегия: создание и оптимизацияQA Fest 2017. Андрей Ладутько.Тестовая стратегия: создание и оптимизация
QA Fest 2017. Андрей Ладутько.Тестовая стратегия: создание и оптимизация
QAFest
Инна Слизовская - Тест-менеджмент: статистика, документация и планы
Инна Слизовская - Тест-менеджмент: статистика, документация и планыИнна Слизовская - Тест-менеджмент: статистика, документация и планы
Инна Слизовская - Тест-менеджмент: статистика, документация и планы
Yandex
Роман Кокин «Организация тестирования в больших командах»
Роман Кокин «Организация тестирования в больших командах»Роман Кокин «Организация тестирования в больших командах»
Роман Кокин «Организация тестирования в больших командах»
DataArt
Маргарита Сафарова - Аудит процессов тестирования при смене проектной команды
Маргарита Сафарова - Аудит процессов тестирования при смене проектной командыМаргарита Сафарова - Аудит процессов тестирования при смене проектной команды
Маргарита Сафарова - Аудит процессов тестирования при смене проектной команды
SQALab
Сергей Кащенко - Опыт внедрения метрик
Сергей Кащенко - Опыт внедрения метрикСергей Кащенко - Опыт внедрения метрик
Сергей Кащенко - Опыт внедрения метрик
Luxoft Education Center
доклад на SQADays 2011 в Казани
доклад на SQADays  2011 в Казанидоклад на SQADays  2011 в Казани
доклад на SQADays 2011 в Казани
margo-qa
Оценка трудоёмкости и сроков разработки ПО
Оценка трудоёмкости и сроков разработки ПООценка трудоёмкости и сроков разработки ПО
Оценка трудоёмкости и сроков разработки ПО
SQALab
Автоматизация сборки и тестирования в разрезе эффективного производства
Автоматизация сборки и тестирования в разрезе эффективного производстваАвтоматизация сборки и тестирования в разрезе эффективного производства
Автоматизация сборки и тестирования в разрезе эффективного производства
SQALab
Становление процесса автоматизированного тестирования в интернет-магазине ОКЕЙ
Становление процесса автоматизированного тестирования в интернет-магазине ОКЕЙСтановление процесса автоматизированного тестирования в интернет-магазине ОКЕЙ
Становление процесса автоматизированного тестирования в интернет-магазине ОКЕЙ
CEE-SEC(R)
Process Quality, QA and QC. QA Club. Kharkov. Ukraine
Process Quality, QA and QC. QA Club. Kharkov. UkraineProcess Quality, QA and QC. QA Club. Kharkov. Ukraine
Process Quality, QA and QC. QA Club. Kharkov. Ukraine
Sergiy Povolyashko
Оценка трудозатрат на тестирование в проектах сопровождения
Оценка трудозатрат на тестирование в проектах сопровожденияОценка трудозатрат на тестирование в проектах сопровождения
Оценка трудозатрат на тестирование в проектах сопровождения
SQALab
2.3 Тестирование: процесс, роли, артефакты
2.3 Тестирование: процесс, роли, артефакты2.3 Тестирование: процесс, роли, артефакты
2.3 Тестирование: процесс, роли, артефакты
Natalia Odegova
Process Quality, QA and QC. QA Club. Kharkov. Ukraine
Process Quality, QA and QC. QA Club. Kharkov. UkraineProcess Quality, QA and QC. QA Club. Kharkov. Ukraine
Process Quality, QA and QC. QA Club. Kharkov. Ukraine
Sergiy Povolyashko, PMP
Слайдкаст. Измерения в ИТ и ПО. Часть II
Слайдкаст. Измерения в ИТ и ПО. Часть IIСлайдкаст. Измерения в ИТ и ПО. Часть II
Слайдкаст. Измерения в ИТ и ПО. Часть II
Sergiy Povolyashko
2016-01-16 02 Екатерина Боброва. Архитектура автоматизированных тестов
2016-01-16 02 Екатерина Боброва. Архитектура автоматизированных тестов2016-01-16 02 Екатерина Боброва. Архитектура автоматизированных тестов
2016-01-16 02 Екатерина Боброва. Архитектура автоматизированных тестов
Омские ИТ-субботники

More from SQADays_2009_Piter (14)

Юлия Нечаева: Анализ как часть тестирования, или Замените "аналитика" тестир...
Юлия Нечаева: Анализ как часть тестирования, или Замените "аналитика"  тестир...Юлия Нечаева: Анализ как часть тестирования, или Замените "аналитика"  тестир...
Юлия Нечаева: Анализ как часть тестирования, или Замените "аналитика" тестир...
SQADays_2009_Piter
Ромуальд Здебский, Обеспечение качества через интегрированное управление прое...
Ромуальд Здебский, Обеспечение качества через интегрированное управление прое...Ромуальд Здебский, Обеспечение качества через интегрированное управление прое...
Ромуальд Здебский, Обеспечение качества через интегрированное управление прое...
SQADays_2009_Piter
Асхат Уразбаев, Руководство по организации тестирования в Agile
Асхат Уразбаев, Руководство по организации тестирования в AgileАсхат Уразбаев, Руководство по организации тестирования в Agile
Асхат Уразбаев, Руководство по организации тестирования в Agile
SQADays_2009_Piter
Юрий Цыганенко, QA как услуга
Юрий Цыганенко, QA как услугаЮрий Цыганенко, QA как услуга
Юрий Цыганенко, QA как услуга
SQADays_2009_Piter
Виталий Стрелюк, Постановка процесса тестирования в Agile
Виталий Стрелюк, Постановка процесса тестирования в AgileВиталий Стрелюк, Постановка процесса тестирования в Agile
Виталий Стрелюк, Постановка процесса тестирования в Agile
SQADays_2009_Piter
Павел Степанов, Система контроля качества Java SE
Павел Степанов, Система контроля качества Java SEПавел Степанов, Система контроля качества Java SE
Павел Степанов, Система контроля качества Java SE
SQADays_2009_Piter
Татьяна Смехнова, "Воспитание настоящего тестировщика" (Академический подход ...
Татьяна Смехнова, "Воспитание настоящего тестировщика" (Академический подход ...Татьяна Смехнова, "Воспитание настоящего тестировщика" (Академический подход ...
Татьяна Смехнова, "Воспитание настоящего тестировщика" (Академический подход ...
SQADays_2009_Piter
Сергей Слесарев, Отличия в работе тестировщика в software-development компани...
Сергей Слесарев, Отличия в работе тестировщика в software-development компани...Сергей Слесарев, Отличия в работе тестировщика в software-development компани...
Сергей Слесарев, Отличия в работе тестировщика в software-development компани...
SQADays_2009_Piter
Александр Орлов, Разработчики vs. Тестеры. История войн
Александр Орлов, Разработчики vs. Тестеры. История войнАлександр Орлов, Разработчики vs. Тестеры. История войн
Александр Орлов, Разработчики vs. Тестеры. История войн
SQADays_2009_Piter
Алексей Кабанов, Автоматизируем Rich Internet Applications с нуля на примере ...
Алексей Кабанов, Автоматизируем Rich Internet Applications с нуля на примере ...Алексей Кабанов, Автоматизируем Rich Internet Applications с нуля на примере ...
Алексей Кабанов, Автоматизируем Rich Internet Applications с нуля на примере ...
SQADays_2009_Piter
Александр Александров, Количественное управление процессом тестирования
Александр Александров, Количественное управление процессом тестированияАлександр Александров, Количественное управление процессом тестирования
Александр Александров, Количественное управление процессом тестирования
SQADays_2009_Piter
Андрей Дмитриев, Опыт налаживания работы новой SQA команды
Андрей Дмитриев, Опыт налаживания работы новой SQA командыАндрей Дмитриев, Опыт налаживания работы новой SQA команды
Андрей Дмитриев, Опыт налаживания работы новой SQA команды
SQADays_2009_Piter
Лилия Горбачик, Тестирование Web Services
Лилия Горбачик, Тестирование Web ServicesЛилия Горбачик, Тестирование Web Services
Лилия Горбачик, Тестирование Web Services
SQADays_2009_Piter
Софья Ибрагимова, Специфика тестирования мобильных приложений
Софья Ибрагимова, Специфика тестирования мобильных приложенийСофья Ибрагимова, Специфика тестирования мобильных приложений
Софья Ибрагимова, Специфика тестирования мобильных приложений
SQADays_2009_Piter
Юлия Нечаева: Анализ как часть тестирования, или Замените "аналитика" тестир...
Юлия Нечаева: Анализ как часть тестирования, или Замените "аналитика"  тестир...Юлия Нечаева: Анализ как часть тестирования, или Замените "аналитика"  тестир...
Юлия Нечаева: Анализ как часть тестирования, или Замените "аналитика" тестир...
SQADays_2009_Piter
Ромуальд Здебский, Обеспечение качества через интегрированное управление прое...
Ромуальд Здебский, Обеспечение качества через интегрированное управление прое...Ромуальд Здебский, Обеспечение качества через интегрированное управление прое...
Ромуальд Здебский, Обеспечение качества через интегрированное управление прое...
SQADays_2009_Piter
Асхат Уразбаев, Руководство по организации тестирования в Agile
Асхат Уразбаев, Руководство по организации тестирования в AgileАсхат Уразбаев, Руководство по организации тестирования в Agile
Асхат Уразбаев, Руководство по организации тестирования в Agile
SQADays_2009_Piter
Юрий Цыганенко, QA как услуга
Юрий Цыганенко, QA как услугаЮрий Цыганенко, QA как услуга
Юрий Цыганенко, QA как услуга
SQADays_2009_Piter
Виталий Стрелюк, Постановка процесса тестирования в Agile
Виталий Стрелюк, Постановка процесса тестирования в AgileВиталий Стрелюк, Постановка процесса тестирования в Agile
Виталий Стрелюк, Постановка процесса тестирования в Agile
SQADays_2009_Piter
Павел Степанов, Система контроля качества Java SE
Павел Степанов, Система контроля качества Java SEПавел Степанов, Система контроля качества Java SE
Павел Степанов, Система контроля качества Java SE
SQADays_2009_Piter
Татьяна Смехнова, "Воспитание настоящего тестировщика" (Академический подход ...
Татьяна Смехнова, "Воспитание настоящего тестировщика" (Академический подход ...Татьяна Смехнова, "Воспитание настоящего тестировщика" (Академический подход ...
Татьяна Смехнова, "Воспитание настоящего тестировщика" (Академический подход ...
SQADays_2009_Piter
Сергей Слесарев, Отличия в работе тестировщика в software-development компани...
Сергей Слесарев, Отличия в работе тестировщика в software-development компани...Сергей Слесарев, Отличия в работе тестировщика в software-development компани...
Сергей Слесарев, Отличия в работе тестировщика в software-development компани...
SQADays_2009_Piter
Александр Орлов, Разработчики vs. Тестеры. История войн
Александр Орлов, Разработчики vs. Тестеры. История войнАлександр Орлов, Разработчики vs. Тестеры. История войн
Александр Орлов, Разработчики vs. Тестеры. История войн
SQADays_2009_Piter
Алексей Кабанов, Автоматизируем Rich Internet Applications с нуля на примере ...
Алексей Кабанов, Автоматизируем Rich Internet Applications с нуля на примере ...Алексей Кабанов, Автоматизируем Rich Internet Applications с нуля на примере ...
Алексей Кабанов, Автоматизируем Rich Internet Applications с нуля на примере ...
SQADays_2009_Piter
Александр Александров, Количественное управление процессом тестирования
Александр Александров, Количественное управление процессом тестированияАлександр Александров, Количественное управление процессом тестирования
Александр Александров, Количественное управление процессом тестирования
SQADays_2009_Piter
Андрей Дмитриев, Опыт налаживания работы новой SQA команды
Андрей Дмитриев, Опыт налаживания работы новой SQA командыАндрей Дмитриев, Опыт налаживания работы новой SQA команды
Андрей Дмитриев, Опыт налаживания работы новой SQA команды
SQADays_2009_Piter
Лилия Горбачик, Тестирование Web Services
Лилия Горбачик, Тестирование Web ServicesЛилия Горбачик, Тестирование Web Services
Лилия Горбачик, Тестирование Web Services
SQADays_2009_Piter
Софья Ибрагимова, Специфика тестирования мобильных приложений
Софья Ибрагимова, Специфика тестирования мобильных приложенийСофья Ибрагимова, Специфика тестирования мобильных приложений
Софья Ибрагимова, Специфика тестирования мобильных приложений
SQADays_2009_Piter

Илья Гаврилов, Оценка затрат на автоматизацию тестирования