Алексей Турчаников и Николай Сидоренко выступят с докладом об опыте внедрения автоматизированного тестирования через интерфейс (Web и десктоп) в их проекте: как проходили через целый лес организационных и технических "граблей" и в конце-концов добились своей цели.
В обзоре: SOAP UI, TestComplete, Ranorex, Cucumber, SpecFlow, Robot Framework + RIDE, Selenium WebDriver (Java & C#), White.А также: как не стоит нанимать тестировщиков-автоматизаторов, какой процент тестировщиков не начнет писать тесты, чем ценны тестировщицы-девушки.
2. INFRASCALE
Продукт для онлайн-бекапа
Стек технологий Microsoft
Приложения на C# под Web (ASP.NET),
Windows (WinForms, WPF), Mac, iOS, Android
1-3 Scrum-команды в разное время
Continuous Delivery, ежедневные релизы
Изначально - минимальное покрытие юнит-
тестами, немного тестов для SOAP API
3. ВСЁ ПЛОХО
Бизнес заинтересован только на словах
TDD практикует 1 из 10 кандидатов-
«синьоров»
Конфигурационный менеджмент –
каменный век
Тестировщики заинтересованы только на
словах
Реальный опыт автоматизации у 1 из 10
кандидатов-тестировщиков
Опыт программирования – требование №1
4. НАЧАЛО
Cucumber
o Зрелая экосистема
o Язык понятен аналитику,
продакт аунеру
o Компактный код
- Язык Ruby
- Экосистема Ruby на
Windows
SpecFlow
o Cucumber на стеке Microsoft,
C#
- Много лишнего кода
- Сложно даже для
разработчика
5. Selenium WebDriver / Java
o Учебные материалы,
примеры
o Java
- Java
Выделили время
Подключили еще пару
человек
Начали учить тестировщиков
программированию на Java
SELENIUM
WEBDRIVER + JAVA
DEV QA DEV QAA
DEV QA DEV QAA
6. SELENIUM
WEBDRIVER + JAVA
Энтузиазм важен, но этого мало
Continuous Integration тестов UI –
важно и сложно
Нельзя заниматься «20% времени»
ID контролов, Regex, XPath, CSS-
селекторы – нужны разработчики
Важно логирование, скриншоты,
запись видео
Много тестов - нужно
программировать!
7. DESKTOP
TestComplete
o Запись макросов
o Все из коробки
o Разные языки (Python,
VBScript, JScript, …)
o Подобие Page Object
o Генерация отчетов
- EUR 2700-6000
- Нужно
программировать!
Ranorex
o Все то же что
TestComplete
o SharpDevelop, можно
использовать
VisualStudio
o Полноценный C# /
VB.NET
o XPath для UI
- EUR 2000-3500
- Нужно
программировать!
9. ROBOT FRAMEWORK +
RIDE
o Совсем простые тесты - без
программирования
o Библиотеки для работы с WebDriver, БД,
файловой системой, ОС
o White для работы с десктоп UI
- Шаг влево-вправо: Robot + Python + C#
- Сложные тесты нечитабельны
- Нужно программировать!
10. Robot не очень
Все тесты на C#, NUnit
Обучение
тестировщиков C#
Тесты с быстрым
эффектом для бизнеса
Отдельно от команд
разработки
ПЕРЕХОД НА C#
DEV QA DEV QAA
DEV QA
QAA
DEV QAA
DEV QA
11. ДОСТИЖЕНИЯ И
СОВЕТЫ
Тестам нужна архитектура
Тесты должны быть частью CI
Собирайте всю возможныю информацию при прохождении тестов (видео,
скриншоты, логи)
Автоматизация генерации тестовых данных
Тесты можно и нужно параллелить
“Headless” браузеры не заменят реальные браузеы (JavaScript, AJAX), но
могут помочь тестированием в фоновом режиме
Важно получить активную поддержку части разработчиков (правка
приложения, стабильность тестов, настройка CI)
White не очень быстрый, частично переходим на чистый MS UI Automation
Делите тесты на группы: unit-тесты, интеграционные тесты, UI-тесты
Лучший инструмент автоматизации - язык программирования
12. ВСЕ НЕ ОЧЕНЬ
ПЛОХО
Явная сиюминутная выгода для бизнеса
показательнее, чем абстрактное “улучшение
качества”
Чем меньше автоматизации, тем сильнее
первый эффект
“Готовый” специалист или часть
разработчиков дают быстрый старт
Инициативные и настойчивые люди есть,
нужно искать
Тестировщиков можно обучить
программированию, для начала хватит основ
Людей с опытом мало, но девушки решают