狠狠撸

APIテストを自動化してリグレッションテストにしたら、
安心で安全な開発ができて気持ちが楽になった
2020/09/28
伊藤潤平
JaSST’20 Niigata 事例绍介

Copyright ? 2020 WingArc1st Inc. All Rights Reserved.
自己紹介
? 伊藤潤平(@jp_110)
? ウイングアーク１ｓｔ株式会社
? 帳票関連ソフトウェアの品質保証/プロセス改善
? 社外活動
? SQiPシンポジウム2017、2019 論文発表
? 品質管理学会員
? JaSST Niigata 実行委員
? Agile Testing Fellowship会員
? Scrum Fest Osaka 新潟トラックオーナー
? 翻訳活動
? 書籍『Agile Testing Condensed』
? YouTube『Appendix A: What We‘ve Learned Since Agile Testing
-- Janet Gregory and Lisa Crispin.』
? ブログ
? https://medium.com/@sadonosake
? 趣味
? 日本酒（佐渡限定）
? 筋トレ（健康志向）
2

Copyright ? 2020 WingArc1st Inc. All Rights Reserved.Copyright ? 2020 WingArc1st Inc. All Rights Reserved.
文雅科信息技术（大连）有限公司
文雅科信息技术（上海）有限公司
WingArc Singapore Pte. Ltd.
WingArc Australia Pty Ltd
東京（本社）
仙台
新潟
札幌
広島
福岡
大阪
名古屋
3
ウイングアーク１ｓｔ株式会社
JAPAN
8拠点
GLOBAL
4拠点
? 商号：ウイングアーク１ｓｔ株式会社 (WingArc1st Inc.)
? 所在地：〒106-6235東京都港区六本木三丁目2番1号六本木グランドタワー
? 創業：2004年3月
? 資本金：2億円
? 事業内容：ツール?ミドルウエア製品の開発?販売、導入支援?保守サポートサービスの提供
? 従業員数：連結651人／単体561人（2020年2月末現在）
会社情報

Copyright ? 2020 WingArc1st Inc. All Rights Reserved.Copyright ? 2020 WingArc1st Inc. All Rights Reserved. 4
帳票?文書管理ソリューション事業
業務に欠かせない帳票の
効率的な運用を支援
ビジネスの現場から日々の暮らしのシーンまで、さまざまな場所で利用されている帳票。その設計?出
力、運用を支えるソリューションおよびサービスを提供しています。業務処理におけるすべての帳票を対
象としており、大手企業や官公庁を中心に多くの企業?団体に導入されています。
帳票の利用シーンソフトウェアサービス市場シェア（SVF）
あらゆるシーンで利用される帳票の、安
定的かつ効率的な出力?運用を支援して
います。
帳票クラウドサービス「SVF Cloud」の
提供で、より幅広い企業に導入いただい
ています。
累計導入社数は2万6000社にのぼり、10
年以上にわたってトップシェアを維持し
ています。
SVFの特長のひとつである「保守継続率
の高さ」が、ソフトウェア基盤事業の安
定的な成長を下支えしています。
伝票?申請書
公的証明書
宅配伝票
航空券?チケット
帳票基盤ソリューション
帳票クラウドサービス
国内
シェア
第1位
68.3%
※株式会社ミック経済研究所「帳票設計?運用製品の競合調査 2019年度
版」（帳票運用製品ベンダー別出荷金額推移）をもとにウイングアーク１
ｓｔが作成。日立製作所と帳票分野で提携し、「EUR」の資産を取得
（2018年4月）したことに伴う数値。保険設計書
文書データ活用ソリューション
販売実績
10,388
11,076
11,739117億円
（前年比＋6.0％）
2018 20192017
（百万円）

データエンパワーメントソリューション事業
成長のための業務改革を
データ活用からサポート
限られた人員でも、最大限の成果をあげたい??多くの企業が抱えるそんな想いを実現するために必要な
のは、データに基づく意思決定?行動です。適切なデータを、適切なタイミングに、適切な形で見られる
よう環境を整備するための製品?ソリューション?サービスを提供しています。
実現できることソフトウェアサービス顧客満足度(Dr.Sum、MotionBoard)
ビジネスの現場が抱えるさまざまな課題。
データ活用によって解決できるものは少
なくありません。
企業内外の情報をデータ化?管理し、必
要なときに集計?分析?可視化する製
品?サービスを提供しています。
BI市場の成長を牽引するリーディング
カンパニーとなっています。
大規模での導入やソリューション化（複
数の製品の組み合わせ）の推進により、
成長が加速しています。
製造IoT?
生産性向上
働き方改革
営業改革集計分析?可視化
集計?分析プラットフォーム
NO.1
25%
（百万円）
BIダッシュボード
出所：富士キメラ総研「ソフトウェアビジネス新市場 2019年
版」に基づき当社推定
市場シェアは富士キメラ総研「ソフトウェアビジネス新市場 2019年版」BI
ツール?2018年度実績を基に、エンドユーザーが有用性及び生産性向上のた
めに社内外のデータを集計?分析できるBIツールをオペレーショナルBIツー
ルと定義し、2019年3月31日時点における当該企業群のパッケージ及びSaaS
の販売金額の合計から当社オペレーショナルBIツール市場における市場シェ
アを約25%と独自に算出。市場シェアの算出から除外した企業はSAPジャパ
ン、日本オラクル及び日本IBM
新ソリューション
自動化できるコミュニケーションツール
販売実績
5,177
6,210
6,937
2018 20192017
69億円
（前年比＋11.7％）
日経コンピュータ顧客満足
度調査 2020-2021
データ分析?利活用支援ソ
フト／サービス部門1位

APIテストを自動化して
リグレッションテストにしたら
安心で安全な開発ができて
気持ちが楽になった

ウォーターフォール開発からアジャイル開発へ
β1 β2 β3 RC
α開発工程
品質保証工程
QG QGQG
β RC
開発工程
品質保証工程
QGQG QG
スクラムを導入
開発?単体テスト
単体テスト
開発

問題点
? 開発リリース物の品質が悪い。
? クオリティゲートを通過できない。
? 品質保証工程を開始できない。
? スケジュール遅延のプロダクトリスク発生。

開発チームとの振
り返り
? 開発者によってはコンポーネントテスト
を実行していない。
? 自分の実装環境のみのテストで、バック
エンドとフロントエンドの結合テストレ
ベルが不十分。
? 非機能は品質保証部門のメンバーがテス
トしてくれるだろうマインド。
? テストする時間がない。
? 品質に関する定義やルールがない。
9

気付き
開発工程内で品質を高めて、スムーズな品質保証工程作業を実現しよう！
β RC
開発工程
品質保証工程
QG
品質の確保スムーズな検証作業
コーディング?単体テスト?結合テスト

品質保証部門から開発部門にメンバーをアサイン！
品質保証部門からSoftware Engineer in Test（SET）を開発部門に
アサイン
SET参加
開発部門（Dev）品質保証部門（QA）
PO
SM
チームBチームA
QAマネージャ
QAメンバー
SET参加

スクラムにテストのルールを作る！
改善その①
12

改善その① テストのルールを作る
? テストレベルの定義付け
実装者が実施
SETが実施
QAが実施
受け入れテスト要求分析
仕様策定
基本?機能設計
詳細設計
コーディング
コンポーネントテスト
統合テスト
システムテスト
機能設計
結合テスト
仕様策定
基本設計
詳細設計
機能テスト
コーディング

改善その① テストのルールを作る
? 「完成」の定義

改善その②
WebAPIテストの自動化
15

テストの理想と現実
16
理想現実
Unit Test
API Test
UI Test
Unit
Test
API Test
UI Test
目指すべき
Unit
Test
API Test
UI Test
Unit
Test
API Test
UI Test

UIテスト
17
検証範囲
UI
WebAPI
Business Logic
Data Access
DB
Dev SET QA
WebAPIテスト
UI
WebAPI
Business Logic
Data Access
DB
機能?システムテスト
UI
WebAPI
Business Logic
Data Access
DB

Copyright ? 2020 WingArc1st Inc. All Rights Reserved. 18
WebAPIテストテスト概要
? WebAPIを入り口として、WebAPIのバリデーション処理や、バッ
クエンドの単機能を検証するテストセットとする。
（バックエンドのコア部分はDevメンバーのコンポーネントテス
トでカバーしていることを前提とする）
? JUnitを使用して自動化することにより、回帰的にテスト実行する
リグレッションテストを目的とする。
API仕様書
テスト
観点
テスト
ケース
作成
JUnit化テスト実行回帰テスト

WebAPIテストテスト設計方法
19
? 例えばAuth LoginのAPI
? パラメーター
? 戻り値
キー値省略時の値
user ログインユーザーID
domain ドメイン名 Local
password ログインパスワード
tenant テナントID 0
HTTPステータスエラーコード説明
200 0 正常終了（ログイン終了）
401 -1 ユーザー認証に失敗した場合
403 -20012 すでに別のユーザーIDでログイン中の場合
403 -9800 ライセンスエラーが発生した場合
403 -9801 有効期限切れの場合

テスト設計
方法
テスト観点を作成
20

テスト設計方法テストケース（CL）を作成
21

テスト設計方法
22
? テストケースをJUnit化

テスト実施
23
? Antを利用したJunitのテスト結果をレポーティング

Copyright ? 2020 WingArc1st Inc. All Rights Reserved. 24
テスト実施結果
? WebAPIテストのテストケース数と発生したインシデント数
結果
WebAPI数約50
テストケース数 4,682TCs（観点数：437）
インシデント数 185件
ソースkステップ数 257k（参考：ソフトウェア本体518k）

効果

効果
26
? 重大な不具合を早期に発見することができた
WebAPIのパラメーター仕様と、バックエンド
のパラメーター仕様に、開発者同士の認識の違
いがあることが分かった。
UIテスト
WebAPIテスト
UI
WebAPI
Business Logic
Data Access
DB

効果
27
? ユーザー利用を想定した準正常テスト
WebAPIから準正常系のリクエストを送ると、
バックエンドで想定外の動作をする等の新たな
気付きを得られた。（QA視点でのテストのよ
る安心感）
UIテスト
WebAPIテスト
UI
WebAPI
Business Logic
Data Access
DB

効果
28
? リグレッションテストとして確立
WebAPIテストをリグレッションテストとして
スプリント毎に実行すると、仕様変更やリファ
クタリングの影響箇所で不具合が発見できた。
（デグレードを発見できる安全性）
UIテスト
WebAPIテスト
UI
WebAPI
Business Logic
Data Access
DB

結果
SETを導入
クオリティゲートを
一回で合格
β RC
開発工程
品質保証工程
QGQG QG
開発?単体テスト
β RC
開発工程
品質保証工程
QG
開発?単体テスト?結合テスト

品質向上結果
初期版の開発規模に対
するバグ密度
バージョンアップ版の
開発規模に対するバグ
密度
開発工程で検出された不具合が増え、
品質保証工程での検出は減った。
つまり品質は開発段階から作りこまれている。
QA検出開発検出

現在のWebAPIテスト
の状況
スクラムから独自のアジャイル開発へ
31

体制の変更
開発部門（Dev）
品質保証部門（QA）
PO
SM
チームBチームA
QAマネージャ
Devメンバー
PO
QAメンバー
QAマネージャ
QAメンバー
開発部門（Dev）
品質保証部門（QA）

開発プロセスの変更
33
? 開発部門（Dev）
? 実装からテストまですべてを実施する
? 品質保証部門（QA）
? テストが計画通り行われ、品質が確保された状態であることを監査する
実装者が実施
SETが実施
QAが実施
機能設計
結合テスト
仕様策定
基本設計
詳細設計
機能テスト
コーディング
実装者が実施
SETが実施
QAが実施受け入れテスト要求分析
機能設計
結合テスト
仕様策定
基本設計
詳細設計
機能テスト
コーディング

開発プロセスの変更
34
PO
PBI 1
PBI 2
PBI 3
?
?
?
PBI n
テスト結果
テスト結果
テスト結果
POから要求をPBIとし
てバックログで管理
PBI毎にDev+SETがチームとなり、
実装、コンポーネントテスト、API
テスト、機能テスト、システムテ
ストまでを実施する
Dev+SETがチームが実施
したテスト結果に対して、
QAメンバーが監査する

監査型のQA
35

段階的な品質の積み上げ
スプリント/フェーズ
品
質
品質
目標品質
徐々に品質を確保！！
品質
品質
品質
品質

戦略的テスト計画の作成
プロダクトバックログ
（PBL）
フェーズテストプラン
（PTP）
マスターテストプラン(MTP)
品質目標テストタイプ
機能適合性
性能効率性
互換性
使用性
信頼性
セキュリティ
保守性
移植性
フェーズ1
機能テスト
ユースケーステスト
性能テスト
互換性テスト
ローカライゼーションテスト
バリデーションテスト
強制エラーテスト
セキュリティテスト
解析性テスト
プラットフォームテスト
機能テスト
互換性テスト
フェーズ2
機能テスト
フェーズ3
性能テスト
フェーズ1
PBI
PBI
フェーズ2
PBI
PBI
フェーズ3
PBI
PBI

フェーズと品質ゲートの設置による段階的品質の積み上げ
フェーズ1
機能テスト
互換性テスト
フェーズ2
機能テスト
フェーズ3
性能テスト
チェック
ポイント
チェック
ポイント
品質目標
達成
品質
フェーズ

WebAPIテスト課題
39
? テストケース数が膨大になりテスト実行に時間がかかる
? 1プラットフォームの実行時間：30時間
? テストケース数：4,682TCs → 17,114TCs
? ソースkステップ数：257k → 853k
? 実装者任せになっている
? 管理が大変
? 属人化が進んでいる
? フレイキーが増えている
? テスト結果分析という新たなタスクが生まれる
? テストコード自体のリファクタリングが必要

狠狠撸

JaSST Niigata'20

Recommended

More Related Content

What's hot (20)

Similar to JaSST Niigata'20 (20)

JaSST Niigata'20

Editor's Notes