Документирование результатов тестирования. Лекция 7

Введение
Анализ результатов тестирования проводится с некоторой периодичностью в процессе работы с проектом, а также в конце работы с проектом.
Его основная задача – оценить текущее или финальное качество проекта и принять (если необходимо) – соответствующие решения и меры.

Определение отчёта о результатах тестирования
Отчёт о результатах тестирования (test result report, TRR) – часть тестовой документации, включающая в себя описание процесса тестирования, суммарную информацию о протестированных за подотчётный период билдах, информацию о деятельности тестировщиков, а также некоторые статистические данные.

Цель написания отчёта о результатах тестирования
Цель написания TRR – предоставление лицам, заинтересованным в проекте, полной и объективной информации о текущем состоянии качества проекта. Эта информация выражается в конкретных фактах и цифрах.

Отчет о результатах тестирования
Обычно, TRR предоставляется для ознакомления всей проектной команде и заказчику. Опытный менеджер проектов всегда собирает максимально полную информацию о состоянии дел, прежде чем сделать те или иные выводы. Он не станет опираться только на информацию, предоставленную отделом разработчиков, т.к. разработчики часто склонны давать более оптимистичную оценку проекта, чем есть на самом деле.
В то же время тестировщики, во-первых, не заинтересованы в приукрашивании отчётов, а во-вторых – обладают более полной информацией о текущем состоянии качества продукта, чем какая бы то ни было другая часть проектной команды.

Периодичность выпуска отчёта о результатах тестирования
TRR создаётся, как правило, по некоторому расписанию. Например – раз в неделю. Однако, частота выпуска отчётов может быть иной, если того требует специфика проекта (например, раз в две недели, или дважды в неделю и т.п.)
Вместо календарного графика выпуск отчётов может быть привязан к завершению тестирования очередного билда приложения. За выпуск TRR отвечает лидер команды тестировщиков. TRR, как правило, обсуждается на еженедельных собраниях команды тестировщиков. Иногда на такие собрания приглашаются также представители других проектных команд, руководство, представители заказчика. Такие расширенные собрания особенно нужны, если на проекте возникают проблемы, требующие пересмотра стратегии разработки и тестирования проекта, сроков, финансовых вопросов и т.п.
TRR создаётся на основе принятого в компании или предоставленного заказчиком шаблона.

Структура отчёта о результатах тестирования
Команда тестировщиков
Описание процесса тестирования (testing process description)
Краткое описание (summary)
Расписание (testing timetable)
Рекомендации (recomendations)
Статистика по ошибкам (bugs statistics)
Список новых ошибок (new bugs found)
Статистика по всем ошибкам (all bugs statistics)

Команда тестировщиков
В этой части TRR перечисляются все задействованные в процессе тестирования сотрудники с указанием занимаемой должности и роли на проекте в подотчётный период.

Описание процесса тестирования (testing process description)
В этой части TRR даётся краткое описание того, как происходило тестирование: какие использовались методы, техники, инструментальные средства и т.п.
Пример:
Приложение было протестировано под ОС Windows XP sp2.en с использованием браузера FireFox 3.0. Смоук-тест был выполнен с использованием средства автоматизации JUnit 4.0. Тест критического пути и расширенный тест были выполнены вручную согласно документу «Тесты для ручного тестирования VWS версия 3.4.76.doc». Подробная информация о стратегии тестирования представлена в документе «Стратегия тестирования VWS версия 5.78.23.doc».

Краткое описание (summary)
В этой части TRR даётся краткое описание того, какие билды были протестированы, есть ли в качестве приложения прогресс или регресс, есть ли какие-либо проблемы, требующие внимания руководства.
Краткое описание – важная часть отчёта, т.к. менеджеру проекта приходится просматривать огромное количество документации, и он часто принимает решение о необходимости более детального изучения отчёта как раз на основе краткого описания.

Краткое описание (summary). Пример
Билд 1.0.78 был успешно инсталирован под обеими платформами (Windows XP sp2.en, FedoraCore 6.0). Смоук-тест пройден успешно. Приложение работает стабильно, основная функциональность работоспособна. Существующие проблемы в основном связаны с функциональностью, реализованной с момента выпуска последнего билда. Большинство найденных ранее ошибок успешно устранено и верифицировано. Наблюдается значительный прогресс в качестве приложения. На текущий момент выполнено более 80% запланированных тестов (остальные планируется выполнить до конца следующей недели). Было обнаружено всего четыре новых ошибки с важностью «высокая».

Расписание (testing timetable)
В данном разделе отчёта приводится детализированное описание того, какая работа и на протяжении какого времени выполнялась каждым тестировщиком.

Рекомендации (recomendations)
В этой части TRR следует подчеркнуть те важные моменты, на которые следует обратить внимание руководству или лидерам проектных команд. Здесь также, возможно, будет дана рекомендация на передачу проекта заказчику («передачу в продакшн»).

Примеры
Билд 3.45 рекомендован в продакшн. Билд работает стабильно. Все найденные баги закрыты.
Рекомендуется уделить особое внимание регрессионному тестированию в связи с резким возрастанием количества багов, найденных в ранее реализованной и протестированной функциональности.
В связи с возникшими сложностями по тестированию приложения под FreeBSD рекомендуется рассмотреть возможность подключения к проекту специалистов по тестированию под данной платформой.

Статистика по ошибкам (bugs statistics)
Здесь приводится сводная таблица, содержащая информацию об ошибках, с которыми команде тестировщиков приходилось иметь дело в подотчётный период.

Список новых ошибок (new bugs found)
Здесь приводится список ошибок, обнаруженных командой тестировщиков за подотчётный период.
Список ошибок легко извлечь из баг-трекинговой системы.

Статистика по всем ошибкам (all bugs statistics)
Здесь приводится сводная таблица, содержащая информацию об ошибках, с которыми команде тестировщиков приходилось иметь дело за всё время работы с проектом.

Статистика по всем ошибкам (all bugs statistics)
Статистика по всем ошибкам также отражается в виде графика:

Кому нужен отчет об ошибках?
Отчёт о результатах тестирования в основном нужен:
Менеджеру проекта
Лидеру команды разработчиков
Лидеру команды тестировщиков
Заказчику
Обычно, TRR предоставляется для ознакомления всей проектной команде и заказчику

Менеджер проекта
На основе краткого описания и статистики найденных багов он делает выводы о производительности работы проектной команды и текущем состоянии качества проекта.
Расписание позволяет ему определить загруженность отдельных сотрудников в проектной команде.
Список новых ошибок позволяет ему быстро оценить необходимость принятия мер по корректировке развития проекта.
Рекомендации позволяют ему увидеть ещё одну точку зрения на происходящее в проекте.
Т.о. информация из отчёта о результатах тестирования позволяет менеджеру проектов:
улучшить процесс управления, разработки и тестирования;
перераспределить ресурсы проекта;
сформировать собственный отчёт для руководства и заказчика.

Лидер команды разработчиков
Несмотря на то, что разработчики не очень любят следовать рекомендациям тестировщиков, содержащаяся в отчёте о результатах тестирования информация помогает лидеру команды разработчиков пересмотреть некоторые вопросы повышения качества создаваемого кода и принять решение о возможном перераспределении обязанностей внутри его команды.

Лидер команды тестировщиков
В процессе сбора информации и составления отчёта о результатах тестирования лидер команды тестировщиков полнее и глубже вникает в происходящее на проекте и внутри его команды, что позволяет ему увидеть текущую картину одновременно и более детально, и более широко. Такой взгляд позволяет обнаружить упущенные моменты и принять соответствующие решения, направленные на повышение качества проекта.

Заказчик
Заказчика всегда интересует ответ на вопрос о том, куда идут его деньги. Подробный отчёт о результатах тестирования позволяет ему оценить, насколько его вложения оказались оправданными.
В случае, если непосредственный заказчик выступает как чей-то подрядчик, отчёт о результатах тестирования позволяет ему отчитаться перед его заказчиком.
В случае, если проект планируется принимать и внедрять по частям, заказчик может понять из отчёта, какие части проекта уже готовы к приёмке и внедрению.