Известны два подхода к совместному тестированию модулей: пошаговое и монолитное тестирование.
При монолитном тестировании сначала по отдельности тестируются все модули программного комплекса, а затем все они объединяются в рабочую программу для комплексного тестирования.
При пошаговом тестировании каждый модуль для своего тестирования подключается к набору уже проверенных модулей.
В первом случае для автономного тестирования каждого модуля требуется модуль - драйвер (то есть вспомогательный модуль, имитирующий вызов тестируемого модуля) и один или несколько модулей - заглушек (то есть вспомогательных модулей, имитирующих работу модулей, вызываемых из тестируемого). При пошаговом тестировании модули проверяются не изолированно друг от друга, поэтому требуются либо только драйверы, либо только заглушки.
А
 |
B C D
 |  | ||||
|
E F
ðèñ. 1
12
При сравнении пошагового и монолитного тестирования можно отметить следующие преимущества первого подхода:
1) меньшая трудоемкость (для примера на рис.1 при монолитном тестировании требуются 5 драйверов и 5 заглушек; при пошаговом тестировании требуются или только 5 драйверов - если модули подключаются “снизу вверх ”, - или только 5 заглушек - если модули подключаются “сверху вниз”);
2) более раннее обнаружение ошибок в интерфейсах между модулями (их сборка начинается раньше, чем при монолитном тестировании);
3) легче отладка, то есть локализация ошибок (они в основном связаны с последним из подключенных модулей);
4) более совершенны результаты тестирования (более тщательная проверка совместного использования модулей).
Есть преимущества и у монолитного тестирования:
1) меньше расход машинного времени (хотя из-за большей сложности отладки может потребоваться дополнительная проверка программы и это преимущество будет сведено на нет);
2) предоставляется больше возможностей для организации параллельной работы на начальном этапе тестирования.
В целом более целесообразным является выбор пошагового тестирования. При его использовании возможны две стратегии подключения модулей: нисходящая и восходящая.
Нисходящее тестирование начинается с главного (или верхнего) модуля программы, а выбор следующего подключаемого модуля происходит из числа модулей, вызываемых из уже протестированных. Одна из основных проблем, возникающих при нисходящем тестировании, - создание заглушек. Это тривиальная задача, т. к. как правило недостаточно, чтобы в заглушке выполнялся вывод соответствующего информационного сообщения и возврат всегда одних и тех же значений выходных данных.
Другая проблема, которую необходимо решать при нисходящем тестировании, - форма представления тестов в программе, так как, как правило, главный модуль получает входные данные не непосредственно, а через специальные модули ввода, которые при тестировании в начале заменяются заглушками. Для передачи в главный модуль разных тестов нужно или иметь несколько разных заглушек, или записать эти тесты в файл во внешней памяти и с помощью заглушки считывать их.
Поскольку после тестирования главного модуля процесс проверки может продолжаться по-разному, следует придерживаться следующих правил:
a) модули, содержащие операции ввода-вывода, должны подключаться к тестированию как можно раньше;
b) критические (т.е. наиболее важные) для программы в целом модули также должны тестироваться в первую очередь.
12
Основные достоинства нисходящего тестирования:
уже на ранней стадии тестирования есть возможность получить работающий вариант разрабатываемой программы;
быстро могут быть выявлены ошибки, связанные с организацией взаимодействие с пользователем.
Недостатки нисходящей стратегии продемонстрируются с помощью рис.2.
Допустим, что на следующем шаге тестирования заглушка модуля H заменяется его реальным текстом. Тогда
1) может оказаться трудным или даже невозможным построить такой тест на входе модуля J, который соответствовал бы любой заданной наперед последовательности значений данных на входе модуля Н;
2) не всегда окажется возможным легко оценить соответствие значений данных на входе модуля J требуемым тестам для проверки модуля Н;
3) т. к. результаты выполнения программы на построенном для проверки модуля Н тесте выводятся не им, а модулем I, может оказаться трудным восстановлении действительных результатов работы модуля Н.
Другие проблемы, которые могут возникать при нисходящем тестировании:
· появляется соблазн совмещения нисходящего проектирования с тестированием, что, как правило, неразумно, т.к. проектирование - процесс итеративный и в нем неизбежен возврат на верхние уровни и исправление принятых ранее решений, что обесценивает результаты уже проведенного тестирования;
· может возникнуть желание перейти к тестированию модуля следующего уровня до завершения тестирования предыдущего по объективным причинам (необходимости создания нескольких версий заглушек, использования модулями верхнего уровня ресурсов модулей нижних уровней).
При восходящем тестировании поверка программы начинается с терминальных модулей (т.е. тех, которые не вызывают не каких других модулей программы). Эта стратегия во многом противоположна нисходящему тестированию (в частности, преимущества становятся недостатками и наоборот).
Нет проблемы выбора следующего подключаемого модуля - учитывается лишь то, чтобы он вызывал только уже протестированные модули. В отличие от заглушек драйверы не должны иметь несколько версий, поэтому их разработка в большинстве случаев проще (кроме того, использование средств автоматизации и отладки облегчает создание как раз драйверов, а не заглушек).
Другие достоинства восходящего тестирования:
· поскольку нет промежуточных модулей (тестируемый модуль является для рабочего варианта программы модулем самого верхнего уровня), нет проблем, связанных с возможностью или трудностью задания тестов;
· нет возможности совмещения проектирования с тестированием;
· нет трудностей, вызывающих желание перейти к тестированию следующего модуля, не завершив проверки предыдущего.
Основными недостатком восходящего тестирования является то, что проверка всей структуры разрабатываемого программного комплекса возможна только на завершающей стадии тестирования.
Хотя однозначного вывода о преимущества той или иной стратегии пошагового тестирования сделать нельзя (нужно учитывать конкретные характеристики тестируемой программы), в большинстве случаев более предпочтительным является восходящее тестирование.
На третьем этапе тестирования программных комплексов (тестировании функций) используются прежде всего методы функционального тестирования.
Функциональное тестирование.
Обзор методов проектирования тестов при функциональном тестировании начнем с метода эквивалентного разбиения.
Т.к. нашей целью является построения множества тестов, характеризующегося наивысшей вероятностью обнаружения большинства ошибок в тестируемой программе, то тест из этого множества должен:
1) уменьшать (более чем на единицу) число других тестов, которые должны быть разработаны для достижения заранее поставленной цели “удовлетворительного” тестирования;
2) покрывать собой значительную часть других возможных тестов.
Другими словами:
1) каждый тест должен заключать в себе проверку наибольшего числа задаваемых внешней спецификацией входных условии (ограничений на входные данные) для того, чтобы минимизировать общее число необходимых тестов;
2) необходимо разбить область значений входных данных на конечное число подобластей (которые будут называться классами эквивалентности), чтобы можно было полагать каждый тест, являющийся представителем некоторого класса, эквивалентным любому другому тесту этого класса (т.е. обнаруживающим одни и те же ошибки).
В общем случае использование термина “класс эквивалентности” является здесь не вполне точным, т.к. выделенные подобласти могут пересекаться.
Проектирование тестов по методу эквивалентного разбиения проводится в два этапа:
· выделение по внешней спецификации классов эквивалентности;
· построение множества тестов.
На первом этапе происходит выбор из спецификации каждого входного условия и разбиение его на две или более группы, соответствующие так называемым “правильным” (ПКЭ) и “неправильным” классом эквивалентности (НКЭ), т.е. областям допустимых для программы и недопустимых значений входных данных. Этот процесс зависит от вида входного условия. Если входное условие описывает область (например, х <=0.5) или количеством (например, размер массива А равен 50) допустимых значений входных данных, то определяются один ПКЭ (х <=0.5 или размер А равен 50) и два НКЭ (х< -0.5; х>0.5 или размер А меньше 50; размер А больше 50).
Если входное условие описывает дискретное множество допустимых значений входных данных (например, В может равно -1, 0 или 1), то определяются ПКЭ для каждого значения из множества (в данном примере 3) и один НКЭ (В<>-1 & В<>0 & В<>1).
Если входное условие описывает ситуацию “ложно быть ” (например, N>0), то определяются один ПКЭ (N>0) и один НКЭ (N<=0).
На втором этапе метода эквивалентного разбиения выделенные классы эквивалентности используются для построения тестов:
· каждому классу присваивается свой номер;
· проектируются тесты для ПКЭ таким образом, что каждый тест покрывает как можно больше еще не покрытых ПКЭ, до тех пор, пока все ПКЭ не будут покрыты;
· проектируются тесты для НКЭ таким образом, что каждый тест покрывает один и только один НКЭ, до тех пор, пока все НКЭ не будут покрыты.
Нарушение третьего условия приводит к тому, что некоторые тесты с недопустимыми значениями входных данных проверяют только одну ошибку и скрывают реакцию программы на другие ошибки.
Метод эквивалентного разбиения значительно лучше случайного подбора тестов, но имеет свои недостатки. Основной из них - пропуск определенных типов высокоэффективных тестов (т.е. тестов, характеризующихся большой вероятностью обнаружения ошибок). От этого недостатка во многом свободен метод анализа граничных условий.
Под граничными условиями понимают ситуации, возникающие непосредственно на границе определенного в спецификации входного или выходного условия, выше или ниже ее. Метод анализа граничных условий отличается от метода эквивалентного разбиения следующим:
· выбор любого представителя класса эквивалентности осуществляется таким образом, чтобы проверить тестом каждую границу этого класса;
· при построении тестов рассматриваются не только входные условия, но и выходные (т.е. определенные во внешней спецификации ограничения на значения входных данных).
Общие правила метода анализа граничных условий:
1) построить тесты для границ области допустимых значений входных данных и тесты с недопустимыми значениями, соответствующими незначительному выходу за границы этой области (например, для области [-1.0; 1.0] строим тесты -1.0; 1.0; -1.001; 1.001);
2) построить тесты для минимального и максимального значений входных условий, определяющих дискретное множество допустимых значений входных данных, и тесты для значений, больших или меньших этих величин (например, если входной файл может содержать от 1 до 225 записей, то выбираются тесты для пустого файла, содержащего 1, 255 и 256 записей);
3) использовать правило 1 для каждого выходного условия (например, программа вычисляет ежемесячный расход частного лица или небольшого предприятия, минимум которого 0.00 $, а максимум 1165.50 $; тогда необходимо построить тесты, вызывающие отрицательный расход, расходы, равные 0.00 $ и 1165.50 $, и расход, больший 1165.50 $);
4) использовать правило 2 для каждого выходного условия (например, программа ищет и отображает на экране дисплея наиболее подходящие, в зависимости от входного условия, рефераты статей, но не более четырех; тогда необходимо построить тесты, приводящие к отображению 0, 1, 4 рефератов и попытки ошибочного отображения 5 рефератов);
5) если входные и выходные данные программы представляют собой упорядоченное множество (последовательный файл, линейный список, таблицу), то пре тестировании сосредоточить внимание на первом и последнем элементе множества;
6) попытаться найти и проверить тестами другие граничные условия.
Важность проверки границ выходных условий объясняется тем, что не всегда граничным значениям входных данных соответствуют граничные значения результатов работы программ.
Для иллюстрации необходимости анализа граничных условий приведем тривиальный пример. Пусть имеется программа, осуществляющая ввод трех чисел интерпретирующая их как длины сторон треугольника и выводящая сообщение о типе треугольника (“разносторонний”, “равнобедренный” или “равносторонний ”). Допустим также, что в программе содержится ошибка: при проверке условия построения треугольника (сумма длин любых двух сторон должна быть больше третьей) используется операция отношения >= вместо >. При проектировании тестов по методу эквивалентного разбиения будут построены тесты для случаев возможности построения треугольника (например, 3, 4, 5) и невозможности его построения (например, 1, 2, 4), т.е. ошибка в программе не будет обнаружена (на входные данные 1, 2, 3 будет выведено сообщение “разносторонний треугольник”). Но подобный тест будет получен при использовании метода анализа граничных условий.
Анализ граничных условий - один из наиболее полезных методов проектирования тестов. Но он часто оказывается неэффективным из-за того, что граничные условия иногда едва уловимы, а их выявление весьма трудно.
Общим недостатком двух рассмотренных выше методов функционального тестирования является то, что при их применение исследуются возможные комбинации входных условий. Следует, правда, заметить, что из-за весьма большого числа таких комбинаций, их анализ вызывает существенные затруднения. Но существует метод (метод функциональных диаграмм), позволяющий в этом случае систематическим образом выбрать высоко эффективные тесты. Полезным побочным эффектом этого метода является обнаружение неполноты и противоречивости во внешних спецификациях.
Функциональная диаграмма - это текст на некотором формальном языке, на который транслируется спецификация, составленная на естественном или полуформальном языках. Далее будет называться причиной отдельное входное условие и следствием - выходное условие или преобразование системы (т.е. остаточное действие программы, вызванное определенным входным условием или их комбинацией). Например, для программы обновления файла изменение в нем является преобразованием системы, а подтверждающее это изменение сообщение - выходным условием.
Метод функциональных диаграмм состоит из шести основных этапов. На первом из них (необязательном) внешняя спецификация большого размера разбивается на отдельные участки (например, спецификация компилятора языка программирования разбивается на участки, определяющие синтаксический контроль отдельных операторов языка).
На втором этапе в спецификации выделяются причины и следствия, а на третьем - анализируется семантическое содержание спецификации и она преобразуется в булевский граф, связывающий причины и следствия и называющийся функциональной диаграммой. На рис.3 приведены базовые символы для записи функциональных диаграмм (каждый узел функциональной диаграммы может находиться в состоянии 1 - “существует” - или 0 - “не существует”).
а) Тождество: (а=1=>b=1) & (а=0=>b=0)
а b
б) Отрицание: (а=1=>b=0) & (a=0=>b=1)
~
a b
в) Дизъюнкция: (a=1ïb=1=>c=1) & (a=0&b=>0 >c=0)
a
ï c
b
г) Конъюнкция: (a=1&b=1=>c=1) & (a=0ïb=0=>c=0)
a
& c
b
рис.3
На четвертом этапе функциональная диаграмма снабжается комментариями, которые задают ограничения на комбинации причин и следствий. На рис.4 приведены знаки комментариев, задающих эти ограничения.
а) Исключение одной из причин:
a
E ((a=1ïb=1)^~(a=1&b=1)) ï (a=0&b=0)
b
б) Включение хотя бы одной причины:
a
I (a=1ïb=1)&~(a=0&b=0)
b
в) Существует одна и только одна причина:
a
O (a=1ïb=1)&~(a=1&b=1)&~(a=0&b=0)
b
г) Одна причина влечет за собой другую:
a
R ~(a=1&b=0)
b
д) Одно следствие скрывает в себе другое:
a
M (a=1&b=0)&(a=1&b=1)
b
рис.4
Пятый этап - функциональная диаграмма преобразуется в таблицу решений:
выбирается следствие, которое устанавливается в 1;
находятся все комбинации причин (с учетом ограничений),
которые устанавливают выбранное следствие в 1