Глава 2. Классификация и критерии качества методов психодиагностического исследования.




 

Качество психодиагностических данных в значительной мере зависит от качества метода измерения, оно должно определяться с помощью соответствующих техник проверки, прежде всего математико-статистических процедур.

Наиболее важными критериями качества метода являются(2, 17):

1. Объективность метода.

Независимость получения и интерпретации полученных данных от экспериментатора. Различают объективность проведения тестирования, объективность анализа и объективность интерпретации полученных данных. Основной способ достижения объективности - стандартизация тестовой процедуры.

Объективность метода определяется посредством установления корреляций между исследованиями различных экспериментаторов с применением одного и того же психодиагностического инструментария на одной и той же выборке. Если коэффициент корреляции достаточно высок, то говорят о независимости, объективности метода исследования.

2. Валидность метода.

Комплексная характеристика, включающая сведения об области исследуемых явлений и соответствия им диагностической процедуры, т.е. указание на то, что тест измеряет и насколько хорошо он это делает (А.Анастази).

В валидность включается широкий комплекс теоретических и эмпирических сведений о методике: данные о степени согласованности результатов теста с другими сведениями об исследуемой личности, суждения об обоснованности прогноза развития исследуемого качества, связь изучаемой области поведения с определенными психологическими конструктами, конкретную направленность методики (контингент испытуемых), степень обоснованности выводов в конкретных условиях, степень адекватности применяемой модели деятельности, однородности и сопоставимости заданий теста.

Различные категории сведений о валидности образуют ее виды:

а) эмпирическая валидность.

- диагностическая - отражает способность теста дифференцировать испытуемых по изучаемому признаку. Анализ при этом заключается в установлении соответствия показателей теста реальному состоянию психологических особенностей испытуемого в момент обследования.

Основная процедура определения этого вида валидности - корреляционный анализ результатов теста с другими оценками исследуемого свойства.

- прогностическая - сведения, характеризующие степень обоснованности развития психологической характеристики в будущем. Основой прогностической валидности является определение того, насколько важен исследуемый признак с точки зрения развития испытуемого в будущем, с учетом перехода в другой возрастной период.

б) Теоретическая валидность.

- по содержанию - сведения и репрезентативности (представительности) заданий теста по отношению к измеряемым свойствам. Содержательная валидность закладывается в тест уже при подборе заданий будущей методики. Для этого избирается круг исследуемых свойств и расчленяется на элементы, разрабатывается модель тестовой деятельности, содержание которой соответствует наиболее важным элементам реальной деятельности. В конце анализируется соответствие разработанной модели реальности, и проверяются пропорции отдельных элементов.

Классификация типов валидности достаточно условна, в психодиагностике не существует универсального подхода к ее характеристике. Для валидизации каждого вида психодиагностических процедур могут применяться различные типы валидности, оцениваемые количественно и качественно, либо просто описываемые. Однако, в силу сложности, ситуативности методик психодиагностики, их валидность в целом невозможно измерить, о ней можно только судить. Но историческое развитие общества требует постоянного контроля валидности психодиагностических методик.

3. Надежность метода.

Характеристика методики, отражающая точность психологических измерений, а также устойчивость результатов теста к действию посторонних факторов.

В теоретическом смысле надежность - это характеристика того, в какой степени выявленные у испытуемых различия по тестовым результатам являются отражением действительных различий, или могут быть приписаны случайным факторам.

В эмпирическом смысле - это степень согласованности результатов теста, получаемых при первичном и повторном его применении на одной и той же группе испытуемых. Различные процедуры определения такой согласованности называют видами надежности:

а) ретестовая надежность - характеристика надежности методики путем повторного обследования испытуемых с помощью одного и того же теста. В такой процедуре имеет значение временной интервал между обследованиями, если он мал, у испытуемого формируется навык работы с методикой, если велик - наступают возрастные изменения;

б) надежность параллельных форм - характеризует надежность с помощью взаимозаменяемых форм теста. При этом одни и те же испытуемые обследуются вначале с применением основного, а затем дополнительного блока заданий. Показатель качества метода - коэффициент корреляции между результатами выполнения двух блоков заданий, он позволяет судить о взаимозаменяемости блоков заданий. Но недостатки ретеста при этом устраняются не полностью, т.к. испытуемые могут сформировать навык на основе усвоения принципа работы по методике и достаточно сложно сконструировать полностью непохожие параллельные формы теста;

в) надежность частей теста - характеризует качество методики путем анализа устойчивости результатов отдельных совокупностей тестовых задач или единичных пунктов теста. Проводится "расщепление" теста на две равноценные части (четные и нечетные пункты и т.п.) и рассчитывается коэффициент корреляции между ними. Такая процедура позволяет судить и об эквивалентности по содержанию и степени трудности отдельных заданий теста.

Все три вида надежности часто комбинируются, т.к. ни один из них не является идеальным.

Все три критерия качества метода психодиагностического исследования (объективность, валидность и надежность) зависят друг от друга и средством их повышения является стандартизация тестовых процедур. Важно также отметить, что различные виды методик психодиагностики обладают разным уровнем качества. Рассмотрим отдельные их виды более подробно.

Основные виды методов психодиагностики чаще всего классифицируются по их методическим принципам (16):

1. Объективные тесты. К ним относятся методики, в которых возможен правильный ответ, т.е. правильное выполнение задания.

В группу входят тесты специальных и общих способностей и тесты интеллекта.

Тесты специальных способностей предназначены для измерения отдельных аспектов интеллекта и психомоторных функций, преимущественно в конкретных и достаточно узких областях деятельности. Их разработка связана с решением практических задач в области профотбора и профориентации.

Тесты также группируют по видам способностей - сенсорные, моторные, технические, профессионализированные (счетные, музыкальные, скорости чтения).

Тесты психомоторики предложены достаточно давно (1920-30 гг.). В России наиболее известны методики, сконструированные Н.И. Озерецким (1923 г.). Его тестовая батарея предназначалась для исследования уровня развития двигательных умений, отдельных компонентов моторики у детей и подростков. Измерялись следующие диагностические показатели: статистическая и динамическая координация, скорость и сила движений, сопровождающие движения (поднимание бровей, наморщивание лба и др.). Был предложен суммарный показатель, по которому определялись уровни психомоторного развития.

Несколько позднее возникли тесты общих способностей (США), ориентированные на исследование общих способностей к обучению, аспектов восприятия, мышления и памяти. Чаще всего они сопровождаются системой профессиональных норм, по которым можно определить пригодность испытуемого к деятельности того или иного типа.

Чаще всего подобного рода тесты являются тестами скорости, то есть показателем успешности в них является время выполнения или продуктивность, количество ошибок. Такие методики не достаточно валидны по показателю состояния испытуемого, которое оказывает большое влияние на успешность выполнения, но прямо не фиксируется.

Тесты интеллекта предназначены для исследования интеллектуальных функций человека и всегда основываются на концепции интеллекта, предложенной их автором.

Интеллект является достаточно сложным понятием и в настоящее время не определяется однозначно. В отечественной психологии это относительно самостоятельная динамическая структура познавательных свойств, возникающая на основе наследственно закрепленных анатомо-физиологических особенностей мозга и нервной системы и формирующаяся в связи с ними. Интеллект проявляется в деятельности, обусловленной культурно-исторически и обеспечивает взаимодействие со средой, ее преобразование. Тесты интеллекта - это срез с достигнутого уровня усвоения жизненных требований, предъявляемых к личности и этот уровень - основа для дальнейшего развития.

Первые тесты интеллекта были созданы Ф. Гальтоном (18879 г.) и сопровождались математическими методами анализа. Но первой шкалой, которая широко применялась, была шкала умственного развития А.Бине, Т.Симона (1905 г.). Первая ее редакция использовалась для выявления умственно неполноценных детей, не способных обучаться в обычных школах. Во второй редакции (1908 г.) уже выделялись различные уровни развития интеллекта нормальных детей. В 1912 году на основе такой шкалы В.Штерн ввел понятие коэффициент интеллекта. Он был равен отношению умственного возраста, как показателя успешности в тестах интеллекта к хронологическому.

Затем шкалы А.Бине неоднократно редактировались, конструировались задания для характеристики отдельных возрастных уровней.

Большое внимание диагностов привлекли "психологические профили", разработанные Г.И.Россолимо. Они включали набор методик для определения "высоты" психических процессов. Каждый тест состоял из 10 задач, и их совокупность позволяла построить профиль интеллектуального развития ребенка. Россолимо предложил нормативные профили для одаренных, слабоуспевающих и отстающих в развитии детей.

В настоящее время среди психологов популярен тест невербального интеллекта, предложенный Л.Пенроузом и Д.Равеном (1936 г.), сконструированный на основе выявления отношений между абстрактными фигурами. Он состоит из 60 матриц с пропущенным элементом, разделенных на 5 серий (по 12 однотипных задач возрастающей сложности в каждой). Испытуемый должен выбрать недостающий элемент матрицы среди 6-8 предложенных вариантов. При этом предыдущие матрицы являются подготовкой для решения последующих. По результатам подсчитывается количество правильных ответов, которое переводится согласно возрастным нормам в процентили и коэффициент интеллекта. Возможно, и построение профиля согласно результатам отдельных серий.

Достаточно часто используются психологами шкалы измерения интеллекта Д.Векслера. Они существуют в двух редакциях - для детей и взрослых и прошли адаптацию в России (ГП "Иматон").

Достоинством этих шкал является возможность качественного анализа и интерпретации характера выполнения испытуемым заданий субтестов. При этом "сырые", предварительные оценки переводятся в 19-ти бальные шкальные и представляются в виде профиля. Определяются значения вербального, невербального интеллекта и общего показателя IQ.

2. Стандартизированные самоотчеты (8). Общим для всей группы методик является использование вербальных (речевых) способностей испытуемого, а также обращение к его мышлению, воображению, памяти. Количественные показатели в этих тестах рассчитываются по частоте встречаемости ответов определенного типа. Чаще всего подобного рода методы предназначены для исследования личности.

Опросники - один из видов методик самоотчета, задания в них представлены вопросами или утверждениями. Выделяют опросники - анкеты и личностные.

К анкетам относятся опросники, предназначенные для получения какой-либо информации об испытуемом, не имеющей непосредственного отношения к его личностным особенностям. Чаще всего исследуется биография или сфера интересов обследуемого. Чаще всего они конструируются психологами в соответствии с конкретными целями, заданными заказчиком. При этом полезно руководствоваться правилами формулирования вопросов:

- в основе каждого пункта должна лежать одна мысль, если состав утверждения сложный, то оно разделяется на несколько пунктов;

- следует избегать употребления непонятных слов, научной терминологии, часто непонятной для испытуемого;

- слишком короткие или слишком длинные пункты затрудняют их понимание, оптимальное количество слов примерно 10-11;

- вопросы анкеты должны быть реальными, отражать существующие отношения и не быть похожими друг на друга.

В личностных опросниках пункты служат для актуализации изучаемых психологических качеств, анализа установок и отношений испытуемого. Вопросы в таких опросниках, как правило, закрытые, т.е. имеют предписанные варианты ответов. Личностные опросники конструируются исходя из теории личности, принятой их автором, они имеют нормативные показатели для количественного и качественного анализа.

В настоящее время среди психологов популярен 16-ти факторный опросник Р.Кетттела, предложенный автором в рамках теории черт личности. При его разработке синтезировались данные, полученные с помощью реальной регистрации поведения человека, и данные других опросников. На основе факторов первого порядка, получаемых непосредственно с опросника, рассчитываются факторы второго порядка. Каждый фактор опросника - отдельная черта личности в антононимичном виде, причем стандартизирована процедура подсчета баллов и их интерпретации.

Типологические опросники разработаны на основе выделения типов личности как целостных образований, не сводимых к набору черт. Такой подход требует группировки самих обследуемых, а не их личностных признаков. При этом диагностика осуществляется на основе сопоставления с соответствующим, усредненным типом личности.

Наиболее известные из таких опросников - опросник Г.Айзенка, где диагностируются типы экстраверта и интроверта, и Миннесотский многофакторный личностный опросник (MMPI). Для его составления использовались жалобы больных с различной симптоматикой (ипохондрия, истерия, психопатия и т.д.).

Кроме опросников черт личности и типологических выделяются опросники мотивов, интересов, ценностей, установок, которые, как правило, конструируются исходя из авторской концепции изучаемой характеристики.

Особенностью большинства личностных опросников является использование контрольных шкал, предназначенных для анализа установок испытуемого по отношению к обследованию.

Первую шкалу составляют пункты, оставленные испытуемым без ответа, по ней судят о мотивированности испытуемого на обследование и его культурном уровне. Вторая шкала, чаще всего обозначается "Л", оценивает тенденцию испытуемого к социально-положительным ответам, отражает его представления о нужных реакциях, качествах характера, требованиях культуры поведения. Шкала валидности (F) анализирует тенденцию к намеренному или неосознанному ухудшению результатов обследования. В нее входят проявления психической и физиологической сфер, редко встречающиеся в клинической практике, но внешне соответствующие житейским представлениям о том, что может возникнуть при болезни. Последняя шкала - "К", исследует установку на улучшение результатов обследования. В нее включены часто встречающиеся в жизни недостатки и признаки болезни, которые отрицаются из-за защитных реакций.

Как мы уже говорили, опросники для изучения личности бывают закрытые (с предписанным ответом) и открытые, в них ответ дается испытуемым произвольно. Такие опросники в обработке используют технику контент-анализа.

Контент-анализ - метод систематизированной фиксации единиц информации в исследуемом содержании. Он применяется как основной метод исследования (например, в социологии), как параллельный метод (в социальной психологии) и метод обработки данных, контент-анализ позволяет выявить скрытую информацию, точно регистрировать внешне неразличимые показатели в больших массивах данных.

В процедуру контента входит определение категорий анализа, ключевых элементов, подлежащих регистрации. Они должны охватить все части содержания исследуемого материала. Затем определяются единицы анализа, которые и будут подсчитываться, и определяется частота их появления. По результатам строят матрицу контента, которая интерпретируется по строкам и столбцам.

К стандартизированным самоотчетам относятся и шкальные техники, наиболее часто встречающимся их них является метод семантического дифференциала (Ч.Осгуд, 1957 г.). Сначала он предназначался для измерения различий в интерпретации понятий испытуемыми, при этом исследовалось индивидуальное смысловое значение объекта. Сейчас метод чаще всего используется для количественной и качественной оценки при измерении эмоционального отношения личности к объектам, анализа социальных установок, ценностных ориентаций, аспектов самооценки и др.

В семантическом дифференциале исследуемый объект (слово, понятие и т.п.) оценивают путем соотнесения с одной из фиксированных точек шкалы, заданной полярными по значению признаками (прилагательными). Пространство между полюсами шкалы воспринимается как некая непрерывность с градациями выраженности от 0 до 3. Оценка значения понятия на шкале - это точка семантического пространства, чем она дальше от нейтральной позиции, тем более значимо для испытуемого оцениваемое понятие. На основе результата строят профиль понятия, рассчитывают семантическое расстояние между ними.

Последняя группа стандартизированных самоотчетов - индивидуально-ориентированные техники, предложена сравнительно недавно (1955 г.). Примером являются репертуарные решетки Г.Келли. Метод направлен на изучение индивидуально-личностных конструктов, опосредующих восприятие и самовосприятие при анализе личностного смысла понятий. Под конструктом понимается система отношений и установок человека, открытый человеком способ поведения. Составляется биполярный конструкт из беседы с испытуемым, затем выявляются смысловые параметры, лежащие в основе восприятия человеком себя и других людей. Цель при этом - реконструкция индивидуальной системы смысловых единиц, обобщений, лежащих в основе отношений к себе и к окружающим.

3. Проективные техники. Методики, образованные в рамках проективного диагностического подхода, исследование осуществляется на основе особенностей взаимодействия испытуемого с внешне нейтральным, безличным материалом, становящимся, в силу своей неопределенности, объектом проекции. Такой материал испытуемый конструирует, развивает, дополняет, интерпретирует. В соответствии с основной гипотезой этих методик, каждое эмоциональное проявление человека, его восприятие, высказывания, движения несут на себе отпечаток его личности, и этот отпечаток проявляется тем ярче, чем менее стереотипичны стимулы, побуждающие человека к активности.

В начале 40-х годов проективные техники начинают бурно развиваться и сейчас они достаточно популярны в России и за рубежом, особенно в клинике.

Л.Ф. Бурлачук и С.М. Морозов (18) различают следующие группы проективных техник:

- конститутивные - основаны на структурировании, оформлении стимулов, придании им смысла;

- конструктивные - в них испытуемый создает из оформленных деталей осмысленное целое;

- интерпретативные - используют истолкование какого-либо события, ситуации;

- катартические - методы осуществления игровой деятельности в особо организованных условиях;

- импрессивные - основаны на предпочтении одних стимулов, как наиболее желательных, другим;

- экспрессивные - рисование на свободную или заданную тему;

- аддитивные - завершение предложения, рассказа, истории.

Проективные методики дают диагностический материал, о котором испытуемый совершенно не догадывается, поэтому их информация совершенно неизвестна для него. В связи с этим вопросы качества проективных методов постоянно волнуют психологов. Для оценки валидности, надежности, объективности таких техник может быть использован метод семантического дифференциала и другие, ранее описанные техники.

4. Диалогические техники(3.6). Методики, ориентированные на анализ особенностей контакта психодиагноста с обследуемым, его результат. Они могут быть вербальными и невербальными (жесты, мимика, пантомима и др.). Диалогические техники чаще всего сопровождают психологическое воздействие в процессе консультирования и терапии и строятся согласно их организации. Это беседа, интервью, диагностические игры и пр.

 

Глава 3. Планирование и методика работы психолога-диагноста.

 

Любой психолог в своей деятельности занимается психодиагностическими исследованиями. С чего же начинается их планирование? Прежде всего, необходимо выяснить для себя некоторые моменты, которые затем повлияют на диагностику в целом и на выбор конкретных методик (по Е.Л.Доценко) (1.8, 13):

1) Нужно определить, что именно мы хотим найти в процессе исследовательской работы: конкретные факты, различия в понимании определенных событий или, может быть, выяснить правду? Определение правды, правильности предполагает оценку, в которой в полной мере проявляется субъективизм исследователя.

2) Выяснить, на какие цели мы ориентируемся: хотим объяснить полученный факт, что-либо предсказать или проконтролировать, понять обнаруженное явление, или оценить и внести изменение в реальность?

3) Какого характера знания мы намерены получить: всеобщие законы или частные закономерности, ограниченные объяснительные схемы или единичные уникальные сведения?

4) Какой способ проверки истинности мы изберем: внесубъектную проверку (с помощью аппаратуры), экспертные суждения или собственные переживания?

5) Каковы наши исходные допущения, собственные взгляды и ценности, мировоззрение?

В зависимости от вышеперечисленного, психолог ориентируется либо на объективные методы, либо на индивидуально-ориентированные техники, либо на проективные методики. Важным для диагноста является отражение системы собственных диагностических предпочтений.

В процессе планирования психодиагностического исследования диагност наполняет конкретным содержанием его этапы(9, 15):

1. Изучение состояния проблемы, выбор объекта и предмета исследования.

При этом целесообразно определить основные понятия, относящиеся к выбранной теме, проанализировать различные взгляды на них, составить библиографию. Собранные материалы компонуются либо хронологически, либо логически, причем второе предпочтительнее. Описывается область проявлений и место выбранного явления в системе других психических явлений, его сущность, природа и закономерности, которым оно подчиняется. Важным моментом в постановке проблемы является сознание потребности в устранении обнаруженного дефицита знаний по теме. Проблема формулируется в научных терминах, определяется объект и предмет исследования.

Объект - это то, на что будет направлено исследование, он более общий по отношению к предмету. Объект может быть моделируемым (например, операции анализа и синтеза в мышлении) или реальным (индивид или группа людей).

Предмет всегда формулируется в контексте исследования и является частным по отношению к его объекту. Им могут быть временные и интенсивностные характеристики психических явлений в конкретных условиях, взаимовлияния и взаимосвязи между ними и пр.(4,7,10)

2. Разработка и уточнение общей исходной исследовательской концепции, построение модели исследуемого явления, выдвижение гипотез.

Именно в концепции диагност определяет свои предпочтения, выделяет примерные диагностические показатели, структурирует их в систему.

Важнейший момент этого этапа - выдвижение гипотезы - научного предположения, выдвигаемого для объяснения какого-либо явления и требующего проверки на опыте и теоретического обоснования для того, чтобы стать достоверной научной теорией. Гипотеза диагностического исследования должна быть как можно более конкретной (обычно она формулируется по форме: Если..., то..., при условии...).

3. Планирование исследования, определение целей и задач, выбор методов и методик.

Психолог конструирует конкретный план эксперимента и согласует его с заказчиком.

Цель исследования - желаемый результат, он может быть теоретическим или прикладным. Он определяет задачи исследования, т.е. выбор путей и средств достижения целей. Задачи разбивают цель на части, выделяют "подцели".

Обязательна на этом этапе оценка теоретической и прикладной актуальности прогнозируемого результата, которая затем поможет оценить ценность и значимость (21).

Затем составляется перечень интересующих исследователя и важных переменных, которые разделяются на зависимые или независимые, контролируемые и неконтролируемые, измеряемые и неизмеряемые. Принимается решение о способах общей обработки полученных данных: будем ли мы сопоставлять возрастные или социальные группы, экспериментальные и контрольные и пр.

Затем определяется выборка испытуемых по объему (количество испытуемых), полу и возрасту.

И, наконец, психолог осуществляет выбор конкретных методов и методик исследования. Важно помнить, что методики должны характеризовать выделенные психологические переменные качественно и количественно, в сопоставлении актуального статуса и общих тенденций изменения и развития. По возможности необходимо сочетание данных самонаблюдения, субъективных и объективных оценок и представленность каждой из трех сфер психики: когнитивной, эмоциональной, поведенческой (23,24).

4. Сбор эмпирических данных и их описание.

Вначале работы необходима отладка психодиагностической процедуры, прежде всего мотивирование испытуемых. Общеизвестно, что наименьшее число искажений возникает, если испытуемый имеет личный интерес к результату исследования, но не ожидает получить нечто, определяющее его дальнейшую жизнь. Полезно мотивировать на расширение знаний о себе, обязательно рассказать и обсудить полученные результаты, поинтересоваться состоянием испытуемого (см. этические принципы деятельности психодиагноста). Если психодиагностическое исследование проходит в ситуации экспертизы, нужно согласовать план с администрацией учреждения.

Обследование желательно проводить в изолированном и достаточно просторном помещении, для каждого испытуемого предоставить комплект протоколов, письменные принадлежности. Все это служит дополнительным стимулом к обследованию. Оптимальное время тестирования - с утра, 3-4, максимум - 6 часов.

После окончания работы обязательно обсудить с испытуемым его самочувствие, возникшие мысли, предположения, дать возможность освободиться от отрицательных эмоций, поблагодарить, попрощаться и назначить встречу для обсуждения результатов диагностики.

В настоящее время психологи на этом этапе довольно часто используют компьютер. Вообще в диагностике он применяется для

- представления стимульной информации;

- организации хранения полученных данных;

- обработки данных.

Причем в первом случае всегда нужно помнить, что компьютер не может заменить психолога полностью, но часто создает проблему доверия в ситуации общения "психолог-испытуемый".

5. Обработка данных.

В большинстве случаев обработку начинают с составления сводных таблиц полученных данных, в них вносятся числовые данные и данные качественного характера для каждого испытуемого.

В первых столбцах таблицы размещаются демографические характеристики (пол, возраст, социальное положение и др.). Испытуемые упорядочиваются по какому-либо признаку, в соответствии с целью исследования, либо по алфавиту.

После создания таблицы необходимо проверить качество полученных данных - выявить ошибки в написании чисел, "выскакивающие" (сильно отличающиеся от других) значения и принять решение об их выбраковке. В целях анализа критериев качества примененных методов и определения способов дальнейшего анализа полученных результатов рассчитываются первичные статистики: меры центральной тенденции и меры изменчивости исследуемых переменных, определяется форма кривой распределения полученных результатов.

6. Оценивание результатов и проверка гипотез, интерпретация результатов в рамках исходной исследовательской концепции.

На этом этапе проводятся более сложные виды математико-статистического анализа в соответствии с выдвинутой гипотезой - оценивается достоверность различий в группах испытуемых, строятся обобщающие факторы и пр.

Исходя из полученных результатов, возможна коррекция выдвинутых ранее целей и задач, исследовательской модели изучаемого явления.

7. Соотнесение результатов с существующими концепциями и теориями. Формулирование общих выводов. Оценивание перспектив дальнейшей разработки проблемы (20,25).

При этом исследователю полезно помнить, что отрицательный результат также является результатом и из него следует вывод.

 



Поделиться:




Поиск по сайту

©2015-2024 poisk-ru.ru
Все права принадлежать их авторам. Данный сайт не претендует на авторства, а предоставляет бесплатное использование.
Дата создания страницы: 2017-06-30 Нарушение авторских прав и Нарушение персональных данных


Поиск по сайту: