Рейтинги университетов. Что это? Зачем они? Какие и сколько?

Содержание

Слайд 2

Ирина Разумова
Консорциум НЭИКОН
razumova@neicon.ru
Science Online в Крыму, июнь 2009

Международные и национальные
рейтинги университетов

Ирина Разумова Консорциум НЭИКОН razumova@neicon.ru Science Online в Крыму, июнь 2009 Международные
как механизм оценки научной деятельности:
альтернатива или дополнение
к индексам цитирования?

Слайд 3

Вятка, октябрь 2009

Почему вдруг? Письмо о ФОТ и индикаторе, октябрь 2008 г.

Вятка, октябрь 2009 Почему вдруг? Письмо о ФОТ и индикаторе, октябрь 2008
В связи с постановлением Правительства Российской Федерации от 5 августа 2008 г. № 583 и требованиями Федерального агентства по образованию по порядку и выполнения работ по распределению централизованной части фонда оплаты труда (далее - ­ФОТ), все университеты должны представлять информацию по следующему индикатору
http://www.kpmo.ru/kpmo/info/nsotdocs.html

Слайд 4

Вятка, октябрь 2009

Зачем? Чтобы делить деньги. Бегущая строка на сайте...
Внимание!!! Всем федеральным

Вятка, октябрь 2009 Зачем? Чтобы делить деньги. Бегущая строка на сайте... Внимание!!!
учреждениям
необходимо заполнить данные, необходимые для
распределения Рособразованием централизованной части
ФОТ до 1 декабря 2008 г

Слайд 5

Вятка, октябрь 2009

Письмо 2008 г. о распределении ЦЧ ФОТ
Данные о количестве публикаций

Вятка, октябрь 2009 Письмо 2008 г. о распределении ЦЧ ФОТ Данные о
в Российских изданиях учитывают только публикации в ваковских изданиях.
Индикатор - количество цитирований сотрудников вуза в двух международно признанных индексах цитирования Science Citation Index Expanded и Social Sciences Citation Index, входящие в состав базы данных Web of Science (WoS).

Слайд 6

Вятка, октябрь 2009

А дальше определение забыто. Кроме того появляется упоминание о рейтингах…

«При

Вятка, октябрь 2009 А дальше определение забыто. Кроме того появляется упоминание о
расчёте индексов цитирования необходимо брать данные о международных индексах цитирования (Шанхайский, Таймс). При их наличии.»

Слайд 7

Вятка, октябрь 2009
Что же такое индикаторы, индексы цитирования, и рейтинги ?
Под индексом

Вятка, октябрь 2009 Что же такое индикаторы, индексы цитирования, и рейтинги ?
цитирования понимается база данных…

Полнейшая абракадабра. Поэтому начнем еще раз…

Слайд 8

Вятка, октябрь 2009

Какие бывают базы....

Продовольственная Военная база –
база – там лежит

Вятка, октябрь 2009 Какие бывают базы.... Продовольственная Военная база – база –
там военные
продовольствие
Индексы цитирования: там лежат статьи и цитаты на них. Российская база– РИНЦ, международные: Web of Science, Scopus, Google Scholar

Слайд 9

Вятка, октябрь 2009

Какую информацию можно получить из этих баз, то есть, индексов

Вятка, октябрь 2009 Какую информацию можно получить из этих баз, то есть,
цитирования ?
Данные по публикационной активности
Данные по цитированию публикаций

Слайд 10

Вятка, октябрь 2009

На основании этих данных расчитываются индикаторы

Индикаторы – это цифры. Они

Вятка, октябрь 2009 На основании этих данных расчитываются индикаторы Индикаторы – это
бывают разные
и используются, например, в:
Системе распределения ЦТ ФОТ
Национальных системах аттестации
университетов и НИИ
а также для
Определения рейтингов

Слайд 11

Вятка, октябрь 2009

Определение. Что такое рейтинг?
Рейтинги университетов в ВО – это

Вятка, октябрь 2009 Определение. Что такое рейтинг? Рейтинги университетов в ВО –
перечень университетов в порядке, определенном некоторой комбинацией факторов. Рейтинг может быть основан на субъективной оценке «качества», на некоторой комбинации данных статистики, на результатов опросов преподавателей, ученых, студентов, будущих студентов и пр.
Рейтинг – это упорядоченный список, построенный по определенным принципам

Слайд 12

Вятка, октябрь 2009

Итак, мы знаем, что такое рейтинги. А зачем они?

«Равнение на

Вятка, октябрь 2009 Итак, мы знаем, что такое рейтинги. А зачем они?
рейтинг». Иван Стерлигов,
«Наука и технологии России — STRF.ru»
http://www.strf.ru/organization.aspx?CatalogId=221&d_no=20373
с рейтингами во всем мире связывается понятие университета «мирового уровня»
университеты все чаще не только действуют с оглядкой на рейтинги, но и открыто заявляют о своем желании попасть в различные top-50, top-10.
на рейтинги ориентируется все больше абитуриентов и инвесторов
американский независимый центр IHEP (www.ihep.org) выпустил
краткий отчет о влиянии рейтингов на управление университетами.

Слайд 13

Вятка, октябрь 2009

Краткие выводы из отчета IHEP

на рейтинги ориентируется вузовское начальство при

Вятка, октябрь 2009 Краткие выводы из отчета IHEP на рейтинги ориентируется вузовское
комплектовании штата (число нобелевских лауреатов, число full profs)
создаются специальные подразделения для улучшения места в иерархии
в университетах США и Канады для топ-менеджеров предусмотрены бонусы в $10—20 тыс. за движение вверх по списку.

Слайд 14

Вятка, октябрь 2009

Краткие выводы из отчета IHEP

приветствуется сотрудничество только с университетами равного

Вятка, октябрь 2009 Краткие выводы из отчета IHEP приветствуется сотрудничество только с
или более высокого статуса
ученых просят публиковаться в высокоцитируемых журналах. Причина все та же - рейтинги
профессоров просят четко и единообразно указывать аффилиацию.
авторов наиболее цитируемых статей регулярно премируют.
рейтинги - одна из причин курса на интернационализацию образования в Германии и Японии. Увеличение доли англоязычных программ и иностранных студентов.

Слайд 15

Вятка, октябрь 2009

Рейтингов очень много… И не только университетских

Если говорить только об

Вятка, октябрь 2009 Рейтингов очень много… И не только университетских Если говорить
университетских
рейтингах. Возьмем данные из
Википедии. http://en.wikipedia.org/wiki/
Международные
Национальные
Региональные

Слайд 16

Вятка, октябрь 2009

Наиболее престижные рейтинги
UK: Times, Guardian и The Independent ,
В

Вятка, октябрь 2009 Наиболее престижные рейтинги UK: Times, Guardian и The Independent
США огромное значение имеет перечень US News and World Report
КНР «Шанхайский рейтинг»
Во Франции «Профессиональный рейтинг университетов» формирует Ecole des Mines
Германия, Бельгия, Австралия…

Слайд 17

Вятка, октябрь 2009

Европа

Евросоюз
Еврокомиссия сформировала список из 22 университетов Евросоюза в наибольшим влиянием

Вятка, октябрь 2009 Европа Евросоюз Еврокомиссия сформировала список из 22 университетов Евросоюза
на науку (scientific impact), ранжируя университеты с зависимости от их научного выхода. Этот рейтинг вошел в Третий европейский отчет по индикаторам науки и техники (Third European Report on Science & Technology Indicators) подготовленный Директоратом по науке и научным исследованиям еврокомиссии (Directorate General for Science and Research of the European Commission), 2003 (обновлен в 2004).

Слайд 18

Вятка, октябрь 2009

Национальные рейтинги

Europe
European Union
France
Germany
Ireland
Italy
Switzerland
UK
Ukraine

Asia
China
Pakistan
India
Philippines
North America
Canada
USA

Вятка, октябрь 2009 Национальные рейтинги Europe European Union France Germany Ireland Italy

Слайд 19

Вятка, октябрь 2009

Wikipedia: College and University Rankings
http://en.wikipedia.org/wiki/College_and_university_rankings

Вятка, октябрь 2009 Wikipedia: College and University Rankings http://en.wikipedia.org/wiki/College_and_university_rankings

Слайд 20

Вятка, октябрь 2009

Вернемся к тексту первоисточника
При расчёте индексов цитирования необходимо брать данные

Вятка, октябрь 2009 Вернемся к тексту первоисточника При расчёте индексов цитирования необходимо
о международных индексах цитирования (Шанхайский, Таймс). При их наличии.

Слайд 21

Вятка, октябрь 2009

Международные рейтинги университетов. 1. Таймс

Times Higher Education Supplement (THES)
QS

Вятка, октябрь 2009 Международные рейтинги университетов. 1. Таймс Times Higher Education Supplement
World University Rankings (QS-Quacquarelli Symonds),

Слайд 22

Вятка, октябрь 2009

Рейтинг Times Higher Education Supplement (THES) – 6 показателей

число упоминаний

Вятка, октябрь 2009 Рейтинг Times Higher Education Supplement (THES) – 6 показателей
вуза академическим сообществом (Peer Review, 40%);
число упоминаний вуза профессиональными рекрутерами (Recruitment Review, 10%);
процент иностранных студентов вуза (International Students, 5%);
процент иностранных преподавателей вуза (International Faculty, 5%);
соотношение штата ППС и студентов вуза (Faculty / Student, 20%);
соотношение количества цитат и штата ППС (Citation/Faculty, 20%).

Слайд 23

Вятка, октябрь 2009

Top 300 Universities in (в пяти предметных областях):

Arts and Humanities
Life

Вятка, октябрь 2009 Top 300 Universities in (в пяти предметных областях): Arts
Sciences & Biomedicine
Natural Sciences
Social Sciences
Technologies

Слайд 24

Вятка, октябрь 2009

Top 100 2007 THES

37 – США
19 – Великобритания
8 – Австралия
6

Вятка, октябрь 2009 Top 100 2007 THES 37 – США 19 –
– Канада
4 – Нидерланды
По 3 – Германия, Китай, Гонг Конг
По 2 – Франция, Сингапур
По 1 – Австрия, Бельгия, Дания, Финляндия, Ирландия, Ю.Корея, Новая Зеландия, Швеция, Швейцария
Россия – 0!!!!!!!

Слайд 25

Вятка, октябрь 2009

Moscow State University

World University Rankings 2008/2007 THES
Area Rank Overall –

Вятка, октябрь 2009 Moscow State University World University Rankings 2008/2007 THES Area
183/231(96 – 2006; 79 – 2005)
Natural Sciences – 29
Technology - 104
Social Science - 207
Life Sciences & Biomedicine -132
Arts and Humanities - 166

Слайд 26

Вятка, октябрь 2009

St. Petersburg State University

World University Rankings 2008/2007
RankOverall – 224/239 (2006

Вятка, октябрь 2009 St. Petersburg State University World University Rankings 2008/2007 RankOverall
-164; 2005 -218)
Natural Sciences – 81
Arts and Humanities - 191
Life Sciences & Biomedicine -237

Слайд 27

Вятка, октябрь 2009

Moscow State University

World University Rankings 2008/2007 THES
Area Rank Overall –

Вятка, октябрь 2009 Moscow State University World University Rankings 2008/2007 THES Area
183/231(96 – 2006; 79 – 2005)
Natural Sciences – 29
Technology - 104
Social Science - 207
Life Sciences & Biomedicine -132
Arts and Humanities - 166

Слайд 28

Вятка, октябрь 2009

St. Petersburg State University

World University Rankings 2008/2007
RankOverall – 224/239 (2006

Вятка, октябрь 2009 St. Petersburg State University World University Rankings 2008/2007 RankOverall
-164; 2005 -218)
Natural Sciences – 81
Arts and Humanities - 191
Life Sciences & Biomedicine -237

Слайд 29

Вятка, октябрь 2009

Российские университеты в THES 2008

МГУ – входит в Top

Вятка, октябрь 2009 Российские университеты в THES 2008 МГУ – входит в
200
СПбГУ – входит в Top 300
Новосибирский государственный университет и Томский государственный университет входят в Top 500
Новосибирский государственный университет также имеет места : 256 по Technology и 172 по Natural Science)
В предыдущие годы в THES также входил Казанский государственный университет

Слайд 30

THES 2009

http://www.topuniversities.com/university-rankings/world-university-rankings/2009/results

THES 2009 http://www.topuniversities.com/university-rankings/world-university-rankings/2009/results

Слайд 31

Вятка, октябрь 2009

Вятка, октябрь 2009

Слайд 32

Вятка, октябрь 2009

Вятка, октябрь 2009

Слайд 33

Вятка, октябрь 2009

Вятка, октябрь 2009

Слайд 34

Вятка, октябрь 2009

Критика

Субьективизм (Peer Review, 40%; Recruitment Review, 10%);
Не определено кто

Вятка, октябрь 2009 Критика Субьективизм (Peer Review, 40%; Recruitment Review, 10%); Не
эксперты и какие вопросы им задают.
Эксперты должны просто назвать 30 университетов. Но каких?
Университетские власти поощряют участие в опросе вплоть до финансовых рычагов. Что порождает необъективность.
Уровень отклика очень низкий, в 2006 году – менее 1% от разосланных анкет (1600 из 190 000). Отклик преимущественно из стран, читающих Times (?)
Много количественных ошибок в соотношении числа студентов и преподавателей.
Результаты неустойчивы, особенно в нижней части таблицы. Примеры среди первых 200:
Fudan (China): 72 - 195
RIFT (Australia): 55 - 146,
Emory (USA): 173 - 56,
Perdue (USA): 59 - 127

Слайд 35

Вятка, октябрь 2009

Международные рейтинги университетов. 2. «Шанхайский»
Academic Ranking of World Universities,

Вятка, октябрь 2009 Международные рейтинги университетов. 2. «Шанхайский» Academic Ranking of World
ARWU,
Shanghai Jiao Tong University, 2003.
www.arwu.org

Слайд 36

Вятка, октябрь 2009

Шанхайский рейтинг университетов – ARWU
Число дипломированных выпускников ВУЗа, получивших Нобелевскую

Вятка, октябрь 2009 Шанхайский рейтинг университетов – ARWU Число дипломированных выпускников ВУЗа,
премию (физика, химия, медицина и экономика ) или медаль Филдса (математика) (Alumni,10 %)
общее число сотрудников, получивших Нобелевскую премию (физика, химия, медицина и экономика ) или медаль Филдса (математика) (Award, 20%);
число исследователей, попавших в число часто цитируемых авторов по 21 области наук (HiCi, 20%);
Все данные берутся за все годы с разным весом

Слайд 37

Вятка, октябрь 2009

Шанхайский рейтинг университетов – ARWU
Число статей, опубликованных авторами университета в

Вятка, октябрь 2009 Шанхайский рейтинг университетов – ARWU Число статей, опубликованных авторами
журналах Nature и Science за последние пять лет (N&S, 20%);
Общее число статей, опубликованных в журналах Web of Science (SCIE, SSCI и AHCI) в предыдущем году (SCI, 20%);
результат деления суммы баллов по предыдущим пяти показателям на число эквивалентов полной ставки (FTE) академического персонала (Size, 10%).

Слайд 38

Вятка, октябрь 2009

Откуда берутся данные
Nobel Prize winners. http://nobelprize.org/
Fields Medals. http://www.mathunion.org/medals/
Highly cited researchers.

Вятка, октябрь 2009 Откуда берутся данные Nobel Prize winners. http://nobelprize.org/ Fields Medals.
http://www.isihighlycited.com
Articles published in Nature and Science. http://www.isiknowledge.com
Articles indexed in Science Citation Index-Expanded and Social Science Citation Index. http://www.isiknowledge.com.
FTE. Данные национальных агентств: National Ministry of Education, National Bureau of Statistics, National Association of Universities and Colleges, National Rector's Conference.

Слайд 39

Вятка, октябрь 2009

Top 500 World Universities 2007/2008 – ARWU

Вятка, октябрь 2009 Top 500 World Universities 2007/2008 – ARWU

Слайд 40

Вятка, октябрь 2009

Вятка, октябрь 2009

Слайд 41

Вятка, октябрь 2009

Критика и обвинения

Перекос в сторону СТМ наук – Nature, Science
Перекос

Вятка, октябрь 2009 Критика и обвинения Перекос в сторону СТМ наук –
в сторону СТМ наук – Nobel Prize Winners, Fields Medalists
Статья 2007 в авторитетном журнале Scientometric обвиняет ARWU в невоспроизводимости результатов. То есть, из изначальных данных невозможно получить итоговые цифры, пользуясь заявленной методологией.
«Irreproducability of the results of the Shanghai academic ranking of world universities», Razvan V. Florian. Scientometrics, 2007, V. 72, #1

Слайд 42

Вятка, октябрь 2009

Newsweek: 100 Global Universities

50% данные ARWU:
число исследователей, попавших в

Вятка, октябрь 2009 Newsweek: 100 Global Universities 50% данные ARWU: число исследователей,
число часто цитируемых авторов по 21 области наук (HiCi);
Число статей, опубликованных авторами университета в журналах Nature и Science за последние пять лет (N&S);
Общее число статей, опубликованных в журналах Web of Science (SCIE, SSCI и AHCI) в предыдущем году (SCI);
В равных долях: по 50/3 %

Слайд 43

Вятка, октябрь 2009

Newsweek: 100 Global Universities

40 % данные THES
В равных долях

Вятка, октябрь 2009 Newsweek: 100 Global Universities 40 % данные THES В
по 10 %:
доля иностранных студентов вуза (International Students);
доля иностранных преподавателей вуза (International Faculty);
соотношение штата ППС и студентов вуза (Faculty / Student);
соотношение количества цитат и штата ППС (Citation/Faculty).
10% фонды библиотеки – число томов

Слайд 44

Вятка, октябрь 2009

Вятка, октябрь 2009

Слайд 45

Вятка, октябрь 2009

Международные рейтинги университетов. 5. GUR
Наш международный рейтинг
Global University Ranking, GUR
«про

Вятка, октябрь 2009 Международные рейтинги университетов. 5. GUR Наш международный рейтинг Global
наши говорить не хочется…»

Слайд 46

Вятка, октябрь 2009

Международные рейтинги университетов. 5. GUR
Но, может быть, надо?
Тогда еще 10

Вятка, октябрь 2009 Международные рейтинги университетов. 5. GUR Но, может быть, надо?
слайдов в конце презентации

Слайд 47

Вятка, октябрь 2009

Новый Глобальный Рейтинг Мировых Университетов 2009

Создатель Независимое рейтинговое агентство РейтОР

Вятка, октябрь 2009 Новый Глобальный Рейтинг Мировых Университетов 2009 Создатель Независимое рейтинговое

Вошло 430 университетов мира
http://www.globaluniversitiesranking.org/
В Top 100 лучших университетов мира вошло 3 российских вуза (МГУ – 5 место, МГТУ им. Баумана – 55 место, СПбГУ – 84 место)

Слайд 48

Вятка, октябрь 2009

Критика

Данные собираются не независимым образом из имеющихся международных источников, а

Вятка, октябрь 2009 Критика Данные собираются не независимым образом из имеющихся международных
на основании вопросника.
Решение о значимости того или иного раздела и о распределении мест в нем принимается экспертами .
Данных о весомости каждого разделе не приводится.
Не конкретизировано, что входит в др. – другие награды мирового уровня.
Членство в международных академиях вообще представляется сомнительной вещью.
Не конкретизировано, какие (где) публикации учитываются.
Почему не учитываются ссылки российских авторов, а если статья совместная? Кто считает эти ссылки и как? Да еще за истекший учебный год.
Пункт о числе выезжающих студентов и преподавателей я бы вообще поставила со знаком «минус». Кто поедет куда-то из Гарварда или Оксфорда?

Слайд 49

Вятка, октябрь 2009

Рейтинги, индексы цитирования и национальные системы аттестации ВУЗов
Рейтинги составляются как

Вятка, октябрь 2009 Рейтинги, индексы цитирования и национальные системы аттестации ВУЗов Рейтинги
правительственными так, что чаще и неправительственными структурами.
Они учитывают многие показатели: иногда количественные иногда качественные.
Они бывают объективными и субъективными.
Они бывают авторитетными и неавторитетными.
С ошибками и без.

Слайд 50

Вятка, октябрь 2009

Национальные системы аттестации НИИ и ВУЗов -в НЭИКОНе мы этими

Вятка, октябрь 2009 Национальные системы аттестации НИИ и ВУЗов -в НЭИКОНе мы
вопросами занимались (интересовались)
Многие рейтинги используют данные индексов цитирования (WoS, Scopus, м.б., РИНЦ?) при подсчете одного или нескольких параметров, использующихся при составлении рейтинга.
Практически все национальные системы аттестации (Evaluation) используют данные о результативности научной работы (Scientific Output): число публикаций, в WoS и не в WoS, число докладов, число монографий. При этом используются разные нормировки.
Потом все эти данные пересчитываются в бальную систему и в конце-концов в материальные блага.

Слайд 51

Вятка, октябрь 2009

РЕЗЮМЕ

Влияние рейтингов велико и будет только возрастать
Рейтинг не может заменить

Вятка, октябрь 2009 РЕЗЮМЕ Влияние рейтингов велико и будет только возрастать Рейтинг
индекс цитирования, так как использует данные из индексов цитирования.
Спасибо за внимание!

Слайд 52

Вятка, октябрь 2009

Уровень организации учебной работы Университета

Число образовательных программ по каждому

Вятка, октябрь 2009 Уровень организации учебной работы Университета Число образовательных программ по
из трех уровней обучения
Общая численность профессорско-преподавательского состава
Численность студентов, по уровням обучения, чел.
Победы студентов в международных студенческих олимпиадах, начиная с 2001 года 

Слайд 53

Вятка, октябрь 2009

Уровень организации исследовательской работы

Число свидетельств об открытиях и патентов на

Вятка, октябрь 2009 Уровень организации исследовательской работы Число свидетельств об открытиях и
изобретения, начиная с 2001 года
Число почетных профессоров (докторов) Университета, являющихся нобелевскими лауреатами, лауреатами медали Филдса, других наград мирового уровня, начиная с 2001 года
Число наград мирового уровня (Нобелевская премия, медаль Филдса и др.), полученных сотрудниками Университета, начиная с 2001 года

Слайд 54

Вятка, октябрь 2009

Профессиональный уровень проф.-преп. состава (ППС)

Общее число публикаций ППС (статьи, учебники,

Вятка, октябрь 2009 Профессиональный уровень проф.-преп. состава (ППС) Общее число публикаций ППС
монографии и т.п.) в 2007/2008 учебном году ?
Доля ППС, имеющего ученые степени, на прошедший учебный год, %
Общее число профессоров Университета – членов международных и национальных научных академий в прошедшем учебном году, чел.
Средний индекс цитируемости публикаций одного преподавателя Университета зарубежными авторами в прошедшем учебном году (без учета ссылок отечественных авторов)

Слайд 55

Вятка, октябрь 2009

Уровень обеспеченности ресурсами Университета

Общий бюджет Университета в истекшем финансовом году,

Вятка, октябрь 2009 Уровень обеспеченности ресурсами Университета Общий бюджет Университета в истекшем
включая государственные и региональные ассигнования, пожертвования, гранты, средства, заработанные от предоставления образовательных услуг и НИОКР, млн долл. США
Общая стоимость учебно-лабораторной базы Университета в истекшем финансовом году, млн долл. США
Мощность вычислительного центра Университета, Tflops

Слайд 56

Вятка, октябрь 2009

Уровень социально значимой деятельности выпускников

Общее число ныне живущих выпускников Университета,

Вятка, октябрь 2009 Уровень социально значимой деятельности выпускников Общее число ныне живущих
добившихся общественного признания: выдающиеся деятели науки, культуры, бизнеса, политики, государственные чиновники, администраторы территорий и крупных городов (с населением более 100 тыс. чел.), крупные руководители международных организаций (ООН, ЮНЕСКО и др.), чел.
?

Слайд 57

Вятка, октябрь 2009

Уровень организации международной деятельности

Международные академические сообщества, в которых Университет состоял

Вятка, октябрь 2009 Уровень организации международной деятельности Международные академические сообщества, в которых
в прошедшем учебном году
Общее число иностранных университетов – партнеров двусторонних соглашений с Университетом в прошедшем учебном году
Общее число сотрудников Университета, являющихся почетными профессорами (докторами) иностранных университетов
Общее число иностранных студентов, обучавшихся в Университете в прошедшем учебном году

Слайд 58

Вятка, октябрь 2009

Уровень организации международной деятельности

Общее число студентов Университета, выезжавших/прибывших на включенное

Вятка, октябрь 2009 Уровень организации международной деятельности Общее число студентов Университета, выезжавших/прибывших
обучение в университеты других стран; общее число профессоров Университета, выезжавших в зарубежные университеты для ведения преподавательской и исследовательской работы
(За какой срок? Кто их считает и как?)

Слайд 59

Вятка, октябрь 2009

Вятка, октябрь 2009

Слайд 60

Вятка, октябрь 2009

Вятка, октябрь 2009

Слайд 61

Вятка, октябрь 2009

Вятка, октябрь 2009