Обнаружение текста на изображениях

Зачем?
Необходимо для дальнейшего распознавания текста (OCR)
Документы – page layout analysis
Фотографии, чертежи, графики – text detection and localization
Самостоятельные приложения
Автоматическое построение коллажей
Автоматическое изменение размера изображений

Компоненты системы извлечения текста
Fig. credit: J. Gllavata
+ Text Enhancement

Приложения
Оцифровка документов
Индексирование и извлечение информации из графиков и чертежей
Индексирование и поиск изображений, автоматическое построение аннотаций
Переводчик в кармане
пример: Word Lens (http://questvisual.com/)
Помощь слабовидящим
Навигация роботов в помещениях, в городских условиях

Обнаружение текста – газеты, журналы, книги
обнаружение текстовых областей
определение угла поворота текста (skew detection)
определение порядка чтения

Обнаружение текста – произвольные изображения
Исходное изображение
Возможные результаты работы алгоритмов обнаружения текста

Обнаружение текста – чертежи и графики
Обнаружение текстовых областей
Определение угла поворота текстовых строк
Короткие фрагменты текста
Разнообразие шрифтов, текст под разными углами
Однородный фон
Высокая контрастность
фотографии
печатные документы

План лекции
Зачем нужны алгоритмы обнаружения текста?
Что такое цифровое изображение?
Представление цифровых изображений
Границы, компоненты связности, бинаризация, преобразование Хафа
Печатные документы (document images)
Фотографии (natural scenes)
Чертежи, графики, обложки

Представление цифровых изображений
Растровое изображение

Представление цифровых изображений
RGB – распространенная модель цвета
Каждый пиксель задается тремя значениями: red, green, blue
Цветное растровое изображение:

Обнаружение границ

Градиент изображения
Градиент направлен в сторону наибольшего изменения интенсивности
Направление градиента:
Величина градиента:

Вычисление градиента изображения
Roberts:
Prewitt:
Sobel:
Дискретный случай:

Выделение границ: примеры
Sobel
Canny
Исходное

Компоненты связности

Компоненты связности

Пороговая бинаризация
Светлый объект на темном фоне
Два светлых объекта на темном фоне
Глобальная – порог единый для всех точек изображения
Локальная или Динамическая – когда порог зависит от координат точки (x,y)
Адаптивная – когда порог зависит от значения яркости в точке I(x,y)

Бинаризация

Преобразование Хафа (Hough transform)
x
y
m
b
m0
b0
image space
Hough space
Для данного набора точек (x, y) найти все точки (m, b), такие что y = mx+b

Преобразование Хафа (Hough transform)
x
y
m
b
image space
Hough space
x0
y0
Для данного набора точек (x, y) найти все точки (m, b), такие что y = mx+b

План лекции
Зачем нужны алгоритмы обнаружения текста?
Что такое цифровое изображение?
Представление цифровых изображений
Границы, компоненты связности, бинаризация, преобразование Хафа
Печатные документы (document images)
Фотографии (natural scenes)
Графики, диаграммы, обложки

Основные задачи
Печатные документы
Анализ структуры страницы
(layout analysis, geometric structure analysis, page segmentation, region classification)
Fig. credit: Y.Y. Tang et al.

Основные задачи
Печатные документы
Анализ структуры страницы
(layout analysis, geometric structure analysis, page segmentation, region classification)
Fig. credit: Y.Y. Tang et al.
Методы
«Сверху-вниз» (top-down)
XY-cuts, whitespace segmentation
«Снизу-вверх» (bottom-up)
группировка ближайших соседей, диаграммы Вороного

Projection profiles and XY-cuts
Вертикальная проекция
Горизонтальная проекция
Fig. credit: Y.Y. Tang et al.

Результат алгоритма Docstrum
Методы «снизу-вверх»
Fig. credit: A. Namboodiri et al.

Использование диаграмм Вороного
Методы «снизу-вверх»
Fig. credit: A. Namboodiri et al.

Основные задачи
Печатные документы
Определение поворота текста
(page rotation, skew detection)
Обнаружение текстовых строк
(text line finding, baseline finding)
Projection profiles
(для исходного изображения или компонент связности)
Использование преобразования Хафа
Определение угла наклона тектовых строк

План лекции
Зачем нужны алгоритмы обнаружения текста?
Что такое цифровое изображение?
Представление цифровых изображений
Границы, компоненты связности, бинаризация, преобразование Хафа
Печатные документы (document images)
Фотографии (natural scenes)
Графики, диаграммы, обложки

Почему не работают традиционные методы?
Фотографии
Большое разнообразие шрифтов
Разнообразие расположений и направлений текстовых строк
Короткие текстовые строки
Разнообразие условий съемки (освещение, фокусное расстояние)
Сложный фон
Нет определенной структуры страницы
Наложение объектов (occlusions)

Классификация подходов
Фотографии
Text detection and localization
Texture-based
Region-based
CC-based
Edge-based
K. Jung et al.

Методы, основанные на анализе текстуры
Фотографии
Построение пирамиды
изображений
Извлечение текстурных признаков
(Gabor, Wevelets, DCT)

Методы, основанные на анализе текстуры
Фотографии
Сложный фон
Вычислительно сложные (обработка нескольких масштабов, операции свертки)
Произвольная направленность текста (негоризонтальный текст)
Произвольный размер шрифта
+
–

Region-based methods (bottom-up)
Фотографии
Выделение компонент связности на основе локальных признаков (близкий цвет или принадлежность границе)
Объединение выделенных компонент связности в группы по признакам близкого расположения и схожих локальных признаков (размер, цвет)

Region-based methods
Фотографии
Произвольный размер шрифта
Произвольная направленность текста
Просты в реализации
Сложный фон
Шум и нерезкость изображения
Используют большое количество эвристик
+
–

Stroke Width Transform (SWT)
B. Epshtein et al.
Исходное
изображение
Результат SWT
После фильтрации
по признаку постоянства
ширины штриха
Найденный текст

Обнаружение текста при помощи SWT
B. Epshtein et al.

Вычисление SWT
Фрагмент штриха
p – пиксель на границе штриха,
q – пиксель на противоположной стороне штриха
(градиенты в p и q направлены друг на друга)
Всем пикселям вдоль луча pq присваивается значение ширины штриха
B. Epshtein et al.

Обнаружение текста с помощью SWT
Границы для нерезких изображений, низкого разрешения – ☹
Погрешность SWT на стыках штрихов – ☹
Эвристики для фильтрации компонент – ☹
Двойной проход и интеграция результатов – ☹

Комбинированные методы
Y.-F. Pan et al.

Шаг 1 – анализ текстуры
Комбинированные методы
Y.-F. Pan et al.

Шаг 2 – анализ компонент связности
Комбинированные методы
Y.-F. Pan et al.

Шаг 3 – выделение текстовых строк и слов
Комбинированные методы
Y.-F. Pan et al. построение минимального остовного дерева
решение оптимизационной задачи

Robust Reading Competitions
ICDAR (2003, 2005, 2009, 2011)
Распознавание символов
Распознавание слов
Локализация текста
Распознавание текста

План лекции
Зачем нужны алгоритмы обнаружения текста?
Что такое цифровое изображение?
Представление цифровых изображений
Границы, компоненты связности, бинаризация, преобразование Хафа
Печатные документы (document images)
Фотографии (natural scenes)
Графики, диаграммы, обложки

Графики и диаграммы
Анализ компонент связности по цвету

Экспериментальная оценка
LocationRecognitionRate = NLoc/NG
LocationPrecisionRate = NLoc/NF
TextPrecisionRate = NTxt/NF
TextRecognitionRate = NTxt/NG
NLoc – the number of correctly localized text blocks
NTxt – the number of correctly recognized text blocks
NG – the total number of text blocks
NF – the total number of detected text blocks
Тестовое множество: 1000 диаграмм, сгенерированных SWF/XML tool

Screenshots
(+) Быстрая бинаризация
Время обработки изображения1600x1008
Tesseract OCR: ~6.56 секунд
Данный алгоритм: ~0.45 seconds
(–) Требует фильтрации компонент
Naïve Bayes
Выделение границ и пороговая бинаризация
Удаление длинных горизонтальных и вертикальных границ
Выделение компонент связности
Классификация компонент связности и адаптивная бинаризация