Архивирование файловых и почтовых системКРОКСеминар «Реальная виртуализация?! Или актуальные способы повышения эффективности использования вычислительных ресурсов и систем хранения».
Подробнее о мероприятии http://www.croc.ru/action/detail/1464/
Презентация Алексея Яковенко, инженера компании КРОК
Firebird Anti-Corruption ApproachAlexey KovyazinThis document discusses how to prevent corruption in Firebird databases. It outlines key things to monitor like server parameters, database files, backups, and indices to recognize potential problems. Regular maintenance like validating metadata, checking backups, and analyzing logs and errors is important. The document also introduces FBDataGuard, a tool that automates monitoring of 26 database and server parameters, alerts of issues, and helps maintain databases to prevent corruption from hardware failures or other causes.
Firebird 2.1 What's New by Vladislav Khorsun (English)Alexey KovyazinDetailed presentation devoted to new features of Firebird 2.1 by Vladislav Khorsun, core Firebird Developer. Main features are covered, including tips and tricks and often usage scenarios.
Sap mm bomVannak9The document provides technical details about material masters, bills of material (BOM), and menu paths in SAP. It includes tables for material master and BOM management, user exits for material number assignment, frequently used menu paths for activities like maintenance and engineering, and data transfer programs. It also discusses using ALE (Application Link Enabling) for distributed product data and engineering BOMs across multiple SAP systems.
SuperServer in Firebird 3Mind The FirebirdThe document discusses changes to the architecture and implementation of the Super Server in Firebird 3. Key points include:
- The Super Server now uses a single process with multiple threads to handle connections instead of cooperative multitasking with a single active thread.
- Fine-grained locking is used for the shared page cache, with individual latches for each page buffer, improving parallelism but increasing synchronization costs.
- Benchmarks show significant performance improvements for multi-threaded workloads in Firebird 3 compared to earlier versions thanks to better utilization of multiple CPU cores by the Super Server.
Resolving Firebird performance problemsAlexey KovyazinIn this presentation we consider how to resolve Firebird performance problems: what Firebird database parameters we need to monitor and how we need to tune Firebird configuration and adjust client applications.
Мониторинг, тюнинг и оптимизация баз данных, используя продукты Dell SoftwareBAKOTECHПрезентация Владислава Самойленко, Senior Sales Engineer, BAKOTECH GROUP на конференции SQLSaturday Kiev 2015 (2015/05/23).
Мониторинг, тюнинг и оптимизация баз данных, используя продукты Dell SoftwareMarina GryshkoПрезентация Владислава Самойленко, Senior Sales Engineer, BAKOTECH GROUP на конференции SQLSaturday Kiev 2015 (2015/05/23).
SECON'2016. Еманов Дмитрий, "D" в ACID или чем быстрее бежать, тем больнее па...SECONДоклад посвящен поиску оптимального баланса между транзакционной надежностью и производительностью операций с данными в современных СУБД, операционных системах и системах хранения данных.
Firebird Roadmap-2006 Текущее состояние разработки и перспективы развития (in...Alexey KovyazinFirebird Roadmap-2006 Текущее состояние разработки и перспективы развития. Доклад на 1-й Российской Конференции по Firebird и InterBase
СУБД Firebird: Краткий обзор, Дмитрий Еманов (in Russian)Alexey KovyazinНебольшая презентация Дмитрия Еманова, ведущего разработчика Firebird, посвящена обзору СУБД Firebird, в том числе текущему состоянию и планам развития.
Oracle 11g с нуля: первые шаги с СУБД OracleSkillFactoryЭксперт по СУБД Oracle Роман Марков – о том, с чего начать освоение Oracle 11g, а также кто такой DBA и что он должен знать и уметь.
Разработка корпоративных систем на базе Oracle: Как стать профессионалом в Or...SkillFactoryВалерий Ковальчук – известный эксперт по СУБД Oracle – об особенностях архитектуры Oracle 11g для начинающих специалистов по администрированию баз данных.
Анализ и оценка систем адресации данных в современных ЭВМSergey GerasimovЧасть операционной системы, которая «отвечает» за корректное хранение данных и предоставление доступа к ним пользователю и прикладным программам
Порядок, определяющий способ организации, хранения и именования данных на носителях информации ИТ-оборудования
Система адресации данных является одной из самых существенных составных частей файловой системы. Именно система адресации позволяет находить нужный файл среди множества как пустых, так и занятых блоков на диске.
High-load performance testing: Firebird 2.5, 3.0, 4.0Alexey KovyazinThe document discusses OLTP-EMUL, an open-source performance testing tool for Firebird. It describes how to configure and run OLTP-EMUL tests on Firebird 2.5, 3.0 and 4.0 to simulate a trading application. IBSurgeon regularly runs these tests and publishes the results online, showing significant performance improvements from Firebird 2.5 to 3.0 and 4.0, especially for the SuperServer engine. Configuration settings for Firebird.conf that optimize performance are also provided.
Fail-Safe Cluster for FirebirdSQL and something moreAlexey KovyazinWith Firebird HQbird it is possible to create high available cluster or warm standby solution. This presentation defines the problem and describes ways how to create such solutions.
More Related Content
Similar to Firebird DataGuard - Еще раз об уверенности в завтрашнем дне (20)
Мониторинг, тюнинг и оптимизация баз данных, используя продукты Dell SoftwareBAKOTECHПрезентация Владислава Самойленко, Senior Sales Engineer, BAKOTECH GROUP на конференции SQLSaturday Kiev 2015 (2015/05/23).
Мониторинг, тюнинг и оптимизация баз данных, используя продукты Dell SoftwareMarina GryshkoПрезентация Владислава Самойленко, Senior Sales Engineer, BAKOTECH GROUP на конференции SQLSaturday Kiev 2015 (2015/05/23).
SECON'2016. Еманов Дмитрий, "D" в ACID или чем быстрее бежать, тем больнее па...SECONДоклад посвящен поиску оптимального баланса между транзакционной надежностью и производительностью операций с данными в современных СУБД, операционных системах и системах хранения данных.
Firebird Roadmap-2006 Текущее состояние разработки и перспективы развития (in...Alexey KovyazinFirebird Roadmap-2006 Текущее состояние разработки и перспективы развития. Доклад на 1-й Российской Конференции по Firebird и InterBase
СУБД Firebird: Краткий обзор, Дмитрий Еманов (in Russian)Alexey KovyazinНебольшая презентация Дмитрия Еманова, ведущего разработчика Firebird, посвящена обзору СУБД Firebird, в том числе текущему состоянию и планам развития.
Oracle 11g с нуля: первые шаги с СУБД OracleSkillFactoryЭксперт по СУБД Oracle Роман Марков – о том, с чего начать освоение Oracle 11g, а также кто такой DBA и что он должен знать и уметь.
Разработка корпоративных систем на базе Oracle: Как стать профессионалом в Or...SkillFactoryВалерий Ковальчук – известный эксперт по СУБД Oracle – об особенностях архитектуры Oracle 11g для начинающих специалистов по администрированию баз данных.
Анализ и оценка систем адресации данных в современных ЭВМSergey GerasimovЧасть операционной системы, которая «отвечает» за корректное хранение данных и предоставление доступа к ним пользователю и прикладным программам
Порядок, определяющий способ организации, хранения и именования данных на носителях информации ИТ-оборудования
Система адресации данных является одной из самых существенных составных частей файловой системы. Именно система адресации позволяет находить нужный файл среди множества как пустых, так и занятых блоков на диске.
High-load performance testing: Firebird 2.5, 3.0, 4.0Alexey KovyazinThe document discusses OLTP-EMUL, an open-source performance testing tool for Firebird. It describes how to configure and run OLTP-EMUL tests on Firebird 2.5, 3.0 and 4.0 to simulate a trading application. IBSurgeon regularly runs these tests and publishes the results online, showing significant performance improvements from Firebird 2.5 to 3.0 and 4.0, especially for the SuperServer engine. Configuration settings for Firebird.conf that optimize performance are also provided.
Fail-Safe Cluster for FirebirdSQL and something moreAlexey KovyazinWith Firebird HQbird it is possible to create high available cluster or warm standby solution. This presentation defines the problem and describes ways how to create such solutions.
Firebird recovery tools and techniques by IBSurgeonAlexey KovyazinPresentation "Firebird recovery tools and techniques", by Alexey Kovyazin (IBSurgeon). This presentation is devoted to Firebird corruptions: why they occur, what are their symptoms, how to fix corruptions with Firebird standard tools and with advanced IBSurgeon tools and services.
How Firebird transactions workAlexey KovyazinTransactions in Firebird work by assigning each record multiple versions, with each version associated with a transaction. This allows concurrent transactions to operate on stable views of the database. The transaction inventory pages (TIP) track the state of transactions and four markers - next, oldest active, oldest snapshot, oldest interesting - help determine which record versions are visible to each transaction. Keeping transactions short helps avoid problems related to these markers being out of date and prevents unnecessary record versions from building up over time.
Life with big Firebird databasesAlexey KovyazinThere are more and more companies have big Firebird databases, from 100Gb till 1Tb. Maintenance and optimization tasks for such databases are different from small, and database administrators need take into account several important things about big Firebird databases.
Professional tools for Firebird optimization and maintenance from IBSurgeonAlexey KovyazinHow to create better environment for big Firebird databases? How DBA can recognize and solve problems with Firebird performance, backups or corruptions (and better prevent corruptions)? This session was devoted to professional Firebird tools from IBSurgeon which help to solve all these problems.
Firebird migration: from Firebird 1.5 to Firebird 2.5Alexey KovyazinThis document summarizes the migration of a 75GB Firebird database from version 1.5 to 2.5 for a pharmaceutical distributor in Russia. Key steps included preparing metadata, testing the data conversion, application migration by checking and updating SQL queries, and optimizing performance. Over 55,000 SQL queries were analyzed, with around 750 requiring changes to work with the new version. The migration was completed in less than 4 months with improved performance on the new platform.
Firebird migration: from Firebird 1.5 to Firebird 2.5Alexey KovyazinHow to migrate 75Gb database, with 564 tables, 5000+ stored procedures, 813 triggers, which is working 24x7, with ~400 users.
Firebird's Big Databases (in English)Alexey KovyazinIn this presentation Dmitr Kuzmenko speaks about Firebird big databases: peculiarities of maintenance and approaches to keep them up and running.
Решения на базе СУБД Firebird в крупных компаниях и государственных учреждени...Alexey KovyazinРешения на базе СУБД Firebird в крупных компаниях и государственных учреждениях.
Firebird usage promo draftAlexey KovyazinThis document outlines several investment opportunities in Russian retail networks, including a stock exchange that handles over $100 million in daily turnover, a retail network called Lider with shops in 10 cities, and two building material retail networks called Baucenter with shops in 5 cities that cover over 15,000 square meters. It also mentions a shoes retail network called ECCO SHOES with a presence in 60 cities and over 100 shops.
FBScanner: IBSurgeon's tool to solve all types of performance problems with F...Alexey KovyazinFBScanner can be used to profile database applications, monitor user activity, manage database connections (including client disconnection on both Classic and SuperServer architecture). It’s also ideal for troubleshooting INET errors (INET/inet_error: send errno = 10054), as well as auditing existing applications and performance tuning.
Firebird 2.5 - вектор дальнейшего развития, Dmitry Yemanov, (in Russian)Alexey KovyazinПрезентация Дмитрия Еманова о текущем состоянии и планах развития Firebird в 2009-2010 годах.
Understandung Firebird optimizer, by Dmitry Yemanov (in English)Alexey KovyazinThe document discusses Firebird's query optimizer. It explains that the optimizer analyzes statistical information to retrieve data in the most efficient way. It can use rule-based or cost-based strategies. Rule-based uses heuristics while cost-based calculates costs based on statistics. The optimizer prepares queries, calculates costs of different plans, and chooses the most efficient plan based on selectivity, cardinality, and cost metrics. It relies on up-to-date statistics stored in the database to estimate costs and make optimization decisions.
Firebird: cost-based optimization and statistics, by Dmitry Yemanov (in English)Alexey KovyazinThis document discusses cost-based optimization and statistics in Firebird. It covers:
1) Rule-based optimization uses heuristics while cost-based optimization uses statistical data to estimate the cost of different access paths and choose the most efficient.
2) Statistics like selectivity, cardinality, and histograms help estimate costs by providing information on data distribution and amounts.
3) The optimizer aggregates costs from the bottom up and chooses the access path with the lowest total cost based on the statistical information.
Open Source: взгляд изнутри, Дмитрий Еманов (The Firebird Project) (in Russian)Alexey KovyazinПрезентация ведущего разработчика проекта Firebird Дмитрия Еманова посвящена современным моделям Open Source: бизнес-моделям, способам организации коммьюнити, а также рассказывает о месте и основных вехах развития СУБД с открытым кодом Firebird
Firebird Scalability, by Dmitry Yemanov (in English)Alexey KovyazinIn-depth presentation regarding key concepts of Firebird scalability, including SuperServer vs Classic discussion, memory usage for page and sorting buffers, CPU and concurrency, multi-CPU and multi-core, TPC-C figure, etc.
Firebird: Универсальная СУБД. Краткая презентация на Интероп 2008, Дмитрий Ем...Alexey KovyazinДмитрий Еманов представил краткую презентацию, посвященную Firebird на конференции Интероп 2008. Презентация рассматривает место Firebird среди других СУБД с открытым кодом, описывает текущее состояние дел и представляет планы на будущее.
2. О чем пойдёт речь
Почему IBSurgeon создал FBDataGuard?
Что делает FBDataGuard (примеры сценариев)
Основные функции FBDataGuard
Контакты и как попробовать FBDataGuard
4. Неважно, какого цвета Ваш сервер
В любом случае – это
«черный ящик».
Вы не знаете, что же в действительности
происходит с Вашими данными – это факт.
Сомневаетесь?
8. Но в любом случае
администратору
надо кое-что проверить.
9. Хватает ли
База вообще Индексы не
места для
работает? поломались?
базы?
Ошибки в Хватает ли
Бэкап
firebird.log места для
прошел?
есть? бэкапа?
А Статистика
Не застряли
проверочный индексов
транзакции?
рестор? пересчитана?
16. 8 лет мы чиним поломанные базы данных
…и хорошо
знаем, ЧТО и КАК
ломается.
17. Вот почему мы создали Firebird DataGuard
Наблюдение за базой
Предупреждения и советы
Автоматизация обслуживания баз данных
Гарантия восстановления в сложных случаях
РАНЬШЕ БОРОЛИСЬ С ПОСЛЕДСТВИЯМИ,
ПОРА ВЗЯТЬСЯ ЗА ПРИЧИНЫ.
19. Типичная рабочая среда Firebird
Это рабочий сервер
Это база данных
Firebird Здесь хранится
еще одна
копия бэкапов
Это бэкапы
20. Рассмотрим сервер в деталях
Сервер доступен?
Рабочие
параметры Сколько RAM?
Временные
# Mb
файлы?
Логи Записи в логах? 6 уровней
проблем
Размер логов?
Версия Рекомендуемая Баги,
сервера версия? проблемы
21. Сервер Firebird
7 параметров, 1. Доступность сервера
2. Размер RAM сервера
которые могут 3. Количество временных
сообщать о файлов
проблемах с базой 4. Размер временных
файлов
данных и 5. Записи в логе
сервером 6. Размер логов
7. Версия сервера
22. Пример разрешения проблемы с
сервером
FBDataGuard
определил, что
размер файлов
Места
сортировки = N
может не
хватить!
Размер
M – N<X
свободного места
на диске с TEMP-
файлами = M
23. Ретроспективный анализ
Все логи хранятся на
сервере и позволяют
анализировать
события,
происшедшие в
прошлом
Инструментарий для
удобного просмотра
логов
24. Рассмотрим базу данных Firebird
Обычно базу данных изображают так:
База данных
как будто это что-то совсем простое.
26. Файловая организация БД
delta
- Основной файл БД
0-level
- Файлы томов БД
- Файлы delta
(nbackup) и incremental
Файл база
данных backups
Том 1
- Внешние таблицы
Том N
27. Внутренняя организация БД
Задачи:
Метаданные Проверить физическую
целостность данных,
индексов и метаданных
Данные таблиц
Проверить логическую
целостность
Индексы Проверить активность
метаданных (статус
триггеров, check,
Блобы
хранимых процедур)
28. FBDataGuard бдит за базой данных:
Наблюдает за файлами, томами, дельта-
файлами и инкрементальными backups
Верифицирует метаданные, данные и индексы
Следит за ограничениями
ВЫДАЕТ ПРЕДУПРЕЖДЕНИЯ и РЕКОМЕНДАЦИИ
29. Пример разрешения проблемы с
базой данных Firebird
FBDataGuard non-activated
определил, что индексы могут
после restore указывать на
индекс не повреждения БД,
активирован SQL запросы могут
«тормозить» Предотвращена
потеря
производитель
ности!
31. Что может сломаться в железе?
Наиболее Жесткий диск (HDD)
Flash-накопители
опасны для базы Память (RAM)
данных Контроллеры
следующие SCSCI/SATA и другие
подобные устройства
поломки:
32. Типичные проявления поломок
«железа»:
Жесткий диск:
Потерянные и смешанные страницы (wrong page type)
Ошибки в цепочках записей (Cannot find record fragment)
Память:
Ошибки на уровне записей (Wrong record length)
Flash-накопители и Контроллеры
Сдвиги страниц (база не открывается в isql)
Ошибки страниц и ошибки в записей
33. Как FBDataGuard защищает от
поломок железа?
Во-первых, верификация данных и индексов
(выборка данных, пересчет статистики индексов)
Позволяет предупредить о появлении ошибки
Во-вторых – ЗАЩИТНЫЙ РЕПОЗИТОРИЙ
МЕТАДАННЫХ
Позволяет спасти данные даже в случае очень тяжелых
повреждений
34. Защитный репозиторий метаданных
Метаданные
Копия в репозитории
Данные таблиц
FBDataGuard сохраняет
Индексы копию актуальных
метаданных в отдельном
Блобы от БД репозитории
35. В случае поломки железа:
Метаданные в FBDataGuard
репозитории Extractor
извлекает все
доступные
данные из БД и Новая БД
Данные таблиц
вставляет в
новую БД
Блобы
36. Последний рубеж защиты
FBDataGuard спасет оставшиеся данные
в случае потери метаданных
Данные из поврежденного delta-файла
В случае поломки жесткого диска, контроллера или
flash-накопителя
Вытащит данные даже из «обрывка» БД
Но лучше не доводить ситуацию до крайности, не так ли?
37. Резервное копирование
Мало кто осознает насколько верен простой
факт:
Резервное копирование –
наиболее надежный способ
защиты данных
38. Формально у Firebird два способа
резервного копирования…
Gbak Nbackup
последовательное Сохранение«слепка»
чтение данных с базы данных с
сохранением в перенесением
линейном формате изменений через
delta-файл
39. …но на самом деле есть только один.
Резервное копирование – не вызов gbak –b и
nbackup, это ПЛАН ДЕЙСТВИЙ
Онможет включать в себя вызовы gbak, nbackup, а
также другие технические и организационные
процедуры
40. Правильный gbak
Правильный набор опций при бэкапе ускоряет
резервное копирование в несколько раз
Бэкапы должны проверяться на корректность путем
тестового восстановления
Существование файлов бэкапов должно
контролироваться (резервное копирование в /dev/null
– не шутка, а горькая правда жизни)
Должна сохраняться история бэкапов с револьверной
заменой резервных копий
41. Правильный nbackup
Контроль за delta-файлом
Размер delta-файла
Время жизни delta-файла
Контроль целостности копии базы данных
Последовательный gbak с проверкой
Слежение за окружением копии (второй
компьютер?)
42. План резервного копирования
(простой вариант)
База данных Копия Тестовый
Firebird nbackup Gbak -b рестор
И на каждом этапе – контроль результатов выполнения.
43. Пример разрешения аварийной
ситуации с бэкапами
FBDataGuard
вычислил (или взял
последнее значение)
размера бэкапа M Места
может не
хватить!
FBDataGuard M>=N
обнаружил, что
Предотвращена
свободное место на поломка backup
диске для бэкапов = N и потеря данных!
44. Firebird DataGuard
Наблюдение за 26 важными параметрами базы данных
и сервера
Предупреждения о потенциальных и реальных
проблемах по email
Правильная автоматизация обслуживания баз данных
Возможность встраиваться в существующие
приложения
Windows, Linux, MacOS, Firebird 1.5-2.1
FBDataGuard включает сервисы ремонта и
оптимизации базы данных (в зависимости от лицензии)
47. Мониторинг-1
Ошибки сервера и базы данных
Доступность сервера и базы данных
Анализ firebird.log (изменения)
Периодический опрос метаданных
Транзакции
Отслеживание разницы между 4 маркерами
Лимит транзакций (2млрд. транзакций до бэкап-рестора)
Пользователи
Минимальное/максимальное количество пользователей
48. Мониторинг-2
Файлы базы данных
Однофайловые и многофайловые
Расположение – предупреждения о путях и пересечении с
местом хранения бэкапов
Размеры и отслеживаемые пределы роста (задаются
пользователем)
Файлы delta (nbackup)
Время жизни и размер delta-файлов
Файлы бэкапов
Наличие, размер и прогноз роста
49. Мониторинг-3
Временные файлы Firebird
Общий размер и количество
Количество форматов на таблицу
Не более 255 (лимит реализации)
В production-базе данных нежелательно
Наличие неактивных и неактивированных индексов в
базе данных
Неактивные – явно отключены
Неактивированные – не включились в результате сбоя рестора
50. Мониторинг-4
Автоматизированный сбор статистики gstat
Задается cron-выражением
Версия сервера Firebird, размер папки сервера
Размер логов сервера
Размер логов FBDataGuard
Логи изменений всех параметров хранятся для анализа
Автоудаление логов – по умолчанию хранятся 60 дней
Автообноовление
– предупреждение о выходе новых версий
51. Обслуживание-1
Бэкапы
Револьверные (сдвигающиеся по времени) бэкапы
Настраиваемая глубина хранения бэкапов
Тестовый рестор с анализом результатов
Прогноз роста (при недостатке места бэкап не
происходит, статус БД ->критический)
Контроль времени операции бэкапа (по умолчанию
Max time =120 min)
Опциональное сжатие небольших бэкапов (до 4Гб)
52. Обслуживание-2
Индексы
Пересчет статистики индексов
Всех (не рекомендуется для баз более 1Гб)
Выбранных (список индексов)
Всех, кроме исключенных
Проверка статусов индексов
Проверка «здоровья»
- алерт в случае обнаружения поврежденных индексов
По умолчанию джоб отключен
53. Обслуживание-3
Валидация БД с помощью стандартных средств (Gfix)
Перевод базы в shutdown – работа в выделенном режиме
Анализ результатов (в т.ч. вывода в firebird.log)
Валидация метаданных
Проверка ключевых системных таблиц
Лог Firebird
Перенос частей лога в отдельные файлы по достижению
установленного размера
54. Обслуживание-4
Для серьёзных конфигураций баз данных необходимы:
Регламент обслуживания
План аварийного восстановления
FBDataGuard помогает решить много технических
проблем, значительно расширяя возможности
администратора
Алерты и рекомендации
FBDataGuard сообщает о найденных или ожидающихся
проблемах, выдает рекомендации
Устанавливает статус базе данных и серверу в целом
55. Защита
Защитный репозиторий метаданных
Сохранение копии «сырых» метаданных, необходимых для
расшифровки
Дополнительная проверка метаданных
Расшифровка критически поврежденных файлов БД (в
т.ч. при сбоях HDD и другого железа)
Экспорта данных из поврежденных delta-файлов
Восстановление удаленных данных (в том числе DROP
TABLE) (только версия Enterprise)
56. Попробуйте FBDataGuard прямо
сейчас:
Онлайн-форум по FBDataGuard
http://groups.google.ru/group/ibsurgeon2?hl=ru
Скачать FBDataGuard
http://groups.google.ru/group/ibsurgeon2/browse_thread/thread/56962586ffd33aa4?hl=ru
Мы будем рады ответить на все Ваши вопросы.
dataguard@ib-aid.com, +7 495 953 13 34