Использование облачных технологий CERN для

Использование облачных
технологий CERN для дальнейшего
развития и применения ПО TDAQ
ATLAS при обработке данных ДЗЗ в
приложениях космического
мониторинга.
А.И.Казымов, В.М.Котов, М.А.Минеев, Н.А.Русакович, А.В.Яковлев
1
Участие в разработке и поддержке ПО для TDAQ
ATLAS требует от среды разработки следующее:
• программная среда, аналогичная CERN.
• доступ к репозиторию ПО, такого, как имеется в CERN на AFS.
(TDAQ Release, Root, компиляторы)
• для некоторых действий нужны администраторские права.
(Необходимо например при тестировании производительности
NX сервера и Sun (Oracle) Secure Global Desktop).
• производительность системы должна позволять вести отладку
программ с графическим интерфейсом пользователя.
• при работе в CERN нужен аккаунт (как реализовать работу
студентов?)
2
Структура CernVM
3
CernVM
• http://cernvm.cern.ch
Цель проекта CernVM– создание для пользователя
универсальной, переносимой и легко конфигурируемой среды
для обработки и анализа данных а также для разработки ПО,
как локально, на компьютере пользователя или
вычислительной ферме рабочей группы, так и в Grid
(независимо от программной и аппаратной платформы
пользователя на которой запускается ПО CernVM).
4
Компоненты CernVM
(Основные)
• CernVM-FS – распределенная файловая система для создания
репозитория ПО,
• CernVM - набор виртуальных машин под различные
гипервизоры,
5
Компоненты CernVM (2)
• iBuilder – инструментарий для создания VM образов
предназначенных для различных гипервизоров,
• Installer – инструментарий упощающий процесс инсталляции
образа виртуальной машины для VirtualBox,
• CernVM-FS – распределенная файловая система для создания
репозитория ПО,
• CoPilot – инструментарий для работы с вычистлитеьными
облаками,
• CernVM - набор виртуальных машин под различные
гипервизоры,
• CernVM Online – портал для конфигурирования виртуальных
машин.
6
Виртуальные машины CernVM
• http://cernvm.cern.ch/portal/downloads
• Для гипервизоров: VirtualBox, VMWare, Xen,
KVM, Hyper-V Server
• 32-x и 64-х битные версии
7
Выбор виртуальной машины
8
Исследование переносимости
сервисов TDAQ в
среду CernVM
9
Сервисы информационного обмена
TDAQ ATLAS
10
Среда разработчика должна позволять работу с
информационными сервисами TDAQ ATLAS
(middleware)
• IPC – Inter Process Communication
• IS – Information Service
• OH – Online Histogramming service
• emon –Event Monitoring Service
11
Работа с информационными
сервисами
12
13
Event Dump
•Работает с сырыми (raw) данными
•Позволяет проверить правильность форматирования данных.
•Требует для работы среды TDAQ ATLAS (обращается к IPC, emon серверам)
•Собственная библиотека работы с форматами данных, написана на Java
14
Raw Data Format
Событие имеет
древовидную
структуру: состоит из
заголовка и нескольких
фрагментов более
низкого уровня.
15
Raw Data Format (2)
Структура заголовков
фрагменов разных уровней
16
17
WebEmon server
Сервер построен на базе сервера WebIS:
http://www.kip.uni-heidelberg.de/Veroeffentlichungen/download.php/4875/ps/DiplomGAnders.pdf
Позволяет пользователям извне CERN получать события от системы Event Monitoring (emon server).
По HTTP запросу пользователя сервер формирует свой запрос к emon серверу, получает событие,
конвертирует его в XML и отсылает пользователю.
Написан, как и конвертер данных в XML на Python,
Использует стандартную библиотеку работы с форматами (eformat).
Общая форма HTTP запроса:
http://test-pc.cern.ch:8000/info/Partition/emon/Type/Provider
•
•
•
•
•
8000
- порт,
test-pc
- имя компьютера,
Partition - имя partition TDAQ,
Type/Provider - Sampling Address
emon
- имя сервиса TDAQ, введено по аналогии со структурой запросов WebIS
18
Событие передается пользователю в XML формате
19
Data Quality Monitoring Framework
(DQMF)
DQMF – система
автоматической
проверки качества
данных TDAQ ATLAS
Задача – исследовать возможность использования этой системы для
задач дистанционного зондирования земли.
20
DQMF
• DQParameters (DQAlgorithms)
оцениваются с помощью DQAlgorithms, результат оценки DQResult
(red, yellow, green)
• DQRegions
Формируются из нескольких DQParameters, могум включать
DQRegions. Оцениваются по DQResuts входящих в них
DQParameres.
• DQSummary
- общий окончательный результат оценки качества
21
Как подготовить данные для
DQMF?
Иная область
применения
требует подготовки
данных и их
публикации на
информационных
сервисах.
Когда менеджер заданий публикует на IS команду, агент, который на
нее подписан, выполняет ее, публикует данные на IS и сообщает, что
свободен.
22
Примеры реализации
инфраструктуры
полигонов для работы с
сервисами TDAQ
23
Тесты на одной машине
2 VM и виртуальный
диск
Диск для файлов
конфигурации (т.к.
CernVM-FS – read only)
Тесты информационных сервисов.
Работа с Event Dump и WebEmon.
24
Тесты на ферме СУДРВ
2 гипервизора на
разных машинах,
статические адреса у
VM
Запуск тестовой partition
DQMF
25
Дальнейшие шаги
• Перевести часть работ облачную
инфраструктуру ЛИТ.
• Работа с 3-й версией CernVM.
• Исследование применимости идей группы из
Кракова (RTDispatcher) для адаптации DQMF.
• Продолжение работ в TDAQ
26
Спасибо за внимание!
27
Работа с виртуальными
машинами внутри CERN
28
Создание виртуальной машины
29
Для работы в CERN
Virtual Machine Manager:
https://vmm.cern.ch/vmm/
Работа внутри сетевой инфраструктуры CERN.
(доступ к AFS, домашняя директория, таже,
как на lxplus).
30
Просмотр списка VM
31
Дополнение по CernVM-FS
32
CernVM-FS
• http://cernvm.cern.ch/portal/cvmfs/examples
Конфигурация:
etc/cvmfs/default.local
CVMFS_CACHE_BASE=/var/scratch/cvmfs
CVMFS_QUOTA_LIMIT=40000
33
THE ATLAS EXPERIMENT ON-LINE MONITORING AND FILTERING AS AN EXAMPLE OF REAL-TIME APPLICATION
http://journals.bg.agh.edu.pl/COMPUTER/2008/cs2008-07.pdf
34
DQ in the Online environment
DQ Config
Config
Detector
DCS
TDAQ
Histograms,
Counters,
Voltages,
etc.
Data Quality
Monitoring
Framework
Alarms,
Commands
ATLAS
Control
DQ status
DQ Storage
35