Версія даної теми для друку

Натисніть сюди для перегляду даної теми у оригінальному форматі

Розподілені обчислення в Україні _ BBC Climate _ Help & FAQ - BBC Climate

Автор: Vlad_k Oct 30 2006, 10:45

Приветствую всех присоединившихся clap_1.gif
Arbalet, спасибо за статью, все кратко и понятно smile.gif

У меня есть вопрос как мне в соем профиле на проекте BBC Climate изменить страну, точнее говоря установить Украину, а то пустота - некрасиво как-то smile.gif и еще я не разобрался пока как можно, и можно ли вообще, изменить ник, а то Vladyslav как-то не очень (даже не пойму откуда при регистрации он взялся, может из e-mail потомучто я не помню чтобы я сам такой вводил idontno.gif )

Автор: Arbalet Oct 30 2006, 11:29

(Vlad_k @ Oct 30 2006, 10:45 AM) *

У меня есть вопрос как мне в соем профиле на проекте BBC Climate изменить страну, точнее говоря установить Украину, а то пустота - некрасиво как-то smile.gif и еще я не разобрался пока как можно, и можно ли вообще, изменить ник, а то Vladyslav как-то не очень

Заходим на оф. страничку http://bbc.cpdn.org/team_display.php?teamid=234 в проекте и кликаем Join. Заходим по своим email/password (тем же самым, что и при подключении к проекту). Должно произойти присоединение к команде. Теперь можно зайти и в свой профиль: кликаем My details в навигации сайта, а потом на Advanced users: options and web pages под картой и войдя туда - щелкнуть Your account. Теперь, чтобы поменять ник и страну нужно пройти по Change other account info.

P.S.: Надеюсь последнее редактирование. smile.gif

Автор: romko Oct 30 2006, 15:12

А можете сказати, скільки клієнт BBC Climate займає при роботі в пам"яті, як дружить з різними проксі? Як він відноситься до роботи на машинах без інтернета?

Бо в мене кілька машин за проксі мають проблеми з отриманням завдань ФАХ, то я от думаю, чи не перекинути їх кудись іще. :idontknow:

Автор: Arbalet Oct 30 2006, 15:37

(romko @ Oct 30 2006, 03:12 PM) *

А можете сказати, скільки клієнт BBC Climate займає при роботі в пам"яті, як дружить з різними проксі? Як він відноситься до роботи на машинах без інтернета?
Бо в мене кілька машин за проксі мають проблеми з отриманням завдань ФАХ, то я от думаю, чи не перекинути їх кудись іще. :idontknow:

BOINC_5.4.11 весит 9 метров. Расчетные ядра и файлы проекта, вместе с заданием - еще 12 метров. Оперативки жует стабильно ок. 50 Мб. На диске проект разворачивается до 400-500 метров. При этом, нужно учесть, что в BBC Climate одно задание может считаться от 1 до 3 и более тысяч часов blink.gif , в зависимости от мощности компа!! В этом отношении, конкуренцию проекту может составить только родственный (родительский) проект Climateprediction.net.

Очки начисляются за каждый % выполненного задания. Эти промежуточные результаты как-то еще не просек сколько весят, но точно не много. smile.gif

Если нет интернета, то это тоже не очень большая проблема - в BOINC Manager предусмотрена автономная работа, а между машинами можно периодически таскать диск с архивом родительской папки BOINC, где лежит и проект со всеми результатами. Но этот вопрос нуждается в более глубокой проработке, чем я в скором времени и займусь, так как меня это тоже интересует.

Насчет прокси.. В настройках BOINC Manager есть такие вкладки: модемное соединение и VPN, HTTP прокси и SOCKS прокси. Так как я не юзаю прокси, то добавить к этому мне нечего.

Автор: YuRi Oct 31 2006, 09:06

(Arbalet @ Oct 30 2006, 03:37 PM) *
(romko @ Oct 30 2006, 03:12 PM) *

А можете сказати, скільки клієнт BBC Climate займає при роботі в пам"яті, як дружить з різними проксі? Як він відноситься до роботи на машинах без інтернета?
Бо в мене кілька машин за проксі мають проблеми з отриманням завдань ФАХ, то я от думаю, чи не перекинути їх кудись іще. :idontknow:
Если нет интернета, то это тоже не очень большая проблема - в BOINC Manager предусмотрена автономная работа, а между машинами можно периодически таскать диск с архивом родительской папки BOINC, где лежит и проект со всеми результатами. Но этот вопрос нуждается в более глубокой проработке, чем я в скором времени и займусь, так как меня это тоже интересует.
Не сработает. При связи с сервером проекта в BOINC регистрируется конкретная машина, и задания получает тоже она. Начисление очков за просчитанные результаты производится с учетом характеристик компа (BOINC Manager периодически производит benchmark test). Исключением, насколько я знаю, являются только SETI@home и Einstein@home, где начисление очков производится по другому принципу.

Вот кусочек лога с одной из моих тачек:
30/10/2006 21:15:00 Starting BOINC client version 5.2.13 for windows_intelx86
30/10/2006 21:15:00 libcurl/7.14.0 OpenSSL/0.9.8 zlib/1.2.3
30/10/2006 21:15:00 Executing as a daemon
30/10/2006 21:15:00 Data directory: C:\Program Files\BOINC
30/10/2006 21:15:01 SETI@home Found app_info.xml; using anonymous platform
30/10/2006 21:15:01 Processor: 1 GenuineIntel Intel® Celeron® CPU 2.53GHz
30/10/2006 21:15:01 Memory: 503.23 MB physical, 1.20 GB virtual
30/10/2006 21:15:01 Disk: 6.00 GB total, 2.07 GB free
30/10/2006 21:15:01 Einstein@Home Computer ID: 761398; location: work; project prefs: default
30/10/2006 21:15:01 lhcathome Computer ID: 1822325; location: work; project prefs: default
30/10/2006 21:15:01 SETI@home Computer ID: 2729168; location: work; project prefs: default
30/10/2006 21:15:01 SZTAKI Desktop Grid Computer ID: 173522; location: work; project prefs: default
30/10/2006 21:15:01 XtremLab Computer ID: 30763; location: work; project prefs: default
30/10/2006 21:15:01 General prefs: from SETI@home (last modified 2006-10-18 08:36:30)
30/10/2006 21:15:01 General prefs: no separate prefs for work; using your defaults
30/10/2006 21:15:01 Remote control allowed
30/10/2006 21:15:01 lhcathome Resuming computation for result woct65scD_v6s5hvnom_0scD__1__64.317_59.327__10_12__6__35_1_sixvf_boinc258365_2 using sixtrack version 467
30/10/2006 21:15:01 Using earliest-deadline-first scheduling because computer is overcommitted.
30/10/2006 22:15:02 XtremLab Sending scheduler request to http://xw01.lri.fr:4320/xtremlab_cgi/cgi
30/10/2006 22:15:02 XtremLab Reason: To fetch work
30/10/2006 22:15:02 XtremLab Requesting 259200 seconds of new work
30/10/2006 22:15:12 XtremLab Scheduler request to http://xw01.lri.fr:4320/xtremlab_cgi/cgi succeeded
30/10/2006 22:15:14 request_reschedule_cpus: files downloaded
30/10/2006 22:15:14 request_reschedule_cpus: files downloaded
30/10/2006 22:15:14 request_reschedule_cpus: files downloaded
30/10/2006 22:15:14 request_reschedule_cpus: files downloaded
Можно, конечно, сделать несколько копий BOINC, запускать их вручную, потом вручную переносить на другой комп и уже там стартовать. Но это такой гембель... blink.gif Кроме того, при раздаче заданий учитываются характеристики машины, и если компы существенно разнятся по производительности, может получиться так, что какой-то из них не будет успевать просчитывать полученное задание в отведенный срок, а за просроченные задания очки не начисляются.
(romko) *
Насчет прокси.. В настройках BOINC Manager есть такие вкладки: модемное соединение и VPN, HTTP прокси и SOCKS прокси. Так как я не юзаю прокси, то добавить к этому мне нечего.
С проксей работает. Работал со всеми вариантами, кроме SOCKS.


Приєднані зображення
Приєднане зображення Приєднане зображення Приєднане зображення

Автор: Arbalet Nov 1 2006, 10:03

Будем задавать вопросы по работе в BBC Climate и отвечать на них в этой ветке. smile.gif

Для начала перевел Help по работе в графическом окне проекта.

H - помощь

Виды:
T - температура приземного слоя атмосферы
R - дождь & снег
P - атмосферное давление
C - снежный покров и 3-D облака
O - температура поверхности океана
E - эмиссия (поступление) сернистых аэрозолей

Действия:
G - вкл./выкл. модельной решетки (сглаживание изолиний)
S - вкл./выкл. вращения глобуса
Z - вкл./выкл. боковой панели
W - мировая карта/вид с орбиты (карта/глобус)
F - размытые/четкие облака (при нажатой кл. С)
0 - показать звезды
A - ускорение вращения глобуса
M - метрическая/английская мерная система
[1-5] - показать/спрятать снежный & облачный покровы (при нажатой кл. С)
CTRL+Q - запись анимации на диск
CTRL+O - воспроизведение анимации с диска
J - полутонове (серые оттенки) изображение карты
N - вернуть настройки по-умолчанию
Tab - циклическая смена видов карты/глобуса (температура, осадки, давление и т.д.)
L - освещать глобус полностью/только со стороны солнца (при нажатой кл. С)
B - показывать на карте/глобусе границы государств
I - показывать информацию о стране
8 - показать отсчет до следующей контрольной точки
X - разработчики графики

Автор: s1nner Nov 2 2006, 19:47

Вопрос. Report Deadline - это дата и время окончания проекта или как?

Автор: tit2 Nov 2 2006, 20:37

Arbalet
clap_1.gif мої вітання з першим місцем в команді BBC Climate Ukraine і попаданням в 100 у проектах BOINC clap_1.gif

Автор: Arbalet Nov 2 2006, 23:13

(s1nner @ Nov 2 2006, 07:47 PM) *

Вопрос. Report Deadline - это дата и время окончания проекта или как?

Именно так. Это дедлайн - после этой даты за сливы результатов по этому заданию баллы начисляться уже не будут.

Почему бы тебе не включить русский интерфейс? Advanced > Options smile.gif


(tit2 @ Nov 2 2006, 08:37 PM) *

Arbalet
clap_1.gif мої вітання з першим місцем в команді BBC Climate Ukraine і попаданням в 100 у проектах BOINC clap_1.gif

Thanks! smile.gif Неожиданно вот так сразу и в ТОП100, но очень приятно. blush.gif
Планирую утроить производительность после подключения к проекту домашнего AMD Athlon 64 X2 3800+@2560, который сейчас перемалывает оставшиеся жабки проекта ФАХ.

Автор: s1nner Nov 6 2006, 17:31

нашёл первый баг angry2.gif

2006-11-06 11:48:02 [BBC Climate Change Experiment] Unrecoverable error for result hadcm3ohb_b3zl_00819117_0 ( - exit code -1 (0xffffffff))
2006-11-06 11:48:02 [BBC Climate Change Experiment] Deferring scheduler requests for 1 minutes and 0 seconds
2006-11-06 11:48:02 [---] Rescheduling CPU: application exited
2006-11-06 11:48:02 [BBC Climate Change Experiment] Computation for task hadcm3ohb_b3zl_00819117_0 finished
2006-11-06 11:48:02 [---] Resuming round-robin CPU scheduling.
2006-11-06 11:49:03 [BBC Climate Change Experiment] Sending scheduler request to http://bbc.cpdn.org/bbc_cgi/cgi
2006-11-06 11:49:03 [BBC Climate Change Experiment] Reason: To fetch work
2006-11-06 11:49:03 [BBC Climate Change Experiment] Requesting 8640 seconds of new work, and reporting 1 completed tasks
2006-11-06 11:49:27 [BBC Climate Change Experiment] Scheduler request succeeded
2006-11-06 11:49:27 [BBC Climate Change Experiment] Message from server: No work sent
2006-11-06 11:49:27 [BBC Climate Change Experiment] Message from server: (there was work but you don't have enough disk space allocated)
2006-11-06 11:49:27 [BBC Climate Change Experiment] Message from server: Not enough disk space (only 476.7 MB free for BOINC). Review preferences for minimum disk free space allowed.
2006-11-06 11:49:27 [BBC Climate Change Experiment] No work from project


mad2.gif после перезапуска задания не стали считатся... приходится обновлять проект... st.gif

Автор: Arbalet Nov 6 2006, 23:40

s1nner, сочувствую! sad.gif

Рецепт от любых багов: периодически жать ВСЮ папку BOINC в архив (например, через каждый 1-2%), предварительно приостановив считающееся задание и выгрузив boinc-процессы. Потом, если произошел сбой, повлекший гибель задания, то поступаем след. образом: убиваем все boinc-процессы, сносим рабочую папку BOINC, а на ее место ставим папку из архива. Проверено неоднократно - задание как ни в чем ни бывало продолжает работу с того места, с которого его зажали в архив. И даже, если была переустановлена винда - ничего страшного, в этом случае достаточно просто установить заново BOINC (не обязательно даже снова подключаться к проекту и тем более не нужно качать новое задание), а затем на его место поставить папку из архива. victory.gif

Очень рекомендую эту процедуру ручного бэкапа, так как климатические модели - штука тяжелая и долго считающаяся, а поэтому почти наверняка рискующая пропасть без должного присмотра. smile.gif

Автор: s1nner Nov 7 2006, 07:53

спасиба, буду знать smile.gif

Автор: YuRi Nov 7 2006, 14:01

(s1nner @ Nov 6 2006, 05:31 PM) *
нашёл первый баг angry2.gif
2006-11-06 11:49:27 [BBC Climate Change Experiment] Message from server: No work sent
2006-11-06 11:49:27 [BBC Climate Change Experiment] Message from server: (there was work but you don't have enough disk space allocated)
2006-11-06 11:49:27 [BBC Climate Change Experiment] Message from server: Not enough disk space (only 476.7 MB free for BOINC). Review preferences for minimum disk free space allowed.
после перезапуска задания не стали считатся... приходится обновлять проект...
Проверь на сайте BBC Climate Change Experiment настройки своего клиента (раздел "General preferences"). Судя по выдерке из лога, у тебя просто не хватает места на диске (свободно 477 Мб, а настройках наверняка стоит "Leave at least 0.5 GB disk space free"). Заодно проверь и остальные настройки, потому, что при присоединении к команде настройки твоего клиента копируются из настроек клиента основателя команды. У меня, например, в одной конфигурации связь с серверами разрешена круглосуточно, но с ограничением по ширине в 3 кб/с, а в другой - только ночью, но без ограничений по полосе. То же самое - и с распределением дискового пространства, памяти и количества доступных процессоров (в разных конфигурациях - от 1 до 4-х smile.gif )

Автор: tit2 Nov 7 2006, 14:19

s1nner
Обов’язково архів роби після відправки результатів. Інакше в тебе буде конфлікт з сервером даних. Там будуть наступні результати які ти знову відправлятимеш. Зроби такий порядок роботи – злив дані, зразу в архів всю папку BOINC. Тоді і в тебе і на сервері при глюках розходження не буде. І ще налаштуй BOINC manager на автономну роботу – без постійного підключення до Іnet. Інакше без твого відома проект закриється як глючний і тоді не допоможе архів.

Автор: s1nner Nov 7 2006, 19:02

(свободно 477 Мб, а настройках наверняка стоит "Leave at least 0.5 GB disk space free")

Нет, стоит 0,1 GB )

Ещё раз спасибо за дельные советы =)

Автор: Arbalet Nov 9 2006, 22:52

Каким образом в боинк-менеджере закачать вторую климатическую жабку, чтобы полностью загрузить двухядерный Athlon? huh.gif

Автор: Vlad_k Nov 10 2006, 10:44

Передомной пока такая проблема не стоит (во всяком случае в ближайшие пару месяцев), но вопрос очень актуальный. Я считал что при проведении теста при запуске программы, определяется конфигурация системы и программа использует все доступные ресурсы, видимо это не так sad.gif Сейчас занимаюсь поиском ответа на этот вопрос, как что найду сообщу обязательно.

а теперь немного не по теме: Arbalet на тебя одного приходится 3/4 вычислительной мощности нашей команды в BBC Climate ves001.gif drinks2.gif

Автор: Arbalet Nov 10 2006, 13:28

Спасибо, Vlad! drinks2.gif

Собрался Core 2 Duo прикупать? smile.gif
Я, скорее всего, подожду, когда появятся четырехядерники по умеренной цене. Не раньше 2007-го...

Автор: YuRi Nov 10 2006, 14:31

(Arbalet @ Nov 9 2006, 10:52 PM) *
Каким образом в боинк-менеджере закачать вторую климатическую жабку, чтобы полностью загрузить двухядерный Athlon? huh.gif
На сайте проекта в настройках своего аккаунта в разделе "General preferences -> Processor usage" укажи On multiprocessors, use at most 2 processors. В BOINC можно настроить четыре разные конфигурации: конфигурация по умолчанию (основная, назначается всем вновь подключаемым машинам) и три дополнительных, условно названных "дом", "школа" и "работа". У меня в некоторых конфигурациях стоит "использовать 4 процессора". smile.gif Назначить компу ту или другую конфигурацию можно через список своих компьютеров на сайте проекта. Изменения конфигурации начнут действовать после очередного сеанса связи компа с сервером проекта, и клиент запустит второй процесс.
Если что-то непонятно объяснил - стучись в асю.

ЗЫ: думаю, вопросы по менеджеру боинк лучше задавать в отдельной ветке. Не все же считают погоду (я - так точно нет и не буду smile.gif)

Автор: Arbalet Nov 10 2006, 16:06

2 часа провел в своем профиле - настроил все что можно 1.gif
Пойду домой грузить вторую жабку!

Thanks, YuRi smile.gif

Автор: s1nner Nov 16 2006, 12:29

ничего не помогло sad.gif уже несколько раз обновляю задания, а ошибка повторяется не досчитав даже до 1-го % Всё тот же Unrecoverable error for result... Свободного места - больше гигабайта. Низнаю (

Автор: Arbalet Nov 16 2006, 14:37

Что-то гробит результаты, но вот что??? idontno.gif Надо просить помощи у наших старожилов Боинка - tit2 и YuRi worthy.gif

Автор: YuRi Nov 17 2006, 14:03

уже несколько раз обновляю задания, а ошибка повторяется не досчитав даже до 1-го % Всё тот же Unrecoverable error for result... Свободного места - больше гигабайта. Низнаю
Меня смущает вот эта строчка в твоем отчете:
2006-11-06 11:49:03 [BBC Climate Change Experiment] Requesting 8640 seconds of new work, and reporting 1 completed tasks
Почему твой клиент закончив (пусть и в аварийном режиме) задачу, запрашивает так мало времени? Ты случайно тачку не разгонял? Если "да", то попробуй восстановить начальные установки. Или укажи его номер по базе проекта - попробую посмотреть его параметры.
И выкладывай, пожалуйста логи (можно под катом). А то без них это все - как гадание на кофейной гуще.

Автор: s1nner Nov 21 2006, 11:15

Разгон был, но минимальный (80 Мгц). Убрал, редактировал настройки клиента у себя в профиле, но ничего не помогает...

11/21/06 05:03:20||Starting BOINC client version 5.4.9 for windows_intelx86
11/21/06 05:03:20||libcurl/7.15.3 OpenSSL/0.9.8a zlib/1.2.3
11/21/06 05:03:20||Data directory: C:\Program Files\Climate Change Experiment
11/21/06 05:03:21||Processor: 1 GenuineIntel Intel® Celeron® CPU 1.70GHz
11/21/06 05:03:21||Memory: 767.49 MB physical, 1.54 GB virtual
11/21/06 05:03:21||Disk: 9.76 GB total, 383.00 MB free
11/21/06 05:03:21|BBC Climate Change Experiment|URL: http://bbc.cpdn.org/; Computer ID: 252363; location: ; project prefs: default
11/21/06 05:03:21||General prefs: from BBC Climate Change Experiment (last modified 1970-01-01 02:00:00)
11/21/06 05:03:21||General prefs: using your defaults
11/21/06 05:03:21||Local control only allowed
11/21/06 05:03:21||Listening on port 31416
11/21/06 05:03:21|BBC Climate Change Experiment|Resuming task hadcm3ohb_an3b_00797219_0 using hadcm3 version 515
11/21/06 05:03:22||Suspending network activity - user request
11/21/06 05:03:23||Using earliest-deadline-first scheduling because computer is overcommitted.
11/21/06 09:19:55||Rescheduling CPU: application exited
11/21/06 09:19:55|BBC Climate Change Experiment|Computation for task hadcm3ohb_an3b_00797219_0 finished
11/21/06 09:19:55||Resuming round-robin CPU scheduling.
11/21/06 09:19:55|BBC Climate Change Experiment|Unrecoverable error for result hadcm3ohb_an3b_00797219_0 (<file_xfer_error> <file_name>hadcm3ohb_an3b_00797219_0_1.zip</file_name> <error_code>-161</error_code></file_xfer_error><file_xfer_error> <file_name>hadcm3ohb_an3b_00797219_0_2.zip</file_name> <error_code>-161</error_code></file_xfer_error><file_xfer_error> <file_name>hadcm3ohb_an3b_00797219_0_3.zip</file_name> <error_code>-161</error_code></file_xfer_error><file_xfer_error> <file_name>hadcm3ohb_an3b_00797219_0_4.zip</file_name> <error_code>-161</error_code></file_xfer_error><file_xfer_error> <file_name>hadcm3ohb_an3b_00797219_0_5.zip</file_name> <error_code>-161</error_code></file_xfer_error><file_xfer_error> <file_name>hadcm3ohb_an3b_00797219_0_6.zip</file_name> <error_code>-161</error_code></file_xfer_error><file_xfer_error> <file_name>hadcm3ohb_an3b_00797219_0_7.zip</file_name> <error_code>-161</error_code></file_xfer_error><file_xfer_error> <file_name>hadcm3ohb_an3b_00797219_0_8.zip</file_name> <error


Приходится возвращатся к фаху :\

Автор: YuRi Nov 21 2006, 14:08

(s1nner) *
Разгон был, но минимальный (80 Мгц). Убрал, редактировал настройки клиента у себя в профиле, но ничего не помогает...
По поводу редактирования настроек: меня, если честно, смущает вот это
11/21/06 05:03:21|BBC Climate Change Experiment|URL: http://bbc.cpdn.org/; Computer ID: 252363; location: ; project prefs: default
11/21/06 05:03:21||General prefs: from BBC Climate Change Experiment (last modified 1970-01-01 02:00:00)
Что за глюки с месторасположением и датой модификации профиля?
Дальше вот это
11/21/06 05:03:21||Disk: 9.76 GB total, 383.00 MB free
Что ты поставил в настройках клиента при приостановке работы - оставаться в памяти или выгрузка образа на диск? Если второе, то мне кажется, что 300 МБ это маловато. Хотя по логу не видно, чтобы клиент приостанавливал работу...
Интересно, что в описании твоего компа на сайте проекта скорость загрузки/выгрузки заданий не определена smile.gif
Average upload rate Unknown
Average download rate Unknown
И, наконец, последнее. При отправке результата на сервер, твой клиент выдает ошибку передачи файла с кодом -161. В таблице кодов ошибок BOINC она расшифровывается как "inconsistent client state" - "неустойчивое (несовместимое?) состояние клиента". А в таблице твоих присланных на сервер результатов абсолютно все результаты содержат одну и ту же ошибку:
<core_client_version>5.4.9</core_client_version>
<stderr_txt>
(null): cannot open input file dataout/atmos_restart.day
(null): cannot open input file dataout/ocean_restart.day
Not a JPEG file: starts with 0x01 0xda
Not a JPEG file: starts with 0x01 0xda
Not a JPEG file: starts with 0x01 0xda
Not a JPEG file: starts with 0x01 0xda
Not a JPEG file: starts with 0x01 0xda
Fatal crash! :-(

</stderr_txt>
<message>
<file_xfer_error>
<file_name>hadcm3ohb_bxai_00857094_0_1.zip</file_name>
<error_code>-161</error_code>
И далее как в твоем логе.
Проверь - может у тебя закачались не все файлы проекта? В частности atmos_restart.day и ocean_restart.day (если они явно в проекте присутствуют). Я не считаю BBC CP и не знаю - что это за файлы, но, судя по сообщениям клиента, это должны быть жпеговые картинки, каковыми они не являются. Может, в этом тебе поможет кто-то другой.

Автор: Vlad_k Nov 23 2006, 08:45

Вчера при отправке очередного чекпоинта заметил такую вещь: обычно чекпоинты весят около 100Кб а вчера на 12,5% слив составил больше 5 Мб, был отправлен некий архив с названием проекта (логов к сожалению нет под рукой). слив подобного архива замечаю уже второй раз, но в первый раз не обратил внимание на трафик. Видимо раз в несколько процентов происходит отправка более развернутой информации по обсчитываемому проекту.
считаю дальше biggrin.gif

Invision Power Board
© Invision Power Services