Допомога - Пошук - Користувачі - Календар
Создаем рендеринг-ферму
Розподілені обчислення в Україні > Українські проекти розподілених обчислень > Інші українські проекти > Створення свого проекта РО
Ламер
zzzzzzzz zzzzzzzzzzzzzzz zzzzzzzzzzzzzzz
Rilian
Ламер, 1) для каких целей 2) где брать задания ? Лучше уж помочь мощностями уже созданному проекту
Rilian
Ламер, ок, еслі ти будешь адмініть проект , мы подключимся smile.gif
Rilian
Ламер, есть маленькая пролема помимо администрирования. развернуть инфраструктуру рендеринга smile.gif если ты думаешь что это так легко, посмотри кол-во проблем описаных на официальном форуме smile.gif
smilesvua
На начальном этапе могу помочь и серверной стороной и с мощностями в проекте. Сходу это 4 квад и боле кора с 16+ гб памяти. Если тема интересна еще кому-то думаю есть смысл сделать отдельный топик.
smilesvua
Может перенесем в отдельный топик?
Sergyg
это очень сложная задача.

Уже не помню всех подробностей...
Вроде, основная проблема - нужно быть неслабым программистом, чтобы настроить интерфейс всего этого дела. Т.е. удобство и функционал клиентской части, безопасность и конфиденциальность данных пользователя.

(думается, в коммерческой РФ почти_круглосуточно админит жива людина, именно попытки максимально автоматизировать весь процесс требуют серьёзной программерской базы)

Далее - вопрос стабильности серверов. Когда отваливается рендер-нода, задание автоматически переносится на запасную (до того простаивающую) ноду.

И пункт по железной мощи - надо иметь много ОЗУ. Да, она сейчас так дешева, что вон вендоры банкротятся. И всё равно - надо от 2, (а то и 3) Гб на 1 ядро. И абсолютный минимум - порядка 12-16 Гб на 1 ноду. Иногда много больше - >20гб.

И да, надо иметь МНОГО cpu ))

В рунете есть немало тем, где небольшими силами пытались соорудить рендер-ферму. (вообще, имхо, сегодня это сомнительный (в плане прибыльности) бизнес). Ясно дело: стоимость железа + стоимость киловатта.

Вот свеженькое обсуждение (особенно, последние посты): http://3dcenter.ru/forum/index.php?showtopic=113522

GPU-фермы до сих пор в стадии зародыша. Нет софта. И как бы, аппаратная часть + ширина шины GDDR5 пока очень малы. Всё же интересно, что ж там интеловские XeonPhi (Larrabi) СЕЙЧАС обсчитывают. До сих пор не обнародовано.

и это,
распределить по команде достаточно коммерческий рендеринг - не получится.
*) разнородные процы (и в общем-то, слабоватые)
*) мало ОЗУ на системник
*) медленный интернет
*) невозможность перекинуть задание на запасную ноду в случае зависания первой: всё задание (сцена + много текстур, может весить 0,1-1,0Гб - должно перезалиться на другой комп), кроме того, нельзя прогнозировать время выполнения задания при разношерстных ЦП.
Наверное, последняя *) - самая важная в моём пессимистичном посте.

---------------------
Чтоб оценить мощность доступных компов, можно поучаствовать в НЕ_синтетическом тестировании (но надо установить гигабайт софта {2 шт. софтины}) - пара последних страниц (зелёная сцена): http://3dcenter.ru/forum/index.php?showtop...t=495&start=495

и ещё, самая малость wink.gif : для коммерческой РФ надо использовать лиценziонный софт.

В Boinc такое впихнуть - ну нереально. Расчетный модуль (собственно код рендерера) - совсем не open-source. Т.е. тут надо на каждый комп - клиентскую версию рендерера (если он stand-alone) + клиентская часть render manager'а
smilesvua
Сделать в формате BOINC будет тяжело ,если мы говорим о массово используемой ферме. В блендере и подобных работает немного народу, по крайней из тез кого я знаю. Основная масса 3дшников у нас в стране это 3ds MAX и Maya. С технической стороны это Backburner + VPN. Нода с установленным софтом цепляется, по внутренней сети получает нужные файлы и работает с ними из кеша. Разнородность процов не проблема, разве что будет ждать самое старое ядро. Много ОЗУ нужно только для обсчета карты освещения, потому что кадры могут считаться частями.
Sergyg
много ОЗУ нужно для:

-экстерьеров с миллионами листьев (геометрия, да и сложный материал (транслюция, ССС) на этих листьях),
-интер- и экстерьеров с большим кол-вом текстур (и вообще при увеличении разрешения текстур),
-волосатые ковры на полу, волосы персонажей,
-при симуляциях, когда большое кол-во частиц

если ферма не для приятеля, а коммерческая - то: клиент переборчив, клиент всегда прав.

Клиенты должны получать уведомления об успешно посчитанных заданиях. И вообще наблюдать в реальном времени за прогрессом просчета.
Rilian
QUOTE(Ламер @ Dec 24 2012, 00:44) *

QUOTE(smilesvua @ Dec 23 2012, 23:46) *

Сделать в формате BOINC будет тяжело ,если мы говорим о массово используемой ферме.

У мене тоді виникають запитання стосовно результатів проекту "Burp". Так і не вдалося там нічого відрендерити через BOINK?


с чего ты это взял ? есть куча результатов

http://burp.renderfarming.net/sessions.php
smilesvua
Имелось в виду что тяжело/невозможно запихнуть в BOINC рендер-модули от 3ds MAX и Ко. Много ОЗУ - это сколько? К примеру VRay при рендеринге не пытается рендериь все сразу, можно раскидать по нодам сам рендер и ноде нужно память достаточно ровно для рендера своего кусочка, он может быть очень не большой. Но В этом же рендере для обсчета карты освещения нужно все засунуть в память, причем этот процесс плохо паралелится. Вот здесь нужен будет монстр с 64=< ГБ памяти т.д.... Но такая нода нужна одна, и этот процесс сам по себе занимает не много времени относительно всего рендеринга. А вообще нужно проводить исследования на тему требований к железу различных движков рендеринга. Если будут желающие можно будет что-то собрать Just for fun.
Sergyg
требований к узлу распределенной рендер-системы не так и велики:

- ЦП - чем больше суммарная производительность ядер, тем лучше. По факту - от 4-ядер и выше - есть смысл включать в ферму

- ОЗУ - не 4 и не 8гб (как бы и 8 может хватать, только как-то нужно распределять задачи - у кого 8Гб, у кого 16, и т.д. Пока не знаю, как автоматизировать.)

- быстрый интернет, у многих и 100 и 50мбит/с. Наверное, пойдёт и 10, опять же, один проект весит 50мб, другой - 1000.
------------------------

одно дело РФ для @друзей@. Тут воообще всё просто. Люди стыкуются в чате, сообщают ip, и коннектятся или удалённая нода скачивает с сервера своё задание (в ручном режиме). Результаты отсылаются на сервер.

Но если говорить о коммерческой ферме. То актуализируются те требования, что я писал в начале (наверное, + ещё чего-то).

Т.е. чтобы _сервис_ работал, не подводил людей, (платят деньги - получают услугу, причем нестыковка в сроках выполнения здесь выливается в большую запару по срокам сдачи работы исполнителем заказчику) - то тут нужно приложить немало усилий.
Насколько известно, имеющиеся фермы территориально находятся поблизости, связаны гигабитной сетью, и имеют весьма солидное число нод уровня 2-процессорного Xeon'a итого 8 + 8 вирт.ядер (или >).
smilesvua
Ничего не мешает сделать для друзей, а когда это допилится до стабильного состояния уже выкатывать на коммерческие рельсы. В любом случае у всех участников есть профит.
Sergyg
Alien,
а ты не интересовался - можно ли как-то заграбить (хоть какое-то) движение молекулы (белка) или какого дугого вещества симуляцию, так, чтобы эту динамику можно было перенести в какой-то 3Д-пакет_CGрендеринга ?
Да и вообще, какой есть хороший конвертер молекул. Предпочтительно для 3dsmax.

Я немного поковырялся (точно помню, что в ~2005 мне попался такой конвертер и оно работало, хоть до достойного применения у меня не дошло).

Просто, если бы ещё с чем-то похожим на симуляцию можно было внедрять - было бы зашибись. /ибо мысли посетили ))
Sonechko
(Ламер @ Dec 28 2012, 12:03) *

(Sergyg @ Dec 24 2012, 13:27) *

оммерческой ферме. То актуализируются те требования, что я писал в начале (наверное, + ещё чего-то).
Насколько известно, имеющиеся фермы территориально находятся поблизости, связаны гигабитной сетью, и имеют весьма солидное число нод уровня 2-процессорного Xeon'a итого 8 + 8 вирт.ядер (или >).

Планую після Нового Року розоритися на Інтел і7 3770К з 4-ма ядрами (8 віртуальних) та відюху 7970 на материнку типу ASUS P8Z77-V Pro. Потягне на "командну роботу"? prapor.gif


Не раджу тільки для цього розорятись, можна бажанням і виділенням часу більше зробити користі ніж вкладаючи такі гроші. Сила в кількості а не в одиничних потужних компёютерах. Але якщо комп необхідно купувати то конфіг шикарний!)

Також раджу приглянутись разом або окремо до процесора AMD 8320 (4 блоки по 2 ядра, разом теж 8 потоків) - він на рівні даного і7 але гарячіший (вдвічі дешевший та за пару років при економії на світлі може окупитись, а може і ні) і відеокарту 7950 - різниця в потужності невелика з 7970 а по ціні більша - можна взяти з кращою ОС і трошки розігнати і в сумі буде краще ніж дешева 7970.

А загалом коли надумаєш можна створити окрему тему, чи десь була пошукати з вибором конфігу під певні задачі.
Rilian
Ламер, под рендеринг не знаю, а вот проект HCC был бы очень рад smile.gif https://distributed.org.ua/forum/index.php?showtopic=1214
Sergyg
в целом - задания на РВ проекты создаются так, чтобы можно было заюзать как 2-ядерник, так и мнОГОядерник,
нередко на более мощный конфиг загружаются более тяжёлые задания.

И главное отличие - только графические задачи пожирают МНОГО ОЗУ (рендеринг), т.к. там перемножаются всякие матрицы на основе текстур, в основном - многослойных, большой численности и не_низкого_разрешения. В графике также есть процедурные (не текстурные) карты/шейдеры, они требуют меньше ОЗУ, но больше ЦПУ (обойтись совсем без текстурных - нельзя).

Наверняка расчет большой молекулы белка также требует весьма много ОЗУ. Но одинокий десктоп (в отличие от ноды кластера, коротающей дни в окружении аравы сородичей-помощников) будет считать задачу месяц. Потому таких монструозных задач юзверям на PC не высылают wink.gif

олсо: ответьте-таки, человеки, нельзя ли законнектить (например 2) компа через Fiber Channel (FC) соединение (2; 4; 8Гбит/с) как-то напрямую (ну, типа, малой кровью - поставил по адаптеру на системник, соединил парой оптоволокна). Ну или возможен какой бюджетный посредник?
Англ гугл никак не вразумит меня по данному вопросу...
Sergyg
Идеи по созданию роликов (демо, интро, шоурилы тощо) по популяризации РВ - кое-какие у меня появились. Надеюсь, в обозримом будущем выродим, а команда поможет с рендерингом. {По инициативе тов. Ламера}

Мне б второй комп запустить. Затык с БП, жду транзисторы с Гонконга (пипец, предыдущая посылка оттуда шла рекордные 61 день, данная, видимо, повторит её судьбу, т.к. уже в пути около 45сут)

Сейчас тестирую черновики ролика по химии/белкам (фолдинг, поиск молекул белков и конформаций их третичной структуры).
Тут важен баланс между разумным временем исполнения, научной правдоподобностью и wow-эффектом


Ламер, spec for U:
https://distributed.org.ua/forum/index.php?showtopic=4282
https://distributed.org.ua/forum/index.php?showtopic=4250
smilesvua
QUOTE(Sergyg @ Dec 29 2012, 18:02) *

олсо: ответьте-таки, человеки, нельзя ли законнектить (например 2) компа через Fiber Channel (FC) соединение (2; 4; 8Гбит/с) как-то напрямую (ну, типа, малой кровью - поставил по адаптеру на системник, соединил парой оптоволокна). Ну или возможен какой бюджетный посредник?
Англ гугл никак не вразумит меня по данному вопросу...

Законнектить можно, с какой целью?
Sergyg
QUOTE(smilesvua @ Dec 30 2012, 01:46) *

Законнектить можно, с какой целью?

Хороший вопрос ))
Вообще-то для обмена данными)
Да, я понятия не имею, какая возможна альтернатива классической гигабитной сети, TCP/IP, как указать ОС, программам, чтобы в неё влазить

Т.е. классическое: считываем с HDD -> загружаем в RAM компа №1 -> загружаем в CPU №1 и параллельно передаем по сети -> на HDD №2 (или сразу в RAM №2), и далее -> RAM №2 -> CPU №2

промежуточный итог: ведут расчеты CPU №1 + CPU №2

окончательный итог: в обратном порядке результаты вычислений из копмьютера №2 добавляются к результатам №1 и записываются на HDD №1 (головной компьютер, "сервер")

сеть более 1Гбит/с (125мб/с) была бы предпочтительна при пользовании быстрых винчестеров (в т.ч. в рейд0), т.к. при последовательном обращении большими блоками, ~120мб/с может становиться узким местом. Так, можно даже сорсы видео держать на удаленном рейде при монтаже. А если это 2 независимых рейд0, то по-идее возможно считывание например 150+150МБ/с, т.е. нужен канал до 300МБ/с или 2,5Гбит/с


Но, конечно, куда более заманчива перспектива объединения хотя бы 2 нод в кластер. (никогда этим не занимался) Вроде бы, тут самое оно - это 8Гбит/с, но и 4Гбит/с - наверное, жить можно...

Слышал, что до сих пор кластер - это непростое дело. Конкретно - не всякий софт сможет адекватно развернуться в такой среде. Это главный нюанс smile.gif , т.к. неясно - стоит или не стоит заморачиваться (даже при готовности моральной и материальной).
А моральной - насколько я понял, без мануалов (и я - не сисадмин и не программист) не обойтись.
Олсо, 2 разнородных машины, наверное, плохо будут уживаться друг с др в паре.

Чисто теоретически, если представить, что, например, 8 ядер_16Гб + 16 ядер_32Гб будет ===== 24 ядра 48Гб - вот это более чем прельстило бы.
smilesvua
Если для универсального использования, а не только для чтения с винтов то только Ethernet. Кластеризация с целью имитации одного ПК из нескольких для повышения производительности под windows мне не известна(буду рад если расскажут), да и надо ли? для каких реальных задач 120мб/с мало? с учетом сборки на коленке. Если для общего хранилища, тогда есть FC, SAS и ко. Но наверное лучше будет на сегодня 10Г ethernet, если действительно нужна высокая скорость.
Sergyg
QUOTE
для каких реальных задач 120мб/с мало?


монтаж видео

люди делали для этих целей бюджетный NAS - не хватает скорости ) /хуже рейда0_sata 5-летней давности/

в остальном - спасибо smilesvua за разъяснения drinks2.gif
smilesvua
Странный NAS поулчился. У меня нормально разгоняет 120, но только линейной, на случайном доступе упираемся в винты.
Sergyg
пристрелка (фактически пока тут нечего оценивать, только и того, что 2 разных рендер-пакета отрендерили, в среднем на равной скорости рендеринга, 3-4мин/кадр на 8120@4.3; 200кадров анимации)
http://narod.ru/disk/64994484001.ecdd8ad88...01_2_2.f4v.html
Sergyg
потихоньку тестю,

http://narod.ru/disk/65313245001.82018a663...raft00.avi.html

вот предполагаемое (черновое) движение камеры. (Анимации фокуса камеры пока нет вообще. С радостью узнал, что FryRender нормально кушает обычную стандартную камеру. Её параметры намного легче настраивать, т.к. весь фраевский интерфейс - "очень деревянный". Кроме результата wink.gif )
Пока не нравится ))
Но вообще-то будет и музыка и композитинг (не меньше половины всех манипуляций делается при пост-продакшене, в композитинге). Прежде, чем формировать задания громаді, все буде сумлінно виважено...
наверное, неоднократно пре-рендерено. Ибо хочется замутить интересно.

сейчас тут ~960 кадров, при 1,5 ч на кадр это будет 60 сут. процессорного времени уровня 4core@3.2GHz, такой вырисовывается бюджет времени (грубая прикидка)

Ламер, каминг сун, как говорится rolleyes.gif
Lorexin
Цікава тема. з приводу 3D рендеру. Натрапив в інтернеті на Рендер-Менеджери.
От їх є перелік
http://cgru.sourceforge.net/doc/rus_doklad...gers_table.html

Одна толкова з них має бути навіть ОперСорсна....
http://www.cinesoft.ru/ru/products/duma/

Може переглянете як і що тут...
Хотілось би ще й трохи досвіду аби вибудувати між інтернет-нодами якусь ферму аби рахувала , ясне що інет швидкий би мав бути....
.
Invision Power Board © 2001-2024 Invision Power Services, Inc.