Majestic12.co.uk, альтернатива гуглу Налаштування

[nikelong]

Проект "Majestic-12"

----------------------------------------------------------------------------------------------------------
Официальный сайт

Официальная статистика по команде "Ukraine"
Расширенная статистика по команде Украины
Выбор оптимального DNS сервера

----------------------------------------------------------------------------------------------------------
Дата основания команды - 08.02.2007 Капитан - Tamagoch
----------------------------------------------------------------------------------------------------------
Для присоединения к команде Украины:
1. Убедитесь в том что у Вас безлимитный доступ в интернет
2. Проверьте, установлен ли в Вашей системе NET 2.0 (пуск - панель управления - установка и удаление программ. В открывшимся списке должна присутствовать строчка NET Framework 2.0). Если нету - идем на windows update;
3. Загрузите клиент (1.2 Мб), предпочтение - версии Installer;
4. введите логин/пароль/прочие данные в самом клиенте, и нажмите кнопку регистрации. Если что-то непонятно - читаем на английском более подробное описание. либо спрашиваем тут на форуме и сразу же получаем ответ. Как вариант - обращаемся в командный чат на скайпе (пишите в личку Nikelong )
5. Зайдите на сайт проекта и залогинтесь под собой (введите те логин и пароль шо вводили при регистрации клиента)
6. Зайдите в профиль нашей команды и нажмите ссылку Join this team
7. Если всё сделано верно то в данный момент Вы уже являетесь членом нашей команды. Поздравляем!
----------------------------------------------------------------------------------------------------------
О проекте:
Раздел по Majestic12 у нас на сайте.

http://mj12.sonnigelichtung.de/

Сколько выставлять воркеров и букетов?
http://xplusy.oos.cc/web/Velocity2.pdf

График производительности команды:


Добавить сайты в маджестик12 - аддурилка
Majestic12 Add Url

Зачем мы создаём поисковую систему, когда все могут просто использовать гугл(яху/яндекс и т.д)?

Это сложный вопрос, так как на него нет единственного ответа. Мини-ответы разбиты на социальные и персональные категории для того, чтобы попытаться и начать объяснять хотя бы часть причин работы этого проекта:

Социальные:
1) Вы можете представить себе жизнь без Интернета? А как вам Интернет без поисковых систем? Поисковики являются важной частью жизни, будь то работа или досуг и отсутствие возможности контролировать ИХ в известной степени не очень хорошая вещь.

2) Потому что мы можем -- персональные компьютеры и связи достигли того уровня, когда массовые масштабные проекты делают подобное возможным.
Задумайтесь над этим: один компьютер с инетом в 512к может собрать 500 000 страниц в день, так что имея всего 8000 участников в сети, можно в день проиндексировать столько страниц, сколько нет у Гугла во всей его базе данных! И это всего да один день! Мы раельно можем побить Гугл по крайней мере в части размера и глубины базы даннх.

3) Вы когда-нибудь, вглядываясь в чистое звёздное небо, не хотелы бы узнать, сколько там звёзд? Собственно, мы тут не звёзды считаем, но аналогично этому примеру, никто точно не знает, насколько сейчас велика ''Международная Паутина''. Всё, что мы знаем, дак это то, что она намного больше, чем её проиндексировали крупнейшие поисковые системы. Проект постарается обеспечить ответ на этот сложный вопрос, собирая каждый линк и каждую страницу Интернета.

Персональные:
1) Я, Александр Чудновский, хочу взяться за решение задачи, требующей мировых возможностей и амбиций (в последнем я уверен, а насчёт предпоследнего - время покажет ).

2) Я хочу посмотреть, сможет ли Microsoft's .NET справиться с этим (в особенности её cross-platform angle)

3) Я хочу предоставить людям различие в поиске чего-либо в Интернете. Интернет является большой частью моей жизни и был ей достаточно долгое время, и это правильно, что я использую все свои навыки в попытке сделать лучше другим людям.

Клиент создаёт очень большой траффик, он использует всю ширину Вашего канала. Поэтому его нужно устанавливать только в том случае, если вы имеете безлимитный доступ в интернет.

Це повідомлення відредагував Rilian: Aug 23 2012, 18:02

[Death]

народ, сколько воркеров ставить на 2 мб ого шоб оно не тормозило. в смысле не грузило проц, а грузило канал по полной.

[Rilian]

ставь 50 штук и таймацт на 30 сек

[Death]

стало перезапускаться каждые 10 минут.
вернул 20 кравлеров - то же самое.

мля......

[Rilian]

Перезапускается мадж или инет?

если инет, то возможен перегрев модема (особенно если модем dlink)

[Death]

сам мадж рестартится.
какое-то окно вылазит очень быстро.

галку на рестарте убрал.
модем длинк, но это не он гадит. торренты льются нормуль.

[Rilian]

проверь лог файл

мадж рестартится если кол-во ошибок превышает норму

[Death]

вроде заработало. не пашет когда 100% канала отдаёшь. 90% - чешет 250 кб\сек.

[Death]

убрал галку щитать скорость аплоада в общую скорость. вроде пошло живенько.

передвинул ползунок даунлоада с 80 на 90% - опять все втікает.

[Death]

23.12.2008 22:02:19] MJ12node v1.6.7 (.NET 2.0) starting up
[23.12.2008 22:02:20] Loading webserver config from: C:\Program Files\Majestic-12\MJ12node\webserver.xml
[23.12.2008 22:02:23] Node will use built-in .NET HTTP library for crawling
[23.12.2008 22:02:30] Mozilla/5.0 (compatible; MJ12bot/v1.2.3; http://www.majestic12.co.uk/bot.php?+) started with 25 worker(s)
[23.12.2008 22:03:54] 23.12.2008 22:03:54 Crawler appears to be hanging, current worker: 2 with status: WaitingForResponse, URL: http://that-camping.com/camping/es/general...r-press-release. TimeOutAbortMark: False FlushMark: False Will attempt to abort that worker.
[23.12.2008 22:04:57] 23.12.2008 22:04:57 Crawler appears to be hanging, current worker: 10 with status: WaitingForResponse, URL: http://www.quia.com/jg/722910.html. TimeOutAbortMark: False FlushMark: False Will attempt to abort that worker.

[KING100N]

Решил присоединиться. В двух словах, если можно, что делает клиент (как работает)

[Algon]

KING100N
Да все предельно просто: кушает столько интернета, сколько разрешиш. Занимается сканированием сайтов, список которых получает с сервера. Результаты (только текст) сжимает и отправляет на сервер. В общем обычный бот поисковика, только вариант для РВ.

[KING100N]

Текст сайта сжимает?? Это все хранится у них на серваке? Неплохое же у них дисковое пространство

[Rilian]

Хранится только ТЕКСТ страниц, без тегов оформления (ссылки хранятся тоже)

20 терабайт (где-то писали)

[Algon]

KING100N
2x quad Xeons 2.5 Ghz, 32 GB RAM, 24 TB disks

[Rilian]

KING100N
2x quad Xeons 2.5 Ghz, 32 GB RAM, 24 TB disks

на самом деле там 150 машин (как пишет Алекс в интервью (в очереди на переводъ))