Блог о технологиях, технократии и методиках борьбы с граблями
Оказывается админы хостингов тоже грустят и им необходимо живое общение, без которого они киснут. Среди используемых хостингов у меня есть несколько VPS на Burst.Net, где я размещаю несколько десятков своих проектов и клиентские сайты, и как уже обсуждалось у меня на блоге- поддержка суппорта и работоспособность хостинга оставляет желать лучшего, ибо оверлодят, оверселят и игнорят гады.
На самом деле, что из себя представляет хостинг, начинаешь понимать только когда случается какой то ахтунг, и ты видишь как с ним люди разбираются. До этого момента все кажется нежно розовым и пушистым. Вот точно также я полагал на счет крупного немецкого хостинга Hetzner Online AG, владеющего своим ДЦ, и у которых мы арендуем несколько выделенных серверов. Надо отметить, что дедики у них действительно наиболее дешевые по рынку, но расплачиваешься за это тем что на серваках стоит десктопное железо, и что самое главное не самые надежные винты, которые к тому же, по некоторым данным, после выхода из строя ремонтируются и снова ставятся на машины. Но учитывая, что сервак с 24Гб оперативы и 4х ядерным i7 стоит 60 евро, приходится идти на это.
Вся ферма прекрасно работала около 10 месяцев, пока в воскресенье вечером, накануне начала торговой недели, трейдер не решил перегрузить сервера, после чего один не поднялся. Было не известно что конкретно с ним, но он не был доступен ни по RDP, ни пингом. Дело было часов в 11 вечера, так что я открыл тикет о том, что не могу подключиться к серверу. Около часа ночи я понял, что мне никто не ответит, и поэтому открыл второй тикет.
Попросили меня тут подсобить в выборе хостинга для нагруженного проекта. Не ахтунг конечно, но порядка 60-70к уников и под лям просмотров в сутки набегает, но главное что на пике выходит около 600 запросов в секунду. Но поскольку планировали заполнять видео и к тому же начинать продвигать сайт по нишевым тематикам, то планировалось что траф увеличится по крайней мере в полтора раза.
Поскольку инженер по высоконагруженным системам из меня аховый, то я решил на голубом глазу, что теоретически должно хватать одного хорошего сервака типо Xeon 2xE5620, RAM 32 GB ECC с Nginx и Apache в связке, ну или еще лучше облачного аналога. Но почитав интернеты, да пообщавшись с народом на мастере-х (ибо где еще могут быть лучшие спецы по высоконагруженным видео-системам, как не на адалтовом форуме) понял что лучше разносить все это барахло, так что получилось по итогам 2 фронтэнда с Nginx которые гоняют пакеты по раунд робину, 2-3 сервака с апачем, 2 сервака с мускулем и один файловый под видео и всякие картинки.
Поставил мне тут клиент задачу- вынести торговые терминалы Форекс, в связи с тем что они расширяли парк и увеличивали количество площадок, в свободный интернет, так как офисный канал не держал то количество терминалов, что у них было, не говоря уже про добавление новых, так как время срабатывания брокера стало достигать 4-5 секунд, что в ситуации вечно скачущего тренда было не очень здорово, так как часть операций уходила в воздух.
В этой связи решил подыскать им выделенный сервер, для того чтобы иметь возможность поселить на нем ферму виртуальных машин, которые бы держали несколько терминалов. Так что стал искать сервер исходя из стоимости и мощностей не менее 12Gb оперативки.
Вообщем пересказывать что и где я смотрел, думаю не стоит, ибо ценники всюду на подобную конфигурацию высокие. Пока случайно, не вспомнил о некоем немецком хостинге Hetzner Online, на который вышел через приятеля в середине прошлого года, когда искал VPS. Вышли благодаря тому, что их реселлило несколько контор, по весьма высоким тарифам.
Так что я был уверен что и у них выделенные сервера стоят не малых денег, так что зайдя на сайт, я с удивлением обнаружил, что хостинг, то что называется, работает за еду, так как не управляемые, выделенные серверы в следующей конфигурации Intel® Core™ i7-920 Quadcore, RAM 24 GB DDR3, HDD 2 x 750 GB SATA II (RAID1), 100 MBit стоил всего 59 евро!!!! Правда за подключение предлагалось заплатить 149 евро, включая 19% VAT, но раскидав эту сумму на год- мы пришли выводу что 12.5 евро сверху, не критично для подобного решения.
Как то я тут распинался на тему защиты собственного хостинга под Cpanel WHM от брутфорса в том числе, через утилиту админки cPHulk Brute Force Protection, которая банит IP адреса, в случае произвести с них атаку брута. Но оказалось, что у этой защиты есть очень не приятный момент, благодаря которому хостинг в один прекрасный момент может, подобно Юлию Цезарю, сказать тебе: Et tu quoque, Brute!© и отрубить доступ к аккаунту вообще для всех, кроме адресов внесенных в белый список. Результатом чего станет отсутствие возможности залогиниться в админку и на сервак, через любой из протоколов: http, ssh, ftp и даже почтовую программу.
И именно поэтому необходимо дать доступ нескольким доверенным IP адресам, занеся их в белый список доверенных IP. В моем случае я дал доступ паре терминальных серверов, к которым имею доступ, двум купленным прокси серверам, а также к консоли еще пары серваков, которые удаленно администрирую по ssh. Ибо если у вас нет доступного терминального сервера, или же вы не можете использовать доверенный прокси сервер, то можно дать доступ хотя бы на какой нибудь собственный VPS с которого и можно разблокировать доступ к Cpanel WHM используя командную строку, путем обнуления базы брута.
Делается это следующим образом. Заходим в консоль, а дальше залезаем в командную строку мускуля:
# mysql
mysql> use cphulkd;
mysql>BACKUP TABLE `brutes` TO ‘/path/to/backup_file’;
Смотрим что вообще у нас есть в базе бана брута
mysql> SELECT * FROM `brutes`;
После этого, если список большой, то выбираем из базы свой IP и удаляем его
mysql> SELECT * FROM `brutes` WHERE `IP`=’X.X.X.X’;
mysql> DELETE FROM `brutes` WHERE `IP`=’X.X.X.X’;
mysql>\q
Узнать свой IP можно либо трейсом, либо зайдя на рутер либо воспользовавшись любым из многочисленных сервисов, определяющих IP адрес- ну хотя бы этот: WhatIsMyIP
Прикупил я тут клиенту хостинг под его новый сайт. Поскольку была необходимость в прикручивании библиотеки ffmpeg на сайт под Drupal, для того чтобы видюшки конвертились сами во флешки при добавлении, хотя для меня это не убедительно, так как на локальном компе можно нормально законвертить ручками. Ну вообщем по причине наличия ffmpeg решил взять самый дешевый VPS за 5,95$ у Burst.NET с 512 оперативы, 1MHz, 20Gb HDD, 10Tb трафа и 2IP + Direct Admin за 7$, так как настраивать руками меня ломало.
Взять то я его взял, но вебмастера не могли ничего делать, так как на любую операцию система ругалась:
ERROR 1135 (HY000): Can’t create a new thread (errno 11); if you are not out of available memory
gzip: error while loading shared libraries: cannot create cache for search path: Cannot allocate memory
подключившись, я обнаружил что при попытке логина по ssh вылетала ошибка:
bash: fork: Cannot allocate memory
В процессе рысканья по инету, обнаружил еще одного интересного хостера, который в том числе реселлит дедики от Burst.NET. Хостинг именуется Inferno Solutions и помимо русской поддержки имеет неоспоримое преимущество среди многих русскоязычных хостингов- это реселлер зарубежных площадок, то есть они берут в аренду гарантированно рабочее оборудование, накидывают небольшую маржу и толкают их со своей поддержкой, которая является так называемым тир1 суппортом. То есть все что могут делают сами, если сталкиваются с какими то проблемами, то эскалируют уже хостеру. И судя по отличным отзывам в рунете, справляются со своими обязанностями на твердую пятерку. И на этом можно было бы закончить это пост, снабдив его ссылкой перехода на хостинг VPS и выделенных серверов (которые у них, кстати, предлагаются по очень и очень приемлемым ценам); если бы не одно но.
В своей рекламе, хостинг Inferno Solutions пользует старинную формулу “це не бага, це фича”, порождающую нормальную холивару, которую я и хочу разобрать в том посте.
В своих рекламных слоганах, хостинг упирается в то, что их клиенты защищены от так называемого оверселлинга (overselling), или избыточного использования мощности VPS сервера, когда администратор сервера закладывает в совокупную мощность виртуальных серверов хоста, больше чем имеется ресурсов в системе, то есть при 4 GB оперативы (оверселить можно также и полосу пропускания канала, дисковое пространство), она распределяется по 512Mb не между 6 машинами, по 512Gb на гестов и 1Gb на хостовую часть, а между 20 машинами, которые дергают мощности друг у друга. На этом собственно и базируется технология Burst RAM, когда у VPS сервера имеется гарантированная память и burst, которая может кратковременно увеличиваться раза в полтора, при кратковременных нагрузках. Собственно гарантией того, что Inferno Solutions не использует в своих VSP серверах функционал overselling, является использование продукта вируализации Xen, который по заверению хостера невозможно настроить на оверселлинг, как например конкурентный продукт OpenVZ.
По большому счету соперничество OpenVZ и Xen собственно и порождает всю холивару, поскольку и у той и у другой системы имеются сторонники и противники, утверждающие что OpenVZ более изолирована, более безопасна, в то время как Xen быстрее и надежнее, имеет возможность использования swap раздела, ну и всякое и прочее. Помимо этого обе системы, наравне в платным аналогом от VMware (также имеются бесплатные версии с урезанным функционалом), представляют собой разные технологии виртуализации: OpenVZ это модифицированное ядро Linux системы, позволяющее запускать виртуальные среды (то есть ничего кроме линуха); тогда как Xen базируется на перестройке ядра системы, для адаптации работы системы (запускаем что угодно). Скажу откровенно- Xen меня не возбудил, ибо я его ставил пару раз, но мне более импонирует VMware, как в плане настройки, так и в плане идеологии. Кстати, со слов “рекламного слогана”, многие хостеры как раз и выбирают OpenVZ в связи с простотой настройки системы.
Но основным камнем преткновения всегда оставался функционал overselling или burst ram, который отсутствовал в Xen и присутствовал в OpenVZ, и который считался, многими сторонниками Xen, как недостаток продукта OpenVZ. Но видимо команда Xen, ко многим не относится, так как они полагая от обратного, начиная с версии Xen 3.3 внедрили функционал, позволяющий забирать оперативную память гестами и хостовой станции. Называется этот функционал Memory Overcommit, и именно он позволяет забирать память у работающих гестов (или доменов пользуясь терминологией Xen), в случае если эта память ими в данный момент не используется. Механизм использующийся при этом, зовется ballooning, который представляет собой специфический драйвер инсталяющийся в систему и предоставляющий доступную память домена, при запросе от гипервизора Xen.
При этом память, выделенная другому домену, будет числиться в системе, но в виде занятой, что можно проверить соответствием команд # free # ps aux и # top.
Ну и само наличие механизма ballooning в системе, можно увидеть по листингу следующей команды:
# cat /proc/xen/balloon
При этом также имеется дополнительный демон xenballoond, написанный на баше, который поддерживается два механизма: selfballooning и direct ballooning, в которых назначение доступной памяти осуществляется из самого домена (но полагаю, что хостеры данные механизм навряд ли буду использовать).
Так что использование или не использование overselling в случае использования любой среды виртуализации, остается на совести хостера, и этот момент желательно выяснять еще на уровне приобретения того или иного тарифного плана. Надо полагать, что Inferno Solutions следуют своей рекламе и не занимаются накруткой статсов VPS серверов, тогда как хостер и регистратор GoDaddy особенно даже и не скрывает данного функционала.
Напоследок надо отметить, что overselling у нормального хостера должен отражаться на цене, в сторону её уменьшения.
