История
Что такое ServerNet
За счет чего достигается высокая пропускная способность
Возможности новой технологии
Резюме

Рисунок 1. Пример прохождения нескольких потоков

через маршрутизатор.

Летом этого года фирма Tandem Computer, специализирующаяся на производстве серверов для критичных приложений, объявила о своей новой разработке - технологии ServerNet, предназначенной для перспективных серий отказоустойчивых компьютеров фирмы. Сообщения об этой новой технологии уже появлялись в российской прессе, однако они имели скорее информационный характер и не содержали конкретных деталей. На наш взгляд ServerNet отражает определенные тенденции в развитии архитектур современных мощных вычислительных систем, а тот факт, что технология предназначена для использования в высоконадежных серверах, усиливает интерес к ней как со стороны специалистов, так и со стороны конечных пользователей.

История

Технология ServerNet предназначена прежде всего для увеличения пропускной способности каналов обмена данными между процессорами, памятью и периферией (под которой понимаются диски, другие устройства хранения информации, внешние каналы ввода-вывода и пр.). Компания затратила на ее разработку 250 миллионов долларов - но так ли это было нужно? Действительно ли проблема повышения производительности шин стоит настолько остро?

Понятно, что чем выше пропускная способность - тем лучше. Но это - всего лишь эмоциональная оценка, не подкрепленная никакими доводами и цифрами. Попробуем ее обосновать.

В последние годы наметилось явное отставание в темпах роста пропускной способности системных шин от производительности процессоров и внешних каналов ввода-вывода. Так, например, за 5 лет (с начала 90-х годов) тактовая частота и соответственно, производительность микропроцессоров, возросла примерно на порядок (с 20-30 до 200-300 МГц), сетевых каналов - почти на два порядка (с 10 Мбит/с для стандартного Ethernet до 622 Мбит/с для АТМ), а пропускная способность стандартных шин (системных магистралей) практически не изменилась (с 20-30 Мбайт/с у VME до 40-60 Мбайт/с у VME 64, PCI, Futurebus+). В дальнейшем этот разрыв будет только увеличиваться. Уже сейчас многие производители мощных вычислительных систем для удовлетворения собственных потребностей используют системные и локальные шины собственной разработки, оставляя стандартным шинам, таким как VME, Multibus, Futurebus+, функции канала ввода-вывода. То есть магистрали, которые разрабатывались как системные, используются в качестве вспомогательных. Наиболее ярким примером этого является принятый всего пару лет назад стандарт Futurebus+, который сейчас не имеет широкого распространения. Похоже, что для критичных приложений, где требуется высокая пропускная способность, выгоднее разработать собственную магистраль, которая будет хорошо согласовываться с архитектурой всей системы, чем использовать стандартную шину, то есть осуществлять обратную задачу - приспосабливать архитектуру к шине.

Возникновение новых технологий последовательной передачи данных (например, в сетях) создает предпосылки для разработки на их основе системных магистралей. При этом достигаются сразу две цели: во-первых, резко повышается пропускная способность каналов и, во-вторых, ликвидируется уже упоминавшееся выше отставание в темпах роста данной характеристики в ближайшем будущем.

Пока что использование высокоскоростных последовательных каналов для организации обмена данными в пределах вычислительной системы носило ограниченный характер и не имело широкого распространения. К наиболее известным примерам можно отнести дополнение VME-систем последовательным каналом Autobahn с максимальной пропускной способностью порядка 200 Мбайт/с, а также разработку высокоскоростного интерфейса SCI - Scalable Coherent Interface (стандарт IEEE P1596), имеющего кольцевую топологию. К этим примерам магистральных стандартов следует добавить опыт реализации каналов обмена данными между различными вычислительными системами, базирующихся на таких технологиях, как HIPPI, HotLink и TAXI.

ServerNet в отличие от всех перечисленных примеров предлагает законченное решение, включающее в себя собственно высокоскоростной канал, протокол его работы и технологию использования.

При этом в качестве отличительной особенности следует отметить, что ServerNet предоставляет возможность инициировать не только передачу пакетов данных, но и их прием, что делает механизм его работы более близким к механизму стандартных параллельных шин и упрощает переход от шинных архитектур к сетевым.

Что такое ServerNet

ServerNet - это технология создания высокопроизводительной надежной масштабируемой коммуникационной сети типа "точка-точка", связывающей различные функциональные узлы (процессоры, память, периферию) одного или нескольких близко расположенных (не далее 30 метров) компьютеров.

Благодаря своей архитектуре, эта технология позволяет преодолеть типичное для систем с общей шиной ограничение на пропускную способность и, тем самым, обеспечить линейный рост производительности системы с ростом числа процессоров.

Server Net состоит из устройств трех типов, из которых, как из кубиков, строится система с нужной топологией и параметрами. К ним относятся шестипортовый маршрутизатор каналов, универсальный процессорный интерфейса и универсальный интерфейс периферийных устройств. Рассмотрим эти устройства подробнее.

Маршрутизатор является основным элементом данной технологии, так как именно он определяет ее эксплуатационные характеристики и обеспечивает гибкость конфигурации.

Данное устройство имеет шесть полностью дуплексных, т.е. допускающих одновременный прием и передачу данных, портов, которые позволяют маршрутизатору обеспечить максимальную пропускную способность 300 Мбайт/с или 50 Мбайт/с на каждый порт. Порт включает в себя передающую и принимающую части, каждая из которых представляет собой 9-разрядный канал с соответствующим тактовым сигналом. Приводимые в различных статьях значения пропускной способности в сотни терабайт в секунду получаются путем суммирования данных значений для всех маршрутизаторов, задействованных в системе, и зависят от размеров этой системы. Что касается числа портов маршрутизатора (шесть), то это уже некоторая константа для систем, рассчитанных на построение сложных топологических структур.

Универсальный процессорный интерфейс обеспечивает связь процессорного модуля с маршрутизаторами ServerNet. Он снабжен двумя линками для организации дублирования каналов при использовании в системах с высокой степенью надежности. Универсальность устройства заключается в том, что помимо микропроцессоров фирмы MIPS, традиционного партнера Tandem Computer, оно также поддерживает интерфейс микропроцессоров и других фирм, например, Sun Microsystems, Intel и IBM/Motorola.

Универсальный интерфейс периферийных устройств аналогичен процессорному с той лишь разницей, что он ориентирован на поддержку основных стандартов шин ввода-вывода: VME, PCI и SCSI.

За счет чего достигается высокая пропускная способность

Рисунок 2.А. Использование

ServerNet: SMP-система

Маршрутизатор имеет шесть полностью дуплексных портов, каждый из которых обеспечивает как прием, так и передачу данных в обоих направлениях. Таким образом, через устройство можно пропустить максимум 6 потоков данных по 50 Мбайт/с каждый. Итого - 300 Мбайт/с (см. Рис. 1).

К этому следует прибавить, что пропускная способность одного линка в 50 Мбайт/с не является предельной для современных технологий, а это, в свою очередь, оставляет простор для дальнейшего роста.

Существуют также и другие способы повышения реальной производительности (которая по оценкам специалистов Tandem примерно на 20% ниже максимальной). К ним относятся ограничение размера передаваемого сообщения 64 байтами и сокращение времени переключения портов за счет дешифрации на проходе заголовка пакета.

Ограничение размера передаваемого пакета обусловлено требованием нормирования времени, предоставляемого каждому сообщению, что в свою очередь объясняется отсутствием в сетевых технологиях механизма предоставления магистрали более приоритетному устройству (механизма арбитрации шины). Такой подход позволяет обеспечить равновероятный доступ к каналам передачи данных для всех устройств, а также снизить до минимума возможную задержку пакета при прохождении им маршрутизаторов.

Второй способ заключается в начале перекоммутации портов сразу по приходу идентификатора пакета и позволяет осуществить переключение в течении 300 нс с момента получения заголовка, правда, в том лишь случае, если выбранный канал свободен. Если же он занят, то принимаемый пакет сохраняется в буфере, где ждет освобождения линии. Попутно следует отметить еще одно преимущество коротких пакетов: небольшой объем буфера и относительно быстрое освобождение канала.

Возможности новой технологии

Рисунок 2.Б. Использование ServerNet: кластерная

система

К основным достоинствам ServerNet относятся:

Масштабируемость. Следует отметить возможность включения в реальную систему сотен и даже тысяч устройств.

Возможность непосредственного соединения двух произвольных устройств системы. Это очень сильная особенность данной технологии, поскольку позволяет осуществлять обмен и передачу данных без отвлечения или вмешательства процессора, например, передача больших массивов необрабатываемых данных (аудио- и видео информации).

Гибкость в выборе топологии конкретной вычислительной системы. Она позволяет создавать n-мерные структуры, деревья, сети и различные их комбинации. Такая возможность обусловлена наличием шести портов у каждого маршрутизатора.

Гибкость с точки зрения архитектуры. ServerNet позволяет создавать как SMP-системы (см. Рис. 2А), так и кластеры (см. Рис. 2Б) и системы с массовым параллелизмом (см. Рис. 2В). Видимо этот аспект был не последним при принятии решения об использовании данной технологии компанией Tandem, поскольку спектр ее изделий достаточно широк и включает перечисленные выше архитектуры.

Обеспечение и поддержка надежности. На этом следует остановиться несколько подробнее. Как известно, Tandem выпускает компьютеры повышенной надежности для критических приложений. И поэтому было бы странным, если бы ее новая технология не поддерживала такую возможность.

ServerNet обеспечивает надежность передачи данных на двух уровнях - архитектурном и аппаратном.

Рисунок 2.С. Использование ServerNet: MPP-система (массовый

параллелизм).

 

Первое выражается в наличии у интерфейсов процессоров и периферийных устройств двух линков, что позволяет реализовывать дублирование каналов связи. Это решение используется в системах, относящихся к классу непрерывной готовности.

Аппаратное обеспечение надежности передаваемых данных базируется на следующих решениях. Во-первых, это избыточное кодирование 8В/9В, то есть 8 бит данных преобразуются в 9-разрядный код. Таким образом, по каналам ServerNet можно передавать 256 значений данных и до 20 команд. Во-вторых, это использование кодов контроля четности, которые входят в передаваемый пакет и проверяются каждым маршрутизатором. В-третьих, это использование команд для сообщений об ошибках. Каждый маршрутизатор в конце передаваемого пакета посылает сообщение (символ) об истинности данных в момент их поступления. По этим символам можно выявить неисправный порт или маршрутизатор и в дальнейшем направлять данные в обход его. В-четвертых, это использование в качестве среды передачи витых пар, по которым производится трансляция парафазных сигналов с ЭСЛ-уровнями.

Все это позволяет говорить о ServerNet, как о перспективной технологии способной оказать заметное влияние на развитие архитектуры мощных серверов.

Резюме

Нельзя сказать, что новая технология компании предлагает какие-либо принципиально новые решения, поскольку ее реализация очень похожа на идеологию параллельных линков, используемых в системах цифровой обработки сигналов. ServerNet интересен тем, что объединил в себе все эту идею для реализации высокопроизводительных каналов передачи данных, дополнив ее простым и удобным протоколом и сделав акцент на повышение надежности передачи.

Пока трудно сказать, какой будет дальнейшая судьба ServerNet, сколь широким будет его распространение. Но можно с уверенностью говорить, что все новые компьютеры Tandem будут его использовать. Первые модели S4000 (Puma) серии Integrity, использующие данную технологию, должны появиться до конца этого года, а новые модели серии Himalaya - в середине следующего. Что касается политики фирмы в отношении ServerNet, то поддержка процессорным интерфейсом нескольких аппаратных платформ уже о многом говорит. Представители Tandem подтверждают возможность продажи лицензий на использование данной технологии ряду фирм; список их обсуждается. Остается только запастись терпением.


Андрей Шадский - научный сотрудник Научно-исследовательского института системных исследований РАН, консультант Центра информационных технологий. С ним можно связаться по телефону (095) 277-9723.