Имате ли нужда от машина, която може да достави стотици трилиони изчисления с плаваща запетая в секунда? Или имате нужда от бар история за това как суперкомпютърът в мазето ви обърна прекъсвач? Изграждането на ваш собствен високопроизводителен изчислителен клъстер, известен още като суперкомпютър, е предизвикателство за всеки експерт, който има уикенд свободно време и малко пари за изгаряне. Технически погледнато, модерен, многопроцесорен суперкомпютър е мрежа от компютри, работещи заедно паралелно за решаване на проблем. Тази статия ще опише накратко всяка стъпка в процеса, като се фокусира върху хардуера и софтуера.
Стъпки
Стъпка 1. Първо определете хардуерните компоненти и необходимите ресурси
Ще ви трябват един главен възел, поне дузина идентични изчислителни възли, Ethernet превключвател, блок за разпределение на захранването и багажник. Определете необходимото електричество, охлаждане и необходимо пространство. Решете също какъв IP адрес искате за вашите частни мрежи, как да кръстите възлите, какви софтуерни пакети искате да инсталирате и каква технология искате да осигурите възможностите за паралелни изчисления (повече за това по -късно).
- Въпреки че хардуерът е скъп, целият софтуер, посочен в това ръководство, е безплатен и повечето са с отворен код.
- Ако искате да видите колко бърз би бил вашият суперкомпютър теоретично, използвайте този инструмент:
Стъпка 2. Изградете изчислителните възли
Ще трябва да сглобите изчислителните възли или да закупите предварително изградени сървъри.
- Изберете шасито на компютърен сървър, което увеличава максимално пространството, охлаждането и енергийната ефективност.
- Или можете да използвате десетина използвани, остарели сървъри - чиято цялост ще надвишава сумата на техните части, но ще ви спести значителна сума пари. Всички процесори, мрежови адаптери и дънни платки трябва да бъдат идентични, за да може цялата система да играе добре заедно. Разбира се, не забравяйте за RAM и съхранение за всеки възел и поне едно оптично устройство за главния възел.
Стъпка 3. Инсталирайте сървърите в стелажа
Започнете отдолу, така че багажникът да не е отгоре тежък. Ще ви е необходим приятел, който да ви помогне с това - плътните сървъри могат да бъдат много тежки и да ги заведете в релсите, които ги държат в багажника, е трудно.
Стъпка 4. Инсталирайте Ethernet превключвателя над шасито на сървъра
Отделете този момент, за да конфигурирате превключвателя: разрешете големи размери на рамка от 9000 байта, задайте IP адреса на статичния адрес, който сте решили в стъпка 1, и изключете ненужните протоколи за маршрутизиране, като например SMTP Snooping.
Стъпка 5. Инсталирайте PDU (разпределител на енергия)
В зависимост от това колко ток може да се нуждае от вашите възли при максимално натоварване, може да се нуждаете от 220 волта за високопроизводителни изчисления.
Стъпка 6. С всичко инсталирано можете да започнете процеса на конфигуриране
Linux е де факто ОС за HPC клъстери - не само, че е идеалната среда за научни изчисления, но и не струва нищо да го инсталирате на стотици или дори хиляди възли. Представете си колко би струвало инсталирането на Windows на всички тези възли!
- Започнете с инсталирането на последната версия на BIOS на дънната платка и фърмуера, които трябва да са еднакви на всички възли.
- Инсталирайте предпочитания от вас дистрибутор на Linux на всеки възел, с графичен потребителски интерфейс за главния възел. Популярните възможности за избор включват CentOS, OpenSuse, Scientific Linux, RedHat и SLES.
- Този автор силно препоръчва използването на Rocks Cluster Distribution. В допълнение към инсталирането на всички инструменти, необходими за функционирането на изчислителния клъстер, Rocks използва чудесен метод за „разпространение“на много екземпляри от себе си към възлите много бързо, като използва PXE зареждане и процедурата Red Hat „Kick Start“.
Стъпка 7. Инсталирайте интерфейса за предаване на съобщения, мениджъра на ресурси и други необходими библиотеки
Ако не сте инсталирали Rocks в предишната стъпка, ще трябва ръчно да настроите необходимия софтуер, за да активирате паралелните изчислителни механизми.
- Първо ще ви е необходима преносима система за управление на bash, като Torque Resource Manager, която ви позволява да разбивате и разпределяте задачи на множество машини.
- Сдвоете въртящия момент с Maui Cluster Scheduler, за да завършите настройката.
- След това ще трябва да инсталирате интерфейса за предаване на съобщения, необходим за отделните процеси на отделните изчислителни възли да споделят едни и същи данни. OpenMP е безпроблемно.
- Не забравяйте многофункционалните математически библиотеки и компилатори за изграждане на вашите програми за паралелни изчисления. Споменах ли, че просто трябва да инсталирате Rocks?
Стъпка 8. Свържете изчислителните възли заедно
Главният възел изпраща изчислителните задачи към изчислителните възли, които от своя страна трябва да изпращат резултата обратно, както и да изпращат съобщения един на друг. Колкото по -бързо, толкова по -добре.
- Използвайте частна Ethernet мрежа, за да свържете всички възли в клъстера.
- Главният възел може също да действа като NFS, PXE, DHCP, TFTP и NTP сървър през Ethernet мрежата.
- Трябва да отделите тази мрежа от обществени мрежи, което гарантира, че пакетите за излъчване не пречат на други мрежи във вашата LAN.
Стъпка 9. Тествайте клъстера
Последното нещо, което може да искате да направите, преди да освободите цялата тази изчислителна мощ на потребителите си, е да тествате нейната производителност. Бенчмаркът HPL (High Performance Lynpack) е популярен избор за измерване на изчислителната скорост на клъстера. Ще трябва да го компилирате от източник с всички възможни оптимизации, които вашият компилатор предлага за избраната от вас архитектура.
- Разбира се, трябва да компилирате от източника с всички възможни опции за оптимизация за вашата платформа. Например, ако използвате процесори AMD, компилирайте с Open64 с -0 бързо ниво на оптимизация.
- Сравнете резултатите си на TOP500.org, за да сравните вашия клъстер с най -бързите 500 суперкомпютри в света!
Видео - Използвайки тази услуга, може да се сподели част от информацията с YouTube
Съвети
- За наистина високи мрежови скорости разгледайте мрежовите интерфейси на InfiniBand. Бъдете готови обаче да плащате премиум цени.
- IPMI може да направи администрирането на голям клъстер лесно, като осигурява KVM-over-IP, отдалечено включване на захранването и др.
- Използвайте Ganglia, за да наблюдавате изчислителните натоварвания на възлите.
