Зміст
- це вікі, що означає, що багато статей написано кількома авторами. Щоб створити цю статтю, у її виданні та вдосконаленні з часом брало участь 18 людей, анонімних.Вам потрібна машина, яка повинна робити сотні мільярдів обчислень з плаваючою комою в секунду? Вам потрібна історія, щоб пояснити, як ваш суперкомп'ютер у льоху підірвав вимикач? Побудова кластера (або кластера) високоефективних комп’ютерів - це завдання, яке може подолати будь-який експерт у вихідні з відповідним бюджетом. З технічної точки зору сучасний багатопроцесорний суперкомп'ютер - це мережа комп'ютерів, що працюють паралельно для вирішення проблеми. Виконуючи нескладні кроки, щоб встановити обладнання та встановити необхідне програмне забезпечення, ви також можете мати суперкомп'ютер.
етапи
-
Визначте необхідне обладнання та ресурси. Вам знадобиться головний вузол, принаймні дванадцять інших однакових вузлів, перемикач Ethernet, блок живлення та полиця. Визначте свої потреби в електроенергії, охолодженні та просторі. Вам також потрібно визначити, яку IP-адресу ви хочете використовувати для своїх приватних мереж, назви вузлів, програмне забезпечення, яке ви хочете встановити, та технологію, яку ви хочете встановити для обчислювальних можливостей (до цього ми повернемось пізніше).- Навіть якщо апаратне забезпечення обійдеться вам дорого, все програмне забезпечення, представлене в цій статті, є безкоштовним і більшість не мають прав.
- Якщо ви хочете отримати уявлення про те, як швидко може досягти суперкомп'ютер, ви можете скористатися цим інструментом: http://hpl-calculator.sourceforge.net/.
-
Встановіть вузли. Вам доведеться зібрати вузли або отримати попередньо зібрані сервери.- Виберіть шасі сервера з великою кількістю місця, підходящою системою охолодження та оптимізацією енергії.
- Ви також можете використовувати десяток старих серверів, сума цих перевищить потужність окремих одиниць, і ви заощадите багато грошей. Для безперебійної роботи всієї системи всі процесори, мережеві адаптери та материнські плати повинні бути однаковими. Звичайно, не слід забувати оперативну пам’ять та сховище для кожного з вузлів, а також хоча б один дисковий накопичувач для голови.
-
Встановіть сервери на полиці. Починайте знизу, якщо верхня частина полиці не зважена. Вам також знадобиться друг, який допоможе вам, сервери можуть бути важкими, і їх буде важко провести по рейках полиці. -
Встановіть перемикач Ethernet вгорі корпусу. Знайдіть хвилину, щоб налаштувати його. Дозвольте розмір кадру в розмірі 9000 байт, встановіть IP-адреси на статичні адреси, які ви вибрали на першому кроці, і відключіть непотрібні протоколи, такі як прослуховування SMTP. -
Встановіть поточний блок. Залежно від того, скільки струму буде потрібно вузлам, вам, мабуть, знадобиться 220-вольтовий блок. -
Налаштуйте обладнання. Після того, як у вас все встановлено, ви можете приступити до налаштування обладнання. Linux - це операційна система за замовчуванням для кластерів HPC не тільки тому, що вона є найкращим середовищем для наукових розрахунків, а й тому, що вона абсолютно безкоштовно встановлюється на сотні чи тисячі вузлів. Уявіть ціну, яку ви заплатите, якщо вам довелося б встановити Windows на кожному з цих вузлів.- Почніть з установки найновішої прошивки BIOS та материнської плати, яка повинна бути однаковою для всіх материнських плат.
- Встановіть бажаний дистрибутив Linux на кожен із вузлів та дистрибутив із графічним інтерфейсом на головному вузлі. Часто використовуються CentOS, OpenSuse, Scientific Linux, RedHat або SLES.
- Для цієї статті ми настійно рекомендуємо Rocks Cluster. Окрім встановлення всіх інструментів, необхідних для належної роботи кластерів, Rocks використовує чудовий метод для швидкого «розповсюдження» багатьох примірників себе на вузлах, використовуючи завантажувач PXE та процедуру швидкого запуску червоного дерева з чайного дерева.
-
Встановіть програмне забезпечення. Встановіть інтерфейс для передачі, управління ресурсами та інших необхідних бібліотек. Якщо ви не встановили Rocks на попередньому кроці, вам доведеться вручну налаштувати все необхідне програмне забезпечення для активації паралельних механізмів обчислення.- По-перше, вам знадобиться система управління bash, наприклад, Torque Resource Manager, яка дозволяє розділити та розподілити різні завдання на декількох машинах.
- Крутний момент із закликом Maui Cluster Scheduler для завершення конфігурації.
- Далі вам потрібно буде встановити інтерфейс відправника, необхідний для процесів на різних машинах для обміну одними і тими ж даними. Встановіть OpenMP, це дуже просто у використанні.
- Не забудьте багатопотокові бібліотеки та компілятори для створення паралельних програм обчислення. Ще раз, скелі - найкраще рішення.
-
Підключіть вузли до мережі. Головний вузол відправляє завдання, які потрібно виконати, на інші обчислювальні вузли, які будуть повертати результати під час надсилання повідомлень один одному. Чим швидше це пройде, тим краще.- Використовуйте приватну мережу Ethernet, щоб з'єднати всі ці вузли в кластер.
- Головний вузол може також діяти як NFS, PXE, DHCP, TFTP та NTP-сервер у мережі, яку ви створюєте.
- Ви повинні відокремити цю мережу від загальнодоступних мереж, щоб переконатися, що пакети, якими обмінюються сервери, не перешкоджають обміну пакетами в іншій частині мережі.
-
Тестуйте кластер. Останнє, що вам потрібно зробити, перш ніж випустити всю потужність вашого суперкомп'ютера, - це перевірити його продуктивність. Тест на продуктивність Lynpack (HPL) є популярним вибором для вимірювання обчислювальної швидкості комп'ютерного кластера. Вам доведеться компілювати його з його джерела з усіма оптимізаціями, які пропонує ваш компілятор відповідно до обраної вами архітектури.- Очевидно, що вам доведеться компілювати його з джерела, яке надає вам найбільше варіантів оптимізації вашої платформи. Наприклад, якщо ви використовуєте процесори AMD, компілюйте їх з Open64, вибравши рівень оптимізації -0 Fast.
- Порівняйте результати на TOP500.org, щоб побачити, чи може ваш суперкомп'ютер конкурувати з 500 найпотужнішими суперкомп'ютерами світу!
- Щоб досягти дійсно великої швидкості в мережі, дізнайтеся про інтерфейси InfiniBand. Однак приготуйтеся зламати скарбничку.
- IPMI може полегшити адміністрування у великих масштабах, привівши вам KVM-над-IP, окремий цикл живлення тощо.
- Використовуйте Ganglia для відстеження обчислювальних навантажень на вузлах.
- Переконайтеся, що ваша інфраструктура може підтримувати навантаження.