이 노트에 대하여
네트워크는 단순한 배선이 아니라 시스템 규모와 성격을 결정하는 기반이다. 이더넷은 범용성과 관리 편의에서 강하고, 인피니밴드는 낮은 지연과 높은 대역폭이 중요한 HPC·AI 환경에서 빛난다. 작은 서버 구성부터 대규모 학습 클러스터까지 어떤 병목을 허용할지에 따라 선택이 달라진다.
히스토리
- 키워드 메타 노트를 만들어라!
관련메타
KEYWORDS
- bib/ @알버트바라바시 #네트워크과학 §포뮬러 #복잡계 #물리학 ‘2024-06-17 #2025-04-03
- bib/ @OpenHomeFoundation @오픈홈재단 지속 가능한 스마트홈 오픈소스 생태계 ‘2025-07-01 #2025-07-01
- [llmlog/ #삭제: #네트워크 브릿지 볼륨 #도커 (eg. ¤open_webui) ‘2025-07-07 #2025-07-07]
- [llmlog/ #LLM: PXE-BOOT 지원여부 확인 - 네트워크 설치 자동화 ‘2025-07-21 #2025-07-21]
- [llmlog/ Cloudflare Access를 이용한 제로트러스트(Zero Trust) 구현 - 도메인 구입 ‘2025-09-03 #2025-09-03]
- notes/ #네트워크: ¤ssh #연결 #원격 #포트 #요구사항 #¤ufw tcp/udp ‘2025-06-24 #2025-06-24
- notes/ #네트워크: 10GbE 100GbE #이더넷 #인피니밴드 - 클러스터 리눅스 ‘2025-07-02 #2025-07-02
- notes/ #네트워크 #리눅스: 무선랜 간단 설정 ¤netplan ‘2025-07-05 #2025-07-05
- notes/ #비밀키 SSH 에이전트 원격 접근 구조 ◊ProxyJump ‘2025-07-08 #2025-07-08
|2025-07-02 Wed 17:29|
이더넷과 인피니밴드
@user 10GB, 100GB 이더넷과 인피니밴드를 소개해줘. 인공지능 서버를 위한 RTX5080 3대 클러스터 구축에 활용하려고해.
@assistant 네, 간단히 설명드리겠습니다.
10GB, 100GB 이더넷
- 10GbE, 100GbE 는 각각 10Gbps, 100Gbps의 속도를 제공하는 이더넷 표준입니다.
- 장점: 범용성, 저렴한 비용, 다양한 장비와 호환, 관리가 쉬움.
- 단점: 레이턴시(지연 시간)가 인피니밴드보다 높음.
- 용도: 일반적인 데이터센터, 서버 간 통신, 스토리지 네트워크 등.
인피니밴드 (InfiniBand)
- InfiniBand 는 고성능 컴퓨팅(HPC)과 AI 클러스터에서 주로 사용되는 네트워크 기술입니다.
- 속도: FDR(56Gbps), EDR(100Gbps), HDR(200Gbps), NDR(400Gbps) 등 다양한 속도 지원.
- 장점: 매우 낮은 레이턴시, 높은 대역폭, RDMA(원격 직접 메모리 접근) 지원.
- 단점: 이더넷보다 비싸고, 관리가 복잡할 수 있음.
- 용도: AI/딥러닝 클러스터, 슈퍼컴퓨터, 대규모 데이터 처리 등.
RTX 5080 3대 클러스터 구축 시
- 이더넷: 비용 효율적이고, 관리가 쉬우며, 소규모 클러스터(3대)에서는 100GbE도 충분히 빠름.
- 인피니밴드: GPU 간 통신이 빈번하고, 최대 성능이 필요하다면 InfiniBand가 더 적합. 특히 분산 딥러닝(예: Horovod, NCCL)에서 성능 차이가 큼.
결론: 예산과 성능 요구에 따라 선택하세요. 예산이 허락된다면 인피니밴드(최소 EDR 100Gbps 이상)를 추천합니다. 예산이 제한적이면 100GbE도 충분히 쓸 수 있습니다.
네트워크 영한 키워드
@user 위와 관련한 영한 키워드를 정리해줘. AI 클러스터에 네트워크에서 병목 현상을 프로파일링 해야해.
@assistant 네, 아래에 관련 영한 키워드를 정리해드리겠습니다.
네트워크 관련 영한 키워드
- Bandwidth (대역폭)
- Latency (지연 시간)
- Throughput (처리량)
- Packet Loss (패킷 손실)
- Congestion (혼잡)
- Bottleneck (병목 현상)
- RDMA (원격 직접 메모리 접근)
- NIC (Network Interface Card, 네트워크 인터페이스 카드)
- Switch (스위치)
- Topology (토폴로지, 네트워크 구조)
- Link Aggregation (링크 집성)
- Jumbo Frame (점보 프레임)
- MTU (Maximum Transmission Unit, 최대 전송 단위)
- Flow Control (흐름 제어)
- QoS (Quality of Service, 서비스 품질)
- InfiniBand (인피니밴드)
- Ethernet (이더넷)
- EDR/HDR/NDR (인피니밴드 속도 등급)
- Profiling (프로파일링)
- Monitoring (모니터링)
- Traffic (트래픽)
- MPI (Message Passing Interface, 메시지 전달 인터페이스)
- NCCL (NVIDIA Collective Communications Library)
- Horovod (호로보드, 분산 딥러닝 프레임워크)
- AllReduce (올리듀스, 집합 연산)
- Fabric (패브릭, 네트워크 구조)
AI 클러스터 네트워크 병목 프로파일링 시 위 키워드들을 참고하시면 좋습니다.
Comments