히스토리
- 키워드 메타 노트를 만들어라!
관련메타
KEYWORDS
- 2b1h1c3 AI클러스터: nixos 수동 파티션 설정 모듈 네트워크 설치 ¤flake
- 2b1a6 네트워크 스위치 10G NIC 펌웨어 업데이트 및 케이블 검증
- 2b1d2c 리버스 프록시 GPUStack 연동 문제 검증
- 2b1f #AI클러스터 DMZ 보안서버 리버스 프록시 베스천 서버 ¤Nginx
- 2b1b #AI 클러스터 #스토리지 #파일시스템
- 2b1c ¤prometheus ¤grafana 클러스터 통합 인프라 모니터링 허브 - 시각화 대시보드
- 2b1a1 ¤Cockpit #네트워크 인프라 관리 - 멀티 터미널 제어
- 2b1a5 AI 클러스터 내부망 IP 선택의 의미: 10.10.10.x vs 192.168.2.x:
- 2b1a #네트워크 #정보 ◊ifconfig §s3 §gpu1 §gpu2 §gpu3
- 2b1a4 #네트워크 #보안키 #배포 AI 사내 서버 클러스터 - 보안키 배포 관리 - 베스천 호스트 Bastion Host - 내부망
- 2b1 ¥: AI 클러스터 구축 - 네트워크 스토리지 풀스택
- 2b1a3 #비밀키 SSH 에이전트 원격 접근 구조 ◊ProxyJump
- #네트워크 #리눅스: 무선랜 간단 설정 ¤netplan
- #네트워크: 10GbE 100GbE #이더넷 #인피니밴드 - 클러스터 리눅스
- #네트워크: ¤ssh #연결 #원격 #포트 #요구사항 #¤ufw tcp/udp
- Cloudflare Access를 이용한 제로트러스트(Zero Trust) 구현 - 도메인 구입
- #LLM: PXE-BOOT 지원여부 확인 - 네트워크 설치 자동화
- 2b2a1 #삭제: #네트워크 브릿지 볼륨 #도커 (eg. ¤open_webui)
- @OpenHomeFoundation @오픈홈재단 지속 가능한 스마트홈 오픈소스 생태계
- @알버트바라바시 #네트워크과학 §포뮬러 #복잡계 #물리학
|2025-07-02 Wed 17:29|
이더넷과 인피니밴드
@user 10GB, 100GB 이더넷과 인피니밴드를 소개해줘. 인공지능 서버를 위한 RTX5080 3대 클러스터 구축에 활용하려고해.
@assistant 네, 간단히 설명드리겠습니다.
10GB, 100GB 이더넷
- *10GbE, 100GbE*는 각각 10Gbps, 100Gbps의 속도를 제공하는 이더넷 표준입니다.
- 장점: 범용성, 저렴한 비용, 다양한 장비와 호환, 관리가 쉬움.
- 단점: 레이턴시(지연 시간)가 인피니밴드보다 높음.
- 용도: 일반적인 데이터센터, 서버 간 통신, 스토리지 네트워크 등.
인피니밴드 (InfiniBand)
- *InfiniBand*는 고성능 컴퓨팅(HPC)과 AI 클러스터에서 주로 사용되는 네트워크 기술입니다.
- 속도: FDR(56Gbps), EDR(100Gbps), HDR(200Gbps), NDR(400Gbps) 등 다양한 속도 지원.
- 장점: 매우 낮은 레이턴시, 높은 대역폭, RDMA(원격 직접 메모리 접근) 지원.
- 단점: 이더넷보다 비싸고, 관리가 복잡할 수 있음.
- 용도: AI/딥러닝 클러스터, 슈퍼컴퓨터, 대규모 데이터 처리 등.
RTX 5080 3대 클러스터 구축 시
- 이더넷: 비용 효율적이고, 관리가 쉬우며, 소규모 클러스터(3대)에서는 100GbE도 충분히 빠름.
- 인피니밴드: GPU 간 통신이 빈번하고, 최대 성능이 필요하다면 InfiniBand가 더 적합. 특히 분산 딥러닝(예: Horovod, NCCL)에서 성능 차이가 큼.
결론: 예산과 성능 요구에 따라 선택하세요. 예산이 허락된다면 인피니밴드(최소 EDR 100Gbps 이상)를 추천합니다. 예산이 제한적이면 100GbE도 충분히 쓸 수 있습니다.
네트워크 영한 키워드
@user 위와 관련한 영한 키워드를 정리해줘. AI 클러스터에 네트워크에서 병목 현상을 프로파일링 해야해.
@assistant 네, 아래에 관련 영한 키워드를 정리해드리겠습니다.
네트워크 관련 영한 키워드
- Bandwidth (대역폭)
- Latency (지연 시간)
- Throughput (처리량)
- Packet Loss (패킷 손실)
- Congestion (혼잡)
- Bottleneck (병목 현상)
- RDMA (원격 직접 메모리 접근)
- NIC (Network Interface Card, 네트워크 인터페이스 카드)
- Switch (스위치)
- Topology (토폴로지, 네트워크 구조)
- Link Aggregation (링크 집성)
- Jumbo Frame (점보 프레임)
- MTU (Maximum Transmission Unit, 최대 전송 단위)
- Flow Control (흐름 제어)
- QoS (Quality of Service, 서비스 품질)
- InfiniBand (인피니밴드)
- Ethernet (이더넷)
- EDR/HDR/NDR (인피니밴드 속도 등급)
- Profiling (프로파일링)
- Monitoring (모니터링)
- Traffic (트래픽)
- MPI (Message Passing Interface, 메시지 전달 인터페이스)
- NCCL (NVIDIA Collective Communications Library)
- Horovod (호로보드, 분산 딥러닝 프레임워크)
- AllReduce (올리듀스, 집합 연산)
- Fabric (패브릭, 네트워크 구조)
AI 클러스터 네트워크 병목 프로파일링 시 위 키워드들을 참고하시면 좋습니다.
Comments