M1맥미니 클러스터와 rtx3090 에서 deepseek 구동 성능은?
당연히 rtx3090이 성능이 좋을듯하다.
예상은 했지만 수치로 알려주니 좋.
DeepSeek(딥러닝 모델) 실행 속도를 비교하려면 컴퓨팅 성능(CPU, GPU, RAM), 병렬 처리 가능 여부, 모델 최적화 상태 등을 고려해야 해.
1. 비교 대상 스펙
• M1 Mac mini (6대)
• 가격: 35만 원 × 6 = 210만 원
• CPU: Apple M1 (8코어)
• GPU: M1 내장 GPU (약 2.6 TFLOPS)
• RAM: 8GB 또는 16GB (모델에 따라 다름, 가정 필요)
• 특징: 썬더볼트 네트워크 활용 가능, 저전력
• RTX 3090 + 5900X 시스템 (1대)
• 가격: 230만 원
• CPU: Ryzen 9 5900X (12코어 24스레드)
• GPU: RTX 3090 (약 35 TFLOPS)
• RAM: 128GB
• 특징: 강력한 GPU 연산 능력, 대용량 RAM 활용 가능
2. 성능 비교
항목
M1 Mac Mini (6대)
RTX 3090 시스템
CPU 성능
M1(8코어) × 6 = 48코어
5900X (12코어 24스레드)
GPU 성능
M1 GPU (2.6TFLOPS) × 6 = 15.6 TFLOPS
RTX 3090 (35 TFLOPS)
RAM
8GB × 6 = 48GB (또는 16GB × 6 = 96GB)
128GB
병렬 처리
OpenMPI 또는 Ray로 활용 가능하지만 CPU 기반
GPU 가속 가능 (PyTorch/TensorFlow CUDA 지원)
GPU 연산 성능 차이
• M1 Mac mini의 내장 GPU는 OpenCL을 지원하지만, CUDA가 없어 PyTorch/TensorFlow의 GPU 가속을 활용할 수 없음.
• RTX 3090의 연산 능력(35TFLOPS)은 M1 6대를 합친 것보다 최소 2배 이상 빠름.
CPU 및 RAM 성능
• M1 6대를 합쳐도 5900X보다 병렬 처리 효율이 뛰어나지 않음.
• 3090 시스템은 128GB RAM을 활용할 수 있어, 메모리 부족 없이 대형 모델을 구동 가능.
3. 결론: 어떤 시스템이 더 빠를까?
• RTX 3090 + 5900X 시스템이 압도적으로 유리함.
• 이유: GPU 가속 가능(CUDA 지원), 단일 시스템으로 높은 연산 능력 발휘.
• M1 Mac 6대는 CPU 기반 분산 처리가 가능하지만, 성능 최적화가 어렵고 속도가 떨어짐.
• RAM 128GB 덕분에 대형 모델 실행에서도 유리함.
✅ 추천: RTX 3090 시스템 구매 (230만 원)
DeepSeek 같은 딥러닝 모델은 GPU 가속이 핵심이므로, CUDA 가속이 가능한 3090 시스템이 훨씬 빠름. M1 Mac 여러 대를 묶어도 3090의 성능을 따라가기 어려움.
