M1맥미니 클러스터와 rtx3090 에서 deepseek 구동 성능은?

M1맥미니 클러스터와 rtx3090 에서 deepseek 구동 성능은?

당연히 rtx3090이 성능이 좋을듯하다.

예상은 했지만 수치로 알려주니 좋.

DeepSeek(딥러닝 모델) 실행 속도를 비교하려면 컴퓨팅 성능(CPU, GPU, RAM), 병렬 처리 가능 여부, 모델 최적화 상태 등을 고려해야 해.

1. 비교 대상 스펙

• M1 Mac mini (6대)

• 가격: 35만 원 × 6 = 210만 원

• CPU: Apple M1 (8코어)

• GPU: M1 내장 GPU (약 2.6 TFLOPS)

• RAM: 8GB 또는 16GB (모델에 따라 다름, 가정 필요)

• 특징: 썬더볼트 네트워크 활용 가능, 저전력

• RTX 3090 + 5900X 시스템 (1대)

• 가격: 230만 원

• CPU: Ryzen 9 5900X (12코어 24스레드)

• GPU: RTX 3090 (약 35 TFLOPS)

• RAM: 128GB

• 특징: 강력한 GPU 연산 능력, 대용량 RAM 활용 가능

2. 성능 비교

항목

M1 Mac Mini (6대)

RTX 3090 시스템

CPU 성능

M1(8코어) × 6 = 48코어

5900X (12코어 24스레드)

GPU 성능

M1 GPU (2.6TFLOPS) × 6 = 15.6 TFLOPS

RTX 3090 (35 TFLOPS)

RAM

8GB × 6 = 48GB (또는 16GB × 6 = 96GB)

128GB

병렬 처리

OpenMPI 또는 Ray로 활용 가능하지만 CPU 기반

GPU 가속 가능 (PyTorch/TensorFlow CUDA 지원)

GPU 연산 성능 차이

• M1 Mac mini의 내장 GPU는 OpenCL을 지원하지만, CUDA가 없어 PyTorch/TensorFlow의 GPU 가속을 활용할 수 없음.

• RTX 3090의 연산 능력(35TFLOPS)은 M1 6대를 합친 것보다 최소 2배 이상 빠름.

CPU 및 RAM 성능

• M1 6대를 합쳐도 5900X보다 병렬 처리 효율이 뛰어나지 않음.

• 3090 시스템은 128GB RAM을 활용할 수 있어, 메모리 부족 없이 대형 모델을 구동 가능.

3. 결론: 어떤 시스템이 더 빠를까?

• RTX 3090 + 5900X 시스템이 압도적으로 유리함.

• 이유: GPU 가속 가능(CUDA 지원), 단일 시스템으로 높은 연산 능력 발휘.

• M1 Mac 6대는 CPU 기반 분산 처리가 가능하지만, 성능 최적화가 어렵고 속도가 떨어짐.

• RAM 128GB 덕분에 대형 모델 실행에서도 유리함.

✅ 추천: RTX 3090 시스템 구매 (230만 원)

DeepSeek 같은 딥러닝 모델은 GPU 가속이 핵심이므로, CUDA 가속이 가능한 3090 시스템이 훨씬 빠름. M1 Mac 여러 대를 묶어도 3090의 성능을 따라가기 어려움.

Read more

2주택이라 양도세 폭탄인 줄 알았는데… 신고하고 보니 0원이었다

양도소득세 0원… 그날 나는 홈택스 앞에서 심장이 쪼그라들었다 부동산을 팔아본 사람은 안다. 집은 팔아도 마음은 못 판다. 특히 ‘양도소득세’라는 네 글자를 보는 순간, 심장이 먼저 반응한다. 모든 불안의 시작 2020년 3월 20일. 나는 용인 상하동의 한 아파트를 1억 8천9백만 원에 샀다. 그리고 2020년 9월 25일, 드디어 입주. “여긴 우리

By ilikeafrica
마지막 비닐하우스 설치

마지막 비닐하우스 설치

양평집이 팔리면 언제 또 쳐볼지 모르는 비닐하우스를 설치했다. 하지만 몇가지 어설픈 곳이 있다. 그 어설픈게 아주 큰 실수로 곧 다가올지도 모르겠다. 비닐하우스를 치다보니 박스에 적혀있다. "외부용으로는 0.06mm 이상 두께를 사용하세요!" 하지만 내가 구입한 비닐의 두께는 0.05mm ㅋㅋㅋㅋㅋ 이것의 결과가 어떻게 다가올지는 이미 비닐하우스 만드는 과정에 발생하는

By ilikeafrica
일본 삿포로 오타루 여행

일본 삿포로 오타루 여행

삿포로 여행중 오후 느즈막히 오타루행 JR 열차를 발권을 하고 정보 없는 곳으로 출발했다. 가면서 창밖으로 보이는 풍경은 아무래도 베를린의 동독 지역이었다. 일본과 독일이 그 옛날 왕래가 잦았다더니 이런 하나 하나 까지 서로가 맞았나부다. 트램도 그렇고 집짓는것도 그렇고 돌아보면 볼수록 동독 냄새가 너무 난단 말이지…. 우야튼 가는 도중 북해도의 파도를 본다.

By ilikeafrica