M1맥미니 클러스터와 rtx3090 에서 deepseek 구동 성능은?
RTX 3090 시스템은 M1 Mac mini 6대와 비교해 CPU, GPU, RAM 성능에서 압도적으로 우수하다. GPU 가속이 가능한 RTX 3090은 최소 2배 이상의 성능 차이를 보이며, 대형 모델 실행에 유리하다. 따라서 DeepSeek 같은 딥러닝 모델을 위해 RTX 3090 시스템 구매를 추천한다.
RTX3090에서 DeepSeek V3 구동하기
AMD Ryzen 9 5950X + RTX 3090 (24GB) + RAM 128GB에서 DeepSeek-V3 실행 가능 여부 ✅ AMD Ryzen 9 5950X + RTX 3090 (24GB) + 128GB RAM 환경에서는 DeepSeek-V3의 양자화 버전 실행이 가능합니다. ✅ 다만, llama.cpp를 최적화하여 빌드하고, 적절한 양자화 모델을 선택해야 최상의 성능을 얻을 수 있습니다. 1. 시스템 구성 및 실행 가능성 사용할 하드웨어: • CPU: AMD Ryzen […]
m1 맥미니로 deepseek 구동시키기
M1 Mac 여러 대를 썬더볼트 케이블을 이용해 클러스터로 구성하고 딥시크(DeepSeek)를 구동하는 방법을 설명해 줄게. 1. 썬더볼트를 이용한 M1 Mac 클러스터 개념 M1 Mac은 일반적인 x86 서버와 달리 본격적인 클러스터링 기능을 제공하지 않지만, 썬더볼트 3/4 포트를 활용한 고속 네트워킹이 가능해 MPI(Multi-Processing Interface) 기반의 분산 학습을 수행할 수 있어. 썬더볼트를 이용한 클러스터 연결 방식: • Thunderbolt-to-Ethernet 브릿지: […]
VPN으로 여러대 공유기를 연결할때 장단점
여기저기 흩어져있는 공유기를 vpn을 이용해서 내부 네트워크 같이 사용할때의 장단점을 알아밨다. 공유기 3대를 VPN으로 연결해 하나의 네트워크를 구성하면 여러 장점이 있지만, 동시에 단점이나 제약도 있습니다. 특정 공유기 아래에 서버와 웹서버가 있다는 조건을 고려하여 장단점을 정리했습니다. 장점 1. 네트워크 통합 • LAN처럼 동작: 서로 다른 사무실(또는 위치)에 있는 기기가 동일한 네트워크에 연결된 것처럼 동작합니다. • 예: […]
iptime공유기 3대를 vpn을 이용해 한개의 네트워크로 구성하기
집과 사무실 그리고 또 다른 곳에 각각 떨어져 있는 공유기 3대를 묶어서 한개의 네트워크로 구성하고 싶을때가 있다.이럴땐 vpn을 사용하면 쉽게 내부네트워크 같이 사용이 가능하다. 일단 iptime에 내장된 vpn 서버중에서는 WiredGuard가 가장 속도가 빠르다고 한다.1기가망이라면 손실율이 거의 없이 1기가로 대역폭을 사용할수 있다고 한다. 내 환경은 다음과 같다. 양평 공유기 (AX3004BCM ) : WiredGuard 서버 역할을 할것이다. […]
무자녀 맞벌이부부의 연말정산 전략
아이가 없는 맞벌이 부부의 경우, 연말정산 전략은 서로의 소득 및 공제 항목을 잘 배분하고, 부부가 동시에 활용할 수 있는 공제 항목을 극대화하는 것이 핵심입니다. 다음은 맞벌이 부부를 위한 연말정산 전략을 다각도로 설명한 내용입니다. 1. 소득공제 활용 1-1. 카드 사용 분리 • 소득공제율: • 신용카드: 15% • 체크카드 및 현금영수증: 30% • 소득공제 계산 방식: • […]
솔로들을 위한 연말정산 팁
연말정산에서 최대한 환급을 받기 위해서는 본인의 소득, 소비 패턴, 공제 항목 등을 꼼꼼히 파악하고 활용하는 것이 중요합니다. 미혼 직장인을 기준으로 환급을 극대화할 수 있는 방법을 다각도로 설명드릴게요. 1. 소득공제 활용 1. 근로소득공제: • 모든 근로자가 자동 적용되는 기본 공제입니다. 따로 신경 쓸 필요는 없지만, 소득이 높아질수록 세율이 높아지기 때문에 다른 공제를 최대한 활용하는 것이 중요합니다. […]
카바나 회사와 주식 전망
미국 회사중에 카바나 라는 중고차 관련 플랫폼 회사가 있다 2024년 큰 수익을 안겨준 회사에 대해서 알아본다. 카바나(Carvana, 티커: CVNA)는 미국의 온라인 중고차 판매 플랫폼으로, 고객이 온라인을 통해 중고차를 구매, 판매 또는 교환할 수 있도록 지원합니다. 전통적인 자동차 딜러십을 혁신하여 자동차 자판기와 같은 독특한 방식으로 차량을 제공하며, 고객이 차량을 집에서 직접 받거나 자판기에서 픽업할 수 있는 […]
존슨황과 마크저크버그 한마디에 양자컴퓨터주가 개박살 난 이유
리게티 컴퓨팅과 AWS 등의 양자 컴퓨팅 서비스는 기술적 기반은 유사하지만, 제공하는 방식과 접근 방법에 있어 차이가 있습니다. 또한, 존슨 황(엔비디아 CEO)이나 마크 저커버그(메타 CEO) 같은 인물들이 양자 컴퓨팅의 상용화에 대해 신중한 입장을 표명한 이유는 기술적, 경제적 한계 때문입니다. 이를 구체적으로 분석해보겠습니다. 1. 리게티 컴퓨팅과 AWS 양자 컴퓨팅 서비스의 차이 • 리게티 컴퓨팅 • 자체적으로 양자 […]
양자컴퓨터 주식 ‘리케티 컴퓨팅’ 소개
리게티 컴퓨팅(Rigetti Computing)은 2013년 미국 캘리포니아주 버클리에 설립된 양자 컴퓨팅 전문 기업입니다. 이 회사는 초전도 기반의 양자 프로세서와 클라우드 플랫폼을 개발하여, 다양한 산업 분야에서 양자 컴퓨팅의 상용화를 추진하고 있습니다. 비전 및 목표 리게티 컴퓨팅의 비전은 양자 컴퓨팅을 상용화하여 전 세계 산업에 혁신적인 변화를 가져오는 것입니다. 이를 위해 자체 설계한 초전도 큐비트 기반의 양자 프로세서를 개발하고, […]
proxmox 가 원격 접속시 간헐적으로 네트워크가 hang 걸릴때
Proxmox 서버나 해당 시스템에 생성된 VM으로 ssh 접속이든 뭐든 네트워크가 간혹 끊기는 느낌이나 현상이 일어날때가 있다. 평소엔 느끼지 못했는데 요즘 계속 접속해서 작업을 하다보니 순간 순간 ssh 터미널 화면에서 키가 입력되지 않는다거나 로그 보던게 멈춘다거나 하는 현상으로 불편했다. 네트워크 때문인가 싶어서 장소를 변경해보고 스마트폰 태더링도 이것 저것을 바꿔 가면서 해밨지만 여전히 끊기는 현상이 있었다. 로그를 […]
하드커널 HC-4를 proxmox의 백업서버로 이용하기
집에서 굴러다니는 이젠 필요가 거의 없는 하드커널의 HC-4.오래된 노트북에서 적출한 약 450기가 정도의 노트북용 하드디스크가 아직 사망하지 않고 잘 버텨주고 있다.두개를 레이드0이든 LVM이든 묶으면 대략 1테라 정도의 공간을 무엇이 됬건 사용할수가 있다. 이삼년전까지만 해도 내 홈페이지 메인 호스팅용으로 잘 사용이 됬던 녀석이라 그냥 죽여놓기는 아쉬워서 어떻게 사용할까 생각중에 proxmox의 백업서버로 사용해보기 했다. HC-4의 cpu는 ARM […]
AMD 3950x와 Nvidia 4090 GPU 를 이용한 AI횐경 구축
AMD Ryzen 9 3950X와 NVIDIA RTX 4090을 활용한 AI 시스템을 구성하여 천문학 관련 논문으로 LLM을 학습 및 추론하는 데 최적화된 방법을 제안합니다. 이 시스템의 성능을 최대한 활용하기 위해 CPU, GPU, 스토리지, 메모리, 소프트웨어 스택을 체계적으로 설계해야 합니다. 1. 하드웨어 최적화 CPU 활용 • 멀티스레드 작업 배치: Ryzen 9 3950X의 16코어 32스레드를 최대한 활용하려면, 데이터 전처리 […]
이렇게 집사가 되는가
지난 가을 집주변에 작은 고양이들이 보이기 시작했다. 얼마전까지 동네에 풀어놓고 키우던 ‘해피’라던 이웃집 강아지가 차에 치여 무지개 다리를 거넌후 동네에 고양이가 다시 돌아온것이다. 사실 해피가 동네를 설쳤을땐 뱀이 자주 출몰하곤 했었다. 고양이가 없어서 였을까 고양이가 다시 돌아오고 난 뒤 부천 뱀이 전혀 나오지 않는건 물론이다. 우야튼 그렇게 보이기 시작한 고양이 녀석들이 사람을 무서워 하지 않는다. […]
한겨울 부엌에서 키우는 표고버섯
톱밥에 접종된 표고배지 키트를 구배했다. 집에서 제일 따스한 부엌에 아이스박스에 물 조금 넣고 배지를 넣어두었더니 일주일도 못되어서 버섯들이 정글 같이 자랐다. 하지만 배지가 갈변 이라는 단계를 거치지 않아 흔히 우리가 알고 있는 표고보다는 하얗고 부드러운 버섯이 자랐다. 물론은 맛나다. 이번엔 그냥 먹고 다음엔 제대로 갈변 과정을 거챠서 차라게 해봐야겠다. #버섯키우기 #표고버섯키우기 #표고버섯 Related Posts 양평 […]
내란 관련자들에게 꽃보내면 처벌 받아야
내란을 주동하거나 동조하는 사람에 대한 처벌은 대한민국 형법에 명시되어 있습니다. 형법 제2편 “죄” 중 제1장 국가의 존립과 권위에 대한 죄에 해당하며, 구체적으로는 내란죄(제87조) 및 관련 조항에서 다루어집니다. 1. 내란죄(형법 제87조) 조문: 국토를 참절하거나 국헌을 문란할 목적으로 한반도 내에서 폭동을 일으킨 자는 사형, 무기징역 또는 무기금고에 처한다. 설명: • 국토 참절: 국가의 영토를 침해하거나 분리하려는 행위. • 국헌 문란: 헌법에 […]
10일간 간의 세계일주 !
2018년 2년간의 독일 생활을 마치고 귀국후 거의 6년만에 다시 방문하게 되는 베를린.아시아나 마일리지 사용해서 예매한 스타얼라인어스 항공권.터키쪽으로 가는 여정은 이미 없었고, 그나마 캐나다쪽으로 가는 여정만 구할수 있었다.뜬금없이 지구를 한바퀴 도는 여정이 되어 버렸다. 가는김에 폴란드 출입국 도장도 한번 찍어보고, 독일 풀다에 가서 릴리맘도 만나봐야지. 우리 릴리맘…우리를 위해 숙소도 잡아주시고….이런 분이 또 있을까 싶다. 이번 여행은 […]
워드프레스 카테고리 ID 검색하기
워드프레스에서 카테고리 ID를 추출해야 하는 때가 있다.고유주소를 변경해서 이러쿵 저러쿵 해서 알아내는 방법도 있지만 간단하게 DB에 접속해서 쿼리로 알아내면 편하더라 SELECT t.term_id, t.name, t.slug, tt.parent, tt.count FROM wp_terms t INNER JOIN wp_term_taxonomy tt ON t.term_id = tt.term_id WHERE tt.taxonomy = ‘category’ ORDER BY tt.parent ASC, t.name ASC; 또는 아래와 같이 하면 더 자세하게 알수 있다. […]
proxmox ve vm 강제 삭제 및 lvs 삭제 안될때
윈도우 VM을 생성후 설치중에 설치 디스크가 검색이 안되서 해당 VM을 삭제하려고 했더니 VM 중지/종료는 물론 lvs 볼륨도 강제로 삭제가 안되는 경우가 있다.이럴땐 수동으로 삭제해야 한다. /etc/pve/qmu-server에서 해당 VM의 ID 설정 파일을 삭제(100번 기준)수동으로 100번의 설정 파일을 삭제하면 proxmox 매니지먼트 화면에서는 해당 VM이 사라진걸 볼수 있다.일반적으로 이렇게 하면 끝나지만 아래와 같이 lvs로 확인해보면 할당했던 볼륨이 아직 […]
os 리소스 현황 파일로 저장
발단 : centos나 ubuntu에서 시스템 리소스를 알수 있는 기본적인 것들을 파일로 남기고 싶었다. 예전 MRTG류 같은 온갖 모니터링툴이 이미 존재하기는 하지만 top, ps, iostat, vmstat등의 결과를 그냥 파일로 남기고 싶었다. iostat와 vmstat는 5초 간격으로 저장하고 싶었다.이때 crontab에서는 5초 간격으로 실행시키려면 sleep 5 라고 하면 되지만 12번 써야해서 지저분하다.chatGPT에게 물어보면 아래와 같이 알려준다. # 매 5초마다 […]
