AI
요즘 대세라고 하는 3가지 LLM 에 대해서 살펴밨다. 개인이 뭔가 이제 자신만의 지식저장고를 만들수도 있을것 같다는 생각이 든다. ChatGPT vs DeepSeek vs Grok-3 비교 분석 현재 AI 모델 시장에서 ChatGPT(OpenAI), DeepSeek, **Grok-3(X/Tesla)**는 주목받는 대형 언어 모델(LLM)입니다. 이 모델들은 각기 다른 철학과 기술적
AI
비싼 NVIDIA의 GPU를 사용하는 이유중 하나가 cuda 코어 때문이다. 이 cuda코어를 소프트웨어로 에뮬레이션 할수 있지 않을까 하는 질문에 검색을 해보았다. 결론은 가능 할수도 있지만 속도가 극악이라 사용하기 힘들듯 하다. CUDA 코어나 Tensor 코어를 소프트웨어적으로 에뮬레이션하는 것은 가능하지만, 매우 비효율적이며 일반적으로 실행 속도가 극도로 느려질 수 있습니다. 그래도 몇 가지 방법을
AI
엄밀히 말하자면, **“머신러닝(Machine Learning)”**은 인공지능(AI)의 하위 개념이고, 그 아래에 **“딥러닝(Deep Learning)”**이 위치합니다. 즉, **“인공지능 > 머신러닝 > 딥러닝”**의 계층 구조로 이해할 수 있습니다. 이를 더 자세히 설명하면 다음과 같습니다: 1. 인공지능(AI, Artificial Intelligence) • 최상위 개념으로, 인간의 지능을 모방하는 모든 기술을 포괄합니다. • AI는
AI
DeepSeek: M1 Mac과 RTX 3080에서 효율적으로 운영하는 방법 DeepSeek은 AI 기반 데이터 분석 및 검색 플랫폼으로, 고성능 하드웨어를 통해 더 빠르고 정확한 작업이 가능합니다. 이 글에서는 Apple M1 칩과 NVIDIA RTX 3080 GPU를 활용해 DeepSeek을 실행하는 방법을 안내합니다. 1. DeepSeek이란? DeepSeek은 머신러닝과 자연어 처리를 결합하여 대규모 데이터 검색과 분석을 수행하는
AI
1. Concept of an M1 Mac Cluster with Thunderbolt Although M1 Macs do not offer native clustering functionality like traditional x86 servers, they can leverage Thunderbolt 3/4 ports for high-speed networking. This allows distributed learning using MPI (Multi-Processing Interface). Cluster Networking Options with Thunderbolt: • Thunderbolt-to-Ethernet
AI
To create a cluster using multiple Mac Minis for executing models like DeepSeek, you can follow these steps: 1. Hardware Setup: • Use multiple M1 Mac Minis with at least 16GB of unified memory. • Connect the Mac Minis using Thunderbolt cables or via a high-speed Ethernet switch to ensure low-
AI
당연히 rtx3090이 성능이 좋을듯하다. 예상은 했지만 수치로 알려주니 좋. DeepSeek(딥러닝 모델) 실행 속도를 비교하려면 컴퓨팅 성능(CPU, GPU, RAM), 병렬 처리 가능 여부, 모델 최적화 상태 등을 고려해야 해. 1. 비교 대상 스펙 • M1 Mac mini (6대) • 가격: 35만 원 × 6 = 210만 원 • CPU: Apple M1 (8코어) • GPU: M1
AI
aAMD Ryzen 9 5950X + RTX 3090 (24GB) + RAM 128GB에서 DeepSeek-V3 실행 가능 여부 ✅ AMD Ryzen 9 5950X + RTX 3090 (24GB) + 128GB RAM 환경에서는 DeepSeek-V3의 양자화 버전 실행이 가능합니다. ✅ 다만, llama.cpp를 최적화하여 빌드하고, 적절한 양자화 모델을 선택해야 최상의 성능을 얻을 수 있습니다. 1. 시스템 구성 및 실행 가능성
AI
M1 Mac 여러 대를 썬더볼트 케이블을 이용해 클러스터로 구성하고 딥시크(DeepSeek)를 구동하는 방법을 설명해 줄게. 1. 썬더볼트를 이용한 M1 Mac 클러스터 개념 M1 Mac은 일반적인 x86 서버와 달리 본격적인 클러스터링 기능을 제공하지 않지만, 썬더볼트 3/4 포트를 활용한 고속 네트워킹이 가능해 MPI(Multi-Processing Interface) 기반의 분산 학습을 수행할
IT
여기저기 흩어져있는 공유기를 vpn을 이용해서 내부 네트워크 같이 사용할때의 장단점을 알아밨다. 공유기 3대를 VPN으로 연결해 하나의 네트워크를 구성하면 여러 장점이 있지만, 동시에 단점이나 제약도 있습니다. 특정 공유기 아래에 서버와 웹서버가 있다는 조건을 고려하여 장단점을 정리했습니다. 장점 1. 네트워크 통합 • LAN처럼 동작: 서로 다른 사무실(또는 위치)에 있는 기기가 동일한
IT
집과 사무실 그리고 또 다른 곳에 각각 떨어져 있는 공유기 3대를 묶어서 한개의 네트워크로 구성하고 싶을때가 있다. 이럴땐 vpn을 사용하면 쉽게 내부네트워크 같이 사용이 가능하다. 일단 iptime에 내장된 vpn 서버중에서는 WiredGuard가 가장 속도가 빠르다고 한다. 1기가망이라면 손실율이 거의 없이 1기가로 대역폭을 사용할수 있다고 한다. 내 환경은 다음과 같다. 1. 양평
ETC
아이가 없는 맞벌이 부부의 경우, 연말정산 전략은 서로의 소득 및 공제 항목을 잘 배분하고, 부부가 동시에 활용할 수 있는 공제 항목을 극대화하는 것이 핵심입니다. 다음은 맞벌이 부부를 위한 연말정산 전략을 다각도로 설명한 내용입니다. 1. 소득공제 활용 1-1. 카드 사용 분리 • 소득공제율: • 신용카드: 15% • 체크카드 및 현금영수증: 30% • 소득공제 계산
ETC
연말정산에서 최대한 환급을 받기 위해서는 본인의 소득, 소비 패턴, 공제 항목 등을 꼼꼼히 파악하고 활용하는 것이 중요합니다. 미혼 직장인을 기준으로 환급을 극대화할 수 있는 방법을 다각도로 설명드릴게요. 1. 소득공제 활용 1. 근로소득공제: • 모든 근로자가 자동 적용되는 기본 공제입니다. 따로 신경 쓸 필요는 없지만, 소득이 높아질수록 세율이 높아지기 때문에 다른 공제를
ETC
미국 회사중에 카바나 라는 중고차 관련 플랫폼 회사가 있다 2024년 큰 수익을 안겨준 회사에 대해서 알아본다. 카바나(Carvana, 티커: CVNA)는 미국의 온라인 중고차 판매 플랫폼으로, 고객이 온라인을 통해 중고차를 구매, 판매 또는 교환할 수 있도록 지원합니다. 전통적인 자동차 딜러십을 혁신하여 자동차 자판기와 같은 독특한 방식으로 차량을 제공하며, 고객이 차량을
ETC
리게티 컴퓨팅과 AWS 등의 양자 컴퓨팅 서비스는 기술적 기반은 유사하지만, 제공하는 방식과 접근 방법에 있어 차이가 있습니다. 또한, 존슨 황(엔비디아 CEO)이나 마크 저커버그(메타 CEO) 같은 인물들이 양자 컴퓨팅의 상용화에 대해 신중한 입장을 표명한 이유는 기술적, 경제적 한계 때문입니다. 이를 구체적으로 분석해보겠습니다. 1. 리게티 컴퓨팅과 AWS 양자 컴퓨팅
ETC
리게티 컴퓨팅(Rigetti Computing)은 2013년 미국 캘리포니아주 버클리에 설립된 양자 컴퓨팅 전문 기업입니다. 이 회사는 초전도 기반의 양자 프로세서와 클라우드 플랫폼을 개발하여, 다양한 산업 분야에서 양자 컴퓨팅의 상용화를 추진하고 있습니다. 비전 및 목표 리게티 컴퓨팅의 비전은 양자 컴퓨팅을 상용화하여 전 세계 산업에 혁신적인 변화를 가져오는 것입니다. 이를 위해 자체
proxmox VE
Proxmox 서버나 해당 시스템에 생성된 VM으로 ssh 접속이든 뭐든 네트워크가 간혹 끊기는 느낌이나 현상이 일어날때가 있다. 평소엔 느끼지 못했는데 요즘 계속 접속해서 작업을 하다보니 순간 순간 ssh 터미널 화면에서 키가 입력되지 않는다거나 로그 보던게 멈춘다거나 하는 현상으로 불편했다. 네트워크 때문인가 싶어서 장소를 변경해보고 스마트폰 태더링도 이것 저것을 바꿔 가면서 해밨지만
proxmox VE
집에서 굴러다니는 이젠 필요가 거의 없는 하드커널의 HC-4. 오래된 노트북에서 적출한 약 450기가 정도의 노트북용 하드디스크가 아직 사망하지 않고 잘 버텨주고 있다. 두개를 레이드0이든 LVM이든 묶으면 대략 1테라 정도의 공간을 무엇이 됬건 사용할수가 있다. 이삼년전까지만 해도 내 홈페이지 메인 호스팅용으로 잘 사용이 됬던 녀석이라 그냥 죽여놓기는 아쉬워서 어떻게 사용할까
AI
AMD Ryzen 9 3950X와 NVIDIA RTX 4090을 활용한 AI 시스템을 구성하여 천문학 관련 논문으로 LLM을 학습 및 추론하는 데 최적화된 방법을 제안합니다. 이 시스템의 성능을 최대한 활용하기 위해 CPU, GPU, 스토리지, 메모리, 소프트웨어 스택을 체계적으로 설계해야 합니다. 1. 하드웨어 최적화 CPU 활용 • 멀티스레드 작업 배치: Ryzen 9 3950X의 16코어 32스레드를
시골이야기
지난 가을 집주변에 작은 고양이들이 보이기 시작했다. 얼마전까지 동네에 풀어놓고 키우던 ‘해피’라던 이웃집 강아지가 차에 치여 무지개 다리를 거넌후 동네에 고양이가 다시 돌아온것이다. 사실 해피가 동네를 설쳤을땐 뱀이 자주 출몰하곤 했었다. 고양이가 없어서 였을까 고양이가 다시 돌아오고 난 뒤 부천 뱀이 전혀 나오지 않는건 물론이다. 우야튼 그렇게 보이기 시작한