요즘 대세라고 하는 3가지 LLM 에 대해서 살펴밨다.개인이 뭔가 이제 자신만의 지식저장고를 만들수도 있을것 같다는 생각이 든다. ChatGPT vs DeepSeek vs Grok-3 비교 분석 현재 AI 모델 시장에서 ChatGPT(OpenAI), DeepSeek, **Grok-3(X/Tesla)**는 주목받는…
비싸고 성능 좋은 NVIDIA GPU의 CUDA 코어를 소프트웨어로 에뮬레이션하는 것은 가능하지만, 속도가 매우 느려 효율성이 떨어집니다. 대안으로 OpenCL, HIP, SYCL 및 딥러닝 프레임워크에서 CPU로 실행하는 방법이 있으며, 이들 또한 성능 저하 문제를 동반합니다.
인공지능(AI)은 인간의 지능을 모방하는 기술로, 머신러닝(ML)은 AI의 하위 분야로 데이터를 기반으로 학습하는 기법입니다. 딥러닝(DL)은 머신러닝의 특수 기술로 인공신경망을 활용합니다. 생성형 AI는 딥러닝을 활용한 응용 사례로, ChatGPT와 같은 모델이 포함됩니다.
DeepSeek: M1 Mac과 RTX 3080에서 효율적으로 운영하는 방법 DeepSeek은 AI 기반 데이터 분석 및 검색 플랫폼으로, 고성능 하드웨어를 통해 더 빠르고 정확한 작업이 가능합니다. 이 글에서는 Apple M1 칩과 NVIDIA…
The article discusses creating an M1 Mac cluster using Thunderbolt for high-speed networking, enabling distributed learning. It outlines hardware requirements, network configuration, software setup for DeepSeek, and optimization techniques. While M1 lacks GPU acceleration, effective CPU-based management with tools like OpenMPI or Ray can facilitate efficient model training.
To create a cluster using multiple Mac Minis for executing models like DeepSeek, you can follow these steps: 1. Hardware Setup: • Use multiple M1 Mac Minis with at least…
RTX 3090 시스템은 M1 Mac mini 6대와 비교해 CPU, GPU, RAM 성능에서 압도적으로 우수하다. GPU 가속이 가능한 RTX 3090은 최소 2배 이상의 성능 차이를 보이며, 대형 모델 실행에 유리하다. 따라서 DeepSeek 같은 딥러닝 모델을 위해 RTX 3090 시스템 구매를 추천한다.
AMD Ryzen 9 5950X + RTX 3090 (24GB) + RAM 128GB에서 DeepSeek-V3 실행 가능 여부 ✅ AMD Ryzen 9 5950X + RTX 3090 (24GB) + 128GB RAM 환경에서는 DeepSeek-V3의 양자화 버전…
M1 Mac 여러 대를 썬더볼트 케이블을 이용해 클러스터로 구성하고 딥시크(DeepSeek)를 구동하는 방법을 설명해 줄게. 1. 썬더볼트를 이용한 M1 Mac 클러스터 개념 M1 Mac은 일반적인 x86 서버와 달리 본격적인 클러스터링 기능을…
여기저기 흩어져있는 공유기를 vpn을 이용해서 내부 네트워크 같이 사용할때의 장단점을 알아밨다. 공유기 3대를 VPN으로 연결해 하나의 네트워크를 구성하면 여러 장점이 있지만, 동시에 단점이나 제약도 있습니다. 특정 공유기 아래에 서버와 웹서버가…
집과 사무실 그리고 또 다른 곳에 각각 떨어져 있는 공유기 3대를 묶어서 한개의 네트워크로 구성하고 싶을때가 있다.이럴땐 vpn을 사용하면 쉽게 내부네트워크 같이 사용이 가능하다. 일단 iptime에 내장된 vpn 서버중에서는 WiredGuard가…