Chandra OCR — Mac Studio M1 Max 64GB에서 실행하기 (CUDA vs Metal MPS 비교)
4B 파라미터 Vision-Language OCR 모델 Chandra를 Mac Studio M1 Max 64GB에서 실행하는 방법과 CUDA 환경과의 성능 비교를 정리합니다.
4B 파라미터 Vision-Language OCR 모델 Chandra를 Mac Studio M1 Max 64GB에서 실행하는 방법과 CUDA 환경과의 성능 비교를 정리합니다.
하루가 다르게 커가는 겨자잎과 루꼴라. 근데 어떤게 겨자잎이고 어떤게 루꼴라인지 벌써 모르겠다. 이래서 처음에 표시를 해 둔다는게 또 깜빡했다. 이젠 나도 모르겠다. 그냥 먹을때쯤 알게 됬겠지. 오전오후엔 햇살로...저녁엔 인공LED광으로.... 예전에도 이렇게 빨리 컷나 싶은데 재밌다.
대규모 학술 논문 아카이브 KOINEU.com의 V3 파이프라인 구축 과정에서 얻은 데이터 분석 속도 최적화 사례를 공유합니다. 25만 건의 방대한 논문을 분석하기 위해 Ollama Cloud의 oss120b 모델을 어떻게 효율적으로 활용했는지에 대한 기술 리포트입니다.. 1. 실험 개요 초거대 모델(120B)은 압도적인 분석 능력을 자랑하지만, 단일 요청 시 처리 시간이 길다는
역시 씨앗은 한번 발아하면 참 놀랍도록 빠르다. 타임랩스를 찍어보고 싶었는데 이젠 그럴 만한 디바이스가 없다. 모조리 당근행 해버린 관계로 집에 남아있는게 별로 없다. ㅋㅋ 언제 떠날지 또 미지수인 관계로 그 날까지는 뭔가 즐길거리를 찾아야 한다. 겨자잎에 삼겹살 한번이라도 싸먹고 나가게 될까... 겨자잎 안먹어도 좋으니 언능 정리되고 배낭 싸고 싶다..
오피스텔 책상 한켠에 마련해둔 겨자잎 과 루꼴라 공장.. 알리에서 구매했던 인공조명LED를 그냥 두기도 아깝고 겸사 겸사 생수통 3개에 다이소에서 천원씩에 구매한 겨자잎과 루꼴라 씨를 뿌리고 만들어봤다. 배양토에 파종한지 2일만에 싹이 돋아난다. 부랴 부랴 재활용품 모아둔곳에서 적당한 박스 하나 사서 LED 조명을 대충 붙이고, 전원은 사용하지 않고 있던 휴대용 배터리로 간편하게
어렵다. 하지만 재밌다. 5월 첫째 주 출발 / 7개월 / 2인 7천만원 / 고산·사막 다수 포함 조건으로 계절 + 동선 효율 + 체력 분산을 모두 고려해서 다시 정리해보겠다. 핵심 전략은: * 🔁 최대한 동쪽으로 계속 이동 (지그재그 최소화) * ☀️ 건기 위주로 아프리카·중앙아시아 배치 * 🏔 고산은 여름 시즌에 몰기 * 🌊 섬(이스터·갈라파고스)은 남미 묶음 처리 🌍 최적 루트
이젠 여행계획도 chatgpt를 이용하는 세상인가보다. ✈️ 전체 흐름 인천 → 터키 → 중앙아시아 → 동유럽 → 알프스 → 독일 → 스페인/포르투갈 → 카나리아 → 북유럽 → 발칸 → 이집트 → 아프리카 → 남미 → 중미 → 호주 → 인천 👉 거의 “지구 한 바퀴”이며 되돌아감 없음.. 🟠 1단계 — 터키 + 중앙아시아 (4/22 ~ 5/20) ✔ 아직 덥지 않음 ✔ 초원과 도시 풍경 최고 시즌 루트 인천 → 이스탄불 → 안탈리아
이번엔 여수 여행이다. 단둘이 말이다. 토토맘은 제주로...나는 여수로....ㅋㅋㅋㅋ 아주 좋다. 편하다. 토토는 장시간 운전이 피곤한 모양새이다. 언제나 그렇듯이 녀석은 차로 이동하는건 별로인것 같다. 하지만 할수 없다. 대신 좋아라 하는 간식 북어체를 한봉지 사서 미안한 맘을 좀 표현해보고 최대한 산책도 많이 시켜주려 한다.
삿포로 여행중 오후 느즈막히 오타루행 JR 열차를 발권을 하고 정보 없는 곳으로 출발했다. 가면서 창밖으로 보이는 풍경은 아무래도 베를린의 동독 지역이었다. 일본과 독일이 그 옛날 왕래가 잦았다더니 이런 하나 하나 까지 서로가 맞았나부다. 트램도 그렇고 집짓는것도 그렇고 돌아보면 볼수록 동독 냄새가 너무 난단 말이지…. 우야튼 가는 도중 북해도의 파도를 본다.
추석 기나긴 연휴 기간 다녀온 첫 일본 여행. 삿포로 시내에 호텔 잡고 5일밤을 주구장창 지낸다. 이젠 여행 스타일이 돌아다니기 보단 한곳에 오랫동안 머무르는게 일상이 되었다. 매일 짐 싸고 풀고 하는게 뭔 소용인가도 싶고, 그렇게 편히 즐기다 오는데 여행일듯하다. 처음 가본 일본. 그중에 삿포로. 눈 쌓인 겨울도 아니고, 단풍 빨간 가을도
chatgpt와 grok을 이용해서 가끔 지브리 스타일의 이미지를 만들어보면 참 따스하다. 내가 하지 못한것을 댜신 해주는 시대. 뭔가 재미난 세상이다.
📸 Immich 주요 기능 정리 ✅ 1. 사진과 영상의 자동 분류 및 시간순 정렬 촬영일 기준으로 자동 정렬되며, 앨범 생성 없이도 타임라인처럼 흐름 있게 감상할 수 있습니다. (단, EXIF 정보가 있어야 정렬 가능) ✅ 2. 위치 기반 지도 보기 (Map View) GPS 정보가 포함된 사진은 자동으로 지도에 표시되어 여행 사진이나 위치 기반 사진
아이폰과 아이맥이 수대 있는 집에서 아이클라우드 2TB와 구글 클라우드 2TB를 각각 구독하고 있었다. 이번에 아이폰에서 갤럭시 폴드4로 넘어가게 되면서 구글 클라우드까지 함께 사용하게 되었는데, 내 사진이 총 280GB, 거의 5만 장에 달했기 때문이다. 처음엔 아이클라우드에서 구글포토로 내보내기를 하여 갤럭시 폴드에서 사진을 무리 없이 볼 수 있었지만, 언젠가 다시 아이폰으로 돌아갈
LLM 모델 큰것을 사용하면 정확도가 높아진다고 한다. 뻘소리 하지 않고 좀 더 정확한 대답을 한다는 것이겠다. 그럴려면 GPU 메모리가 커야 한단다. 그래서 24기가 메모리가 장착된 Nvidia 3090이나 4090등이 품귀라고 한다. 전문 gpu 보다 상대적으로 저렴하기 때문이다. 그런데 맥장비 M 시리즈는 통합메모리를 사용하는데 그게 이쪽에서 잇점이 있었다. 예를 들어 M1 max
매년 이때만 되면 동네에 매캐한 향불 냄새가 진동하던걸 기억한다. 5월만 되면 동네가 쥐죽은듯이 조용하던 때를 기억한다. 어린시절 왜 그런지 몰랐지만 매년 반복되는 그 알수 없는 조용함을 깨달았던때는 대학교에 입학하고 나서였다. 그리고 ‘그날’이란 것은 기억하지 않으려 해도 뭔가 내 심장 한곳에 박혀 내가 격었던것 마냥 매년 반복되는 기억이 되었다. 그렇게
곧 이제 여름이면 뙤약볕에 에어컨 없는 야외 출입은 거의 못할겠지만 이 날만은 참으로 아름다운 우리집이다. 과연 앞으로 얼마나 더 지낼수 있을진 모르지만 있는 그날까지는 더없이 이쁜집으로 가꾸고 싶다. 제작년 한봉다리 뿌려뒀던 수레국화와 꽂양귀비가 이제야 여기저기 피기 시작했다. 정작 뿌린 그해에는 우리를 실망시키더니 한해 건너서 아름답게 피는구나….. 한번이라도 더 보고 헤어졌으면
올라가는 길 차가운 날카운 비는 내리긴 했지만 언제쯤엔가 아주 익숙한 느낌에 뺨과 살갗에 부딫히는 얼음같은 차가움이 싫지 않다. 우비도 우산도 필요없다. 그냥 산에 왔으니 그것들은 느끼면 된다. 근20년만에 올라가는 길. 이제 내려가면 또 언제쯤에나 다시 올지 모르는 길이다. 걱정했던 무릎은 잘 버텨주고 있었다. 7kg 감량하고 온것이 다행인가보다. 장터목 대피소는 그간
현재시각 오후 3시 장터목 대피소 입실을 일찍해줘서 다행이다. 비가 제법 내렸다. 추위가 오길래 냅다 달렸다. 함께 가던 아저씨가 힘들어해서 일단 장터목에 내 배낭을 두고 냅다 2키로 정도를 뛰어 내려와서 배낭을 받아줬다. 사실 이렇게 내 무릎이 싱싱할즐 몰랐다. 설팅, 밀가루 줄인 이후 어느새 7킬로그램이 감량 됬더니 예전 싱싱한 무릎이 돌아온듯 하다.
새벽 4시30분 정자동 출발 09시 백무동 주차장 도착 곧바로 준비후 산행 시작. 현재 시각 10:30분. 참샘 500미터전. 무릎은 오르막이라 의외로 괜찮다. 익숙한 물소리, 새소리, 바람소리 그리움의 소리 이걸 느끼기 위해 오래 기다렸다. 너무 좋다.
도시이야기
얼마만인지 모르겠다. 드디어 지리산으로 간다. 십년도 훨씬 훨씬 넘은 날에 드지어 간다. 배낭은 어디서 주어온거 하니 챙겼고, 등신화는 십몇년전것 아직 있는데 곰팽이 천지라 대충 칫솔로 닦았다. 등산복 없고, 등산바지 미스무리한 바지는 있다. 장터목 대피소 예약은 해났지만 코펠도 버너도 없는데 취사나 되는지도 모르겠고, 다이소에서 하나 사까… 믿었던 산동무 인규놈은 역시 함께
시골이야기
지난 겨울내내 비닐 한장으로 유지되던 무늬만 비닐하우스에서 동면하던 상추. 알리에서 예전에 사둔 인공태양광 조명을 설치해줬다. 태양광 패널 400와트짜리 두개로 자동차배터리 2개에 충전되고 있는 것으로 전기는 해결했다. 매주 일요일 집에 돌아오는 길에 상추와 갓 그리고 각종 쌈채소를 수확해서 오는 기쁨이 크다. 일주일동안 인공광 덕분인지 아니면 이제 따스해진 햇살 때문인지는 모르겠지만 쑥쑥
BLOG
프란치스코 교황의 감동 명언 5선 – 인류에게 전한 평화의 메시지 프란치스코 교황은 단순한 종교 지도자가 아닙니다. 그는 인류에게 사랑과 평화를 전하는 이 시대의 영적 리더입니다. 오늘은 그의 명언 중에서도 깊은 울림을 주는 다섯 가지를 소개하며 그 안에 담긴 뜻을 되새겨 보겠습니다. 1. “우리 모두는 누군가의 형제자매입니다.” 인종, 국적, 종교를 떠나 우리는
도시이야기
아이폰 사진 찍을때 라이브포트 라는 것이 있는데 이게 경우에 따라 참 요긴하다. 대낮에 장노출 찍기가 보기보다 쉽지ㅜ읺다. 햇빛이 있으면 노출 오버가 쉽상이니 별도의 필터를 끼우는등 난리를 피워야 하는데 이때 아이폰 라이브포토는 참 쉽다. 참~ 쉽죠? 라이브포토로 아무렇게나 최대한 흔들리지 않게 찍고 난 다음 왼쪽 위 저 아이콘 클릭후 장노출로 설정해주면
Linux
ChatGPT가 있어서 이런건 참 어렵지 않게 술술 풀리는것 같다. 중간 중 몇가지 걸리는 부분이 있었지만 그다지 어렵지 않게 진행할수 있었다. 기존 인텔제온 cpu에서 도커로 운영중이던 사이트를 ARM CPU를 사용하는 하드커널 HC-4 장비에 이식하려고 했더니 단순히 도커 이미지를 백업 받고 다시 import 하는 것으로는 정상적으로 운영이 되지 않아 다시 재생성하는 과정이
Pug_ToTo
퍼그(Pug)는 고대 중국에서 유래한 소형견으로, 오랜 역사와 독특한 특징을 가진 견종입니다. 퍼그의 기원부터 성격, 건강 관리, 흥미로운 사실까지 모든 것을 정리해드릴게요. 1. 퍼그의 역사 고대 기원 (B.C. 400년경) • 퍼그는 중국 황실에서 키우던 개로, 기원전 400년경부터 존재했던 것으로 추정됩니다. • 티벳 불교 사원에서도 신성한 개로 여겨졌으며, 사자(獅子)를
Pug_ToTo
재택이라 잠시 짬을 내서 토토 산책을 다녀온다. 이제 완연한 봄인가. 아니면 또 한번의 살짝추위가 남아있으려나. 아무튼 햇살이 참으로 따스하다. 누군가의 글을 보고 찾아보니 퍼그 산책은 대략 15~30분이 적당하덴다. 난 한번 나가면 두세시간씩 산책을 시키곤 했는데 너무 심하게 시킨득 하다. 이제 부턴 대략 20여분 산책 시키려고 했더니 녀석이 집에 안간다고
Pug_ToTo
어느덧 벌써 4번째 생일. 처음 집에 와서 바들 바들 떨던 그 모습을 기억하고 처음 밥을 먹을때를 기억하고 처음 쉬를 하고 똥을 싸던 때를 기억한다. 첫날 밤 내 팔배게를 살며시 하고 잠들던 그녀석의 모습. 뒤척이는 녀석 엉덩이를 토닥 토닥 했더니 다시 사르르 잠들던 모습. 우리 앞에 가만히 앉으면 맛난건 얻어 먹을수
IT
역대 우주 로켓 발사 횟수: 국가 및 단체별 비교 인류가 1957년 첫 인공위성을 발사한 이래, 여러 나라와 기관에서 수천 회의 로켓 발사가 이뤄졌습니다. 아래에서는 국가별(역사상 누적) 로켓 발사 총횟수를 정리하고, 민간 기업 **스페이스X(SpaceX)**의 발사 실적과 비교합니다. 여기서 ‘발사 횟수’는 궤도 진입을 목표로 이루어진 총 발사 시도를
여행 사진/아프리카
오래전에 아프리카대륙의 남아프리카 공화국 케이프 타운을 여행한적이 있었다. 너무 오래된 기억이라 곳곳의 지명도 가물 가물 하지만 그날의 기억들을 공유해본다. 영어 번역 (English Translation) A long time ago, I traveled to Cape Town, South Africa, on the African continent. It’s been so long that I can hardly remember the names
Wordpress
Tistory에 있는 글들을 모두 내 워드프레스로 이전하기 위해서는 몇가지 절차가 필요하다. 이것 또한 생각해보면 간단하기도 하지만 해보지 않으면 가늠이 되지 않는다. 방법은 아래와 같다. 물론 따라 해보고 안되면 돈주고 맡기는 수밖에 ㅋㅋㅋㅋ ( 100건당 만원!!! ilikeafrica@gmail.com ) https://www.ilikeafrica.com/category/it/wordpress 1. 티스토리 관리 메뉴중 백업에 관한
Wordpress
네이버 블로그를 워드프레스로 이전하는 가장 편한 방법은 역시 업체를 이용하는 방법이겠다. 하지만 조금만 생각해보면 혼자서 어렵지 않게 할수 있었다. 혹시나 그래도 안된다 싶으면 돈 받고 해 드릴테니 연락 주세요…냐하하하 ( ilikeafrica@gmail.com, 100건당 만원) 1. 네이버 블로그 관리 메뉴에 가면 글 저장이라는 메뉴에서 한번에 100개씩 pdf 로 저장 후
AI
요즘 대세라고 하는 3가지 LLM 에 대해서 살펴밨다. 개인이 뭔가 이제 자신만의 지식저장고를 만들수도 있을것 같다는 생각이 든다. ChatGPT vs DeepSeek vs Grok-3 비교 분석 현재 AI 모델 시장에서 ChatGPT(OpenAI), DeepSeek, **Grok-3(X/Tesla)**는 주목받는 대형 언어 모델(LLM)입니다. 이 모델들은 각기 다른 철학과 기술적 접근을 가지고
AI
비싼 NVIDIA의 GPU를 사용하는 이유중 하나가 cuda 코어 때문이다. 이 cuda코어를 소프트웨어로 에뮬레이션 할수 있지 않을까 하는 질문에 검색을 해보았다. 결론은 가능 할수도 있지만 속도가 극악이라 사용하기 힘들듯 하다. CUDA 코어나 Tensor 코어를 소프트웨어적으로 에뮬레이션하는 것은 가능하지만, 매우 비효율적이며 일반적으로 실행 속도가 극도로 느려질 수 있습니다. 그래도 몇 가지 방법을
AI
엄밀히 말하자면, **“머신러닝(Machine Learning)”**은 인공지능(AI)의 하위 개념이고, 그 아래에 **“딥러닝(Deep Learning)”**이 위치합니다. 즉, **“인공지능 > 머신러닝 > 딥러닝”**의 계층 구조로 이해할 수 있습니다. 이를 더 자세히 설명하면 다음과 같습니다: 1. 인공지능(AI, Artificial Intelligence) • 최상위 개념으로, 인간의 지능을 모방하는 모든 기술을 포괄합니다. • AI는
AI
DeepSeek: M1 Mac과 RTX 3080에서 효율적으로 운영하는 방법 DeepSeek은 AI 기반 데이터 분석 및 검색 플랫폼으로, 고성능 하드웨어를 통해 더 빠르고 정확한 작업이 가능합니다. 이 글에서는 Apple M1 칩과 NVIDIA RTX 3080 GPU를 활용해 DeepSeek을 실행하는 방법을 안내합니다. 1. DeepSeek이란? DeepSeek은 머신러닝과 자연어 처리를 결합하여 대규모 데이터 검색과 분석을 수행하는
AI
1. Concept of an M1 Mac Cluster with Thunderbolt Although M1 Macs do not offer native clustering functionality like traditional x86 servers, they can leverage Thunderbolt 3/4 ports for high-speed networking. This allows distributed learning using MPI (Multi-Processing Interface). Cluster Networking Options with Thunderbolt: • Thunderbolt-to-Ethernet Bridge: Use Thunderbolt cables
AI
To create a cluster using multiple Mac Minis for executing models like DeepSeek, you can follow these steps: 1. Hardware Setup: • Use multiple M1 Mac Minis with at least 16GB of unified memory. • Connect the Mac Minis using Thunderbolt cables or via a high-speed Ethernet switch to ensure low-latency communication
AI
당연히 rtx3090이 성능이 좋을듯하다. 예상은 했지만 수치로 알려주니 좋. DeepSeek(딥러닝 모델) 실행 속도를 비교하려면 컴퓨팅 성능(CPU, GPU, RAM), 병렬 처리 가능 여부, 모델 최적화 상태 등을 고려해야 해. 1. 비교 대상 스펙 • M1 Mac mini (6대) • 가격: 35만 원 × 6 = 210만 원 • CPU: Apple M1 (8코어) • GPU: M1
AI
aAMD Ryzen 9 5950X + RTX 3090 (24GB) + RAM 128GB에서 DeepSeek-V3 실행 가능 여부 ✅ AMD Ryzen 9 5950X + RTX 3090 (24GB) + 128GB RAM 환경에서는 DeepSeek-V3의 양자화 버전 실행이 가능합니다. ✅ 다만, llama.cpp를 최적화하여 빌드하고, 적절한 양자화 모델을 선택해야 최상의 성능을 얻을 수 있습니다. 1. 시스템 구성 및 실행 가능성 사용할 하드웨어: