Chandra OCR — Mac Studio M1 Max 64GB에서 실행하기 (CUDA vs Metal MPS 비교)

4B 파라미터 Vision-Language OCR 모델 Chandra를 Mac Studio M1 Max 64GB에서 실행하는 방법과 CUDA 환경과의 성능 비교를 정리합니다.

Chandra OCR란?

Datalab이 개발한 Chandra OCR은 이미지와 PDF를 HTML, Markdown, JSON으로 변환하는 고성능 문서 인식 모델입니다. 4B 파라미터 Vision-Language 모델(Qwen3VL 아키텍처) 기반으로, olmOCR 벤치마크에서 85.9% 성능을 달성했습니다.

주요 특징

  • 표, 수식, 손글씨, 체크박스 등 복잡한 레이아웃 처리
  • 90개 이상 언어 지원 (비라틴 문자 포함)
  • 전체 페이지 단위 처리 (청크 분할 없음)
  • HuggingFace 로컬 추론 또는 vLLM 서버 방식 지원

CUDA vs Mac Studio M1 Max 성능 비교

환경페이지당 처리 시간비고
NVIDIA H100~0.7초서버급 GPU, 96 시퀀스 병렬
NVIDIA RTX 3060~2~3초일반 데스크탑 GPU
Mac Studio M1 Max (Metal MPS)~5~10초본 테스트 환경
CPU only (M1)~15~25초GPU 미사용시

CUDA 전용인 Flash Attention을 사용하면 NVIDIA GPU에서 30~50% 추가 성능 향상이 가능하지만, Mac에서는 지원되지 않습니다.

내 Mac Studio 사양

  • 모델: Apple Mac Studio (2022)
  • 칩: Apple M1 Max
  • CPU: 10코어 (8 Performance + 2 Efficiency)
  • GPU: 24코어 (Metal 4 지원)
  • 통합 메모리: 64GB

메모리 여유도

항목사용량
Chandra 4B 모델 (fp16)~8GB
추론 중 KV 캐시 + 활성화 메모리~4~6GB
총 예상 사용량12~16GB
여유 메모리48~52GB

64GB 통합 메모리 덕분에 200페이지 이상의 대용량 PDF도 메모리 부족 없이 처리 가능합니다.

Mac Studio에서 설치하기

# 1. Python 3.11 가상환경 생성
python3.11 -m venv chandra-env
source chandra-env/bin/activate

# 2. PyTorch (Metal MPS 자동 포함)
pip install torch torchvision

# 3. Chandra OCR 설치
pip install chandra-ocr[hf]

# 4. Metal GPU 가속 확인
python3 -c "import torch; print(torch.backends.mps.is_available())"
# → True 출력되면 GPU 가속 활성화

# 5. 실행
chandra input.pdf ./output --method hf

결론

Chandra OCR은 CUDA 없이 Mac Studio에서도 완전히 실행 가능합니다. M1 Max 24코어 GPU와 64GB 통합 메모리 조합은 소~중량 문서 처리에 충분히 실용적인 성능을 제공합니다. NVIDIA GPU 대비 속도는 2~5배 느리지만, 메모리 여유와 안정성 면에서는 오히려 유리합니다.

개인 문서 처리, 연구, 개발 용도라면 별도 서버 없이 Mac Studio 하나로 충분히 활용할 수 있습니다.

Read more

일본어 성경의 ‘가미’ 선택 이야기

신명을 무엇으로 옮길지는 그리스어나 히브리어 문법이 강제하는 문제가 아니라, 대응어가 없는 언어에서 번역자가 여러 후보 가운데 하나를 고르는 문제다. 일본어에는 유일신만을 가리키는 고유어가 없었고, 번역자들은 고쿠라쿠·텐노즈카사·가미 등을 거친 끝에 가미를 골랐다. 원문을 잘못 읽은 오역이 아니고, 없던 문장이 추가된 것도, 있는 본문을 다르게 해석해 남용한 것도, 사본이 조작된 것도 아니므로 나머지 유형에는 해당하지 않는다.

By ilikeafrica

미켈란젤로의 모세상엔 왜 뿔이 있을까 — 조작이 아니라 번역 선택이었다

히브리어 어근 qeren(동사형 qāran)은 구약 다른 곳(하박국 3:4)에서 '빛살'을 뜻하기도 해, 이 문맥에서도 '뿔'과 '빛나다' 두 갈래로 읽을 수 있는 자리였다. 문법이나 문맥이 한쪽을 강제하지 않았고, 실제로 번역자들도 서로 다르게 골랐다 — 칠십인역은 '영광스러워졌다', 히에로니무스보다 앞선 2세기 그리스어 역자 아퀼라와 히에로니무스는 '뿔'을 골랐다. 없던 단어를 잘못 옮긴 것이 아니라 열려 있던 두 선택지 중 하나를 고른 것이므로 오역이 아니라 번역 선택이다.

By ilikeafrica