สร้าง Apple Mac Cluster รัน AI ในออฟฟิศ

Mac Cluster คืออะไร?

Mac Cluster คือการเอา Mac หลายเครื่องมาเชื่อมต่อกันด้วยสาย Thunderbolt 5 แล้วใช้เทคโนโลยี RDMA (Remote Direct Memory Access) ที่ Apple เปิดให้ใช้ใน macOS Tahoe 26.2 ทำให้ทุกเครื่องทำงานเหมือนเป็นเครื่องเดียว — Unified Memory จากทุก node ถูกรวมเป็นก้อนเดียว สำหรับรัน AI Model ขนาดใหญ่ ที่เครื่องเดียวไม่พอ

เทคโนโลยี RDMA ลด latency จาก 300 microsecond เหลือเพียง 3-9 microsecond ทำให้ทุก node ทำงานพร้อมกันแบบ Tensor Parallelism แทนที่จะรอต่อคิวแบบเดิม

ทำอะไรได้บ้าง?

ลงทุนเท่าไหร่? — 3 ระดับงบประมาณ

ระดับ 1: Starter — ลองเล่น (~฿172,000)

RAM รวม 128GB — รัน Llama 3.3 70B, Devstral 123B (4-bit) ได้สบาย | กินไฟ < 200W | เหมาะทีม 10-20 คน

ระดับ 2: Professional — ใช้งานจริง (~฿1,200,000)

RAM รวม 768GB — รัน DeepSeek V3.1 671B ได้ | กินไฟ ~600W peak | เหมาะองค์กร 50-100 คน

ระดับ 3: Enterprise — Full Power (~฿1,800,000)

RAM รวม 1TB — รัน Kimi K2 (1 Trillion params) ได้ | กินไฟ ~600W peak (idle ~66W) | เหมาะองค์กร 100-200 คน

สเปค Mac mini M4 Pro 64GB — ตัวที่แนะนำสำหรับ Starter

Mac Cluster vs NVIDIA GPU — เทียบตรงๆ

สรุป: Mac Cluster ถูกกว่า ~15 เท่า สำหรับ inference (รัน model) แต่ไม่เหมาะ training (สอน model) ถ้าองค์กรต้องการ ความปลอดภัยของข้อมูล และไม่อยากส่งข้อมูลขึ้น Cloud — Mac Cluster เป็นตัวเลือกที่คุ้มค่ามาก

Step-by-Step ติดตั้ง Mac AI Cluster

Step 1: เตรียม Hardware และต่อสาย

ต่อ Mac ทุกเครื่องด้วย Thunderbolt 5 แบบ ring/mesh topology + ต่อ Ethernet แยกสำหรับ management

Mac A ──TB5──▸ Mac B
  │               │
  TB5            TB5
  │               │
Mac D ◂──TB5── Mac C

+ Ethernet switch เชื่อมทุกเครื่อง (สำหรับ SSH / API)

สำคัญ: Mac Studio ห้ามใช้พอร์ต TB5 ที่อยู่ติดกับ Ethernet port | สำหรับ 2 เครื่อง ใช้สาย TB5 เส้นเดียวต่อตรงได้เลย

Step 2: เปิด RDMA (ทำทุกเครื่อง)

# 1. ปิดเครื่อง
# 2. กดปุ่ม Power ค้าง 10 วินาที → เข้า Recovery Mode
# 3. เปิด Terminal จากเมนู Utilities
rdma_ctl enable
# 4. Restart ปกติ

ต้องทำจากหน้าเครื่อง (physical access) — Apple ตั้งใจให้เป็น security gate ป้องกันการเปิดจากระยะไกล

Step 3: ตั้ง Admin User (ทุกเครื่อง)

sudo dscl . -create /Users/clusteradmin
sudo dscl . -create /Users/clusteradmin UserShell /bin/zsh
sudo dscl . -passwd /Users/clusteradmin [รหัสผ่านที่ปลอดภัย]
sudo dscl . -append /Groups/admin GroupMembership clusteradmin

เปิด SSH: System Settings → General → Sharing → Remote Login (เลือก admins only)

Step 4: ตั้ง SSH Key (จากเครื่อง controller)

ssh-keygen -t ed25519 -C "cluster@company.com"
ssh-copy-id clusteradmin@mac-studio-01
ssh-copy-id clusteradmin@mac-studio-02

Step 5: ติดตั้ง Python + MLX (ทุกเครื่อง)

brew install miniconda
conda create -n exo python=3.11
conda activate exo
pip install mlx mlx-lm

# ทดสอบ
python -c "import mlx.core as mx; print(mx.metal.device_info())"

Step 6: ติดตั้ง Exo Labs (ทุกเครื่อง)

conda activate exo
git clone https://github.com/exo-explore/exo.git
cd exo && pip install -e .
exo start

Exo จะ auto-discover ทุก node บน network — Dashboard อยู่ที่ http://localhost:52415 | ตั้ง Transport = MLX RDMA, Strategy = Tensor Parallel

Step 7: ทดสอบ Cluster

# เช็คว่าเจอทุกเครื่อง
exo devices list
exo cluster status

# เช็ค RDMA ทำงาน
python -c "import mlx.core as mx; print(mx.distributed.is_available())"
# ต้องได้: True

# โหลด model ทดสอบ
exo model load mistral-7b-instruct
exo model infer mistral-7b-instruct \
  --prompt "สวัสดี อธิบาย RDMA แบบง่ายๆ" \
  --max-tokens 200

Step 8: โหลด Model ใหญ่ — Production

exo model load deepseek-v3.1-8bit     # 671B params
exo model load qwen-480b-coder        # สำหรับ coding
exo model load kimmi-k2-1t-moe        # 1 Trillion params

Health Check ประจำวัน

for host in mac-studio-{01..04}; do
  ssh clusteradmin@$host 'uptime' || echo "$host unreachable"
done
exo cluster status

ข้อจำกัดที่ต้องรู้ก่อนลงทุน

เหมาะกับใคร?

Mac AI Cluster เหมาะกับองค์กรที่ต้องการ:

• ความเป็นส่วนตัว — ข้อมูลไม่ออกนอกออฟฟิศ เหมาะ PDPA, GDPR
• ประหยัดค่า Cloud — ไม่ต้องจ่าย API รายเดือน (GPT-4, Claude ราคาแพง)
• Customization — เลือก model ที่เหมาะกับงานได้เอง
• Multiple models — รัน 5+ models พร้อมกันสำหรับงานต่างประเภท

สำหรับองค์กรที่ใช้ ระบบ ERP อยู่แล้ว การมี AI cluster ในออฟฟิศจะช่วยให้สามารถวิเคราะห์ข้อมูลภายใน Data Warehouse ได้อย่างปลอดภัย โดยไม่ต้องส่งข้อมูลทางธุรกิจออกไปยัง Cloud ภายนอก

สรุป — ควรลงทุนไหม?

"Mac Cluster ไม่ได้แค่ถูกกว่า NVIDIA 15 เท่า — มันเปลี่ยนเกมตรงที่องค์กรขนาดเล็กก็เข้าถึง AI ระดับ enterprise ได้ โดยไม่ต้องมีห้อง server หรือทีม DevOps"

แหล่งอ้างอิง

• NetworkChuck — Mac Studio Cluster Guide (GitHub)
• Exo Labs — Run AI locally (GitHub)
• Stabilise.io — Apple's RDMA Revolution
• AppleInsider — RDMA over Thunderbolt 5
• Apple TH — Mac mini Specs