AI
인공지능, 머신러닝, OCR, 모델 평가
-
GPU 분산 학습 완전 정복 — 4가지 방식 요약 + 5단계 학습 로드맵
“GPU 여러 개 꽂으면 자동으로 빨라진다”는 착각을 깨는 글. Data/Model/Pipeline/Tensor Parallel 4가지 분산 방식을 정리하고, PyTorch DDP → Accelerate → DeepSpeed → FSDP → Ray+Kubernetes…
-
[WebRTC] TURN — self-host 9개월 운영기 (외부 서비스 비교, 비용·latency 실측)
1:1 AI 음성 상담 운영 9 개월 — 외부 TURN 서비스 3 개월 + coturn self-host 6 개월의 비용·latency·실패 모드 비교. 다시 선택한다면 어떤 기준으로…
-
[hub] AI 음성 상담 시스템 — WebRTC + STT + LLM + TTS 전체 가이드 (10편 인덱스 + 9개월 운영 요약)
WebRTC·STT·LLM·TTS 4축 파이프라인을 처음부터 끝까지 — 9개월 운영하며 쓴 10편의 글을 한 페이지 인덱스로. 처음 보는 분을 위한 학습 순서 + 각 컴포넌트의 의사결정 +…
-
[Google STT] 실시간 음성 → 텍스트 — 음성 turn에서의 스트리밍 패턴
결론 먼저 — interim_results=true 없이는 음성 UX가 깨진다 옵션 설정 영향 API 종류 StreamingRecognize partial result 수신 가능 interim_results true 발화 중 실시간 텍스트 single_utterance…
-
[Gemini] 2.0 Flash를 고른 이유 — 음성 상담의 응답 속도 vs 품질
결론 먼저 — 음성 상담에서 latency는 품질이다 축 Pro 계열 Flash 계열 응답 latency (체감) 높음 낮음 긴 문맥 (32k+) 추론 품질 우수 충분 function…
-
[설계 판단] 1:1 AI 음성 상담을 위해 SFU를 ‘Dumb Pipe’로 둔 이유
결론 먼저 — 1:1 음성 상담의 미디어 토폴로지 비교 토폴로지 서버 CPU 대역폭 지연 구현 복잡도 1:1 상담 적합성 P2P (Mesh) 0 매우 낮음 최저…
-
[문서 탐지] 시험지 OCR에서 TP/FP/FN 계산 기준 — 전체 객체 수 보존 관점
결론 — “전체 객체 수 보존”이 핵심 기준이다 시험지 OCR에서 TP/FP/FN을 계산할 때 가장 중요한 원칙은: “총합 문제 수가 일치되어야 정확하다” 부분 검출을 성공으로 인정하고,…
-
[결과 판단] F1 Score — AI/OCR 탐지 성능을 하나의 숫자로 평가하는 방법
결론 먼저 — 측정 결과 지표 공식 값 Precision (정밀도) TP / (TP + FP) 0.8611 (86.1%) Recall (재현율) TP / (TP + FN) 0.9118…
-
[AI 음성 상담] 데이터 플로우 5단계 — 각 단계의 실패 모드와 fallback
결론 먼저 — 5단계 × 실패 모드 × 복구 가능성 단계 핵심 동작 대표 실패 복구 1. 사용자 요청 인증·세션 토큰 발급 토큰 만료 /…
-
[음성 파이프라인] STT → LLM → TTS 전체 latency 분해 — 4구간 절단법
결론 먼저 — 음성 파이프라인 latency는 4구간으로 쪼개야 줄일 수 있다 구간 이름 대표 단축 전략 1 VAD → STT 종료 (사용자 발화 끝 인식)…