EmbeddingGemma 2 텍스트 임베딩 (Core ML) — Pinpage용

Pinpage(macOS 학습 앱)가 처음 설정할 때 내려받는 임베딩 모델입니다. 파일 내용은 원본과 같고, 텍스트 임베딩에 필요한 파일만 골랐습니다(음성·이미지 인코더 제외).

• 원본 모델: google/embeddinggemma-2 (Apache 2.0)
• Core ML 변환: FluidInference/embeddinggemma-2-coreml 버전 3f978ddf92cac9aa07eb2dcf6eb36cf450f3dba4 (Apache 2.0)
• 출력: 768차원, L2 정규화 벡터 (512·256·128차원으로 잘라 다시 정규화해서 쓸 수 있음)
• 요구 사항: macOS 15 이상 (여러 함수를 담은 Core ML 모델)

파일

입력 형식과 함수 사용법은 원본 Core ML 저장소의 README를 보세요.

검증 결과 (2026-10-28, Apple M2 24GB, macOS 27.0.1)

PyTorch CPU float32(sentence-transformers) 결과를 기준값으로 두고, 같은 입력을 여러 방식으로 임베딩해 비교했습니다.

테스트 자료: 한국어 강의 자료풍 문단 48개 + 파이썬 코드 조각 8개, 정답이 정해진 한국어 질문 24개. 순위가 쉽게 바뀌도록 비슷한 주제의 문단을 일부러 섞었고, 일부 질문은 문단과 코드가 둘 다 정답입니다. 질문 앞에는 task: search result | query: , 문서 앞에는 title: {제목} | text: 를 붙였습니다.

• 한국어 검색: 24개 질문 모두 정답이 상위 5개 안에 들었고(hit@5 100%), 정답 근거의 90%를 찾았습니다.
• Core ML GPU: 기준값과 벡터와 순위가 같습니다. Pinpage는 실험 참가자 간 일관성을 위해 이 방식을 기본으로 씁니다.
• Core ML Neural Engine: 24개 중 3개 질문에서 5위만 바뀌었습니다. 세 경우 모두 기준값의 5·6위 점수 차이가 0.0005 이하인 사실상 동점이었고, 1위와 정답 근거는 바뀌지 않았습니다.
• 첫 로드: 기기에서 처음 불러올 때 Core ML 컴파일이 필요합니다(M2에서 Neural Engine 약 70초, GPU 약 45초). 결과는 Core ML이 캐시합니다.

한계: 기기 한 대(M2)와 작은 합성 자료로 잰 결과입니다. 다른 칩(M3 등)과 실제 강의 자료에서는 따로 확인이 필요합니다. 측정 스크립트는 Pinpage 저장소의 Tools/embedding_spike/에 있습니다.