Vector Retrieval
벡터의 기하, 실제 LSA 검색, 근사 최근접 탐색, 순위 융합을 비교한다.
Vector Geometry
방향·크기·거리의 구분
Overview 개요#
벡터 검색에서 dot product(내적), cosine similarity(코사인 유사도), Euclidean distance(유클리드 거리)는 서로 다른 비교다. 2차원 예시로 정규화의 효과를 살펴본다.
Concept 핵심 개념#
코사인은 방향을 비교하므로 양의 배율로 벡터 크기를 바꾸어도 같게 유지된다. 내적은 방향과 크기에 모두 영향을 받는다. 두 벡터가 단위 길이이면 제곱 유클리드 거리는 2−2cosθ가 되어 순위 관계가 연결된다.
어느 거리가 의미를 잘 반영하는지는 벡터를 만든 모델과 학습 목적에 달려 있다. 영벡터의 코사인은 정의되지 않는다. 실습은 검색 코드에서 쓰기 위한 관례값 0을 표시하고 그 상태를 따로 알린다.
cos θ = (a · b) / (‖a‖₂ ‖b‖₂) ‖â − b̂‖₂² = 2 − 2 cos θ for unit vectors
Hands-on 직접 살펴보기#
b를 a의 양의 배수, 수직 방향, 반대 방향으로 움직여 세 수치의 변화를 비교한다. 좌표는 합성 수학 예시이며 문서 임베딩이 아니다.
기본 입력으로 계산한 결과
이 두 벡터는 사용자가 지정한 수학적 예시이며 언어모델 임베딩이 아니다.
| 벡터 | x | y | L2 norm |
|---|---|---|---|
| a | 3 | 1 | 3.1623 |
| b | 1 | 3 | 3.1623 |
원문 발췌와 검색 질의는 한국어를 유지합니다. 문서 ID와 PDF 페이지로 계산에 쓰인 출처를 확인할 수 있습니다.
Dense Representations
저차원 표현을 실제 코퍼스에서 만들기
Overview 개요#
LSA(Latent Semantic Analysis)는 문서–특징 행렬을 SVD(Singular Value Decomposition)로 압축해 공기 패턴을 저차원에 표현한다. 실제 법령 코퍼스에서 만든 벡터로 검색한다.
Concept 핵심 개념#
TF-IDF 행렬 X를 UΣVᵀ로 근사하면 문서 표현은 XVᵣ, 질의 표현은 qVᵣ로 만들 수 있다. 이 자료는 3,000개 특징과 최대 32차원을 사용하고 변환 계수를 파일에 포함한다. 낮은 차원을 선택하면 저장량과 구별 능력이 함께 바뀐다.
사전학습 신경망 embedding은 별도 대규모 데이터와 학습 목적을 통해 다른 성질을 얻는다. DPR(Dense Passage Retrieval)의 dual encoder와 LSA를 같은 모델로 취급하지 않는다. 여기서 설명분산은 행렬 압축의 수치이며 검색 정확도를 뜻하지 않는다.
X ≈ UᵣΣᵣVᵣᵀ z_query = qVᵣ
Hands-on 직접 살펴보기#
8·16·32차원에서 같은 질의를 검색하고 BM25와 다른 문서가 올라오는지 본다. 결과가 그럴듯해 보여도 의미 이해 성능이라고 단정하지 않는다.
기본 입력으로 계산한 결과
법령 코퍼스 TF-IDF를 SVD로 분해한 LSA다. 사전학습 신경망 임베딩이나 다국어 의미검색 모델을 실행하지 않는다.
| 순위 | 문서 | 점수 | |
|---|---|---|---|
| 1 | 부칙 | 0.84531 | 122 |
| 2 | 제619조의2 · 산소 및 유해가스 농도의 측정 및 기록 등 | 0.799541 | 112 |
| 3 | 제640조 · 긴급 구조훈련 | 0.785718 | 116 |
| 4 | 제636조 · 지하실 등의 작업 | 0.742197 | 115 |
| 5 | 제618조 · 정의 | 0.727871 | 111 |
부칙
부칙 <제454호,2025. 12. 1.>
제1조(시행일) 이 규칙은 공포한 날부터 시행한다.
제2조(산소 및 유해가스 농도의 측정결과 등의 기록 및 보존에 관한 적용례) 제619조의2제4항의 개정규정은 이 규칙
시행 이후 같은 조 제1항의 개정규정에 따라 밀폐공간의 산소 및 유해가스 농도를 측정하는 경우부터 적용한다.제619조의2 · 산소 및 유해가스 농도의 측정 및 기록 등
제619조의2(산소 및 유해가스 농도의 측정 및 기록 등) ① 사업주는 밀폐공간에서 근로자에게 작업을 하도록 하는 경우
작업을 시작(작업을 일시 중단하였다가 다시 시작하는 경우를 포함한다. 이하 이 조에서 같다)하기 전에 밀폐공간의
산소 및 유해가스 농도의 측정 및 평가에 관한 지식과 실무경험이 있는 사람을 지정하여 측정장비를 지급하고, 그로
하여금 해당 밀폐공간의 산소 및 유해가스 농도를 측정(「전파법」 제2조제1항제5호ㆍ제5호의2에 따른 무선설비 또
는 무선통신을 이용한 원격 측정을 포함한다. 이하 제629조, 제638조 및 제641조에서 같다)하여 적정공기가 유지되
고 있는지를 평가하도록 해야 한다. <개정 2024. 6. 28., 2025. 12. 1.>
② 사업주는 제1항에 따라 밀폐공간의 산소 및 유해가스 농도를 측정 및 평가하는 자에 대하여 밀폐공간에서 작업
을 시작하기 전에 다음 각 호의 사항의 숙지여부를 확인하고 필요한 교육을 실시해야 한다.<신설 2024. 6. 28.>
1. 밀폐공간의 위험성
2. 측정장비의 이상 유무 확인 및 조작 방법
3. 밀폐공간 내에서의 산소 및 유해가스 농도 측정방법
4. 적정공기의 기준과 평가 방법
③ 사업주는 제1항에 따라 산소 및 유해가스 농도를 측정한 결과 적정공기가 유지되고 있지 아니하다고 평가된 경
우에는 작업장을 환기시키거나, 근로자에게 공기호흡기 또는 송기마스크를 지급하여 착용하도록 하는 등 근로자의
건강장해 예방을 위하여 필요한 조치를 하여야 한다.<개정 2024. 6. 28.>
④ 사업주는 제1항에 따른 밀폐공간의 산소 및 유해가스 농도의 측정 및 평가 결과에 대하여 측정 및 평가한 사람
의 성명, 측정 및 평가한 일시ㆍ장소 및 그 결과 등을 기록(「개인정보 보호법」 제2조제7호에 따른 고정형 영상정보
처리기기 또는 같은 조 제7호의2에 따른 이동형 영상정보처리기기를 활용하여 기록하는 것을 포함한다)하여 3년간
보존해야 한다.<신설 2025. 12. 1.>
[본조신설 2017. 3. 3.]
[제목개정 2025. 12. 1.]원문 발췌와 검색 질의는 한국어를 유지합니다. 문서 ID와 PDF 페이지로 계산에 쓰인 출처를 확인할 수 있습니다.
Approximate Neighbors
덜 비교하면서 얼마나 놓치는가
Overview 개요#
ANN(Approximate Nearest Neighbor) 검색은 모든 벡터를 비교하는 정확 탐색을 줄이는 대신 일부 이웃을 놓칠 수 있다. 이 탭은 고정 시드의 무작위 초평면 후보 선택을 실제로 계산한다.
Concept 핵심 개념#
각 초평면에 대해 내적 부호를 비트로 바꾸고 질의 서명과 Hamming distance가 가까운 문서만 후보로 남긴다. 후보 내부에서는 정확한 코사인으로 다시 정렬한다. 비트 수와 허용 거리는 후보 수와 최근접 이웃 재현율을 함께 바꾼다.
HNSW(Hierarchical Navigable Small World)는 계층 그래프를 이용하는 다른 ANN 방식이다. 여기서 계산한 값을 HNSW의 속도나 성능이라고 부르지 않는다. 또한 정확 벡터 이웃 대비 재현율이 높아도 사용자 질문의 관련 문서를 잘 찾는다는 보장은 없다.
hⱼ(x) = 1[rⱼ · x ≥ 0] ANN Recall@k = |Aₖ ∩ Eₖ| / |Eₖ|
Hands-on 직접 살펴보기#
비트 수와 Hamming 반경을 바꾸고 후보 수·정확 이웃 재현율을 비교한다. 시드를 바꾸어 다른 초평면도 관찰할 수 있으며 링크에는 시드가 저장된다.
기본 입력으로 계산한 결과
고정 시드 무작위 초평면 LSH를 직접 계산한다. HNSW 성능을 흉내 낸 수치가 아니며, 이 재현율은 관련성 정답 대비 재현율과 다르다.
| 순위 | 근사 검색 | 정확 검색 |
|---|---|---|
| 1 | supplement | supplement |
| 2 | a-619-2 | a-619-2 |
| 3 | a-640 | a-640 |
| 4 | annex-23 | a-636 |
| 5 | a-619 | a-618 |
원문 발췌와 검색 질의는 한국어를 유지합니다. 문서 ID와 PDF 페이지로 계산에 쓰인 출처를 확인할 수 있습니다.
Reciprocal Rank Fusion
점수 척도가 다른 검색을 합치기
Overview 개요#
RRF(Reciprocal Rank Fusion)는 서로 다른 검색기의 점수 대신 순위를 사용해 결과를 합친다. BM25와 LSA의 실제 순위 목록을 같은 문서 ID로 연결한다.
Concept 핵심 개념#
BM25 점수와 코사인 점수를 그대로 더하면 한 척도가 다른 척도를 압도할 수 있다. RRF는 각 순위 r에 1/(c+r)를 주고 문서별로 합한다. 목록에 없는 문서는 그 검색기의 기여를 0으로 둔다. c는 상위 순위의 집중 정도를 바꾼다.
후보 깊이를 얕게 잡으면 두 방법에서 공통으로 찾을 문서를 놓칠 수 있다. 깊게 잡으면 더 많은 낮은 순위 후보가 융합에 들어온다. 순위 융합이 항상 개별 방법보다 좋다고 보장할 수 없으므로 같은 질의·라벨로 비교해야 한다.
RRF(d) = Σⱼ 1 / (c + rankⱼ(d)) for lists containing d
Hands-on 직접 살펴보기#
융합 상수와 후보 깊이를 바꾸며 BM25 순위·LSA 순위·최종 점수를 함께 본다. 한쪽 목록에 없는 문서도 다른 쪽의 기여로 올라올 수 있다.
기본 입력으로 계산한 결과
| 순위 | 문서 | BM25 순위 | LSA 순위 | RRF |
|---|---|---|---|---|
| 1 | 제619조의2 · 산소 및 유해가스 농도의 측정 및 기록 등 | 1 | 2 | 0.032522 |
| 2 | 제618조 · 정의 | 3 | 5 | 0.031258 |
| 3 | 제636조 · 지하실 등의 작업 | 4 | 4 | 0.03125 |
| 4 | 부칙 | 9 | 1 | 0.030886 |
| 5 | 제629조 · 용접 등에 관한 조치 | 2 | 10 | 0.030415 |
제619조의2 · 산소 및 유해가스 농도의 측정 및 기록 등
제619조의2(산소 및 유해가스 농도의 측정 및 기록 등) ① 사업주는 밀폐공간에서 근로자에게 작업을 하도록 하는 경우
작업을 시작(작업을 일시 중단하였다가 다시 시작하는 경우를 포함한다. 이하 이 조에서 같다)하기 전에 밀폐공간의
산소 및 유해가스 농도의 측정 및 평가에 관한 지식과 실무경험이 있는 사람을 지정하여 측정장비를 지급하고, 그로
하여금 해당 밀폐공간의 산소 및 유해가스 농도를 측정(「전파법」 제2조제1항제5호ㆍ제5호의2에 따른 무선설비 또
는 무선통신을 이용한 원격 측정을 포함한다. 이하 제629조, 제638조 및 제641조에서 같다)하여 적정공기가 유지되
고 있는지를 평가하도록 해야 한다. <개정 2024. 6. 28., 2025. 12. 1.>
② 사업주는 제1항에 따라 밀폐공간의 산소 및 유해가스 농도를 측정 및 평가하는 자에 대하여 밀폐공간에서 작업
을 시작하기 전에 다음 각 호의 사항의 숙지여부를 확인하고 필요한 교육을 실시해야 한다.<신설 2024. 6. 28.>
1. 밀폐공간의 위험성
2. 측정장비의 이상 유무 확인 및 조작 방법
3. 밀폐공간 내에서의 산소 및 유해가스 농도 측정방법
4. 적정공기의 기준과 평가 방법
③ 사업주는 제1항에 따라 산소 및 유해가스 농도를 측정한 결과 적정공기가 유지되고 있지 아니하다고 평가된 경
우에는 작업장을 환기시키거나, 근로자에게 공기호흡기 또는 송기마스크를 지급하여 착용하도록 하는 등 근로자의
건강장해 예방을 위하여 필요한 조치를 하여야 한다.<개정 2024. 6. 28.>
④ 사업주는 제1항에 따른 밀폐공간의 산소 및 유해가스 농도의 측정 및 평가 결과에 대하여 측정 및 평가한 사람
의 성명, 측정 및 평가한 일시ㆍ장소 및 그 결과 등을 기록(「개인정보 보호법」 제2조제7호에 따른 고정형 영상정보
처리기기 또는 같은 조 제7호의2에 따른 이동형 영상정보처리기기를 활용하여 기록하는 것을 포함한다)하여 3년간
보존해야 한다.<신설 2025. 12. 1.>
[본조신설 2017. 3. 3.]
[제목개정 2025. 12. 1.]제618조 · 정의
제618조(정의) 이 장에서 사용하는 용어의 뜻은 다음과 같다. <개정 2017. 3. 3., 2023. 11. 14.>
1. “밀폐공간”이란 산소결핍, 유해가스로 인한 질식ㆍ화재ㆍ폭발 등의 위험이 있는 장소로서 별표 18에서 정한 장소
를 말한다.
2. “유해가스”란 이산화탄소ㆍ일산화탄소ㆍ황화수소 등의 기체로서 인체에 유해한 영향을 미치는 물질을 말한다.
3. “적정공기”란 산소농도의 범위가 18퍼센트 이상 23.5퍼센트 미만, 이산화탄소의 농도가 1.5퍼센트 미만, 일산화탄
소의 농도가 30피피엠 미만, 황화수소의 농도가 10피피엠 미만인 수준의 공기를 말한다.
4. “산소결핍”이란 공기 중의 산소농도가 18퍼센트 미만인 상태를 말한다.
5. “산소결핍증”이란 산소가 결핍된 공기를 들이마심으로써 생기는 증상을 말한다.원문 발췌와 검색 질의는 한국어를 유지합니다. 문서 ID와 PDF 페이지로 계산에 쓰인 출처를 확인할 수 있습니다.