사내LLM특허, 사내 문서를 잘라 담고 출처까지 돌려준 특허등록 사례
- #사내LLM특허업무용 LLM 서비스 제공 시스템
- #특허등록10-2827595
- #소요기간특허출원 후 등록까지 9개월
사례 미리보기
사내LLM특허, 회사 안의 문서를 토큰 단위로 뜯어 벡터로 바꿔 담아 두고, 질문이 들어오면 그 안에서 찾아 답과 함께 어느 문서에서 나왔는지까지 돌려주는 구조가 특허등록됐습니다. 특허법인 테헤란이 진행한 출원 건의 등록 정보와, 사내LLM특허를 준비할 때 자주 나오는 질문을 함께 정리했습니다.
등록 개요
- 발명의 명칭
- 업무용 LLM 서비스 제공 시스템
- 출원번호(일자)
- 10-2024-0129835 (2024.09.25)
- 등록번호(일자)
- 10-2827595 (2025.06.26)
2024.09.25
특허 출원
10-2024-0129835
2025.06.26
특허 등록
10-2827595
사례 소개
사내LLM특허는 어떤 모델을 쓰느냐가 아니라 회사 문서를 어떤 모양으로 담아 두느냐에서 갈립니다.
그럴듯한 답이 어디서 나왔는지 모른다
이번 사례는 회사 안에서 쓰는 질의응답 시스템인데요. 요즘 나온 언어모델은 답을 잘 만듭니다. 다만 회사 일에 쓰려면 두 가지가 걸리죠. 하나는 우리 회사 자료를 모른다는 것이고요. 다른 하나는 답의 근거를 대지 않는다는 것입니다. 규정이나 계약을 다루는 자리에서는 이 두 번째가 특히 걸립니다. 맞는 말처럼 보여도 확인할 길이 없으면 그대로 쓰기 어렵습니다.
잘라 담아 두고 찾은 자리를 함께 돌려준다
이 건은 문서를 미리 손봅니다. 로딩부가 회사 문서를 불러오고, 구문분석부가 글을 토큰 단위로 뜯죠. 임베딩부가 그것을 벡터로 바꾸고, 저장부가 청크 단위로 벡터 스토어에 담습니다. 통째로 넣지 않고 잘라 담는 대목이 결이고요. 질문이 오면 검색부가 그 안에서 가까운 벡터를 찾고, 응답생성부가 찾은 것만 모델에 넣습니다. 응답제공부는 답과 함께 출처를 돌려주죠. 어느 문서에서 나왔는지가 화면에 남는 셈입니다. 청구항은 이 부들을 서버 안에 차례로 적고, 구축을 요청받는 대목까지 덧붙였습니다.
본 사내LLM특허 건은 특허출원에서 등록까지 약 9개월이 걸렸습니다.
자주 묻는 질문
Q1.이미 나와 있는 언어모델을 쓰는데도 특허등록이 되나요?
모델 자체가 아니라 그 앞뒤를 어떻게 짰는지가 발명입니다. 문서를 뜯어 담고 찾아 넣는 흐름이 여기 해당하죠. 그 흐름을 청구항에 적으면 자기 자리가 섭니다.
Q2.관련 기술이 빠르게 바뀌는데 출원이 의미가 있나요?
바뀌는 것은 모델이고 남는 것은 짜임새입니다. 자료를 어떻게 담아 어떤 차례로 찾는지는 오래 갑니다. 그 대목을 잡아 두면 뒤에 나올 서비스도 걸립니다.
Q3.출처를 함께 준다는 점이 그렇게 중요한가요?
권리로 보면 구성 하나가 늘어난 것입니다. 실무로 보면 쓸 수 있느냐를 가르는 자리고요. 그래서 청구항에 응답제공부로 세워 두었습니다.
Next Step
이제, 아이디어를
권리로 만들 시간입니다.
모든 상담은 변리사가 직접 진행합니다.
연락처만 남겨 주시면 담당 변리사가 직접 연락드립니다.
모든 상담은 변리사가 직접 진행합니다.
