준호씨의 블로그

GraphRAG 라이브러리 v0.3.3 릴리즈가 되고 얼마 지나지 않아 바로 v0.3.4가 릴리즈 되었습니다. 다만 아직 github에 release 페이지가 생기지 않아서 Release v0.3.4 커밋 내용을 참고하였습니다. 이번 릴리스는 두 가지 패치를 포함하고 있어, 라이브러리의 안정성과 기능성을 한층 향상했습니다. 변경 사항을 자세히 살펴보겠습니다. 주요 변경 사항1. 로컬 검색에서의 경쟁 상태 방지첫 번째 패치는 로컬 검색 과정에서 발생할 수 있는 경쟁 상태(race condition)를 방지하기 위한 것입니다. 구체적으로, 텍스트 단위(text units)에 대해 깊은 복사(deep copy)를 수행하도록 변경되었습니다.변경 내용: "Deep copy txt units on local sea..

Microsoft의 GraphRAG 라이브러리가 0.3.3 버전으로 업데이트되었습니다. 이번 릴리스는 주로 버그 수정과 기능 개선에 초점을 맞추었으며, 사용자 경험을 향상하는 여러 변경 사항을 포함하고 있습니다. 주요 업데이트 내용을 살펴보겠습니다.주요 변경 사항1. 증분 인덱싱 지원 (정정: 옵션만 추가되었고, 실제 기능 구현은 안되어 있는 것 같습니다 ㅠㅠ)증분 인덱싱을 위한 엔트리포인트가 추가되었습니다. 이를 통해 대규모 데이터셋의 효율적인 업데이트가 가능해졌습니다.새로운 데이터를 추가할 때 인덱싱 작업을 처음부터 다시 하는 것이 아니고, 완료된 데이터에서 추가하는 것이 가능해졌습니다. 아직 데이터 삭제나 추가된 데이터 수정은 지원하지 않지만, 새로운 데이터를 추가하는 것은 가능해진 것입니다.cli..

LLM 모델을 테스트해 볼 때 제가 주로 사용하는 질문은 "구구단 프로그램을 만들어줘", "세종대왕의 맥북던짐 사건에 대해 이야기해 줘" 같은 질문들입니다. 좀 새로운 질문들을 해 보면 좋겠다 싶어서 Claude에게 "LLM 모델을 테스트해 보기 좋은 질문 추천해 줘"라고 질문해 보았습니다. 복잡한 추론: "지구 온난화가 해수면 상승에 미치는 영향과 그로 인한 경제적 결과를 설명해 주세요."창의성: "고양이와 우주여행을 주제로 한 단편 소설의 줄거리를 만들어보세요."다국어 능력: "'사랑'이라는 단어를 5개 다른 언어로 번역하고, 각 문화에서 그 의미가 어떻게 다른지 설명해 주세요."수학적 문제 해결: "복리 이자로 연 5%의 이율을 적용할 때, 1000만 원이 2000만 원이 되는 데 걸리는 시간을 계..

Whisper는 OpenAI가 개발한 자동 음석 인식(ARS) 모델입니다. 다양한 언어와 억양을 이해하고 텍스트로 변환할 수 있습니다. 요즘 음성을 텍스트로 변환하는 다양한 도구들과 AI 모델, 서비스들이 나오고 있는데요. 아직 Whisper를 능가하는 경우를 보진 못했습니다. Whisper 모델을 사용하려면 보통은 OpenAI의 API를 생각할 수 있는데요.Whisper 모델을 OpenAI를 통해 사용하게 되면 1분에 $0.006입니다. 1시간짜리 음성을 인식시키게 되면 $0.36으로 500원 정도를 사용하게 됩니다. 비싼 가격은 아니지만 이것저것 사용하다 보면 비용을 무시하진 못할 것 같습니다. Whisper 모델은 공개되어 있기 때문에 OpenAI API를 이용하지 않고 직접 Whisper 모델을 ..

2022년 8월 Stable Diffusion 모델이 공개되면서 Stable Diffusion을 이용해서 이미지를 생성할 수 있는 사이트들이 여럿 나왔습니다. 모델 파일을 받아서 내 컴퓨터에서 직접 구동해 볼 수 있는 방법들도 있는데요. 그중 대표적인 것이 stable diffusion webui 입니다. 하지만 윈도우OS 환경을 기본으로 하고 있고 Mac OSX 환경에서 설정하기가 쉽지 않습니다. 다행히도 Mac OSX 환경에서 Stable Diffusion을 쉽게 실행시킬 수 있는 앱이 있습니다. 바로 DiffusionBee입니다. 오프라인 환경에서 무료로 무제한으로 사용해 볼 수 있습니다. 다만 맥북의 성능이 좋지 않다면 실행이 어려울 수 있는 점은 감안해야 합니다. 아래 사이트에 접속해서 다운로드..