Tag: Gemini
All the articles with the tag "Gemini".
-
Honcho의 조용히 죽어있던 재조정 로직을 찾았다
Honcho의 LLM/임베딩 스택을 Gemini에서 GPT-5.6 Luna로 전부 옮기다가, 툴콜과 reasoning_effort 조합이 거부되는 문제를 만났다. 그리고 그 과정에서, 벡터 재조정 로직이 documents 테이블을 한 번도 처리한 적이 없었다는 걸 발견했다.
-
디폴트값으로 돌리고 있었다 — GPT-5.6 Luna 추론 옵션을 medium과 high로 나눠서 비교해본 결과
GPT-5.6 Luna의 reasoning_effort 기본값을 발견하고 medium/high를 프롬프트 보강과 엮어 벤치마크를 돌렸다. 결과표는 그럴듯했다. 그런데 그 표를 만든 도구를 다시 열어보니, 표에 있는 숫자 중 상당수는 애초에 그 코드가 잴 수 없는 값이었다 — 그리고 그걸 고친 정정 문서에도, 또 다른 정정이 필요했다.
-
벤치마크 표를 못 믿어서, 같은 원고 63개로 두 모델을 직접 붙여봤다
모델을 한 단계 올렸는데도 같은 종류의 버그가 계속 나왔다. 이번엔 같은 회사 안에서 모델을 또 바꾸는 대신, 아예 다른 회사 모델과 정면으로 비교해보기로 했다. 그리고 그 결과를 실제 서비스에 반영한 뒤, 예전에 문서로 남겨둔 버그들이 정말 없어졌는지 하나하나 다시 확인해봤다.
-
고객사 뉴스 리포트 만들다가 6편 — 각주 버그를 고쳤는데, 알고 보니 처음부터 없던 버그였다
리포트에 [1] 각주가 붙어 나오길래 프롬프트를 고치고 캐시 버그까지 잡았다. 그런데 실제로 눈으로 확인하려고 리포트를 열어봤더니, 고친 뒤에도 여전히 각주가 보였다. vi와 glow를 나란히 열어보고 나서야, 각주는 한 번도 리포트 파일에 있었던 적이 없다는 걸 알았다.
-
고객사 뉴스 리포트 만들다가 2편 — 돌연 요약이 다 실패로 나왔다, 모델이 사라진 걸 아무도 안 알려줬다
비용을 따로 추적하려고 전용 API 키를 새로 발급받아 붙였다. 리포트는 한 시간 넘게 잘 돌아갔는데, 다 끝나고 열어보니 gemini-2.5-flash 모델 접근이 막혀서 요약이 전부 실패로 나와 있었다.