2024년 40주차 (10월 1주차)

2층 쉼터에서 주간정리 쓴다. 블로그를 뒤져보니, 주간정리를 쓴게 2024년 19주차(5월 12일) 부터였다. 어느덧 2024년의 절반 이상을 기록으로 채운 셈이다.

첫 주간정리를 작성할 때는 해군창업경진대회에 참가중이였다. 그리고 지금은 진해지역 합동해군창업경진대회에 참가한다. 또 쉼없는 고통의 시간만이 남을 것 같다. 아직도 싸지방은 복구가 안되어서, 폰으로 작업해야 한다. 그래요 보여주도록 하죠.

"AI를 만난 모바일 도슨트, 오르빗"이라는 제품을 선보일 예정이다. 비전 LLM와 RAG을 사용해서 모바일 도슨트를 제공하는 서비스이다. 카메라로 작품을 비추면 설명을 해주고, 추가 질문도 이어나갈 수 있는 서비스이다.

비전 LLM은 도슨트에서 다음과 같은 일을 할 수 있다:

• 실내측위 인프라와 QR 없이도 서비스(초기 구축비용 절감)
• 자유로운 질문답변 제공
• 사전 준비가 없이도 다국어 지원

구글이 Project Astra라는 데모에서 선보인 것 처럼, 손가락으로 화면에 그림을 그려서 질문을 할 수 있는 기능을 구현해보고 싶다.

VLM은 Gemini 1.5 Flash 또는 GPT 4o mini를 쓰고 싶다. AI 서비스의 내수용 리전에서는 HyperCLOVA를 도입해보고 싶은데, 항상 걸리는게 Context Length이다. RAG를 도입하려면 일정 수준 이상의 Context Length가 확보되어야 하는데, 하이퍼클로바는 최대 4k 토큰까지만 다룰 수 있다. 이후 몇백만 토큰까지 윈도우가 확장된다고는 하는데, 그 때 다시 사용을 고려해봐야겠다. GPT와 Gemini는 지금도 한국어를 지원하지만, 아직은 한국어를 매우 잘 하는 외국인처럼 느껴진다. 그래서 HyperCLOVA에 큰 기대가 있고, 꾸준히 개선되는 모습을 바라고 있다.

일단 구상은 그렇다. 열심히 만들어봐야겠지요. 대단히 큰 엔지니어링이 들어가는 제품은 아니다. 그저 만들게 많을 뿐 .. 그리고 싸지방이 없을 뿐...

감기에 걸렸다.

연결된 페이지 (Inlinks)

연결된 페이지가 없습니다.