오늘은 빼빼로데이, 아니 가래떡 데이, 아니 인도커리의 데이입니다.정말 오랜만에 점심 식사를 밖에서 하게 되었어요.사실 백현동에서 가보고 싶은 파스타 집이 있었는데, 웨이팅...그래서 옆 스페인 집을 갔더니 웨이팅...그래서 뒤쪽의 피자집을 갔더니 웨이팅...바로 옆 유명 브런치 집은 당연히 웨이팅...........그래서 다 포기하려는 그때 봄베브로이가 나타났습니다.이거슨 운명이니 11월 11일은 앞으로 인도커리의 데이가 되겠어요. https://map.naver.com/p/search/%EB%B4%84%EB%B2%A0%EC%9D%B4%EB%B8%8C%EB%A1%9C%EC%9D%B4/place/37097986?placePath=?entry=pll&from=nx&fromNxList=true&searchT..

거의 일주일이 지났지만! 맛있게 먹었던 판교의 페이딤!우리가 시킨 메뉴는 3개!삼선짜장면, 샤오롱바오, 크리스피 새우 창펀.  다양한 중국집을 많이 가봤는데 딤섬류가 특히 맛있었다.특히 크리스피 새우 창펀은 처음 먹어봤는데 식감도 재밌었고, 맛도 있어서 좋았다! 다음엔 다른 것도 먹어봐야지~

오늘은 LLM을 위한 chunking 방법론에 대해서 간단하게 알아보겠습니다.요즘 RAG를 주제로 하는 프로젝트나 논문들이 굉장히 많은데 이 RAG 방식을 취할 때 document를 작은 단위로 나누어 처리하는 것을 chunking이라고 합니다.여기에 여러가지 알고리즘들이 있는데 몇가지 주요 사용되는 알고리즘들을 알아보겠습니다! 우선 chunking이 필요한 이유는 다음과 같습니다.token 길이 제한 문제의 해결 - LLM이 한 번에 처리할 수 있는 토큰의 수에는 제한이 있기 때문에 긴 텍스트를 나누어서 넣어야 모델이 모든 텍스트를 다 다룰 수 있게됩니다.context 유지 - 긴 문서를 chunking을 통해 나누어야 각 문맥에서 중요한 정보들을 잘 유지할 수 있고, 특정 정보에 더 집중할 수 있게 ..

오늘은 Tiktoken 기능을 사용해보려고 합니다.원래는 OpenAI GPT 사용을 최대한 멀~리 멀~리 하려고 했는데, 포기했어요.너무 똑똑하그든요. 하지만, 내가 얼마 만큼의 토큰을 사용하고 있는지는 알아야겠죠?그게 다 돈이그든요. 사실, GPT에 쓸 돈 때문에 시도를 해본건 아니고요.보통 우리가 text 데이터의 길이를 분석할 때, 토큰나이저를 불러서 "음 이 데이터는 평균적으로 어느 정도 길이구나"를 가늠하잖아요?하지만, 요즘은 워낙 LLM을 많이 쓰니깐, GPT의 토큰화 방식으로 길이를 파악하는 것도 나쁘지 않겠더라고요.(tensorflow를 설치했다가 충돌 에러가 나서 그냥 쉬운 길을 선택한건 아니에요. 그냥 그렇다구요.) 먼저 개발자 AI연구가답게 살짝의 코딩을 가미한 방법입니다.본인의 가상..

매일 매일 글 쓰는거 그거 어떻게 하는 거랍니까?오늘은 간단하게 Ollama 사용법을 작성해볼게요. Ollama는 오픈소스 LLM을 로컬 PC에서 쉽게 실행할 수 있도록 도와주는 툴이에요.https://ollama.com/ OllamaGet up and running with large language models.ollama.com 요즘은 정말 노코딩시대네요.최신 모델들은 대부분 다 지원하고 있기 때문에 궁금한 모델이 있다면 다운 받아서 바로 바로 사용해볼 수 있어요.대신 모델의 크기가 커지면 커질수록 그만큼 많은 storage를 보유하고 있어야하기 때문에 로컬pc에 충분한 자리가 있어야 합니다. 1. ollama 다운로드 (본인 환경에 맞게 선택)https://ollama.com/download Do..

오늘 데이트는 마곡 멘지 라멘에서 시작!토리파이탄 라멘, 카라 탄탄멘, 미니 삼겹차슈 덮밥!여긴 모든 라멘이 닭육수가 기본 베이스다. 돈육 베이스보다 깔끔한 느낌! 배가 너무 불러서 좀 걷기 위해 도착한 서울 식물원 호수공원 날씨가 좋아서 그런지 사람들도 꽤 있었고, 예쁜 꽃들도 많았다.사실 좀 더웠는ㄷ... 김포공항 롯데몰로 이동해서!옥상에서 노을 지는 것도 구경했다. 이건 영풍문고에서 산 가챠..!드디어 나에게도 가챠의 신이 오셨다. 언제나 그랬듯 오늘도 시간은 너무 빠르게 흘러간 것 같다.늘 이렇게 즐겁기만 하길!!역시나 노는게 제일 좋다..