정신을 차리고 보니 일을 시작하게 된 지 곧 2년이 다 되어갑니다. 동시에 블로그를 시작한지도 2년이 되어가는군요.아직 한참 모자란 주니어지만, 지난 2년간 의미있는 사건들을 제 입맛대로 회고해 본 시간을 가져봤습니다 :) 스스로 발품 팔아 취업까지 코로나 이후 개발 취업 시장이 얼어붙으면서 인턴 공고는 눈에 띄게 줄었고, 남아있는 자리마저 경쟁률은 하늘을 찔렀다. 자기소개서를 수십 번 쓰고 면접을 보고, 또 떨어지는 일이 일상이 됐다. 지원서 불합격이라는 결과에 무감각해질 무렵, 문득 생각이 들었다. 같은 경험을 계속 반복해서 풀어내는 자소서가 문득 합격이라는 결과로 이어지긴 힘들 거라고. 내가 원하는 일이든 아니든, 큰 기업이든 작은 기업이든, 일단 지금의 내 경험에 한 층이라도 더 쌓을 일이 있는..
🗨️ 들어가며지난 포스팅에서는 사회초년생을 위한 뉴스레터 생성 프로젝트를 소개드렸습니다.이번 글에서는 뉴스레터 생성에 필요한 'Agent 설계 과정'을 더욱 구체적으로 정리해 보려 합니다. 여러분도 경험해 보셨겠지만, 뉴스를 읽다 보면 종종 배경지식이 부족해 맥락을 이해하기 어렵고, 결국 추가 검색을 하느라 시간을 허비하게 됩니다. 이런 불편함을 해소하기 위해 시작한 이번 프로젝트는 뉴스에서 다루고 있는 주제의 역사적 배경부터 앞으로의 영향력까지 모든 것을 체계적으로 정리해 주는 원스톱 뉴스레터 서비스를 목표로 합니다. 이 과정에서 단순 뉴스 요약을 넘어, 깊이 있는 정보를 다루기 위해 Multi-Agent 방식으로 한 편의 뉴스레터를 생성하기로 하였습니다. 🗨️ Multi-Agent 시스템 도입의..
🗨️ 들어가며안녕하세요, 오늘은 최근 진행 중인 사이드 프로젝트에 대해 소개해 드리려고 합니다. 이 프로젝트는 사회초년생들이 어렵게 느끼는 경제 뉴스를 쉽고 흥미롭게 읽을 수 있는 뉴스레터 아티클을 LLM(Large Language Model)을 활용해 자동으로 생성하는 서비스입니다. 이번 포스팅에서는 이 프로젝트를 시작하게 된 계기와 필요성, 그리고 전체적인 개요를 공유하고, 추후에 더 구체적인 기술적 내용과 개발 과정을 다룰 예정입니다. 🗨️ 사회초년생에겐 너무 어려운 경제 뉴스 여러분은 경제 뉴스를 얼마나 자주 읽으시나요? 아마 많은 분들이 "읽고 싶어도 너무 어려워서..." 라고 대답하실 것 같습니다.일반 언론사의 경제 뉴스는 사실 전문적인 용어와 배경 지식을 요구하는 경우가 많습니다. "기준..
하루가 다르게 진화하는 LLM 시장은 그야말로 폭풍 속 한가운데에 있는 듯한 느낌을 줍니다. 새로운 모델과 기술이 쏟아져 나오는 가운데, 많은 개발자들이 이 변화의 속도에 압도되곤 합니다. 그러나 중요한 것은 단순히 이 변화의 속도를 따라가는 것이 아니라, 빠른 변화 속에서도 현명하게 대응할 수 있는 전략과 도구를 갖추는 것이라 생각합니다. 개발자 관점에서 매일 새롭게 등장하는 기술을 효과적으로 활용하고, 빠르게 PoC(Proof of Concept)를 진행하며 이를 서비스에 녹여내는 것이 개발자에게 더욱 중요해지고 있습니다. 이를 위해서는 효율적인 구현과 신속한 실험이 가능한 환경이 필수적입니다. 최근, 저는 이러한 고민을 해결해 줄 혁신적인 도구를 발견했습니다. LLM 기반 프로젝트의 PoC를 빈번하..
이전 Pretty Nail 프로젝트의 한계PrettyNail 프로젝트는 교조증(손톱을 물어뜯는 습관)을 개선하기 위해, 손톱을 물어뜯는 행동을 감지해 경고를 주는 AI 프로젝트다. 이를 구현하기 위해, 아래와 같은 여정 밟아 왔다.PrettyNail - 너 그게 맛있냐?PrettyNail - AI로 어떻게 손톱 물어뜯는 걸 인식할까?하지만 손톱을 물어뜯는 자세는 사람들마다 매우 다양하며, 복잡한 형태를 가진다. 단순 AI 로직으로는 높은 수준의 성능을 기대하기 어렵다. 가령, 턱을 괴는 모습과 손톱을 물어뜯는 행동조차도 쉽게 구별해 내기 힘들어한다. 때문에, 과거 PrettyNail의 로직은 사용성 측면에서 아쉬움이 있었다. 그러다 최근 우아한형제들의 테크 밋업(우아콘)에서 PrettyNail의 성능을 ..
6,7월 동안 2024 우아한 스터디를 참여했다. 생성 AI가 판을 치는 이 시대, 어떻게 AI를 잘 활용할 수 있을까? 우선 프롬프트 엔지니어링을 잘 하는것부터 시작해야한다. 우리 함께 프롬프트 엔지니어링을 잘 터득해서, AI 시대에 함께 잘 살아보세! 라는 의미로 만들어진 스터디다. 스터디명은 프롬프트 참 잘하는 집! (뭔갈 열심히 튀겨야 할 것 같은) ✔️ 나만의 지원 Tip 공부하겠다고 모이는 스터디에 무슨 지원 팁?.. 이냐 할 수 있다. 그런데 우아한 스터디는 지원하는 사람이 정말 많다 보니, 나름의 전략을 가지고 지원할 수밖에 없다. 사실 작년에 지원했다가 떨어진 이력이 있다. 내 전략은 적극성이었다.(이보다 더 진부한 지원팁이 있을까?..) 스터디와 학교 수업과는 정말 다르다. 누군가 나를..
사이드 프로젝트로 현대자동차 설명서 RAG를 구현하며,경험을 공유하고 있습니다.1. 현대자동차 챗봇 구현기 - RAG 기본 구현2. 현대자동차 챗봇 구현기 - PDF를 잘 추출해야 하는 이유 문제 : RAG의 평가 데이터셋 구축의 어려움초등학생 때부터 지금 까지, 그리고 앞으로도 우리는 끊임없이 시험을 치르게 됩니다. 시험 기간만 되면 모두들 좋은 성적을 받기 위해 밤낮을 새곤 하죠. 하지만, 여기에는 시험을 치르는 사람보다 어쩌면 더 고통을 받는 분들이 계십니다. 바로 시험 문제 출제자들이죠.지정된 범위 내에서 풀 수 있는가? 중복 정답이 있지는 않은가? 출제 의도가 분명한가? 고려해야 할 요소가 상당히 많습니다. 덕분에 시험기간만 되면 출제자들은 문제 출제에 감금이 되곤 하죠. RAG의 성능을 평가..
RAG(Retrieval-Augmented Generation)는 LLM과 검색 기술을 결합하여, 필요한 정보를 검색하고 검색 결과를 기반으로 질문에 답변하는 AI 시스템입니다. 간단한 RAG 시스템을 구현하는 건 그리 어렵지 않습니다. 그러나 프로덕트 수준의 RAG를 개발하거나, RAG의 성능을 끌어내는 일은 상당히 까다롭고 많은 자원이 소모되는 일입니다. 이번 포스팅에선 이러한 RAG 시스템을 효율적으로 구현 및 최적화해 주는 툴인 AutoRAG에 대해서 살펴보겠습니다. 문제 : RAG 최적화의 어려움기본적인 RAG 시스템(또는 Naive RAG)을 구축하는 것은 간단할 수 있지만, 실제 프로덕트 단계에서 요구하는 성능을 가지기 위해선 더 많은 장치들을 필요로 합니다. 예를 들어, 검색 결과의 질을 ..