가던 blog

Promptfoo 란?테스트 기반의 프롬프트 엔지니어링을 가능하게 하는 오픈 소스입니다. LLM 기반의 여러 작업들을 Promptfoo를 활용하여 평가에 활용할 수 있다는 장점을 가집니다.Model간 결과 비교Workflow 설계 결과 비교Prompt 결과 비교저는 LangGraph workflow를 활용한 간단한 기능을 구현했습니다.- START -> Extract Node -> Analyze Node -> END1. 요구사항 2개의 문서에서 공통 기능 리스트를 추출 (Extract Node)2. 공통 기능 리스트를 기반으로 중복/유사 근거 생성 (Analyze Node)여기서 2번의 경우 1. 원본 요구사항 2개 문서 + 공통 기능 리스트2. 공통 기능 리스트토큰 최적화를 위해 "공통 기능 리스트만..

시험 영역영역시험 비율영역 1: 클라우드 개념24%영역 2: 보안 및 규정 준수30%영역 3: 클라우드 기술 및 서비스34%영역 4: 결제, 요금 및 지원12% AWS 클라우드 시험의 출제 영역에 대한 상세 개념입니다! https://awsfornonengineers.com/ AWS for Non-Engineers | Hiroko NishimuraFundamentals of Amazon Web Services for complete beginners in an engaging, friendly book from AWS Hero known for "Introduction to AWS for Non-Engineers" courses with LinkedIn Learningawsfornonengineers...

Agent를 구축할 때, invoke_stream에서 `thread`를 사용한다.왜 thread를 사용할까? 맨 처음 코드의 thread: ChatHistoryAgentThread | None = None 에서 힌트를 얻을 수 있다.main 함수를 호출할 때, `thread` 변수는 ChatHistoryAgentThread 객체이거나 None으로 할당된다.thread를 전달하지 않으면 None으로 초기화되는 구조다. async def main(): # Create a new thread for the agent # If no thread is provided, a new thread will be # created and returned with the initial response ..

https://gadeonyy.tistory.com/12 [GenAI] 검색 증강 생성 (RAG)이란 무엇인가요?RAG에 앞서, Foundation Model이란?Foundation Model은 대규모의 비정형/비지도 데이터를 기반으로 학습된 AI 신경망 모델로, 다양한 작업에 범용적으로 적용될 수 있는 기반 모델을 의미합니다. 기존의 목gadeonyy.tistory.com 지난 번에, "검색 증강 생성 (RAG)"에 대해서 알아보았는데요,RAG 프로세스에 대해서 더 자세히 알아보겠습니다. 개괄적인 프로세스는 다음과 같습니다 Document Loader → Text Spliter → Embedding → Vector store → Retriever → Prompt → LLM → Chain ..

AGI 시대, 챗봇 UX는 어떻게 달라져야 하는가?Google DeepMind는 Post-AGI Research Scientist를 공개 채용했습니다. 이는 AGI를 넘어 “AGI 이후의 세상”, 즉 인간과 유사한 범용 지능을 가진 AI와 어떻게 공존할 것인가에 대한 연구의 시작을 의미합니다. “Post-AGI”를 준비하는 지금, 우리는 어떤 챗봇 경험을 설계해야 할까? 사용자 중심의 설계사용자 프로파일링: 연령, 언어 수준, 관심사, 이전 대화 히스토리를 바탕으로 맞춤 대화 흐름 제공컨텍스트 인지: 사용자가 이미 제공한 정보를 재활용하여 불필요한 반복을 줄이고 대화 만족도를 높입니다심리학적 설계: 친근한 톤, 긍정 강화 메시지, 공감 표현 등을 통해 몰입도를 높이고 이탈률을 낮춥니다텍스트를 넘어선 커뮤..

청소년을 위한 주식 투자 교육, TeensMate – AI 챗봇 시스템1. 문제 상황: 청소년 주식 투자 관심도 증가와 부족한 금융 교육최근 한국에서 청소년들의 주식 투자에 대한 관심이 급격히 증가하고 있습니다. 특히, 2019년부터 2022년까지 10대의 주식 계좌 개설 수가 3.7배 증가하며, 청소년들이 투자의 세계에 발을 들여놓고 있습니다. 하지만 주식 투자에 대한 관심도가 높아진 반면, 금융 이해력은 여전히 낮은 수준에 머물러 있습니다.2023년 현재, 청소년들의 금융 이해력은 평균 60점에 그치며, 2013년보다 개선되었지만 여전히 금융 교육의 필요성이 큽니다. 청소년들은 금융 관련 용어나 투자 상품에 대한 기본적인 이해가 부족하고, 그로 인해 합리적인 투자 판단을 내리는 데 어려움을 겪고 있습..

RAG에 앞서, Foundation Model이란?Foundation Model은 대규모의 비정형/비지도 데이터를 기반으로 학습된 AI 신경망 모델로, 다양한 작업에 범용적으로 적용될 수 있는 기반 모델을 의미합니다. 기존의 목적 지향적 모델들과 달리, 한 번의 학습으로 다양한 다운스트림 태스크(예: 번역, 요약, 이미지 분석, 질의응답 등)에 소량의 튜닝만으로 적용 가능하다는 점이 가장 큰 특징입니다.데이터: 대부분 라벨 없는 방대한 텍스트, 이미지, 영상 등 비정형 데이터.학습 방식: 주로 자가(supervised) 학습 또는 비지도(unsupervised) 학습.활용 범위: 언어 → 영상 → 멀티모달 → 물리 기반 AI까지 빠르게 확장 중.GPT, BERT, PaLM, LLaMA, Claude 등이..

*데이터 베이스 관련 알아두면 좋은 것!**계속 내용 고도화 필요....* 1. RAID (Redundant Array of Independent Disks)여러 개의 하드디스크를 하나처럼 묶어서 사용하는 방식목적: 속도 향상 또는 데이터 안전성 확보내용 정리 (대표적인 RAID 종류)RAID특징장점단점RAID 0스트라이핑 (데이터 분산 저장)빠른 속도장애 시 복구 불가RAID 1미러링 (복제 저장)높은 안정성저장 공간 절반 사용RAID 5스트라이핑 + 패리티 (오류 복구 정보)효율+안정성느린 쓰기RAID 10RAID 1 + RAID 0속도+안정성많은 디스크 필요심화 이해RAID는 하드웨어 방식(전용 장비 사용)과 소프트웨어 방식(OS 기반)이 있음패리티란? 데이터 오류를 검출하고 복구하기 위한 체크 정..