이 글은 생성 AI 기술을 사용한 소프트웨어 제품을 개념 증명에서 생산 시스템으로 이전할 때 직면하는 문제와 이를 해결하기 위한 패턴을 논의합니다. 특히 비결정성, 할루시네이션, 무제한 데이터 접근과 같은 문제를 다룹니다. 직접 프롬프트 전송(Direct Prompting)은 사용자로부터 LLM으로 직접 프롬프트를 보내는 것이지만, 지식 기반의 한계로 인해 제한적입니다. 이를 개선하기 위해 평가(Evals)를 통해 모델의 응답을 체계적으로 평가하고, 임베딩(Embeddings)을 사용하여 대량의 데이터나 텍스트를 벡터화하여 의미적 유사성을 파악합니다. 또한 RAG(검색 기반 생성)를 활용하여 관련 문서를 검색하고 프롬프트에 포함시켜 모델의 정확성과 최신성을 향상시킵니다. 이러한 패턴들은 생성 AI 시스템의 효과적인 구축과 성능 개선에 필수적이며, 새로운 도구와 방법을 지속적으로 학습하고 적용하는 것이 중요합니다.