개발
AI 기능도 API 엔드포인트를 깨뜨리면 안 된다
LLM을 사용한 AI 기능은 API의 결정 로직과 분리하여 설계해야 하며, LLM이 다운될 경우에도 서비스가 중단되지 않도록 해야 한다.
AI AgentChatGPT
태그
LLM을 사용한 AI 기능은 API의 결정 로직과 분리하여 설계해야 하며, LLM이 다운될 경우에도 서비스가 중단되지 않도록 해야 한다.
AI 기반 코드 리뷰 도구가 단순한 구현 오류보다는 설계적 결함을 탐지하는 데 어려움을 겪는다.