들어가며
Spring AI는 Generative AI를 좀 더 추상적 레벨에서 사용하기 편리하도록 만들어진 프레임워크다.
본질적으로는 LangChain과 같은 프레임워크와 그 틀이 같으나 필자가 느낀바 LangChain 개발자들은 시시각각 변하는 Spec에 Production Ready하지 못하다는 이야기들을 접했다.
결과 비슷한 프레임워크는 우후죽순 생겨나고 있으나 이들의 핵심 가치는 추상화 레벨을 높혀 벤더와 관계 없이 에이전트 구현을 보다 편리하게 하기 위함이라 생각한다.
그리고 필자는 다른 프레임워크보다 자바 진형의 Spring AI를 많이 응원하고 있다.
오픈소스에 메인테이너가 바빠서 그런지 기능 수정이나 버그 픽스의 논의가 좀 느린감이 크지만 항상 응원중이다.
Spring AI의 핵심은 Advisor이다.
@RestController
class MyController {
private final ChatClient chatClient;
public MyController(ChatClient.Builder chatClientBuilder) {
this.chatClient = chatClientBuilder.build();
}
@GetMapping("/ai")
String generation(String userInput) {
return this.chatClient.prompt()
.user(userInput)
.call()
.content();
}
}
Java
복사
Spring AI의 Document에 들어가보면 마주할 수 있는 예시코드이다.
실로 간단한데 AutoConfigration으로 생성된 ChatClient를 빈으로 주입받아 사용하는 코드다.
