AI w Javie – integracja z OpenAI i LLM przez Spring AI

Sztuczna inteligencja przestała być domeną Pythonowych notebooków. W 2026 roku coraz więcej systemów biznesowych integruje Large Language Models (LLM) bezpośrednio w backendzie: do obsługi klientów, analizy dokumentów, automatyzacji procesów czy wyszukiwania wiedzy.

Dla świata JVM odpowiedzią jest Spring AI – oficjalny projekt Springa, który upraszcza integrację z modelami takimi jak:

• OpenAI (GPT),
• Azure OpenAI,
• Anthropic,
• lokalne modele (Ollama, HuggingFace).

Spring AI wprowadza spójny, „springowy” sposób pracy z LLM: konfiguracja, dependency injection, testowanie i observability.

Czym jest Spring AI?

Spring AI to warstwa abstrakcji nad API modeli językowych i wektorowych baz danych. Zapewnia:

• klienta do komunikacji z LLM,
• obsługę promptów,
• zarządzanie embeddingami,
• integrację z bazami wektorowymi (np. PostgreSQL + pgvector),
• wsparcie dla RAG (Retrieval Augmented Generation).

Cel: pozwolić zespołom Java budować aplikacje AI bez wychodzenia z ekosystemu Spring Boot.

Najprostszy przykład: zapytanie do OpenAI

Konfiguracja zależności

<dependency>
  <groupId>org.springframework.ai</groupId>
  <artifactId>spring-ai-openai-spring-boot-starter</artifactId>
</dependency>

spring:
  ai:
    openai:
      api-key: ${OPENAI_API_KEY}

Serwis z użyciem ChatClient

@RestController
public class AiController {

    private final ChatClient chatClient;

    public AiController(ChatClient chatClient) {
        this.chatClient = chatClient;
    }

    @GetMapping("/ask")
    public String ask(@RequestParam String question) {
        return chatClient.call(question);
    }
}

Wywołanie:

GET /ask?question=Explain Spring Boot in one sentence

Odpowiedź pochodzi bezpośrednio z modelu LLM.

Prompt engineering w kodzie Javy

Spring AI pozwala budować bardziej złożone prompty:

String prompt = """
You are a helpful assistant.
Answer in Polish.
Question: %s
""".formatted(question);

String response = chatClient.call(prompt);

Dzięki temu:

• kontrolujesz styl odpowiedzi,
• język,
• kontekst biznesowy.

Embeddings i wyszukiwanie semantyczne (RAG)

Jednym z najczęstszych zastosowań AI w systemach enterprise jest RAG (Retrieval Augmented Generation) – czyli łączenie LLM z własną bazą wiedzy.

Schemat:

1. Dokumenty → embeddingi,
2. zapis do bazy wektorowej,
3. zapytanie użytkownika → podobne dokumenty,
4. LLM generuje odpowiedź na ich podstawie.

Przykład tworzenia embeddingu

@Autowired
EmbeddingClient embeddingClient;

List<Double> vector = embeddingClient.embed("Regulamin zwrotów");

Przykład zapytania z kontekstem

String context = vectorStore.similaritySearch(question)
    .stream()
    .map(Document::getContent)
    .collect(Collectors.joining("
"));

String prompt = """
Answer using only this context:
%s
Question: %s
""".formatted(context, question);

String answer = chatClient.call(prompt);

Efekt: odpowiedź oparta na firmowej dokumentacji, a nie tylko na wiedzy modelu.

Typowe zastosowania AI w aplikacjach Spring Boot

• chatboty obsługi klienta,
• wyszukiwanie semantyczne w dokumentach,
• klasyfikacja zgłoszeń (support, e-mail),
• generowanie raportów,
• podsumowania (summarization),
• automatyzacja procesów (workflow + AI).

Bezpieczeństwo i koszty – ważne w produkcji

Ryzyka:

• wysyłanie danych wrażliwych do zewnętrznego API,
• niekontrolowane koszty zapytań,
• halucynacje modeli.

Dobre praktyki:

• maskowanie danych (PII),
• limitowanie promptów i długości odpowiedzi,
• cache odpowiedzi,
• monitoring liczby zapytań,
• RAG zamiast „czystego” promptu.

Observability dla AI

Spring AI integruje się z Micrometer i OpenTelemetry:

• liczba zapytań do LLM,
• czas odpowiedzi,
• błędy,
• koszt tokenów.

Przykładowa metryka:

spring_ai_requests_total
spring_ai_request_duration_seconds

Dzięki temu AI staje się częścią standardowego monitoringu aplikacji.

Ciekawostki

• Wiele firm buduje dziś „AI gateway” jako mikroserwis w Spring Boot.
• Prompt jest nową wersją konfiguracji biznesowej.
• Java dzięki Spring AI staje się pełnoprawnym językiem do budowy systemów AI, nie tylko konsumentem wyników.
• RAG zmniejsza ryzyko halucynacji nawet o kilkadziesiąt procent.

Kiedy Spring AI ma największy sens?

Spring AI najlepiej sprawdza się gdy:

• system już działa na Spring Boot,
• AI ma być częścią backendu, nie osobnym serwisem Python,
• wymagane są bezpieczeństwo i audyt,
• potrzebna jest integracja z bazą danych i API.

Mniej sensu ma:

• w projektach stricte badawczych ML,
• przy trenowaniu własnych modeli (tu nadal dominuje Python).

Oficjalne źródła i dokumentacja

• Spring AI – projekt
• Spring AI Reference Documentation
• OpenAI API
• Azure OpenAI
• Vector Stores (Spring AI)
• Prompt Templates

Podsumowanie

Spring AI przenosi świat LLM do ekosystemu Javy:

• upraszcza integrację z OpenAI i innymi modelami,
• pozwala budować RAG i chatboty w Spring Boot,
• wspiera observability i bezpieczeństwo,
• nadaje się do systemów produkcyjnych.

Dla zespołów Java oznacza to jedno: AI nie jest już dodatkiem z zewnątrz, ale pełnoprawną częścią architektury backendu.

W 2026 roku Java nie tylko nadąża za trendami AI – zaczyna być jednym z solidnych fundamentów ich wdrażania w biznesie.