LLM przewiduje kolejne słowa na podstawie kontekstu, co pozwala mu odpowiadać na pytania, streszczać teksty, tłumaczyć i pisać kod. To technologia stojąca za narzędziami takimi jak ChatGPT czy Claude.
Sam model nie zna jednak Twojej firmy. Żeby odpowiadał na podstawie Twojej wiedzy, łączy się go z bazą danych w podejściu zwanym RAG, dzięki czemu odpowiedzi opierają się na faktach, a nie zgadywaniu.
We wdrożeniach dla firm LLM napędza chatboty, asystentów i automatyzacje. Kluczowe jest jednak bezpieczne wpięcie go w procesy i dane, czym się zajmujemy.