Přeskočit na obsah
Root Element

Integrace AI a LLM do aplikací

AI, která nevidí víc než uživatel

Přidáme do vašeho produktu asistenta, vytěžování dokumentů nebo agenta s pevnými mezemi. Model pracuje s právy přihlášeného uživatele, dostane jen kontext, který potřebuje, a jeho chování ověřujeme testy.

<Assistant />LLMuser scopetool()tool()tool()resulttool()
Obr. 1 Model volá jen nástroje, na které má uživatel práva.

AI

AI funkce, které stavíme nad jazykovými modely (LLM)

  1. 01

    Asistent přímo v aplikaci

    Asistent odpovídá na otázky nad vašimi daty a umí v aplikaci zakládat nebo měnit záznamy. Každá změna se nejdřív ukáže jako náhled a provede se, až ji uživatel potvrdí.

    Technologie

    • Vercel AI SDK
    • Gemini
    • Claude
    • Next.js
    • NestJS
  2. 02

    Vytěžování dokumentů a obrázků

    Z faktur v PDF vytáhneme strukturovaná data a před uložením je ověříme proti schématu. Obrázky štítkujeme z pevného seznamu a návrhy, kterými si model není jistý, necháme schválit člověku.

    Technologie

    • Gemini
    • Vercel AI SDK
    • Zod
  3. 03

    Agenti v pevných mezích

    Model nepíše vlastní SQL a nemá přímý přístup do databáze, volá jen pevně dané nástroje nad vaším API. Jeho výstup, třeba návrh dashboardu, musí projít schématem, jinak se uživateli nezobrazí.

    Technologie

    • Vercel AI SDK
    • Zod
    • GraphQL
    • Claude
  4. 04

    Chat se streamovanými odpověďmi

    Odpovědi modelu se v rozhraní zobrazují průběžně, jak vznikají. Během streamování zamkneme akce, které by odeslaly druhý požadavek, a hromadné změny ukážeme jako přehledný náhled.

    Technologie

    • React
    • Next.js
    • Vercel AI SDK
    • SSE

Postup

Jak držíme AI v mezích

  1. Nástroje s právy uživatele

    Každé volání nástroje jde přes vaše běžné API s tokenem přihlášeného uživatele, takže platí stejná oprávnění jako v aplikaci. Nástroje, na které uživatel nemá právo, model vůbec nedostane.

  2. Kontext jen na vyžádání

    V promptu jsou jen názvy a krátké popisy nástrojů a plný nástroj si model načte, až ho potřebuje. U jednoho asistenta tím pevný kontext každého požadavku klesl odhadem o 60 %.

  3. Chování ověřené testy

    Nástroje asistenta pokrýváme testy a oprávnění zkoušíme v prohlížeči i za uživatele, který k datům přístup nemá. Práh pro automatické rozhodnutí nastavujeme podle přesnosti změřené na vašich datech.

Kdy AI dává smysl a kdy ne

Dává smysl

  • Opakované čtení dokumentů, třeba faktur v PDF.
  • Odpovědi nad daty, ke kterým má uživatel přístup.
  • Návrhy, které pak ověří kód, schéma nebo člověk.

Nedává smysl

  • Úkol, který zvládne obyčejné pravidlo nebo filtr.
  • Odpověď, u které se chyba nedá zkontrolovat.
  • Rozhodnutí, které by obešlo práva uživatele.

Zkušenosti

AI funkce, které jsme stavěli

Klienty nejmenujeme, popisujeme typ produktu a naši práci na něm.

  1. 01

    Právní e‑billing, USA

    Full stack na Next.js, NestJS a PostgreSQL. Převzali jsme AI asistenta: nástroje běží pod přihlášeným uživatelem a načítají se, až když si o ně model řekne. Pevný kontext každého požadavku tím klesl odhadem o 60 %. K tomu unit testy a CI pro web.

    Technologie

    • Next.js
    • NestJS
    • PostgreSQL
    • Vercel AI SDK
    • Gemini
  2. 02

    Střešní firma

    Architektura frontendu a pravidla pro MVP, které vzniklo s pomocí AI. Štítkování fotek a vytěžování faktur pomocí LLM, ve dvou vývojářích.

    Technologie

    • React
    • Claude Code
    • LLM
  3. 03

    Právní AI a fintech

    Frontend a streamované chatové rozhraní LLM nástroje pro advokáty. Základ aplikace pro provize v platformě devíti aplikací na Next.js.

    Technologie

    • Next.js
    • React
    • LLM
  4. 04

    SaaS pro kontrolu gramatiky

    Většina aplikace včetně backendu: API na Fastify, Prismě a PostgreSQL, crawler na Crawlee a kontroly směrované podle jazyka do LanguageTool nebo GPT-4o-mini.

    Technologie

    • Fastify
    • Prisma
    • PostgreSQL
    • Crawlee

Časté otázky

Uvidí AI data, ke kterým uživatel nemá přístup?

Ne. Každé volání nástroje jde přes vaše běžné API s tokenem přihlášeného uživatele, takže platí stejná oprávnění jako v aplikaci. Nástroje, na které uživatel nemá právo, model vůbec nedostane.

Jak ověřujete, že se AI chová správně?

Nástroje asistenta pokrýváme testy a oprávnění zkoušíme v prohlížeči i za uživatele, který k datům přístup nemá. Práh pro automatické rozhodnutí nastavujeme podle přesnosti změřené na vašich datech.

Technologie

Modely
Gemini, Claude
Napojení modelu
Vercel AI SDK, Zod, GraphQL
Aplikace
React, Next.js, NestJS, SSE

AI stavíme do aplikací, na kterých děláme i vývoj webových aplikací, a do obchodů, kde děláme vývoj pro Shopify.

Kontakt

Probereme, kde AI ve vašem produktu pomůže

Napište nám a projdeme, které kroky může model dělat za uživatele a s jakými právy.

Co do zprávy napsat

  • Co chcete postavit nebo změnit.
  • Jaké systémy a data už máte.
  • Omezení, třeba termín a kdo bude aplikaci dál udržovat.
Napište nám