Integrace AI a LLM do aplikací
AI, která nevidí víc než uživatel
Přidáme do vašeho produktu asistenta, vytěžování dokumentů nebo agenta s pevnými mezemi. Model pracuje s právy přihlášeného uživatele, dostane jen kontext, který potřebuje, a jeho chování ověřujeme testy.
AI
AI funkce, které stavíme nad jazykovými modely (LLM)
01
Asistent přímo v aplikaci
Asistent odpovídá na otázky nad vašimi daty a umí v aplikaci zakládat nebo měnit záznamy. Každá změna se nejdřív ukáže jako náhled a provede se, až ji uživatel potvrdí.
Technologie
- Vercel AI SDK
- Gemini
- Claude
- Next.js
- NestJS
02
Vytěžování dokumentů a obrázků
Z faktur v PDF vytáhneme strukturovaná data a před uložením je ověříme proti schématu. Obrázky štítkujeme z pevného seznamu a návrhy, kterými si model není jistý, necháme schválit člověku.
Technologie
- Gemini
- Vercel AI SDK
- Zod
03
Agenti v pevných mezích
Model nepíše vlastní SQL a nemá přímý přístup do databáze, volá jen pevně dané nástroje nad vaším API. Jeho výstup, třeba návrh dashboardu, musí projít schématem, jinak se uživateli nezobrazí.
Technologie
- Vercel AI SDK
- Zod
- GraphQL
- Claude
04
Chat se streamovanými odpověďmi
Odpovědi modelu se v rozhraní zobrazují průběžně, jak vznikají. Během streamování zamkneme akce, které by odeslaly druhý požadavek, a hromadné změny ukážeme jako přehledný náhled.
Technologie
- React
- Next.js
- Vercel AI SDK
- SSE
Postup
Jak držíme AI v mezích
Nástroje s právy uživatele
Každé volání nástroje jde přes vaše běžné API s tokenem přihlášeného uživatele, takže platí stejná oprávnění jako v aplikaci. Nástroje, na které uživatel nemá právo, model vůbec nedostane.
Kontext jen na vyžádání
V promptu jsou jen názvy a krátké popisy nástrojů a plný nástroj si model načte, až ho potřebuje. U jednoho asistenta tím pevný kontext každého požadavku klesl odhadem o 60 %.
Chování ověřené testy
Nástroje asistenta pokrýváme testy a oprávnění zkoušíme v prohlížeči i za uživatele, který k datům přístup nemá. Práh pro automatické rozhodnutí nastavujeme podle přesnosti změřené na vašich datech.
Kdy AI dává smysl a kdy ne
Dává smysl
- Opakované čtení dokumentů, třeba faktur v PDF.
- Odpovědi nad daty, ke kterým má uživatel přístup.
- Návrhy, které pak ověří kód, schéma nebo člověk.
Nedává smysl
- Úkol, který zvládne obyčejné pravidlo nebo filtr.
- Odpověď, u které se chyba nedá zkontrolovat.
- Rozhodnutí, které by obešlo práva uživatele.
Zkušenosti
AI funkce, které jsme stavěli
Klienty nejmenujeme, popisujeme typ produktu a naši práci na něm.
01
Právní e‑billing, USA
Full stack na Next.js, NestJS a PostgreSQL. Převzali jsme AI asistenta: nástroje běží pod přihlášeným uživatelem a načítají se, až když si o ně model řekne. Pevný kontext každého požadavku tím klesl odhadem o 60 %. K tomu unit testy a CI pro web.
Technologie
- Next.js
- NestJS
- PostgreSQL
- Vercel AI SDK
- Gemini
02
Střešní firma
Architektura frontendu a pravidla pro MVP, které vzniklo s pomocí AI. Štítkování fotek a vytěžování faktur pomocí LLM, ve dvou vývojářích.
Technologie
- React
- Claude Code
- LLM
03
Právní AI a fintech
Frontend a streamované chatové rozhraní LLM nástroje pro advokáty. Základ aplikace pro provize v platformě devíti aplikací na Next.js.
Technologie
- Next.js
- React
- LLM
04
SaaS pro kontrolu gramatiky
Většina aplikace včetně backendu: API na Fastify, Prismě a PostgreSQL, crawler na Crawlee a kontroly směrované podle jazyka do LanguageTool nebo GPT-4o-mini.
Technologie
- Fastify
- Prisma
- PostgreSQL
- Crawlee
Časté otázky
Uvidí AI data, ke kterým uživatel nemá přístup?
Ne. Každé volání nástroje jde přes vaše běžné API s tokenem přihlášeného uživatele, takže platí stejná oprávnění jako v aplikaci. Nástroje, na které uživatel nemá právo, model vůbec nedostane.
Jak ověřujete, že se AI chová správně?
Nástroje asistenta pokrýváme testy a oprávnění zkoušíme v prohlížeči i za uživatele, který k datům přístup nemá. Práh pro automatické rozhodnutí nastavujeme podle přesnosti změřené na vašich datech.
Technologie
- Modely
- Gemini, Claude
- Napojení modelu
- Vercel AI SDK, Zod, GraphQL
- Aplikace
- React, Next.js, NestJS, SSE
AI stavíme do aplikací, na kterých děláme i vývoj webových aplikací, a do obchodů, kde děláme vývoj pro Shopify.
Kontakt
Probereme, kde AI ve vašem produktu pomůže
Napište nám a projdeme, které kroky může model dělat za uživatele a s jakými právy.
Co do zprávy napsat
- Co chcete postavit nebo změnit.
- Jaké systémy a data už máte.
- Omezení, třeba termín a kdo bude aplikaci dál udržovat.