S05E05 Luka Kacil: Gradbena dovoljenja, agenti in prihodnost inženiringa

V tej epizodi je gost Luka Kacil, co-founder AI-first startupa Shovels, ki gradi SaaS produkt za gradbeno industrijo v ZDA (zbira in strukturira javna gradbena dovoljenja - "intelligence for the built world"). Andraž in Oto se z njim poglobita v to, kaj AI-first dejansko pomeni v vsakdanji praksi, ne le kot buzzword.

Glavne teme

• Kaj počnejo v Shovels in kaj lahko "povedo" izdana gradbena dovoljenja?
• Zakaj je uporaba AI prek spletnega klepeta (ChatGPT, Copilot) omejena in kaj se spremeni, ko agent dobi dostop do datotek, baz podatkov in orodij.
• Kako izgleda gradnja lastnega "agentic harnessa" - od osnovnega agent loopa do spec-driven razvoja in end-to-end validacije.
• Kdo nosi odgovornost, ko agent generira ogromne količine kode, in zakaj human-in-the-loop review še vedno ostaja ključen.
• Realne varnostne teme: jailbreaking modelov (vir: The Guardian: Meet the AI jailbreakers: ‘I see the worst things humanity has produced’), trg za "zlomljene" LLM-je in prompt injection kot morda največji dejanski problem.
• Orodja, ki jih Luka in Oto dejansko uporabljata pri delu (Claude Code, IntelliJ AI Assistant, Tmux, devenv/nix shell, Claude v Chromu).
• Vprašanje, ali v AI industriji sploh obstaja moat (trdnjava), in zakaj je domensko znanje ter unikatni podatki morda edina prava konkurenčna prednost.

Stranski izlet na začetku o Palantirju, evropskem cloud suverenstvu in gradnji podatkovnih centrov za AI.