AI ta Krajta

🔥 Vítáme vás u 61. dílu podcastu AI ta Krajta!👉 Tento týden se ponoříme hluboko do nejžhavějšího a nejdiskutovanějšího tématu současnosti: bezpečnostní incident OpenAI, kdy jejich autonomní agent omylem (nebo snad záměrně?) zaútočil na servery Hugging Face.👉 Znamená to, že jsme právě udělali obří skok k AGI (Umělé Obecné Inteligenci), nebo jsme jen o krok blíž ke katastrofě, před kterou varují přední experti i sci-fi vizionáři?👉 Společně s Romanem, Pavlem a Jirkou rozebereme:Hacking v přímém přenosu: Jak je možné, že agent pověřený nevinným úkolem dokáže provést sofistikovaný kyberútok?👉 Problém se Zlatou střední cestou: Proč nás jazykové modely klamou a zdánlivě "chápou" kontext, který jim ve skutečnosti uniká?👉 Trestní zákoník pro AI: Můžeme se spolehnout na technické "ohrádky" (guardrails), nebo potřebujeme novou globální ústavu pro AI?👉 Nové GPT-5-6 modely: Jak si vedou modely Luna, Tera a Sol a proč menší model Luna stačí na 80 % programátorských úkolů?👉 Návrat k Asimovovi: Jsou tři zákony robotiky od Isaaca Asimova z roku 1942 relevantní i dnes, nebo jde o naivní přežitek?Tato epizoda je must-see pro každého, kdo chce pochopit realitu za mediálním humbukem. Připravte se na pořádnou dávku critical thinking a nenechte si ujít diskuzi o tom, co Harari nazývá "mimozemskými entitami, které jsme si sami vytvořili."Materiály a zdroje:👉 Roman v úvodu mluví o newsletteru od Townie Meanse, který se vrací ke starší studii MIT Media Lab. Tato studie zkoumala, jak používání ChatGPT při psaní esejí mění vzorce mozkové aktivity (EEG) a jak ovlivňuje paměť na vlastní text.🔗 Odkaz ke studii: https://www.nature.com/articles/s41599-025-04787-y👉 Jirka mluví o populární studii "AI 2027", která se snažila předvídat vývoj AI, a upozorňuje, že autoři vydali pokračování s názvem "AI 2040". V závěru podcastu se shodují, že tyto studie vyzývají ke zpomalení vývoje, což v nich vyvolává pocit déjà vu.🔗 Odkaz ke zdroji: https://www.researchgate.net/publication/317100941_When_Will_AI_Exceed_Human_Performance_Evidence_from_AI_ExpertsDěkujeme sponzorům:🚀 Promptbook: https://ptbk.io 🤖 AI supervize: https://ptbk.io/ai-supervize Hosté:🤠 Roman Baranovič: https://narnia.sk/employees/roman-baranovic-2/🤠 Pavol Hejný: https://www.ptbk.io/pavol🤠 Jiří Jahn: https://www.ptbk.io/jirkaSítě, kde nás můžete sledovat:➡️ LinkedIn: https://www.linkedin.com/company/98357381/admin/dashboard/➡️ Spotify: https://open.spotify.com/show/31vLTHTV4vlCBeHpnbMKlK?nd=1&dlsi=3fe3c4775b9c4c25➡️ Apple Podcasts: https://podcasts.apple.com/cz/podcast/ai-ta-krajta/id1813389353#AItaKrajta #AI #AGI #OpenAI #HuggingFace #Kyberbezpečnost #AIagent #Hacking #Alignment #KognitivníOffloading #LLM #GPT5 #IsaacAsimov #BudoucnostAI #Podcast #TechNovinky

🔥 V 60. díle (první části) AI ta Krajta vítáme Romana Baranoviče, experta na digitální transformaci školství. Společně s Pavlem rozebíráme nejnovější pohyby na poli AI modelů. Proč je čínský model Kimi 3 hrozbou pro americkou dominanci a jakou roli v tom hraje politika?Ponoříme se do praktického srovnání modelů od Anthropicu a OpenAI – proč je Fable skvělý vizionář, zatímco GPT zůstává neúnavným pracantem? Dozvíte se také, co znamenají tajemné názvy Sol, Terra a Luna, jak funguje „vibe coding“ v nástroji Glaze a proč budoucnost aplikací možná nepatří grafickému rozhraní, ale příkazové řádce (CLI) a autonomním agentům.Děkujeme sponzorům:🚀 Promptbook: https://ptbk.io 🤖 AI supervize: https://ptbk.io/ai-supervize Sítě, kde nás můžete sledovat:➡️ LinkedIn: https://www.linkedin.com/company/98357381/admin/dashboard/➡️ Spotify: https://open.spotify.com/show/31vLTHTV4vlCBeHpnbMKlK?nd=1&dlsi=3fe3c4775b9c4c25➡️ Apple Podcasts: https://podcasts.apple.com/cz/podcast/ai-ta-krajta/id1813389353#AjtaKrajta #AI #Kimi3 #ClaudeFable #Anthropic #OpenAI #GPT #VibeCoding #Programovani #Raycast #Glaze #AIAgenti #Technologie #SoftwareDevelopment #CLI #Digitalizace #RomanBaranovic #TechPodcast #VyvojAplikaci

🔥 Další díl AI ta Krajta! V 58. epizodě řešíme PixelRAG, autotuning agentních harnessů, lokální coding modely, zákaz Fable 5, geopolitiku AI, autonomní kyberútoky a firemní knowledge base. Vítáme také Ondru, nového CTO ve firmě Confirmo.

Témata v tomto díle:• PixelRAG – přístup, který dokumenty neparsuje jako text, ale indexuje je jako screenshoty. Layout, grafy, tokenová efektivita a spatial prompting.• Autotuning agentních harnessů – automatické zlepšování používání nástrojů, context managementu a chování agenta (Hermes Agent Self-Evolution, DSPy, GEPA, Little Coder).• Zákaz Fable 5 a Mythos 5 – geopolitika frontier AI, exportní kontroly, digitální suverenita Evropy a regulace bez technického porozumění.• Kyberbezpečnost – jak modely zlevňují útoky, automatizace hledání slabin, malware na míru, zabezpečení interních API/ACL a behaviorální obrana.• Onyx – open-source platforma pro firemní AI asistenty a enterprise search (Slack, Notion, embeddingy, knowledge graphy a MCP rozhraní).

Zdroje k tématům:https://github.com/StarTrail-org/PixelRAGhttps://github.com/NousResearch/hermes-agent-self-evolutionhttps://arxiv.org/abs/2604.25850https://github.com/itayinbarr/little-coderhttps://www.anthropic.com/news/redeploying-fable-5https://arxiv.org/abs/2606.03811https://github.com/onyx-dot-app/onyx

Děkujeme sponzorům:🚀 Promptbook: https://ptbk.io

🤖 AI supervize: https://ptbk.io/ai-supervize

Sledujte nás:➡️ LinkedIn: https://www.linkedin.com/company/aitakrajta

➡️ Spotify: https://open.spotify.com/show/31vLTHTV4vlCBeHpnbMKlK

➡️ Apple Podcasts: https://podcasts.apple.com/cz/podcast/ai-ta-krajta/id1813389353

Kapitoly:00:00 - Úvod a představení Ondry02:40 - PixelRAG: web a dokumenty jako screenshoty05:40 - Reklama ve vizuálním RAGu a spatial prompting08:50 - Autotuning pravidel a agentního harnessu10:20 - Tool use a Hermes Self-Evolution14:00 - Sdílení instrukcí a traceabilita16:45 - Little Coder a harnessy pro lokální modely18:20 - Zákaz Fable 5 a Mythos 5 jako geopolitika20:00 - Identita uživatelů, anonymita a regulace AI25:00 - Hrozba AI pro kyberbezpečnost27:00 - Interní API, GraphQL a nové útoky30:00 - ACL, penetrační testy a backend34:00 - Nebezpečné frontier modely a AI malware39:00 - Behaviorální obrana a bezpečnostní agenti41:00 - Lokální modely, botnety a škodlivé prompty44:00 - Firemní AI asistence a správný kontext45:50 - Onyx: enterprise search a knowledge base49:30 - Primární zdroje versus sémantické vyhledávání51:00 - GraphRAG, zastaralé informace a distilace dat55:00 - Automatická údržba knowledge base57:00 - Continuous onboarding a gamifikace změn58:20 - Centralizace znalostí a propojené systémy68:00 - Závěr a poděkování partnerům

🔥 Další díl AI ta Krajta! 57. epizoda, ve které (opět) řešíme zákaz Fable 5, geopolitiku frontier modelů, evropskou závislost na americké a čínské AI infrastruktuře, Google Open Knowledge Format, context engineering, možnou akvizici Cursoru Muskem a to, proč se vývoj softwaru přesouvá od psaní kódu k řízení kontextu, ověřování výstupů a automatizovaným smyčkám.

Zdroje k tématům v díle:

https://www.anthropic.com/news/claude-fable-5-mythos-5

https://www.anthropic.com/news/fable-mythos-access

https://www.reuters.com/technology/us-blocks-foreign-access-anthropics-most-advanced-ai-models-axios-reports-2026-06-13/

https://www.reuters.com/technology/us-releases-anthropic-model-mythos-some-us-companies-semafor-reports-2026-06-26/

https://cloud.google.com/blog/products/data-analytics/how-the-open-knowledge-format-can-improve-data-sharing

https://www.anthropic.com/engineering/effective-context-engineering-for-ai-agents

https://www.reuters.com/legal/transactional/spacex-buy-anysphere-60-billion-2026-06-16/

https://cursor.com/

https://www.macaly.com/

https://lovable.dev/

Děkujeme sponzorům:

🚀 Promptbook: https://ptbk.io

🤖 AI supervize: https://ptbk.io/ai-supervize

Sítě, kde nás můžete sledovat:

➡️ LinkedIn: https://www.linkedin.com/company/aitakrajta

➡️ Spotify: https://open.spotify.com/show/31vLTHTV4vlCBeHpnbMKlK?si=1e51d95b9d3f46dd

➡️ Apple Podcasts: https://podcasts.apple.com/cz/podcast/ai-ta-krajta/id1813389353

Kapitoly:

00:00 - Úvod, poděkování Promptbooku a AI supervizi

00:21 - Anthropic, Fable 5, Mythos 5 a náhlé stažení modelu

01:30 - Vlastní testování Fable 5 a srovnání s GPT-5.5

02:40 - Je Fable přelom, nebo dobře prodaný příběh kolem Mythosu?

04:00 - Oficiální bezpečnostní důvody zákazu a otázka dvojího metru

05:00 - Co zákaz frontier modelů znamená pro Evropu

06:30 - Mythos, kyberbezpečnost a hype kolem schopností modelů

08:00 - Je to pro Anthropic škoda, nebo posílení mytického příběhu?

09:30 - USA, Čína, Mistral a evropská technologická závislost

11:00 - Univerzity, publikační domy a financování výzkumu

12:30 - Proč velké AI platformy vznikají hlavně v USA a Číně

14:00 - Mají se v podcastu řešit i geopolitické důsledky AI?

14:50 - Google Open Knowledge Format a předávání kontextu modelům

16:20 - Firemní wiki, Markdown a kontext jako nová infrastruktura

18:00 - Kdo bude udržovat firemní knowledge base aktuální?

20:00 - Kontext jako graf, dokumenty, struktury a jejich limity

22:00 - Přechod od programování ke context engineeringu

24:00 - Soubory, tabulky, grafy a úložiště pro AI systémy

26:00 - Embeddingy, halda dokumentů a znalostní komprese

28:00 - Musk a možná akvizice Cursoru

29:20 - Cursor multitask, paralelní PRD a fleet coding agentů

31:00 - Proč počet agentů a tokenů není hlavní metrika

32:30 - Ověřování výstupů, akceptační kritéria a lidský čas

34:00 - Seniorní inženýr, schopnost říct ne a rozhodování co stavět

35:20 - Od generování tokenů k agentním smyčkám

36:30 - Dark Factory, continuous delivery a smyčky nad smyčkami

38:00 - Lovable, Macaly a problém dobrého zadání

39:00 - Agent, který hledá tržní niku a sám staví produkt

41:00 - Promptbook, automatická softwarová továrna a závěr

🔥 Další díl AI ta Krajta! 56. epizoda, ve které řešíme Anthropic Fable 5 a Mythos 5, bezpečnost vibe codingu, právní odpovědnost AI agentů, IPO tlak na AI firmy, papežskou encykliku o AI a to, proč sumarizace jazykovými modely možná není tak neutrální, jak se zdá.V tomto díle začínáme vydáním Fable 5, který zmizel tak rychle, jak přišel: v čem je skutečně nový? Nebo šlo spíš o chytře zabalený Mythos-light s velkým marketingovým očekáváním, kterému zákaz jen prospěje? Porovnáváme první dojmy z praktického používání, řešíme, proč subjektivní testování často nestačí.Velký blok věnujeme bezpečnosti AI-generated softwaru. Bavíme se o API klíčích na frontendu, Bash skriptech psaných AI, deployment preview, security review a o tom, zda má být odpovědnost na modelu, člověku, nebo nástrojích okolo. Druhá polovina epizody se stáčí k ekonomice a institucionálnímu tlaku kolem AI laboratoří. Probíráme omezené vydání Fable 5, scarcity marketing, compute limity, možné IPO Anthropicu, konsolidaci trhu a otázku, jestli jsou OpenAI a Anthropic nové platformní monopoly, nebo pořád jen zranitelné firmy bez vlastní velké infrastruktury. V závěru otevíráme papežskou encykliku o AI, čtení primárních textů v době sumarizací, bias modelů, tokenizaci, překlady, abstrakci, black boxy a otázku, jestli modely vlastně jen komprimují svět podobným způsobem jako ztrátová komprese.Zdroje k tématům v díle:https://www.anthropic.com/claude/mythoshttps://9to5google.com/2026/06/09/anthropic-claude-mythos-fable-5-model-release/https://thehackernews.com/2026/06/us-orders-anthropic-to-suspend-fable-5.htmlhttps://arxiv.org/abs/2605.09504https://www.harvey.ai/blog/harvey-forum-redefining-the-future-of-legalhttps://www.vaticannews.va/en/pope/news/2026-05/pope-leo-xiv-first-encyclical-magnifica-humanitas.htmlhttps://arxiv.org/abs/2509.05486Děkujeme sponzorům:🚀 Promptbook: https://ptbk.io 🤖 AI supervize: https://ptbk.io/ai-supervize Sítě, kde nás můžete sledovat:➡️ LinkedIn: https://www.linkedin.com/company/aitakrajta ➡️ Spotify: https://open.spotify.com/show/31vLTHTV4vlCBeHpnbMKlK?si=1e51d95b9d3f46dd ➡️ Apple Podcasts: https://podcasts.apple.com/cz/podcast/ai-ta-krajta/id1813389353 Kapitoly:00:00 - Úvod, netradiční sestava a poděkování Promptbooku00:31 - Fable 5 od Anthropicu a první reakce po vydání01:30 - Praktické testování, skepse a rozdíl proti Opus 4.802:40 - Mythos, očekávání nové generace a problém subjektivních dojmů04:00 - Vibe coding prototypu a bezpečnostní chyby v generovaném kódu05:20 - API klíče na frontendu, Bash skripty a neviditelná rizika06:30 - Security review, deployment nástroje a odpovědnost člověka08:00 - Mythos, hledání zranitelností a hranice kyberbezpečnostních schopností09:30 - AI agenti, právní odpovědnost a Harvey AI v právních službách12:00 - Syntetické arény, evaly a proč nevíme, kde je model opravdu lepší14:00 - Fable jako Opus 4.9, marketing názvů a praktické anekdoty16:20 - Nové form factory: agentům nedáváme prompt, ale kontext a cíl18:10 - Dočasné zpřístupnění Fable 5, scarcity a PR strategie Anthropicu20:00 - Paralela s GPT-4, Azure a řízený přístup k frontier modelům22:00 - Compute limity, cena tokenů a tlak na monetizaci24:00 - IPO, akcie AI firem, ETF a investiční disclaimer26:00 - Konsolidace trhu, bublina, Čína a chybějící infrastruktura28:30 - Papežská encyklika o AI a proč číst primární dokumenty30:00 - Sumarizace, překlady a kdy AI pomáhá číst cizojazyčné texty32:00 - Bias sumarizací, různé modely a podobné kompresní chyby34:00 - Jazykové modely jako ztrátová komprese a role kontextu35:30 - Tokenizace, neanglické jazyky a skryté infrastrukturní biasy36:30 - Caesarova šifra, chování modelů a umělé zhoršování výstupu37:20 - Agentí smlouvy, vlastní jazyk modelů a transparentnost38:30 - Abstrakce, black boxy, neurověda a co ještě dokážeme pochopit40:00 - Závěr, výhled na další díl a doporučení: využívejte tokeny, dokud jsou dotované

AI ta Krajta #55 | Claude Opus 4.8, DeepSWE a proč coding agenti míří za hranice IDE🔥 Další díl AI ta Krajta! 55. epizoda o OpenAI Codex Sites, agentickém vývoji, Claude Opus 4.8, DeepSWE, Microsoft Scoutu, Applu, lokálních modelech a ekonomice tokenů.V tomto díle řešíme, kam se posouvá vývoj softwaru: Codex už nemá jen psát kód, ale rovnou vytvářet, nasazovat a hostovat weby či interní aplikace. Ptáme se, jestli je to první krok k autonomní „dark code factory“, nebo zatím jen další skill uvnitř Codexu.Navazujeme na vibe coding, Lovable, TanStack Start a problém deploymentu. Pro běžné uživatele může být klíčové právě to, že aplikaci nemusí nikam složitě nasazovat — platforma ji rovnou vytvoří, spustí a hostuje.Velký blok věnujeme coding agentům, benchmarkům a self-evolving systémům typu DeepSWE / Socratic-SWE. Bavíme se o tom, že dnešní pokrok nemusí být jen ve vahách modelů, ale hlavně ve vrstvě okolo nich: kontextu, skillech, tool callingu, trasování a workflow.Řešíme také Claude Opus 4.8, ceny modelů podle Artificial Analysis, OpenAI modely na Amazon Bedrocku a enterprise souboj Anthropic vs. OpenAI. K tomu přidáváme Microsoft Scout, superaplikace vs. superagenty a otázku, kdo bude v AI éře držet vztah s uživatelem.V závěru se dostáváme k Applu, lokálním modelům, NVIDIA RTX Spark, routingu, specializovaným modelům a ekonomice tokenů. Budou modely dlouhodobě levnější, nebo levnější inference jen způsobí ještě větší spotřebu?Děkujeme sponzorům:🚀 Promptbook: https://ptbk.io 🤖 AI supervize: https://ptbk.io/ai-supervize Sledujte nás:➡️ LinkedIn: https://www.linkedin.com/company/aitakrajta ➡️ Spotify: https://open.spotify.com/show/31vLTHTV4vlCBeHpnbMKlK?si=1e51d95b9d3f46dd ➡️ Apple Podcasts: https://podcasts.apple.com/cz/podcast/ai-ta-krajta/id1813389353 Zdroje:OpenAI Codex Sites:https://developers.openai.com/codex/sitesOpenAI Codex:https://openai.com/index/codex-for-every-role-tool-workflow/OpenAI na Amazon Bedrocku:https://aws.amazon.com/blogs/machine-learning/openai-models-and-codex-on-amazon-bedrock-are-now-generally-available/Lovable a TanStack Start:https://lovable.dev/blog/building-apps-using-tanstack-startArtificial Analysis:https://artificialanalysis.ai/Socratic-SWE:https://arxiv.org/abs/2606.07412NVIDIA RTX Spark:https://nvidianews.nvidia.com/news/nvidia-microsoft-windows-pcs-agents-rtx-sparkCapacity Wall:https://eracompute.substack.com/p/the-capacity-wall-europes-positionKapitoly:00:00 - Úvod 00:24 - OpenAI Codex Sites 01:45 - Dark code factory, nebo nový Codex skill? 05:14 - Capacity wall a AI infrastruktura 06:40 - Vibe coding, deployment a hosting 08:17 - Lovable a TanStack Start 09:36 - Benchmarky, kontext a skilly 11:17 - Self-evolving agentické systémy 12:45 - Claude Opus 4.8 a nové modely 14:34 - Ceny modelů podle Artificial Analysis 19:06 - OpenAI na Amazon Bedrocku 20:13 - Microsoft Scout a OpenClaw 22:04 - Superaplikace vs. superagent 26:19 - Apple a AI distribuce 29:39 - Lokální a malé modely 31:05 - NVIDIA RTX Spark 33:36 - Tokenová spotřeba agentů 36:03 - Budou modely levnější? 44:00 - Jevonsův paradox 47:02 - Závěr

🔥 Další díl AI ta Krajta! 54. epizoda, kde řešíme Claude Opus 4.8, long-running coding agenty, DeepSWE, context engineering, spekulativní decoding a bezpečnost autonomních agentů.

V tomto díle začínáme čerstvě vydaným Claude Opus 4.8 a novinkami v Claude Code. Probíráme Dynamic Workflows, paralelní subagenty, dlouhý kontext a otázku, jestli se coding agenti posouvají od „lepšího editoru“ k prostředí, které samo plánuje, spouští a vyhodnocuje dlouhé vývojové úlohy.

Velkou část věnujeme benchmarkům pro agentické programování: DeepSWE, mini-SWE-agent, Terminal-Bench, kontaminaci dat, ruční verifikaci úloh a rozdílu mezi tím, co umí samotný model, a tím, co mu umožní dobrý harness. Zároveň řešíme Recursive Language Models, lokální modely, paralelizaci a možnost, že silný frontier model bude plánovat, zatímco dílčí subtasky poběží na levnějších specializovaných modelech.

Druhá tematická osa je context engineering. Mluvíme o správě kontextu v dlouhých bězích, sdílené KV cache, REPL přístupech, prohledávání codebase, MCP, skills, presetech, tool callingu a problému, že příliš mnoho nástrojů může modelu spíš sežrat pozornost než pomoct. Navazujeme spekulativním decodingem, EAGLE 3.1 a attention driftem: proč zrychlování inference funguje dobře u krátkých výstupů, ale může narážet u dlouhých editací a agentických workflow.

V závěru řešíme praktickou sílu i rizika agentů s terminálem. Coding agent v „YOLO módu“ umí instalovat knihovny, spouštět skripty, procházet web, analyzovat PDF, generovat výstupy a iterovat nad výsledkem. Právě schopnost psát a spouštět kód v loopu podle nás zásadně mění, co model dokáže. S tím ale přichází otázka bezpečnosti: sandboxy, omezené tokeny, vlastní GitHub účty pro agenty, auditovatelnost akcí, verzované databáze typu Dolt, vrstvená obrana a problém, zda příliš tvrdé bariéry nevytvářejí tlak na jejich obcházení.

Děkujeme sponzorům:

🚀 Promptbook: https://ptbk.io

🤖 AI supervize: https://ptbk.io/ai-supervize

Sítě, kde nás můžete sledovat:

➡️ LinkedIn: https://www.linkedin.com/company/aitakrajta

➡️ Spotify: https://open.spotify.com/show/31vLTHTV4vlCBeHpnbMKlK?si=1e51d95b9d3f46dd

➡️ Apple Podcasts: https://podcasts.apple.com/cz/podcast/ai-ta-krajta/id1813389353

Zdroje:

Claude Opus 4.8

https://www.anthropic.com/news/claude-opus-4-8

Claude Code Subagents

https://code.claude.com/docs/en/agent-sdk/subagents

DeepSWE

https://deepswe.net/

mini-SWE-agent

https://github.com/SWE-agent/mini-swe-agent

Terminal-Bench

https://www.tbench.ai/

Recursive Language Models

https://arxiv.org/abs/2512.24601

Attention Drift

https://arxiv.org/abs/2605.09992

EAGLE 3.1 ve vLLM

https://vllm.ai/blog/2026-05-26-eagle-3-1

Dolt

https://docs.dolthub.com/introduction/getting-started/git-for-data

Kapitoly:

00:00 - Úvod a Claude Opus 4.8

01:42 - Dynamic Workflows a subagenti v Claude Code

02:23 - Recursive Language Models a dlouhý kontext

04:10 - DeepSWE a long-running coding agenti

07:20 - mini-SWE-agent, benchmarky a kontaminace dat

08:31 - Model vs. harness: co vlastně měříme?

10:05 - Agentic compute a paralelizace úkolů

15:03 - Context engineering jako nové klíčové téma

16:53 - REPL, KV cache a správa kontextu

18:04 - Prohledávání codebase a pálení tokenů

21:24 - Spekulativní decoding a EAGLE 3.1

22:05 - Attention drift a dlouhé agentické běhy

25:01 - MCP, skills, presety a zahlcení nástroji

31:44 - Agent běžící na VPS a OpenClaw-like setup

33:20 - Agents SDK vs. YOLO mód

35:06 - Proč spouštění kódu mění schopnosti modelů

40:05 - Model, který programuje, získává superschopnost

43:28 - Dolt a verzované databáze pro agenty

44:15 - Bezpečnostní heuristiky a destruktivní příkazy

47:39 - Vlastní identita, tokeny a auditovatelnost agentů

49:55 - Sandboxy, vrstvená obrana a riziko obcházení bariér

51:30 - Never-ending agenti a limity dnešních modelů

52:34 - Závěr

🔥 Další díl AI ta Krajta! 53. epizodaV tomto díle začínáme novinkami z Google I/O: Gemini 3.5 Flash, změnami pricingu a hlavně vizí mnohem agentičtější budoucnosti. Rozebíráme, co může znamenat Android jako prostředí, ve kterém nežijí jen aplikace, ale i agenti, skilly a capability vrstvy napříč operačním systémem. Dostáváme se i k otázce, zda Google tímto směrem míří k opravdu chytrým smartphonům, nebo zároveň ohrožuje otevřenost Androidu. A když už jsme u mobilních ekosystémů, nemůže chybět Apple: bude jeho výhoda v perfektní integraci, nebo už dávno neplatí, že Apple všechno dotahuje do konce lépe než konkurence?Druhá část epizody se točí kolem Anthropic, Andreje Karpathyho a širšího tlaku na AI laboratoře. Karpathyho přestup jako možné „hire for views“ gesto. Navazujeme sporem Elona Muska s OpenAI.Největší tematický blok pak věnujeme budoucnosti programování. Přemýšlíme, jestli editor, ve kterém sedíme a babysitujeme AI, není jen přechodná fáze, zatímco skutečný směr míří k dlouho běžícím agentům, deterministickým pipelineám, observabilitě, testování, security scanningu a automatizovanému nasazování. Z toho vyrůstá koncept dark code factory: autonomní továrny na software, která nejen píše kód, ale časem možná sama dělá discovery, A/B testy, sbírá zpětnou vazbu od uživatelů a rozhoduje, zda vytvořit novou aplikaci nebo rozšířit existující produkt. V závěru se vracíme ke Googlu, úbytku prokliků z webu, rostoucím reklamním tržbám, budoucnosti webů optimalizovaných pro agenty a enterprise strategii kolem AWS, Azure, OpenAI, Anthropic a Bedrocku.Děkujeme sponzorům:🚀 Promptbook: https://ptbk.io 🤖 AI supervize: https://ptbk.io/ai-supervize Sítě, kde nás můžete sledovat:➡️ LinkedIn: https://www.linkedin.com/company/aitakrajta ➡️ Spotify: https://open.spotify.com/show/31vLTHTV4vlCBeHpnbMKlK?si=1e51d95b9d3f46dd ➡️ Apple Podcasts: https://podcasts.apple.com/cz/podcast/ai-ta-krajta/id1813389353 Kapitoly:00:00 - Úvod, poděkování Promptbooku a pozvánka na GreenHack 00:38 - Google I/O: Gemini 2.5 Flash, pricing a agentická budoucnost 01:05 - Android jako autonomnější asistent v telefonu 02:08 - Nová vrstva aplikací: agenti, skilly a capability v operačním systému 03:21 - Apple, AI integrace a otázka, zda ještě platí „Apple to dotáhne“ 05:19 - Andrej Karpathy přechází k Anthropic 07:05 - Tlak na vývojáře v Anthropic a rozdíl mezi R&D a product engineeringem 09:50 - AI pro výzkum AI a první kroky k sebezlepšování modelů 12:20 - Proč AI zatím neví, co neví, a kde je pořád potřeba člověk 13:44 - Proč může Apple ztrácet v AI závodě mimo koncová zařízení 15:03 - Muskův spor s OpenAI a jeho PR rovina 17:30 - xAI, Cursor Composer a Muskův tlak na OpenAI 18:50 - Má Cursor jako editor budoucnost, nebo přichází éra long-running agentů? 20:56 - Delegování programování na AI a ztráta kontroly nad kódem 23:11 - Rizika AI vývoje: pipeline, security scanning, observabilita a kvalita 24:33 - AI jako 100 juniorních programátorů navíc a rostoucí význam testů 25:33 - Dark code factory: posun od psaní kódu k rozhodování, co stavět 26:07 - Discovery vs. delivery a problém produktového zahlcení featurami 28:01 - On-demand aplikace, superaplikace a tvorba aplikací uvnitř aplikace 29:23 - Automatizovaná discovery, metriky, zpětná vazba a A/B testy 31:23 - Metalooop nad agentickým loopem jako investorský sen 32:41 - AI kavárna ve Švédsku a proč se fyzický svět škáluje hůř než software 34:02 - Google I/O, klesající prokliky na weby a rostoucí reklamní tržby 34:53 - Budoucnost webu: informace pro agenty místo návštěvníků 36:09 - Kdo kromě Googlu může profitovat z agentické distribuce informací 37:31 - Dopad AI na žurnalistiku a druhý zásah po nástupu internetu 38:50 - Anthropic, enterprise zákazníci a výhoda AWS 39:35 - OpenAI, Microsoft, Azure a rozvolnění cloudového dealu 40:30 - OpenAI na Bedrocku, Amazon a komoditizace velkých modelů 41:39 - Závěr a pozvánka k dalším dotazům

🔥 Speciální díl AI ta Krajta! Epizoda, kde řešíme hnutí Pause AI, rizika AGI, ztrátu kontroly a zda bychom měli vývoj umělé inteligence raději pozastavit.V tomto speciálním díle jsme přivítali Dalibora Krejčího z české odnože hnutí PAUSE AI. Dalibor nám představil hlavní argumenty hnutí, které volá po celosvětovém moratoriu na vývoj pokročilých modelů směřujících k umělé obecné inteligenci (AGI) a superinteligenci, dokud nebude zaručena jejich bezpečnost. Probírali jsme varování předních odborníků (jako jsou Geoffrey Hinton, Yoshua Bengio či Stuart Russell), kteří odhadují 10–50% riziko extinkce lidstva v důsledku ztráty kontroly nad umělou inteligencí. Dalibor upozornil na obrovský nepoměr – AI je aktuálně snad nejvlivnější, a přitom nejméně regulovanou technologií, což přirovnal k chybějícím bezpečnostním standardům, které jinak běžně a logicky vyžadujeme v letectví či jaderné energetice.Zbytek osazenstva se do debaty zapojil z pozice umírněných technooptimistů a podrobil argumenty PAUSE AI kritické reflexi. Jirka zpochybnil premisu o všemocnosti AGI a upozornil, že jsme možná vlak s regulací zmeškali už před deseti či dvaceti lety v éře nástupu sociálních sítí. Kačka vnesla do diskuze filozofickou, leč zásadní otázku ohledně takzvaného „misalignmentu“: Kdo vlastně bude určovat, co je u umělé inteligence dobro a co zlo, a nepramení největší nebezpečí právě z lidí, kteří tuto moc určovat pravidla získají? Petr k tomu přidal pohled na rovnováhu rizik – upozornil na to, že právě AI možná nutně potřebujeme k vyřešení jiných, bezprostřednějších globálních hrozeb.V závěru jsme se věnovali i socioekonomickým dopadům. Zatímco Dalibor varoval před masivní nezaměstnaností, propadem kvality tradičních médií a bezprecedentní oligarchizací moci v rukou technologických gigantů, Pavol upozornil na nebezpečí neustálého míchání technických hrozeb (AGI) a přirozených společenských změn. Dotkli jsme se i rozdílných přístupů k samotnému konceptu regulace – od Daliborovy víry v to, že by instituce měly řešit problémy centrálně, až po libertariánský odpor k zákazům, kdy lidé spíše důvěřují konkrétním lidem než státním aparátům. Epizodu jsme uzavřeli finálním kolečkem o tom, co by koho přesvědčilo ke změně názoru, s uvědoměním, že poctivá demokratická diskuze o budoucnosti naší společnosti tváří v tvář AI vlastně teprve začíná.Děkujeme sponzorům:🚀 Promptbook: https://ptbk.io🤖 AI supervize: https://ptbk.io/ai-supervizeSítě, kde nás můžete sledovat:➡️ LinkedIn: https://www.linkedin.com/company/aitakrajta➡️ Spotify: https://open.spotify.com/show/31vLTHTV4vlCBeHpnbMKlK?si=1e51d95b9d3f46dd➡️ Apple Podcasts: https://podcasts.apple.com/cz/podcast/ai-ta-krajta/id1813389353Zdroje k videu: https://docs.google.com/document/d/1J37r7S58e1_CCzwEZrelehcN0WV5icb-/Kapitoly:00:00 - Úvod a přivítání Dalibora Krejčího z hnutí PAUSE AI00:59 - Co je hnutí PAUSE AI a z čeho pramení jeho obavy02:59 - Varování vědců (Stuart Russell) a rizika ztráty kontroly nad AGI08:34 - Narrow AI vs. AGI: Moratorium na modely s vlastními cíli15:08 - Jirka: Všemocná AGI a možná prohraný závod o regulaci21:05 - Kačka: Kdo určuje, co je dobro a zlo při alignmentu umělé inteligence?30:02 - Petr: Nepotřebujeme AI k záchraně před dalšími globálními riziky?34:50 - Dopady na trh práce a nebezpečí pro tradiční žurnalistiku38:17 - Pavol: Proč bychom měli oddělit technické hrozby a socioekonomické změny45:11 - Závěrečné kolečko: Co by koho z nás přesvědčilo o změně postoje

🔥 Další díl AI ta Krajta! 52. epizoda, kde řešíme přepis Bunu do Rustu, armádu inženýrů od OpenAI a to, zda se AI modely a harnessy stávají komoditou.V tomto díle, který uvádí Jirka a Petr, otevíráme novinkami o masivním přepisu JavaScript runtime Bun z jazyka Zig do Rustu. Autor Jared Sumner se k tomuto kroku rozhodl kvůli problémům se segfaulty a pro lepší memory safety. Dále se podíváme na překvapivý tah od OpenAI, kteří spouští „OpenAI deployment company“, což je armáda forward deploy inženýrů pomáhajících firmám s masivní implementací AI řešení, podobně jako to dělal v začátcích Palantir.Druhá půlka epizody se nese ve znamení diskuse o komoditizaci AI a abstrakčních vrstvách. Sdílíme neobvyklý experiment z Promptbooku, kde jsme nahradili tradiční SDK za složku s Markdown soubory a nechali modely doplňovat zprávy s mnohem lepšími výsledky. Následně hluboce rozebíráme, jestli se už i harnessy stávají vzájemně zaměnitelnou komoditou, nebo je v nich stále obrovský rozdíl v závislosti na nástrojích a specializaci. Zkoumáme „safe zónu“ modelů u běžných CRUD aplikací a debatujeme o tom, zda má dnes ještě smysl budovat tenké wrappery, nebo je budoucnost v hluboké integraci napříč specifickou oblastí.Závěr věnujeme budování hodnoty (moatu) v AI a infrastruktuře. Přirovnáváme AI ekosystémy k vývoji cloudu, specificky AWS a Vercelu, a rozebíráme dilema mezi vendor lock-inem v pohodlném ekosystémem a složitějším budováním vlastního řešení na platformách jako DigitalOcean, které lépe sedí na dlouhoběžící procesy (long running tasks). Probíráme také snahy o standardizaci, jako je MCP nebo kompatibilní API, a ptáme se diváků, zda chtějí do příště strukturovanou ukázku rozdílů mezi modelem, harnessem a standardy.Děkujeme sponzorům:🚀 Promptbook: https://ptbk.io🤖 AI supervize: https://ptbk.io/ai-supervizeSítě, kde nás můžete sledovat:➡️ LinkedIn: https://www.linkedin.com/company/aitakrajta➡️ Spotify: https://open.spotify.com/show/31vLTHTV4vlCBeHpnbMKlK?si=1e51d95b9d3f46dd➡️ Apple Podcasts: https://podcasts.apple.com/cz/podcast/ai-ta-krajta/id1813389353Kapitoly:00:00 - Úvod a poděkování sponzorům00:22 - Novinky: Masivní přepis Bunu ze Zigu do Rustu03:29 - OpenAI deployment company a armáda inženýrů pro firmy04:13 - Experiment v Promptbooku: Nahrazení SDK za složku s Markdowny06:24 - Abstrakční posun a debata: Jsou AI modely a harnessy už komodita?13:00 - Definice "safe zóny" a kdy už modely na úkoly nestačí24:00 - Kde se skrývá hodnota (moat) a ekosystémový lock-in po vzoru AWS30:30 - Infrastruktura pro AI agenty: Vercel vs. DigitalOcean a dlouhoběžící procesy38:05 - Standardizace API, Cloudflare a závěrečná výzva pro diváky