web02.fireside.fm Sun, 12 Apr 2026 09:08:22 -0500 Fireside (https://fireside.fm) MIT Sloan Management Review Polska - Episodes Tagged with “Halucynacje” https://mitpolska.fireside.fm/tags/halucynacje Thu, 23 Oct 2025 17:00:00 +0200 Jako wydawców i redaktorów MIT Sloan Management Review Polska fascynują nas zagadnienia łączące dwa obszary: biznes i najnowsze technologie. Nie obce są nam tematy AI, VR, blockchain, uczenie maszynowe, które decydują dziś o efektywnym i innowacyjnym podejściu do prowadzenia firmy. Rozmawiamy z czołowymi liderami cyfrowej transformacji, oferując solidną dawkę praktycznych wskazówek. Wśród występujących znaleźli się m.in.: Patty McCord, Horace Dediu, Michael Schrage czy Jason Pontin. pl episodic Mówimy o technologiach językiem biznesu. MIT Sloan Management Review Polska Jako wydawców i redaktorów MIT Sloan Management Review Polska fascynują nas zagadnienia łączące dwa obszary: biznes i najnowsze technologie. Nie obce są nam tematy AI, VR, blockchain, uczenie maszynowe, które decydują dziś o efektywnym i innowacyjnym podejściu do prowadzenia firmy. Rozmawiamy z czołowymi liderami cyfrowej transformacji, oferując solidną dawkę praktycznych wskazówek. Wśród występujących znaleźli się m.in.: Patty McCord, Horace Dediu, Michael Schrage czy Jason Pontin. no mit, biznes, technologia, digital, strategia, innowacje MIT Sloan Management Review Polska d.wisniewski@ican.pl Limity AI: #13 A co jeżeli Turing prowadzi na manowce? Komputacyjność a inteligencja https://mitpolska.fireside.fm/komputacyjnosc-a-inteligencja 5c34d784-4d55-4a78-9bcb-351df990fa2b Thu, 23 Oct 2025 17:00:00 +0200 MIT Sloan Management Review Polska full MIT Sloan Management Review Polska W drugiej części rozmowy z profesorem Michałem Karpowiczem omawiamy praktyczne konsekwencje przeprowadzonego przezeń dowodu na nieusuwalność tzw. halucynacji oraz proponowane przezeń strategie jak niwelować ryzyka z tym związane. Na marginesie rozmawiamy o twierdzeniu Goedla i jego praktycznych skutkach dla inżynierii AI oraz interpretacjach proponowanych m.in. przez Turinga i Penrose'a. 2:05:09 no Z rozmowy dowiecie się także jak można kwestionować argument "chińskiego pokoju" stawiany przez Johna Searle'a, kim był Yeshoua Bar-Hillel i na ile jego argumenty dotyczą ograniczeń dużych modeli językowych. Zastanawiamy się również czym jest emergencja i czy to pojęcie coś w ogóle wyjaśnia, jak również komentujemy perspektywy AGI w kontekście niedawnych głośnych wypowiedzi Richarda Suttona oraz publikowanych odkryć zespołu z Pathway. Gościem 13 odcinka "Limitów AI" jest prof. Michał Karpowicz, absolwent Politechniki Warszawskiej, gdzie w 2010 obronił z wyróżnieniem doktorat z informatyki, a w 2020 uzyskał habilitację z informatyki technicznej i telekomunikacji. Przez blisko 20 lat związany z Państwowym Instytutem Badawczym NASK, gdzie był kierownikiem Pionu Systemów Cyberbezpieczeństwa oraz Członkiem Rady Naukowej. Jako visiting professor dwukrotnie wykładał na Wydziale Matematyki MIT. Od czerwca 2024 szef Samsung AI Center Warsaw. Autor pierwszego na świecie matematycznego dowodu na nieeliminowalność tzw. halucynacji. Special Guest: prof. Michał Karpowicz. AI, LLM, LRM, AGI, halucynacje Z rozmowy dowiecie się także jak można kwestionować argument "chińskiego pokoju" stawiany przez Johna Searle'a, kim był Yeshoua Bar-Hillel i na ile jego argumenty dotyczą ograniczeń dużych modeli językowych. Zastanawiamy się również czym jest emergencja i czy to pojęcie coś w ogóle wyjaśnia, jak również komentujemy perspektywy AGI w kontekście niedawnych głośnych wypowiedzi Richarda Suttona oraz publikowanych odkryć zespołu z Pathway.

Gościem 13 odcinka "Limitów AI" jest prof. Michał Karpowicz, absolwent Politechniki Warszawskiej, gdzie w 2010 obronił z wyróżnieniem doktorat z informatyki, a w 2020 uzyskał habilitację z informatyki technicznej i telekomunikacji. Przez blisko 20 lat związany z Państwowym Instytutem Badawczym NASK, gdzie był kierownikiem Pionu Systemów Cyberbezpieczeństwa oraz Członkiem Rady Naukowej. Jako visiting professor dwukrotnie wykładał na Wydziale Matematyki MIT. Od czerwca 2024 szef Samsung AI Center Warsaw. Autor pierwszego na świecie matematycznego dowodu na nieeliminowalność tzw. halucynacji.

Special Guest: prof. Michał Karpowicz.

]]> Z rozmowy dowiecie się także jak można kwestionować argument "chińskiego pokoju" stawiany przez Johna Searle'a, kim był Yeshoua Bar-Hillel i na ile jego argumenty dotyczą ograniczeń dużych modeli językowych. Zastanawiamy się również czym jest emergencja i czy to pojęcie coś w ogóle wyjaśnia, jak również komentujemy perspektywy AGI w kontekście niedawnych głośnych wypowiedzi Richarda Suttona oraz publikowanych odkryć zespołu z Pathway.

Gościem 13 odcinka "Limitów AI" jest prof. Michał Karpowicz, absolwent Politechniki Warszawskiej, gdzie w 2010 obronił z wyróżnieniem doktorat z informatyki, a w 2020 uzyskał habilitację z informatyki technicznej i telekomunikacji. Przez blisko 20 lat związany z Państwowym Instytutem Badawczym NASK, gdzie był kierownikiem Pionu Systemów Cyberbezpieczeństwa oraz Członkiem Rady Naukowej. Jako visiting professor dwukrotnie wykładał na Wydziale Matematyki MIT. Od czerwca 2024 szef Samsung AI Center Warsaw. Autor pierwszego na świecie matematycznego dowodu na nieeliminowalność tzw. halucynacji.

Special Guest: prof. Michał Karpowicz.

]]> Limity AI: #12 Dlaczego LLMy nie mogą przestać kłamać? https://mitpolska.fireside.fm/dlaczego-llmy-nie-moga-przestac-klamac dce1b00e-c1b4-4cdb-90f3-d02567c2d0e8 Thu, 09 Oct 2025 17:00:00 +0200 MIT Sloan Management Review Polska full MIT Sloan Management Review Polska Czym są halucynacje? Jakie ich typy najczęściej występują? Z czego wynikają? Dlaczego tzw. RAGi (Retrieval Augmented Generation) czy browsing, choć ograniczają ich ryzyko, nie mogą tego ryzyka wyeliminować? I co na ten temat myślą twórcy LLMów? 2:04:29 no Tzw. halucynacje (zwane też konfabulacjami) to ryzyko, którego nie da się wyeliminować. Niby to wiemy od początku istnienia LLM-ów, ponieważ sam sposób ich trenowania i "rozproszonego" przechowywania przez nie informacji oraz ich przetwarzania przy pomocy tzw. embeddingów (funkcji wektorowych) powoduje, że każda treść generowana przez nie w interakcji z nami (każda odpowiedź na prompta) nie jest zwykłym przywoływaniem dostępnych danych, ale ich statystycznym uogólnieniem. Niektórzy łudzili się jednak, że to tylko przejściowy, tymczasowy problem – że uda się w końcu wypracować rozwiązanie, które wyeliminuje treści nieprawdziwe, zachowując zalety generatywności. Dziś już wiemy, że to niemożliwe – że nie jest to problem techniczny, który by można rozwiązać lepszą inżynierią, ale cecha matematyczna systemów jakimi są LLMy. Co to oznacza w praktyce? Nie masz żadnej gwarancji (i nie możesz mieć nigdy!), że informacja podana przez LLMa nie jest nieprawdziwa. Tam więc, gdzie ryzyko fałszywej informacji jest biznesowo nieakceptowalne, nie możesz polegać wyłącznie na LLMie – musisz wprowadzić do decyzyjnej pętli ludzkiego eksperta (tzw. "man in the loop"). A zatem: czym są halucynacje? Jakie ich typy najczęściej występują? Z czego wynikają? Dlaczego tzw. RAGi (Retrieval Augmented Generation) czy browsing, choć ograniczają ich ryzyko, nie mogą tego ryzyka wyeliminować? I co na ten temat myślą twórcy LLMów? Special Guest: prof. Michał Karpowicz. halucynacje, konfabulacje, LLM, LRM, AI, MIT Tzw. halucynacje (zwane też konfabulacjami) to ryzyko, którego nie da się wyeliminować. Niby to wiemy od początku istnienia LLM-ów, ponieważ sam sposób ich trenowania i "rozproszonego" przechowywania przez nie informacji oraz ich przetwarzania przy pomocy tzw. embeddingów (funkcji wektorowych) powoduje, że każda treść generowana przez nie w interakcji z nami (każda odpowiedź na prompta) nie jest zwykłym przywoływaniem dostępnych danych, ale ich statystycznym uogólnieniem.

Niektórzy łudzili się jednak, że to tylko przejściowy, tymczasowy problem – że uda się w końcu wypracować rozwiązanie, które wyeliminuje treści nieprawdziwe, zachowując zalety generatywności. Dziś już wiemy, że to niemożliwe – że nie jest to problem techniczny, który by można rozwiązać lepszą inżynierią, ale cecha matematyczna systemów jakimi są LLMy.

Co to oznacza w praktyce? Nie masz żadnej gwarancji (i nie możesz mieć nigdy!), że informacja podana przez LLMa nie jest nieprawdziwa. Tam więc, gdzie ryzyko fałszywej informacji jest biznesowo nieakceptowalne, nie możesz polegać wyłącznie na LLMie – musisz wprowadzić do decyzyjnej pętli ludzkiego eksperta (tzw. "man in the loop").

A zatem: czym są halucynacje? Jakie ich typy najczęściej występują? Z czego wynikają? Dlaczego tzw. RAGi (Retrieval Augmented Generation) czy browsing, choć ograniczają ich ryzyko, nie mogą tego ryzyka wyeliminować? I co na ten temat myślą twórcy LLMów?

Special Guest: prof. Michał Karpowicz.

Links:

]]> Tzw. halucynacje (zwane też konfabulacjami) to ryzyko, którego nie da się wyeliminować. Niby to wiemy od początku istnienia LLM-ów, ponieważ sam sposób ich trenowania i "rozproszonego" przechowywania przez nie informacji oraz ich przetwarzania przy pomocy tzw. embeddingów (funkcji wektorowych) powoduje, że każda treść generowana przez nie w interakcji z nami (każda odpowiedź na prompta) nie jest zwykłym przywoływaniem dostępnych danych, ale ich statystycznym uogólnieniem.

Niektórzy łudzili się jednak, że to tylko przejściowy, tymczasowy problem – że uda się w końcu wypracować rozwiązanie, które wyeliminuje treści nieprawdziwe, zachowując zalety generatywności. Dziś już wiemy, że to niemożliwe – że nie jest to problem techniczny, który by można rozwiązać lepszą inżynierią, ale cecha matematyczna systemów jakimi są LLMy.

Co to oznacza w praktyce? Nie masz żadnej gwarancji (i nie możesz mieć nigdy!), że informacja podana przez LLMa nie jest nieprawdziwa. Tam więc, gdzie ryzyko fałszywej informacji jest biznesowo nieakceptowalne, nie możesz polegać wyłącznie na LLMie – musisz wprowadzić do decyzyjnej pętli ludzkiego eksperta (tzw. "man in the loop").

A zatem: czym są halucynacje? Jakie ich typy najczęściej występują? Z czego wynikają? Dlaczego tzw. RAGi (Retrieval Augmented Generation) czy browsing, choć ograniczają ich ryzyko, nie mogą tego ryzyka wyeliminować? I co na ten temat myślą twórcy LLMów?

Special Guest: prof. Michał Karpowicz.

Links:

]]> LIMITY AI: #3 Agenty AI – kiedy (nie) wdrażać? https://mitpolska.fireside.fm/kamilstanuch 9ef7ed92-3cc5-4475-9fd0-4279ee001ddc Thu, 03 Apr 2025 17:45:00 +0200 MIT Sloan Management Review Polska full MIT Sloan Management Review Polska Jak nie wdrażać? Jakie błędy najczęściej popełniamy? 1:22:05 no Z rozmowy dowiesz się m.in. — Co to są Agenty AI? Jak mają się do LLM? — Kiedy z nich korzystać? Do jakich zadań ich potrzebujemy? — Jak wdrażać agentów do biznesu? Od czego zacząć? — Jak nie wdrażać? Jakie błędy najczęściej popełniamy? — Czy agenty mogą halucynować? Czy mogą wymknąć się spod kontroli? 1) Newsletter Kamila: https://kamilstanuch.substack.com/ 2) Pierwsze na świecie pośrednictwo pracy dla agentów AI: https://jobforagent.com/ 3) Wywiad z twórcami JobForAgent.com: https://www.businessinsider.com/ai-agents-jobs-board-ad-replacing-human-skills-2025-2?IR=T Special Guest: Kamil Stanuch. ai, agent, LLM, halucynacje, Z rozmowy dowiesz się m.in.

— Co to są Agenty AI? Jak mają się do LLM?
— Kiedy z nich korzystać? Do jakich zadań ich potrzebujemy?
— Jak wdrażać agentów do biznesu? Od czego zacząć?
— Jak nie wdrażać? Jakie błędy najczęściej popełniamy?
— Czy agenty mogą halucynować? Czy mogą wymknąć się spod kontroli?

1) Newsletter Kamila: https://kamilstanuch.substack.com/
2) Pierwsze na świecie pośrednictwo pracy dla agentów AI: https://jobforagent.com/
3) Wywiad z twórcami JobForAgent.com: https://www.businessinsider.com/ai-agents-jobs-board-ad-replacing-human-skills-2025-2?IR=T

Special Guest: Kamil Stanuch.

]]> Z rozmowy dowiesz się m.in.

— Co to są Agenty AI? Jak mają się do LLM?
— Kiedy z nich korzystać? Do jakich zadań ich potrzebujemy?
— Jak wdrażać agentów do biznesu? Od czego zacząć?
— Jak nie wdrażać? Jakie błędy najczęściej popełniamy?
— Czy agenty mogą halucynować? Czy mogą wymknąć się spod kontroli?

1) Newsletter Kamila: https://kamilstanuch.substack.com/
2) Pierwsze na świecie pośrednictwo pracy dla agentów AI: https://jobforagent.com/
3) Wywiad z twórcami JobForAgent.com: https://www.businessinsider.com/ai-agents-jobs-board-ad-replacing-human-skills-2025-2?IR=T

Special Guest: Kamil Stanuch.

]]>