web02.fireside.fm Thu, 07 May 2026 09:53:36 -0500 Fireside (https://fireside.fm) MIT Sloan Management Review Polska - Episodes Tagged with “Rag” https://mitpolska.fireside.fm/tags/rag Thu, 09 Oct 2025 17:00:00 +0200 Jako wydawców i redaktorów MIT Sloan Management Review Polska fascynują nas zagadnienia łączące dwa obszary: biznes i najnowsze technologie. Nie obce są nam tematy AI, VR, blockchain, uczenie maszynowe, które decydują dziś o efektywnym i innowacyjnym podejściu do prowadzenia firmy. Rozmawiamy z czołowymi liderami cyfrowej transformacji, oferując solidną dawkę praktycznych wskazówek. Wśród występujących znaleźli się m.in.: Patty McCord, Horace Dediu, Michael Schrage czy Jason Pontin. pl episodic Mówimy o technologiach językiem biznesu. MIT Sloan Management Review Polska Jako wydawców i redaktorów MIT Sloan Management Review Polska fascynują nas zagadnienia łączące dwa obszary: biznes i najnowsze technologie. Nie obce są nam tematy AI, VR, blockchain, uczenie maszynowe, które decydują dziś o efektywnym i innowacyjnym podejściu do prowadzenia firmy. Rozmawiamy z czołowymi liderami cyfrowej transformacji, oferując solidną dawkę praktycznych wskazówek. Wśród występujących znaleźli się m.in.: Patty McCord, Horace Dediu, Michael Schrage czy Jason Pontin. no mit, biznes, technologia, digital, strategia, innowacje MIT Sloan Management Review Polska d.wisniewski@ican.pl Limity AI: #12 Dlaczego LLMy nie mogą przestać kłamać? https://mitpolska.fireside.fm/dlaczego-llmy-nie-moga-przestac-klamac dce1b00e-c1b4-4cdb-90f3-d02567c2d0e8 Thu, 09 Oct 2025 17:00:00 +0200 MIT Sloan Management Review Polska full MIT Sloan Management Review Polska Czym są halucynacje? Jakie ich typy najczęściej występują? Z czego wynikają? Dlaczego tzw. RAGi (Retrieval Augmented Generation) czy browsing, choć ograniczają ich ryzyko, nie mogą tego ryzyka wyeliminować? I co na ten temat myślą twórcy LLMów? 2:04:29 no <p>Tzw. halucynacje (zwane też konfabulacjami) to ryzyko, którego nie da się wyeliminować. Niby to wiemy od początku istnienia LLM-ów, ponieważ sam sposób ich trenowania i "rozproszonego" przechowywania przez nie informacji oraz ich przetwarzania przy pomocy tzw. embeddingów (funkcji wektorowych) powoduje, że każda treść generowana przez nie w interakcji z nami (każda odpowiedź na prompta) nie jest zwykłym przywoływaniem dostępnych danych, ale ich statystycznym uogólnieniem.</p> <p>Niektórzy łudzili się jednak, że to tylko przejściowy, tymczasowy problem – że uda się w końcu wypracować rozwiązanie, które wyeliminuje treści nieprawdziwe, zachowując zalety generatywności. Dziś już wiemy, że to niemożliwe – że nie jest to problem techniczny, który by można rozwiązać lepszą inżynierią, ale cecha matematyczna systemów jakimi są LLMy. </p> <p>Co to oznacza w praktyce? Nie masz żadnej gwarancji (i nie możesz mieć nigdy!), że informacja podana przez LLMa nie jest nieprawdziwa. Tam więc, gdzie ryzyko fałszywej informacji jest biznesowo nieakceptowalne, nie możesz polegać wyłącznie na LLMie – musisz wprowadzić do decyzyjnej pętli ludzkiego eksperta (tzw. "man in the loop").</p> <p>A zatem: czym są halucynacje? Jakie ich typy najczęściej występują? Z czego wynikają? Dlaczego tzw. RAGi (Retrieval Augmented Generation) czy browsing, choć ograniczają ich ryzyko, nie mogą tego ryzyka wyeliminować? I co na ten temat myślą twórcy LLMów? Special Guest: prof. Michał Karpowicz.</p> halucynacje, konfabulacje, LLM, LRM, AI, MIT Tzw. halucynacje (zwane też konfabulacjami) to ryzyko, którego nie da się wyeliminować. Niby to wiemy od początku istnienia LLM-ów, ponieważ sam sposób ich trenowania i "rozproszonego" przechowywania przez nie informacji oraz ich przetwarzania przy pomocy tzw. embeddingów (funkcji wektorowych) powoduje, że każda treść generowana przez nie w interakcji z nami (każda odpowiedź na prompta) nie jest zwykłym przywoływaniem dostępnych danych, ale ich statystycznym uogólnieniem.

Niektórzy łudzili się jednak, że to tylko przejściowy, tymczasowy problem – że uda się w końcu wypracować rozwiązanie, które wyeliminuje treści nieprawdziwe, zachowując zalety generatywności. Dziś już wiemy, że to niemożliwe – że nie jest to problem techniczny, który by można rozwiązać lepszą inżynierią, ale cecha matematyczna systemów jakimi są LLMy.

Co to oznacza w praktyce? Nie masz żadnej gwarancji (i nie możesz mieć nigdy!), że informacja podana przez LLMa nie jest nieprawdziwa. Tam więc, gdzie ryzyko fałszywej informacji jest biznesowo nieakceptowalne, nie możesz polegać wyłącznie na LLMie – musisz wprowadzić do decyzyjnej pętli ludzkiego eksperta (tzw. "man in the loop").

A zatem: czym są halucynacje? Jakie ich typy najczęściej występują? Z czego wynikają? Dlaczego tzw. RAGi (Retrieval Augmented Generation) czy browsing, choć ograniczają ich ryzyko, nie mogą tego ryzyka wyeliminować? I co na ten temat myślą twórcy LLMów?

Special Guest: prof. Michał Karpowicz.

Links:

]]> Tzw. halucynacje (zwane też konfabulacjami) to ryzyko, którego nie da się wyeliminować. Niby to wiemy od początku istnienia LLM-ów, ponieważ sam sposób ich trenowania i "rozproszonego" przechowywania przez nie informacji oraz ich przetwarzania przy pomocy tzw. embeddingów (funkcji wektorowych) powoduje, że każda treść generowana przez nie w interakcji z nami (każda odpowiedź na prompta) nie jest zwykłym przywoływaniem dostępnych danych, ale ich statystycznym uogólnieniem.

Niektórzy łudzili się jednak, że to tylko przejściowy, tymczasowy problem – że uda się w końcu wypracować rozwiązanie, które wyeliminuje treści nieprawdziwe, zachowując zalety generatywności. Dziś już wiemy, że to niemożliwe – że nie jest to problem techniczny, który by można rozwiązać lepszą inżynierią, ale cecha matematyczna systemów jakimi są LLMy.

Co to oznacza w praktyce? Nie masz żadnej gwarancji (i nie możesz mieć nigdy!), że informacja podana przez LLMa nie jest nieprawdziwa. Tam więc, gdzie ryzyko fałszywej informacji jest biznesowo nieakceptowalne, nie możesz polegać wyłącznie na LLMie – musisz wprowadzić do decyzyjnej pętli ludzkiego eksperta (tzw. "man in the loop").

A zatem: czym są halucynacje? Jakie ich typy najczęściej występują? Z czego wynikają? Dlaczego tzw. RAGi (Retrieval Augmented Generation) czy browsing, choć ograniczają ich ryzyko, nie mogą tego ryzyka wyeliminować? I co na ten temat myślą twórcy LLMów?

Special Guest: prof. Michał Karpowicz.

Links:

]]> Limity AI: #11 AI w e-commerce – jak się za to zabrać? https://mitpolska.fireside.fm/ai-w-ecommerce 76b71725-9f78-439a-8298-e342f8fecb1e Thu, 18 Sep 2025 14:00:00 +0200 MIT Sloan Management Review Polska full MIT Sloan Management Review Polska W jedenastym odcinku "Limitów AI" rozmawiamy o tym jak wdrażać AI do ecommerce, od czego zacząć i jak tego nie robić 1:40:12 no <p>Porozmawiamy m.in. o wdrożeniach tzw. internetu rzeczy, w tym logistyce smart stores i dark stores, wirtualnych asystentach (m.in. Rufus i Sidekick) oraz perspektywach i ograniczeniach interaktywnych interfejsów głosowych. Dowiecie się m.in. na czym polega hiperpersonalizacja przy wykorzystaniu AI i jakie są jej ograniczenia – np. jak z perspektywy inżynierii ecommerce wygląda taki „minimalny zestaw danych”, który pozwala maksymalnie dobrze poznać klientów, ale jednocześnie nie narusza ich prywatności ani przepisów prawa? Czy ja jako konsument albo mała firma mogę już dziś sobie zrobić własnego agenta, który z jednej strony będzie firewallem na cały spam marketingowy jaki płynie z sieci, a z drugiej będzie aktywnie wyszukiwał oferty ściśle spersonalizowane pode mnie? Co jako MŚP czy sklep internetowy już dziś powinienem robić, aby być widocznym dla rosnącego sektora generatywnych wyszukiwarek (GSE)? I jak się zabezpieczyć przed scenariuszem, w którym najpopularniejsze GSE mogą niebawem kupczyć widocznością, rekomendując swoim użytkownikom gorsze od moich produktów produkty konkurencji?</p> <p>Rozmowa towarzyszy 6. edycji konferencji “E-commerce Trends Summit” organizowanej przez ICAN Institute online 30 września<br> Dołącz już dziś: <a href="https://www.ican.pl/wydarzenia/konferencje/e-commerce" target="_blank" rel="nofollow noopener">https://www.ican.pl/wydarzenia/konferencje/e-commerce</a> Special Guest: Konrad Bujak.</p> AI, ecommerce Porozmawiamy m.in. o wdrożeniach tzw. internetu rzeczy, w tym logistyce smart stores i dark stores, wirtualnych asystentach (m.in. Rufus i Sidekick) oraz perspektywach i ograniczeniach interaktywnych interfejsów głosowych. Dowiecie się m.in. na czym polega hiperpersonalizacja przy wykorzystaniu AI i jakie są jej ograniczenia – np. jak z perspektywy inżynierii ecommerce wygląda taki „minimalny zestaw danych”, który pozwala maksymalnie dobrze poznać klientów, ale jednocześnie nie narusza ich prywatności ani przepisów prawa? Czy ja jako konsument albo mała firma mogę już dziś sobie zrobić własnego agenta, który z jednej strony będzie firewallem na cały spam marketingowy jaki płynie z sieci, a z drugiej będzie aktywnie wyszukiwał oferty ściśle spersonalizowane pode mnie? Co jako MŚP czy sklep internetowy już dziś powinienem robić, aby być widocznym dla rosnącego sektora generatywnych wyszukiwarek (GSE)? I jak się zabezpieczyć przed scenariuszem, w którym najpopularniejsze GSE mogą niebawem kupczyć widocznością, rekomendując swoim użytkownikom gorsze od moich produktów produkty konkurencji?

Rozmowa towarzyszy 6. edycji konferencji “E-commerce Trends Summit” organizowanej przez ICAN Institute online 30 września
Dołącz już dziś: https://www.ican.pl/wydarzenia/konferencje/e-commerce

Special Guest: Konrad Bujak.

]]> Porozmawiamy m.in. o wdrożeniach tzw. internetu rzeczy, w tym logistyce smart stores i dark stores, wirtualnych asystentach (m.in. Rufus i Sidekick) oraz perspektywach i ograniczeniach interaktywnych interfejsów głosowych. Dowiecie się m.in. na czym polega hiperpersonalizacja przy wykorzystaniu AI i jakie są jej ograniczenia – np. jak z perspektywy inżynierii ecommerce wygląda taki „minimalny zestaw danych”, który pozwala maksymalnie dobrze poznać klientów, ale jednocześnie nie narusza ich prywatności ani przepisów prawa? Czy ja jako konsument albo mała firma mogę już dziś sobie zrobić własnego agenta, który z jednej strony będzie firewallem na cały spam marketingowy jaki płynie z sieci, a z drugiej będzie aktywnie wyszukiwał oferty ściśle spersonalizowane pode mnie? Co jako MŚP czy sklep internetowy już dziś powinienem robić, aby być widocznym dla rosnącego sektora generatywnych wyszukiwarek (GSE)? I jak się zabezpieczyć przed scenariuszem, w którym najpopularniejsze GSE mogą niebawem kupczyć widocznością, rekomendując swoim użytkownikom gorsze od moich produktów produkty konkurencji?

Rozmowa towarzyszy 6. edycji konferencji “E-commerce Trends Summit” organizowanej przez ICAN Institute online 30 września
Dołącz już dziś: https://www.ican.pl/wydarzenia/konferencje/e-commerce

Special Guest: Konrad Bujak.

]]>