Odcinek 19 — Kto odpowiada, gdy sztuczna inteligencja się pomyli

Iza stoi wieczorem nad szufladą z lekami i robi zdjęcie pudełka. I nagle łapie się na myśli, którą warto mieć przy każdej aplikacji ze sztuczną inteligencją w środku: skąd ja właściwie wiem, że to, co mi się za chwilę wyświetli, jest prawdą? Ten odcinek nie jest o tym, czy sztuczna inteligencja się myli. Myli się. Jest o tym, co się dzieje POTEM — kto ma ostatnie słowo, kto ponosi odpowiedzialność i po czym poznać aplikację, która uczciwie mówi, czego nie wie. ⏱️ Rozdziały: 0:00 Cold open: skąd wiem, że to prawda? 1:04 Krok pierwszy: model patrzy na zdjęcie 1:31 Dlaczego model niczego nie wie 2:04 Krok trzeci to Ty 3:04 A kto odpowiada prawnie? 3:23 „Nie jest wyrobem medycznym" — MDR 2017/745 4:31 Skąd wiadomo, komu ufać: cztery źródła 5:15 Interakcje: co baza wie, a czego nie 6:48 61% produktów z niską pewnością danych 7:38 Dlaczego skróciłem ostrzeżenie 8:17 Oznaczenia domyślnie wyłączone 9:10 Skan recepty zostaje na telefonie 9:59 AI może zaproponować, nie może zdecydować 11:20 Outro, CTA i AI disclosure 📝 Pełen opis: Najważniejsze zdanie odcinka jest zaszyte w samej aplikacji: „mojApteczka nie jest wyrobem medycznym w rozumieniu Rozporządzenia MDR 2017/745". To nie jest prawnicza asekuracja wklejona do regulaminu — to wybór projektowy z konsekwencjami, o których rozmawiamy przez cały odcinek. O czym rozmawiamy: Trzy kroki skanowania, z których pierwszy jest najmniej ważny. Model patrzy na zdjęcie i rozpoznaje kształty liter. To rejestr leków mówi, co to faktycznie za lek. A trzeci krok to człowiek: wynik trafia na ekran do sprawdzenia i poprawienia, i dopóki nie zapiszesz, w apteczce nie ma nic. Aplikacja nie potrafi stworzyć leku, którego nie ma w rejestrze. Jeśli model coś sobie wymyśli, nie ma gdzie tego zapisać. To brzmi nudno, a jest fundamentem całej konstrukcji. Co baza interakcji wie, a czego nie. Ponad trzysta tysięcy opisanych interakcji, po rozłożeniu na oba kierunki ponad milion trzysta tysięcy wpisów. Baza opisuje możliwą interakcję między substancjami i jej ciężkość. Nie wie, ile masz lat, na co chorujesz i czy lekarz świadomie zdecydował, że w Twoim przypadku to połączenie jest w porządku. To ma być lista pytań do farmaceuty, a nie wyrok. 61% produktów ma niską pewność danych. Polskie charakterystyki leków są pisane bardzo ostrożnie. Rozmawiamy o tym, co uczciwie zrobić z informacją, co do której samemu nie ma się pewności — i dlaczego te oznaczenia są wyciszone, a nie podkręcone. Dlaczego ostrzeżenie zostało skrócone. Ten sam blok tekstu na każdej z ośmiu kart leku przestaje być czytany. Zostało widoczne jedno zdanie, pełna lista źródeł schowana pod ikonką. Oznaczenia bezpieczeństwa są domyślnie WYŁĄCZONE. Mówimy wprost, czemu — i przyznajemy, że nie wiadomo, czy to ostateczna odpowiedź. Skan recepty działa inaczej niż skan pudełka. Całe odczytywanie dzieje się na telefonie. Zdjęcie recepty nigdzie nie leci. Do wyszukania idzie wyłącznie sama nazwa leku — dokładnie tak, jakbyś wpisał ją ręcznie. Skąd są dane. Przy informacjach o bezpieczeństwie leku wypisane są źródła: Charakterystyka Produktu Leczniczego (URPL), LactMed (NIH), OpenFDA i Europejska Agencja Leków. Przy interakcjach — konkretna baza naukowa z rokiem publikacji: DDInter 2.0 (Nucleic Acids Research, 2025). „Nasz algorytm wykrył" to zdanie, które nic nie znaczy. Czego aplikacja NIE robi: nie stawia diagnozy, nie prowadzi leczenia, nie ocenia, czy lek jest dla Ciebie odpowiedni, nie dobiera dawki i nie mówi, czy przyjąć czy pominąć. Werdykt należy do lekarza i farmaceuty. Aplikacja ma sprawić, żebyś wiedział, CO masz w domu i o co zapytać. Jedno zdanie na wynos: sztuczna inteligencja może zaproponować, ale nie może zdecydować. Nie pytaj, czy aplikacja ma AI. Zapytaj, co się dzieje, kiedy ta AI się pomyli. Materiały: Aplikacja mojApteczka: mojapteczka.pl — https://mojapteczka.pl — darmowa, apteczka dostępna także offline Publiczna sprawdzarka interakcji: mojapteczka.pl/interakcje-sprawdz — https://mojapteczka.pl/interakcje-spr... W odcinku: skanowanie opakowania, skanowanie recepty na urządzeniu, interakcje lekowe, źródła danych o bezpieczeństwie Kontakt: kontakt@mojapteczka.pl 🎙️ Inne platformy: Spotify: https://open.spotify.com/show/033g6Uh... RSS: https://podcast.mojapteczka.pl/@mojap... 📱 Aplikacja: https://mojapteczka.pl 📩 Kontakt: kontakt@mojapteczka.pl 🤖 O AI: Dialog napisał Tomasz Szuster. Głosy Tomka i Izy to klony AI z prawdziwych próbek głosowych, za zgodą obu osób. Pełna informacja w outro odcinka. #mojApteczka #podcast #apteka24h #aptekaDyżurna #zdrowie #AIpodcast