Prawo a nowe technologie

Gościem Mec. Macieja Bieszczada oraz Mec. Wojciecha Lamika jest Katarzyna Araczewska - zastępczyni dyrektora w Departamencie Ochrony Zbiorowych Interesów Konsumentów w UOKiK.

Tematem odcinka są opinie konsumenckie – obecnie nieodłączny element sklepów internetowych. Istotne jest tutaj podejście Urzędu Ochrony Konkurencji i Konsumentów.

Podczas rozmowy poruszyliśmy m.in. następujące kwestie:

1. Czym jest opinia konsumencka oraz jakie potrafi przybrać postaci?

2. Dlaczego UOKiK przywiązuje tak duże znaczenie dla kwestii opinii konsumenckich?

3. Co mówią przepisy w kontekście opinii konsumenckich (wliczając w to zmiany spowodowane Dyrektywą Omnibus)?

4. Czy przedsiębiorca jest zobowiązany do weryfikowania opinii konsumenckich? Jak ustalić prawdziwość tych opinii? Jak o tym informować?

5. Jakie z perspektywy UOKiK są najczęściej popełniane błędy przez przedsiębiorców co do opinii konsumenckich?

6. Podział na opinie o produkcie i opinie o sprzedawcy.

7. Czy jest dopuszczalne moderowanie opinii konsumenckich? Czy istnieją tutaj jakieś zagrożenia?

8. Czy unijne rozporządzenie – Akt o usługach cyfrowych (DSA) na wpływ na opinie konsumenckie? Jeżeli tak, to jaki?

Gośćmi Mec. Wojciecha Lamika są:

1) Gabriela Bar - doktor nauk prawnych, radczyni prawna, założycielka kancelarii Gabriela Bar Law & AI, członkini Komitetu Prawnego IEEE (ItripleE), członkini Stowarzyszenia Prawa Nowych Technologii, Women in AI, członkini polskiego towarzystwa informatycznego, specjalistka w zakresie sztucznej inteligencji, umów elektronicznych, e-commerce, ochrony prywatności i aspektów prawnych wdrożeń systemów IT, a także członkini Komisji ds. Nowych Technologii i Transformacji Cyfrowej przy OIRP Wrocław, oraz

2) Dominik Lubasz - doktor nauk prawnych, radca prawny oraz partner zarządzający w kancelarii Lubasz i Wspólnicy – Kancelaria Radców Prawnych. Wyróżniony m.in. w latach 2020-2024 w rankingu „The Legal 500” jako „Leading Individual”. Jest ekspertem Europejskiej Rady Ochrony Danych. Specjalizuje się w prawie nowych technologii, e-commerce, własności intelektualnej, ochronie danych osobowych oraz w prawie gospodarczym, w tym europejskim prawie gospodarczym.

Ten odcinek podcastu jest poświęcony aktowi o sztucznej inteligencji (AI Act) – rozporządzeniu unijnemu, które zostało w dniu 12 lipca 2024 opublikowane w dzienniku urzędowym Komisji Europejskiej. Ten kluczowy dokument określa ramy regulacyjne dla rozwoju, wdrażania i użytkowania sztucznej inteligencji na terenie Unii Europejskiej.

Podczas rozmowy poruszyliśmy m.in. następujące kwestie:

1. Jakie były cele uchwalenia AI Act?

2. Czym jest sztuczna inteligencja na gruncie AI Act?

3. Jakie są podstawowe zasady i kategorie ryzyka przewidziane w AI Act? Jakie kryteria decydują o przypisaniu systemu AI do jednej z tych kategorii?

4. Jakie konsekwencje dla biznesu może mieć wprowadzenie AI Act? Czy istnieją sektory, które będą szczególnie dotknięte przez AI Act?

5. Czy istnieją konkretne wymagania dotyczące transparentności algorytmów i decyzji podejmowanych przez AI?

6. W jaki sposób AI Act wpływa na ochronę danych osobowych i prywatności w kontekście wykorzystania sztucznej inteligencji? I za tym idzie - czy AI Act odpowiednio balansuje innowacyjność z bezpieczeństwem?

7. Jakie sankcje są przewidziane za nieprzestrzeganie AI Act?

Gościem Mec. Dominiki Fikus-Graf oraz Mec. Wojciecha Lamika jest Tomasz Piekot - doktor habilitowany, językoznawca, trener prostego języka, nauczyciel akademicki w Instytucie Filologii Polskiej Uniwersytetu Wrocławskiego. Kierownik Pracowni Prostej Polszczyzny na Uniwersytecie Wrocławskim, gdzie wraz z zespołem opracowuje polską wersję standardu "plain language". Od kilku lat zajmuje się upraszczaniem komunikacji banków, firm ubezpieczeniowych i urzędów. Posiada doświadczenie w upraszczaniu tekstów prawnych.

Ten odcinek poświęciliśmy tematowi Legal Design. Choć poruszaliśmy już tę kwestię w drugim sezonie podcastu, warto do niej wrócić. Legal Design zyskuje na popularności wśród prawników i staje się także przedmiotem zainteresowania samorządów prawniczych, w tym OIRP Wrocław. Wielu prawników ma obawy związane z używaniem Legal Design. Staraliśmy się odpowiedzieć na niektóre z nich, w tym na jedno z kluczowych pytań: „czy uproszczenie zawsze oznacza lepsze rozwiązanie?”

W trakcie rozmowy poruszyliśmy m.in. następujące kwestie:

1) Czy są, poza upraszczaniem, inne trendy rozwojowe we współczesnej polszczyźnie?

2) Czym jest Legal Design? Jaka jest relacja między prostą polszczyzną a Legal Desing?

3) Jakie przykładowe elementy musi zawierać dokument sporządzony przez prawnika, aby był zgodny z Lega Design? Czy mamy w ogóle jakieś kryteria w tym zakresie? Czy jest jakaś granica, kiedy możemy stwierdzić, że konkretny dokument jest „zgodny z Legal Design”?

4) Czy Legal Design możemy zastosować we wszystkich rodzajach pism prawniczych? Także w pismach adresowanych do sądów/organów?

5) Czy może dojść do sytuacji, kiedy przygotowany tekst prawniczy będzie zbyt prosty? Czy można gdzieś postawić granicę? Czy znaczenie ma to, jakiej materii dotyczy sporządzany dokument? Innymi słowy, czy zawsze „prościej” znaczy „lepiej”?

6) Jakie są największe obawy prawników co do stosowania Legal Design w praktyce? Czy różnią się one w zależności od tego, z jakiego zawodu jest prawnik (np. radca prawny, sędzia, prokurator)?

7) Jakich narzędzi (programów/aplikacji) może używać prawnik, jeżeli chce sporządzić pismo zgodne z Legal Design?

Gościem Mec. Łukasza Otfinowskiego oraz Mec. Wojciecha Lamika są:

1) Paweł Kempa-Dymiński – radca prawny, senior manager w Kancelarii prawnej Leśniewski, Borkiewicz, Kostka & Partners, specjalista z zakresu prawa pracy, doradza od 2012 r. Doradza zarówno w sprawach dotyczących bieżącej działalności, jak i przy realizacji projektów strategicznych (m.in. dotyczących podejmowania działalności w Polsce, nabywania/zbywania spółek, przedsiębiorstw lub istotnych aktywów, w tym niematerialnych, reorganizacji zatrudnienia), oraz

2) Salwador Milczanowski – 16 lat doświadczenia, specjalizuje się w zagadnieniach prawa karnego gospodarczego (tzw. business crime) oraz compliance, w szczególności w: budowaniu i zarządzaniu systemami zgłoszeń od sygnalistów, prowadzeniu wewnętrznych postępowań wyjaśniających, wdrażaniu polityk antykorupcyjnych oraz wymogów związanych z przeciwdziałaniem praniu pieniędzy i finansowaniu terroryzmu (AML/CFT). Przez wiele lat związany z największymi kancelariami i firmami doradczymi na Dolnym Śląsku i w Polsce.

Tematem odcinka jest ochrona sygnalistów. Po kilkuletniej zwłoce udało się w Polsce uchwalić ustawę o ochronie sygnalistów, która implementowała do naszego porządku prawnego dyrektywę unijną w sprawie ochrony osób zgłaszających naruszenia prawa Unii. Wielu przedsiębiorców już wdraża tę regulację. Tym niemniej, jeszcze przed pojawieniem się pierwszego projektu o ochronie sygnalistów pojawiło się wiele mitów. Na część z nich postaraliśmy się odpowiedzieć podczas rozmowy.

Podczas rozmowy poruszyliśmy m.in. następujące kwestie:

1) Kto może zostać sygnalistą na gruncie nowe ustawy? Czy istnieją jakieś wyłączenia, o których warto wspomnieć?

2) Jakie są kluczowe obowiązki pracodawców wynikające z ustawy? Na co muszą zwrócić szczególną uwagę w kontekście procedur wewnętrznych? Jakie kroki powinni podjąć, aby skutecznie wdrożyć procedury ochrony sygnalistów?

3) W jaki sposób sygnalista może zgłosić nieprawidłowości (tj. rodzaje zgłoszeń)? Który z tych sposobów może być najbardziej efektywny i jakie powinny być kryteria ich wyboru?

4) W jaki sposób są chronieni sygnaliści na podstawie tej ustawy? Jakie ustawa przewiduje rozwiązania w związku z działaniami odwetowymi?

5) Definicja sygnalisty w ustawie jest bardzo szeroka. Czy może to prowadzić w przyszłości do nadużywania wykorzystywania statusu sygnalisty? Czy nie dojdzie do pojawienia się wielu zgłoszeń fałszywych nieprawidłowości (np. z powodu osobistych animozji między pracownikami)? Co może zrobić pracodawca na tym polu?

6) Jakie ryzyka prawne wiążą się z nieprzestrzeganiem ustawy? Jakie sankcje grożą pracodawcom, którzy nie wdrożą odpowiednich procedur?

7) Jakie mogą pojawić się największe wyzwania związane z wdrożeniem rozwiązań o ochronie sygnalistów w organizacji? Czy macie jakieś wskazówki w tym zakresie?

Gościem Mec. Alicji Cegielskiej-Roli oraz Mec. Wojciecha Lamika jest współzałożyciel k7, certyfikowany trener techniczny Apple dla ścieżki wsparcia, wdrożeniowej, serwisowej oraz programistycznej. Wieloletni certyfikowany specjalista Apple. Wykładowca akademicki.

Tym razem tematem odcinka jest omówienie aktu o rynkach cyfrowych (DMA) z perspektywy biznesu. Jak nowe regulacje odbiera jeden ze strażników dostępu – Apple. Dzięki temu – a jednocześnie po odsłuchaniu odcinka #46 z Igą Małobęcką-Szwast (DMA oczami prawnika) słuchający będzie posiadał szeroką perspektywę co do rozporządzenia unijnego.

Podczas rozmowy poruszyliśmy m.in. następujące kwestie:

1. Jakie z perspektywy biznesowej są najistotniejsze obowiązki, jakie zostały nałożone na strażników dostępu?

2. Czy wdrożenie niektórych z wymogów było szczególnie uciążliwe lub trudne dla tak dużej firmy jak Apple?

3. Co zmienia się z perspektywy zwyczajnego użytkownika końcowego? Czy możemy jakoś zauważyć wdrożenie DMA?

4. Jakie zmiany są najistotniejsze z punktu widzenia niezależnych deweloperów aplikacji, np. aplikacji na iOS? Czy oni mieli szansę odczuć zmianę?

5. Jak wygląda relacja między Apple a Komisją Europejską co do wdrożenia DMA?

Gościem Mec. Gabrieli Bar oraz Mec. Wojciecha Lamika jest Tomasz Scheffler – radca prawny, Dziekan Rady Okręgowej Izby Radców Prawnych we Wrocławiu, członek Krajowej Rady Radców Prawnych. Doktor habilitowany zajmujący się badaniami nad totalitaryzmem, szczególnie w kontekście prawa karnego, myślą polityczną feminizmu i myślą polityczno-prawną Kościoła-katolickiego. Prowadzi również badania nad samorządami zawodów zaufania publicznego.

Tematem odcinka jest sztuczna inteligencja w ujęciu filozoficznym. Kilka tygodni temu Rada UE przyjęła rozporządzenie unijne – akt o sztucznej inteligencji, które będzie miało ogromne znaczenie dla przyszłego rozwoju nowych technologii na Kontynencie. Ważne jest jednak, aby spojrzeć na AI również z takiej perspektywy, jak moralność, czy zaufanie. Wiele z tych kwestii było punktem odniesienia do stworzenia nowej regulacji.

Podczas rozmowy poruszyliśmy m.in. następujące kwestie:

1. Czy AI może posiadać własny system wartości i moralności? Jak definiować moralność w kontekście maszyn? Jeśli AI ma podejmować decyzje o istotnym znaczeniu społecznym, na przykład w systemie prawnym, to jakie etyczne wyzwania stają przed nami?

2. Jak możemy zbudować zaufanie do decyzji podejmowanych przez AI? Czy istnieją różnice w sposobie, w jaki powinniśmy podchodzić do zaufania wobec AI w porównaniu do zaufania wobec ludzi, zwłaszcza w kontekście prawnym?

3. Czy AI może pomóc w zapewnieniu większej równości i sprawiedliwości w systemie prawnym, czy też istnieje ryzyko, że pogłębi istniejące nierówności?

4. Czy istnieją aspekty ludzkiego umysłu i doświadczenia, które są nieosiągalne dla maszyn? Jakie role odgrywają empatia, intuicja, moralność i kreatywność w pracy prawnika, których AI nie jest w stanie zastąpić?

Gościem Mec. Alicji Cegielskiej-Roli oraz Mec. Wojciecha Lamika jest Mec. Iga Małobęcka-Szwast - doktor nauk prawnych, adiunktka w Katedrze Prawa Europejskiego na Wydziale Prawa i Administracji Uniwersytetu Warszawskiego. Radczyni prawna specjalizująca się w szeroko pojętym prawie nowych technologii, prawie ochrony danych osobowych, prawie ochrony konkurencji i konsumentów oraz regulacji usług i rynków cyfrowych. Współautorka komentarza do Aktu o usługach cyfrowych (DSA) oraz Aktu o rynkach cyfrowych (DMA).

W tym odcinku skoncentrowaliśmy się na akcie o rynkach cyfrowych (DMA), który w równym stopniu jak akt o usługach cyfrowych wpływa na funkcjonowanie Internetu, szczególnie w kontekście tzw. strażników dostępu. Jest to także bardzo ważny akt z perspektywy podmiotów, którzy z usług tych strażników dostępu korzystają (a jest ich wielu na polskim rynku).

Podczas rozmowy poruszyliśmy m.in. następujące kwestie:

1. Jakie główne cele i założenia przyświecały europejskiemu prawodawcy podczas tworzenia Aktu o rynkach cyfrowych (DMA)?

2. W jaki sposób DMA wpisuje się w szerszy kontekst europejskiej strategii cyfrowej, zwłaszcza w kontekście Aktu o usługach cyfrowych (DSA)?

3. Kim są tzw. Strażnicy dostępu, gatekeeperzy?

4. W jaki sposób przepisy DMA wpływają na funkcjonowanie ekosystemu cyfrowego, zarówno strażników dostępu, jak i innych uczestników rynków cyfrowych? Jakie są oczekiwane skutki wprowadzenia DMA dla innowacji oraz konkurencji na rynku cyfrowym w Unii Europejskiej?

5. Jakie są główne obowiązki i zakazy nałożone na strażników dostępu zgodnie z przepisami DMA?

6. Jakie są środki egzekwowania przepisów DMA i jakie sankcje mogą być nałożone na firmy naruszające te przepisy?

7. Jakie konkretnie zarzuty Komisja wysuwa wobec firm gatekeeperów, takich jak Alphabet, Apple, Meta i Amazon, zgodnie z przepisami DMA?

8. Jakie są główne wyzwania związane z egzekwowaniem przepisów DMA, zarówno ze strony firm działających w sektorze cyfrowym, jak i konsumentów?

9. Jakie są perspektywy rozwoju regulacji dotyczących rynków cyfrowych i w jaki sposób Komisja Europejska zapewni dostosowanie DMA do szybko rozwijającego się sektora cyfrowego i zmian technologicznych?

Gościem Mec. Aleksandry Kraśnickiej oraz Mec. Wojciecha Lamika jest Mec. Agnieszka Wachowska - radczyni prawna, Co-Managing Partner w kancelarii Traple Konarski Podrecki i Wspólnicy. Posiada kilkunastoletnie doświadczenie w obsłudze projektów IT. Ekspertka Polskiej Izby Informatyki i Telekomunikacji w obszarze prawa ICT. Zaangażowana w prace grup roboczych, działających przy Prezesie Urzędu Zamówień Publicznych. Członek-założyciel Stowarzyszenia Prawa Nowych Technologii, gdzie zasiada w prezydium grupy roboczej ds. IT. Przewodnicząca Komisji ds. LegalTech, działającej przy Okręgowej Izbie Radców Prawnych w Warszawie. Członkini międzynarodowego stowarzyszenia ITech Law. Wyróżniona indywidualnie w prestiżowych rankingach prawniczych w dziedzinie TMT: Chambers and Partners oraz Legal 500.

Tematem odcinka jest unijna dyrektywa NIS-2, która już wkrótce będzie musiała zostać wdrożona do polskiego porządku prawnego. Akt ten ma na celu podniesienie poziomu cyberbezpieczeństwa na terenie Unii Europejskiej w wielu sektorach gospodarki.

Podczas rozmowy poruszyliśmy m.in. następujące kwestie:

1) Czym jest dyrektywa NIS-2 i dlaczego jest tak szeroko omawiana przez środowisko specjalistów?

2) Jakich podmiotów dotyczy dyrektywa NIS-2?

3) Jakie są najważniejsze zmiany, jakie wprowadziła NIS-2 w stosunku do jej poprzedniczki – Dyrektywy NIS-1?

4) Kiedy myślimy o dyrektywie NIS-2, na jakie jeszcze akty prawne musimy zwrócić uwagę?

Gościem Mec. Anny Augustyn oraz Mec. Wojciecha Lamika jest Ligia Kornowska - lekarz, dyrektor zarządzająca Polskiej Federacji Szpitali, liderka Koalicji AI w zdrowiu. Prezes Fundacji Podaruj Dane i Data Lake.

Tematem odcinka jest wpływ sztucznej inteligencji na medycynę, w tym jak bardzo może ona zrewolucjonizować tę gałąź nauki.

Podczas tego odcinka poruszyliśmy m.in. następujące kwestie:

1. Czym jest „Koalicja AI w zdrowiu”?

2. Jakie są najbardziej obiecujące zastosowania AI w medycynie i opiece zdrowotnej?

3. Czy sztuczna inteligencja może wkrótce zastąpić lekarzy np. w podstawowej opiece zdrowotnej, czy raczej będziemy mieli do czynienia ze współistnieniem i współpracą?

4. Konkretne przypadki, w których AI znacząco poprawiła wyniki leczenia lub diagnostyki w polskich szpitalach.

5. Wykorzystanie AI w medycynie z perspektywy prawnej.

6. Jak będzie wyglądać przyszłość współpracy międzynarodowej w zakresie rozwoju AI w medycynie?

7. Jaka jest rola edukacji i szkolenia w zakresie AI dla pracowników służby zdrowia?

Gościem Mec. Macieja Białasa oraz Mec. Wojciecha Lamika jest Rafał Prabucki - doktor nauk prawnych i inżynier. Audytor wiodący ISO 27001:2022 oraz posiadacz tytułu Certified in Cybersecurity (CC) wydanym przez (ISC). Adiunkt na Uniwersytecie Śląskim. Członek CYBER SCIENCE. Założyciel LegalHackers Katowice. Alumn stypendiów w Polsce, Hiszpani i Niemczech. Prowadzący wykłady na Uczelniach w Polsce i we Włoszech. Kierownik studiów podyplomowych “Tokenizacja i automatyzacja procesów w gospodarce cyfrowej” na Uniwersytecie Śląskim.

Odcinek jest poświęcony dwóm technologiom – Pegasusa oraz Hermesa. Ta pierwsza jest związana z szeroko pojętą inwigilacją, ta druga z rozbudowaną analityką. Celem rozmowy jest przybliżenie słuchaczom sposobu funkcjonowania tych technologii, z pominięciem kontekstu polskiej sceny politycznej.

Podczas tego odcinka poruszyliśmy m.in. następujące kwestie:

1. Czym są Pegasus oraz Hermes?

2. W jaki sposób dochodzi do zainfekowania urządzenia oprogramowaniem Pegasus?

3. W jaki sposób działa Hermes?

4. Czy użytkownik może, mając minimum wiedzy technicznej, zaobserwować jakiekolwiek oznaki działania w tle Pegasusa?

5. Czy jakikolwiek rodzaj urządzenia bądź systemu operacyjnego jest bardziej odporny na ataki Pegasusem?

6. Czy jest możliwość uchronienia się przed działaniem Pegasusa lub Hermesa?