TRANSKRYPCJA WEBINARU

Webinar: AI w firmie: ryzyka prawne i bariery wdrożeniowe

 

Data: 14.07.2025
Prelegenci: Mariusz Zyśk, Damian Fedeczko

 

 

AI w firmie: Ryzyka prawne

Magdalena Cuper: Witam wszystkich serdecznie na naszym dzisiejszym webinarze „AI w firmie: Ryzyka prawne i bariery wdrożeniowe”. Bardzo się cieszę, że dołączyliście i poświęciliście swój czas. Dla tych z was, którzy są z nami po raz pierwszy, FOTC to wiodący dostawca rozwiązań chmurowych.

Specjalizujemy się w doradztwie technologicznym, usługach IT, danych i sztucznej inteligencji oraz w usługach zarządzanych. Naszym celem jest dostarczenie kompleksowych rozwiązań, które zapewniają bezproblemową implementację, integrację i wsparcie technologiczne. Już teraz chciałabym serdecznie państwa zaprosić do kontaktu z nami, zespołem. Jako partner Google Cloud oferujemy szeroki wybór pakietów wsparcia i doradztwa dopasowanych do różnych potrzeb. W razie pytań oczywiście jesteśmy tutaj, aby pomóc.

 

Agenda:

• Regulacje, ryzyka i odpowiedzialność w świecie AI,
• wyzwania i mity wdrażania AI w firmach,
• przykładowe scenariusze,
• Q&A.

 

Prezentacja zaproszonych ekspertów

Naszym ekspertem jest dziś Damian Fedeczko z Follow Legal. Damian jest partnerem Kancelarii Follow Legal. To prawnik, który świetnie łączy prawo z technologią, a jako certyfikowany Chief AI Officer doradza firmom, jak strategicznie i zgodnie z przepisami wdrażać sztuczną inteligencję. Ma duże doświadczenie praktyczne między innymi jako inspektor ochrony danych w różnych organizacjach, w tym w największym call center w Polsce. Specjalizuje się również w ochronie danych osobowych i budowaniu bezpiecznych systemów w erze cyfryzacji.

Dziś naszym drugim ekspertem jest Mariusz z zespołu FOTC. Mariusz jest inżynierem chmury, który specjalizuje się w Google Cloud Platform. Jest doświadczonym liderem zespołów technologicznych. Pasjonuje się nowoczesnymi technologiami, nauką i tym, jak łączą się w praktycznych, innowacyjnych projektach. Ma też wykształcenie w zakresie inżynierii mechatronicznej i spore doświadczenie z przemysłowymi systemami komunikacji. Unikalne spojrzenie na integrację różnych technologii.

 

Oferta specjalna dla uczestników

Ale również mamy do państwa coś ekstra. Każdy zarejestrowany otrzyma od nas specjalny kod rabatowy na pakiet AI Starter dla firm od Follow Legal. Bardzo dziękujemy za taką promocję, którą dla nas i na ten webinar też przygotowaliście. Są to gotowe dokumenty i praktyczne rozwiązania, które pomogą wam bezpiecznie i zgodnie z prawem wdrożyć AI w firmie. Cena jest naprawdę promocyjna, ponieważ zamiast 499 zł to jest tylko 199.

Tak więc uważam, naprawdę warto skorzystać, szczególnie skoro już państwo tutaj dołączyli do naszego webinaru. A szczegóły i link do pakietu zostaną też przesłane w wiadomości z nagraniem w ciągu czterech dni roboczych. Tak więc zachęcam do sprawdzenia skrzynek mailowych, tam wszystko państwo otrzymają od nas.

Na koniec też zachęcam do zadawania pytań. Webinar, tak jak wspomniałam, będzie nagrany w ciągu czterech dni roboczych. Pytania niech państwo na spokojnie zadają już teraz na czacie. Jeżeli prelegent będzie miał możliwość, odpowie na nie od razu. Jeżeli nie, to proszę się nie przejmować, nic nie przepadnie.

Ja spisuję te wszystkie pytania. Prelegenci o tym wiedzą, tak więc będą mogli spokojnie do następnych tych pytań wrócić i na spokojnie udzielić państwu informacji. Już teraz przekazuję głos do Damiana. No i życzę cudownie spędzonego z nami czasu. Dziękuję ślicznie.

 

Regulacje ryzyka i odpowiedzialności

Damian Fedeczko: Dzień dobry państwu. Dziękuję ci Magda za przywitanie, za wprowadzenie. Tak jak Magda powiedziała, ja jestem osobą, która wywodzi się z tej strony, która odpowiada za bezpieczeństwo, za przetwarzanie danych. I zdarza mi się zarówno tutaj wspierać firmy, które chcą u siebie bezpiecznie wdrożyć AI i też razem z FOTC wdrażamy to u klientów FOTC i razem z Mariuszem pracujemy nad tym, żeby to się zadziało dobrze, sprawnie, legalnie, bezpiecznie i żeby wszystkie wątpliwości, które mają nasi klienci zostały odpowiednio zaopiekowane.

Wiem o tym, że wśród państwa jest dzisiaj bardzo dużo ludzi, którzy nie są prawnikami. Dlatego postaram się mówić w sposób taki, żebyśmy się rozumieli. Z kolei jeżeli są prawnicy, to też od razu mówię, że będzie tutaj trochę uproszczeń. Nie będę się starał wchodzić w jakieś zawiłości i szczegóły, tylko będę chciał opowiedzieć jak to zrobić, żeby ten AI w firmie działał i żeby to było bezpiecznie.

Na wstępie kilka słów o tym, w jakich się będziemy poruszali ramach. Te podstawowe akty prawne, które są, no to jest oczywiście rozporządzenie ogólne o ochronie danych, czyli tak zwane RODO, mamy AI Act, mamy kodeks pracy, jeżeli będziemy chcieli wykorzystywać rozwiązania oparte o AI przy rekrutacji czy też dalej przy opiece nad naszymi pracownikami. No ale też wchodzą nam tutaj inne przepisy, na przykład takie jak prawo autorskie czy prawo komunikacji elektronicznej.

 

Pytanie o dane wejściowe

Dla mnie punktem wyjścia i takim największym blokerem, który się pojawia na wstępnych rozmowach dotyczących wdrażania AI w firmie, to jest to pytanie o to, a jakie tam będą dane do tej naszej maszyny ładowane, bo one tak naprawdę wpływają na to, jakie musimy spełnić warunki, jakie musimy spełnić wymogi, a także w niektórych przypadkach jak bardzo to wdrożenie będzie trudne. 

Jeżeli pracujemy tylko na danych statystycznych, na danych liczbowych, na danych, które mają nam pewne rzeczy w firmie optymalizować, no to tutaj tych ryzyk jest z reguły najmniej. To co nam musi troszeczkę zapalić czerwoną lampkę to są dane osobowe. I tutaj najczęściej z inspektorami ochrony danych osobowych musimy się zastanowić czy te dane koniecznie powinny trafiać do tego modelu, czy może da się je zanonimizować, czy może da się je zastąpić jakimiś innymi loginami na przykład, które będą trudniejsze do zidentyfikowania.

Mamy rzeczy związane z własnością intelektualną. Tutaj też każdy przedsiębiorca, który próbuje wdrażać to u siebie w organizacji, powinien się zastanowić, co my do tej maszyny będziemy ładowali, bo to ma implikacje, o których będziemy trochę mówili później. Podobnie ma się rzecz z tajemnicą przedsiębiorstwa i pamiętajmy też o tym, że różne informacje prawnie chronione mogą być wykorzystywane w zależności od naszego profilu działalności.

Jeżeli jesteście państwo z instytucji nadzorowanej przez KNF, jeżeli jest to instytucja, która zajmuje się płatnościami, jeżeli jest to Towarzystwo Ubezpieczeniowe, czy w końcu jesteście państwo przedstawicielem branży medycznej, no to wiadomo, że tam te rygory będą większe.

 

Zasady przetwarzania danych

Jeżeli jesteśmy przy RODO, to tutaj tylko tak skrótowo. Te zasady przetwarzania danych, które mamy w RODO, one będą miały zastosowanie o ile dane osobowe będziemy wykorzystywali w AI. Zwracam tutaj uwagę na to, że tych cech, tych zasad przetwarzania danych jest kilka i one z jednej strony są dla nas istotne ze względu na RODO, a z drugiej strony tak naprawdę wpływają na to, jak ten nasz model będzie funkcjonował i czy on będzie działał.

Bo jeżeli mówimy o rzetelności danych, o prawidłowości danych czy też o ich integralności, to to jest kluczowe dlatego, żeby nasze rozwiązanie dobrze funkcjonowało. Ale o tym w dalszej części na pewno opowie wam Mariusz, no bo dane i jakość tych danych, wiem o tym, że to jest dla niego bardzo ważna i kluczowa rzecz. Tutaj mamy też mowę o legalności i to też jest istotne i chwileczkę sobie powiemy o tym dalej.

 

Zasada minimalizacji danych

Jest też tak, że mamy dosyć duże przekonanie, które nie do końca jest skuteczne i słuszne, że tych danych powinno być jak najwięcej. My mamy jednak w RODO taką zasadę, która się nazywa zasadą minimalizacji danych i ona pozwala nam oszczędzić dużo kłopotu, bo być może do tego celu, do którego wy chcecie wykorzystać AI, wcale nie musicie ładować wszystkich danych, które macie, na przykład dotyczących pracownika, czy osoby rekrutowanej, czy klienta, bo może do osiągnięcia celu danego procesu, który chcemy optymalizować, wystarczą nam dane, czy to zanonimizowane, czy też ograniczone w jak największym zakresie.

Pamiętajmy o tym, że z jednej strony organizacje chcą mieć jak najwięcej danych, żeby wyciągać z nich jak najwięcej, żeby budować te modele i te procesy w jak najpełniejszy sposób, ale czasami jest to po pierwsze ryzykowne, po drugie bywa zbędne.

 

RODO w kontekście wdrażania

Jeżeli chodzi o RODO w kontekście wdrażania, bo też rozmawiamy dzisiaj o tych barierach i kłopotach, które się pojawiają w organizacjach, no to pierwszym takim punktem jest ten dział prawny, który nam będzie zadawał dużo pytań, jeżeli chcemy wdrożyć. Drugą osobą, która będzie nam te pytania zadawała będzie inspektor ochrony danych albo osoba odpowiedzialna za przetwarzanie danych. No i ten taki trzeci filar z mojego punktu widzenia to są osoby, które się zajmują bezpieczeństwem informatycznym w firmie.

Z kolei Mariusz pewnie później powie od tej strony biznesowej, z jakimi on się najczęściej spotyka pytaniami. Jeżeli chodzi o moje działko, o mój ogródek, no to najczęściej padają pytania o miejsce przetwarzania danych, o to w jakim modelu ten model będzie funkcjonował, czyli czy jest to rozwiązanie chmurowe, czy jest to rozwiązanie dedykowane dla was, czy jest to rozwiązanie, które możecie implementować we własnej infrastrukturze. No i pytanie o naszego dostawcę i chodzi tutaj o zabezpieczenia, jakie ten dostawca stosuje. Ewentualnie potwierdzenie tych zabezpieczeń w formie jakiejś ogólnoświatowej certyfikacji, czy to ISO, czy to SOC, PCI, DSS-y i tak dalej.

Co do zasady, te modele, które są modelami bezpłatnymi, komercyjnymi, dają nam dużo mniejsze pole manewru w tej sytuacji, bo rozwiązania chmurowe są najtańsze. Często są to rozwiązania, gdzie serwery znajdują się poza europejskim obszarem gospodarczym. Jeżeli się decydujecie na takie rozwiązanie, no to musicie pamiętać o tym, że ta legalna podstawa przekazania danych poza europejski obszar gospodarczy musi być. I jedną z takich przykładowych podstaw jest certyfikacja Privacy Framework, jeżeli chodzi o podmioty ze Stanów Zjednoczonych.

Jeżeli chodzi o ten model hostingowy, wiadomo, że tutaj część osób odpowiedzialnych czy to za bezpieczeństwo, czy za przetwarzanie danych będzie dążyła do tego, żeby to było we własnej infrastrukturze albo w dedykowanej chmurze w EOG. Natomiast tutaj musimy pamiętać o tym, że to rozwiązanie będzie droższe. Jeżeli chodzi o tych dużych graczy, tak jak Google, o którym tutaj też będziemy rozmawiać, on zapewnia taką możliwość przetwarzania tych danych w EOG.

Oczywiście jeżeli chodzi o zabezpieczenia i certyfikację, pamiętajcie o tym, że RODO nakłada obowiązki sprawdzania, weryfikowania naszych procesorów, czyli tych podmiotów, którym powierzamy dane do przetwarzania. Natomiast w przypadku części podmiotów nie będzie można zrobić czegoś takiego jak robimy w przypadku naszego normalnego dostawcy, który jest na miejscu. Możemy pojechać, zaudytować go, sprawdzić te jego zabezpieczenia, sprawdzić jak to wszystko działa.

W przypadku takich dużych podmiotów musimy się oprzeć na tych danych, które taki podmiot publikuje na tych swoich whitelistach, opisach zabezpieczeń. I na dowód tego, że te dane są bezpieczne, powinny być bezpieczne, ci duzi dostawcy przedkładają certyfikaty, na przykład 27001, który dotyczy zarządzania systemem bezpieczeństwa informacji. I pod kątem ewentualnych audytów to, że wasz dostawca jest certyfikowany przez te międzynarodowe uznane instytucje certyfikujące, w mojej ocenie to jest przykład na to, że jest to dowód na to, że dołożyliście należytej staranności w wyborze takiego dostawcy.

I tutaj jest drugie pytanie, czy na pewno potrzebujemy danych osobowych. Zastanawiajcie się nad tym, czy na pewno te dane powinny trafiać do modelu. Zwracam też uwagę na to, że te modele, które są, te rozwiązania, które są bezpłatne, nie dają aż takiego poczucia bezpieczeństwa. I pamiętajmy też o tym, że one zwykle wykorzystują dane, które wy tam wkładacie do tego modelu, również do szkolenia samego modelu.

W przypadku tych rozwiązań płatnych, gdzie macie wykupione subskrypcje, oczywiście należy przeczytać te warunki, które tam są, politykę prywatności i warunki korzystania z danej usługi, ale w większości tych modeli możecie albo zaznaczyć, albo z defaultu jest wyłączone uczenie się modelu na tych danych, które wy tam umieszczacie. A jest to istotne nie tylko w kontekście RODO, ale także w kontekście praw własności intelektualnej, czyli jakichś waszych rozwiązań, utworów, patentów, schematów. Nie chcecie pewnie, żeby model się uczył na tym, co wyście wymyślili i co jest innowacyjne i co jest waszą własnością intelektualną i wartością firmy.

 

AI Act i AI literacy

Drugi taki akt prawny, który nam się pojawił, to jest AI Act. Nie będę się tutaj nad nim jakoś za wiele rozwodził, tylko chciałem wam zwrócić uwagę, że to jest dokument, który ma w przepisach przejściowych różne daty obowiązywania dla różnych obowiązków.

I chciałem wam tutaj zwrócić uwagę na to, że od 2 lutego tego roku mamy już wprowadzoną AI literacy. A czym jest AI literacy? To jest obowiązek, który spoczywa na wszystkich, którzy u siebie wdrażają te rozwiązania oparte o AI. I chodzi o to, żebyście edukowali swoich pracowników, swój personel po to, żeby oni korzystali z tych rozwiązań w sposób bezpieczny i żeby wiedzieli, co oni mogą w tych modelach, w tych rozwiązaniach, które stosujecie robić, a czego im robić nie wolno. Jest to obowiązek, który już istnieje i jego respektowanie jest już obowiązkowe.

 

Zagrożenie Shadow AI

Kolejna rzecz, o której chciałem wam powiedzieć, to jest coś, czym też łatwo można przekonać organizację, która ma pewne opory we wdrażaniu AI. Od dłuższego czasu funkcjonuje takie określenie jak shadow IT, czyli w przedsiębiorstwach jest to wykorzystywanie przez pracowników takich rozwiązań informatycznych, które nie były autoryzowane do stosowania przez samą firmę, przez wasze działy bezpieczeństwa, przez dział prawny i tak dalej. Jest to ryzykowne.

Co istotne, teraz się to przekłada na shadow AI. Czyli musicie zdawać sobie sprawę z tego, że jeżeli wy nie zapewnicie swoim pracownikom po pierwsze bezpiecznych rozwiązań AI-owych, to oni będą korzystali z tych komercyjnych. Prawdopodobnie już to robią, bo to faktycznie ułatwia życie. Chcą sobie pomagać, chcą pracować lepiej. Często jest to robione w dobrej wierze. Ja też nie zakładam, że ktoś celowo chciałby tam narobić wam jakiegoś kłopotu.

Natomiast te dane, które tutaj są, to już są poważne. No jeżeli 57% pracowników dużych firm wprowadza do ChatGPT czy do innego rozwiązania dane, które wy powinniście chronić, które są istotne dla waszej organizacji, albo dane osobowe, albo inne trudne, no to moim zdaniem uświadomienie zarządom z jakim to się wiąże ryzykiem jest taką fajną metodą na to, żeby przekonać ich jednak, żeby to wdrożenie w firmie przeprowadzić w sposób należyty, przeszkolić wszystkich pracowników z tego AI literacy, mieć kontrolę nad tym, do jakich systemów i jakie dane ci pracownicy przekazują.

Co generalnie jest fajne, zwiększa efektywność, zwiększa tempo pracy i ludzie chcą z tego korzystać. Powinniśmy jednak zadbać o to, żeby to się działo w sposób bezpieczny w takich narzędziach, w jakich my chcemy, żeby to funkcjonowało. Jest to szczególnie istotne pod kątem danych osobowych, bo pamiętajcie, że jeżeli przetwarzacie dane, czy to swoich pracowników, czy klientów, to im przysługuje szereg praw, między innymi przysługuje im prawo do usunięcia danych.

Jeżeli wasi pracownicy będą korzystali z tych nieautoryzowanych przez was rozwiązań, to może się okazać, że te dane trafiają gdzieś do jakiejś chmury. Nie macie nad tym kontroli, nie macie żadnej możliwości, żeby doprowadzić do tego, żeby te dane zostały faktycznie usunięte czy skorygowane, co wiąże się z ryzykiem odpowiedzialności na gruncie RODO.

 

AI w procesach HR

Pamiętajmy też o tym, że chcemy często korzystać w działach HR, czy to do rekrutacji, czy do oceny, czy do jakichś tam podsumowań rocznych, okresowych i tak dalej, co jest fajne, ale pamiętajcie o tym, że jeżeli chcecie wykorzystywać w rekrutacji rozwiązanie oparte AI, powinniście o tym informować, uzyskiwać na to zgodę od waszych potencjalnych pracowników.

Co jest również istotne, mamy ten artykuł 22 RODO, który mówi o zautomatyzowanym podejmowaniu decyzji. Czyli jeżeli wy robicie z wykorzystaniem AI jakąś wstępną selekcję kandydatów, jeżeli chcecie, żeby on wam ocenił ich doświadczenie, czy żeby ocenił ich kompetencje i na tej podstawie dokonujecie jakiegoś rankingu tych waszych kandydatów, to taki kandydat – o ile w wyniku działania maszyny podejmujecie jakąś decyzję w stosunku do niego, czyli albo go zapraszacie na rozmowę, albo nie, albo go zatrudniacie, albo nie, albo jeżeli to są już pracownicy, to oni uzyskają premię kwartalną albo jej nie uzyskają – to te osoby powinny wiedzieć, że są wobec nich stosowane te mechanizmy zautomatyzowanego podejmowania decyzji połączonego z AI-em i mogą poprosić o sprawdzenie tych wyników, które nam zrobił AI przez człowieka i mają prawo się z tym nie zgodzić, poprosić o wyjaśnienia. Dlatego informujmy.

Tutaj mamy ryzyka. Mamy ryzyka takie, że powinniśmy wiedzieć jak działa ten AI, czyli generalnie powinniśmy go w taki sposób parametryzować, żeby na przykład w momencie używania w celach rekrutacyjnych, żeby nie dochodziło do dyskryminacji. Jeżeli chodzi o kwestie bezpieczeństwa i prywatności, tak jak mówiłem, może się to wiązać z nadmiernym gromadzeniem danych. Może być również związane z wyciekami z niezabezpieczonych narzędzi.

Udało mi się zmieścić w 20 minutach, tak jak sobie założyliśmy. Jeżeli będziecie mieli państwo jakieś pytania, to tak jak mówiła Magda, bardzo proszę o wpisywanie na czacie. Jeżeli nam się uda i zdążymy, to odpowiemy na nie w trakcie spotkania. Jeżeli nie, to odpowiemy później. Ja bardzo dziękuję i oddaję ci głos Mariusz.

 

Wyzwania i mity wdrażania

Mariusz Zyśk: Dzięki. Super. Jakbyś jeszcze mógł wyłączyć prezentację, żebym mógł swoją część zaprezentować, to będę super zobowiązany. Dziękuję.

Super. I w ogóle dzięki Damian, bardzo, bardzo mięsna prelekcja z twojej strony. Bardzo się cieszę, że nie użyłeś słowa trenowanie ani razu. To mnie buduje, bo dzisiaj trochę o tym trenowaniu będę chciał porozmawiać. Tak jak zauważyłeś też bardzo duża część wiedzy, sama wiedza w ogóle w organizacjach jest po prostu niezbędna i kluczowa do tego, żeby rozumieć co my tak naprawdę z AI robimy.

Ja dzisiaj też przychodzę do państwa jako ten techniczny człowiek, który trochę więcej zrobił takich fizycznych rzeczy implementacyjnych. Wspólnie oczywiście z Damianem, bo z Damianem chyba z 8 lat już współpracujemy, ale ja jestem odpowiedzialny za delivery, za dowożenie tych rozwiązań AI. Dlatego jestem dzisiaj tutaj przed wami i chciałem się podzielić swoją wiedzą i opowiedzieć wam, że nie zawsze wykorzystywanie sztucznej inteligencji to jest nauka i trenowanie modelu, a trenowanie to już zwłaszcza.

Idąc od początku można sobie postawić pytanie, czym jest AI. Nie chcę was zanudzać formułkami, natomiast bardzo lubię sklasyfikować sobie AI na dwie kategorie. Na ten good old fashion AI, który dawniej zwaliśmy machine learningiem. Dzisiaj machine learning wchodzi w część tego AI. Wszak machine learning to jest taka technologia, gdzie rzeczywiście musimy wytrenować, nauczyć model na podstawie jakichś danych, czy to ustrukturyzowanych, czy nie, najczęściej danowych, tabelarycznych mimo wszystko.

And zadaniem tego modelu machine learningowego jest to, żeby nam oddawać jakieś informacje, które to potrafią być te informacje zmierzone i mierzalne. To znaczy, że jeśli mamy model machine learningowy do klasyfikacji i określamy czy to jest jabłko, czy pomarańcza, to możemy wprost jeszcze razem z wynikiem, z decyzją, że to jest jabłko, określić wartość procentową na ile nasz algorytm machine learning jest pewny tego, że to jest jabłko.

Z drugiej strony mamy tę część Generative AI, o której trochę dzisiaj więcej będziemy rozmawiać, do której się troszkę dzisiaj przykleimy, no bo to jest ta część LLM. To Gen AI to jest taki AI, który służy do generowania treści wszelkiej maści i to jest tekst, obrazy, muzyka, kod, zazwyczaj bazuje na modelach językowych i tak dalej. Różnice są diametralne między tymi dwoma. To jest po pierwsze trochę inna technologia, chociaż po części ma trochę cech wspólnych.

Natomiast tak jak zauważyłem wcześniej, powiedziałem wcześniej, machine learning można trochę zweryfikować łatwo bardzo, tam zmierzyć skuteczność. Machine learning trzeba wytrenować, Gen AI nie trzeba. Tak samo w Gen AI możemy otrzymać dwa razy, pytając o to samo, dwa zupełnie inne wyniki i trudno jest jednoznacznie ocenić, który jest lepszy. Tak to jest właśnie z chatbotami. I Gen AI jest często w chatbotach i tak dalej. Dzisiaj się skupimy na tej, chociaż będę wracał do tego machine learningu, ale chciałem, żebyśmy mieli tę spójność, co kiedy. Na pewno jest tak, że w machine learningu trenujemy modele i one są nauczone na podstawie naszych danych. W Gen AI nie zawsze, ale można i o tym dalej przeskakując będę mówił.

 

Trenowanie i fine tuning

Trenowanie i fine tuning w LLM, czyli Large Language Models. Ja lubię sobie porównać trenowanie do rozwoju życia dziecka. Trenowanie to jest taki moment albo taki etap, bardzo długi etap, bardzo kosztowny i długi etap tego, że mamy to nowonarodzone dziecko i musimy nauczyć je wszystkiego. Musimy nauczyć je chodzić, jeść, masę rzeczy. To jest właśnie trenowanie. Proces trenowania jest bardzo długi, trudny i tylko niewiele firm takich jak Google czy OpenAI może pozwolić sobie na to, żeby w ogóle myśleć o trenowaniu modeli, bo to jest trenowanie. Czyli w naszych rozwiązaniach biznesowych bardzo rzadko możemy mówić w ogóle o trenowaniu.

Natomiast fine tuning to jest kiedy już mamy takiego dorosłego, mądrego człowieka, który jest na przykład już takim nastolatkiem, to fine tuning z kolei jest tym procesem jego ekspertyzy, zdobywania ekspertyzy w czymś, w jakiejś dziedzinie. Na przykład właśnie idzie na studia prawnicze i zdobywa tę swoją specyficzną wąską ekspertyzę i jest po prostu dokładniejszy w jednym obszarze, czy to w medycynie właśnie, czy w dowolnym innym obszarze, w którym chcemy sfine-tunować. No i to jest dość duża różnica, ponieważ mam nadzieję, że to wybrzmiało, jak nie to ja to podkreślam jeszcze raz.

Nie mówimy raczej nigdy w biznesie o trenowaniu LLM. To raczej się nie zdarza. To się zdarza największym researcherom, fundacjom takim jak Spichlerz, które trenują Bielika, które mają zasoby, które są wspierane przez jakieś organizacje. My możemy myśleć o fine tuningu, którego uwaga, ja nie jestem fanem. Ja nie jestem fanem z wielu powodów. O tych powodach jeszcze będę mówił za chwilę.

Ale w swoim życiu, w którym wdrażałem AI dla wielu klientów i począwszy od takich prehistorycznych czasów, kiedy jeszcze korzystałem z modelu językowego, którego pewnie nikt z was nie kojarzy, nazywa się Text Bison. To jest googlowy model, który był jeszcze przed Bardem, a co dopiero przed Gemini. To tam mogliśmy trochę więcej gadać o fine tuningu, ale dzisiaj absolutnie jestem antyfanem i powiem wam później dlaczego.

Ale podsumowując, żeby to jeszcze raz wybrzmiało, że korzystanie z AI to nie jest trenowanie modelu. To nie jest tak, tak jak Damian słusznie zauważył, że cokolwiek tam wrzucimy, to ten model się tym nakarmi. Oczywiście dla zastosowań bezpłatnych to często ma miejsce. O tym też jeszcze będę chwilkę gadał, ale nie trenujemy. Dlaczego? Bo to jest nauka od zera, bo wymaga dużych nakładów finansowych, bo to trwa lata, tak jak z uczeniem dziecka tego przysposobienia do życia w społeczeństwie. No i wymaga ogromnych ilości zasobów, zarówno tych finansowych, jak i też zebrania po prostu informacji, wiedzy takiej, żeby umieć nauczyć tego AI. To też jest bardzo, bardzo trudne. To jest chyba najtrudniejsza część by the way trenowania i fine-tunowania modeli.

No i mamy te dobrodziejstwa dzisiaj pracy z takimi pretunowanymi modelami takimi, które już zostały przeszkolone i wszyscy z nich dzisiaj korzystamy. To jest właśnie Gemini czy Chat GPT. No i w Google właśnie w Vertexie mamy mnogość tego paletę tych modeli, które mogą być, które są już wytrenowane, mają tę wiedzę podstawową ogólną o świecie, mają ten zasób wiedzy, informacje ogólne, natomiast część z nich można też sfine-tunować.

 

Czy AI uczy się danych

No właśnie. I czy AI właściwie to się uczy na moich danych, czy nie. No i ulubiona odpowiedź informatyka: to zależy. To zależy. No bo przy używaniu rozwiązań komercyjnych, gdzie ten model weźmiemy z półki na przykład w chmurze Google Cloud i on będzie w naszym projekcie, w naszej landing zonie, to mamy tę pewność, że te dane nie wchodzą w skład żadnego treningu lub fine tuningu.

No tak, dane wówczas są przetwarzane bardzo, bardzo szybko, krokowo, to znaczy, że jest jeden prompt, który nawet niesie ze sobą jakieś dane. Oczywiście trzeba uważać, jak Damian słusznie zaznaczył, czy potrzebujemy tam wkładać dane osobowe. No to wątpliwe. Najczęściej nie trzeba, więc warto na to uważać. Można też podpisać z tymi dostawcami usług AI, LLM specjalne dokumenty DPA, czy po prostu są jakieś różne commitmenty, tak jak Google ma AI/ML Privacy Commitment for Google Cloud. Warto się z nim zapoznać.

No ale właśnie jak korzystamy z tych rozwiązań konsumenckich, no to trzeba uważać, a zwłaszcza tych darmowych, no bo jeśli coś jest za darmo, to ty jesteś produktem. I jeśli w ogóle nam wyskakują w odpowiedzi dwie odpowiedzi i AI nas prosi: ej, który ci się bardziej podoba, no to wtedy możemy być prawie pewni, że AI się uczy na naszych danych. Niekoniecznie tej wiedzy z danych się uczy, ale na pewno tego, w jaki sposób bardziej lubimy przeczytać odpowiedź, czy może w punktach, czy może w tabelce. Więc warto zwrócić na to uwagę. I tak więc uważajmy, róbmy rzeczy rozsądnie, w dobrych miejscach, czytajmy polityki prywatności, czyli to o czym Damian mówił.

 

Kiedy fine-tunujemy LLM-y

Kiedy fine-tunujemy LLM-y? To pewnie was interesuje, czyli to jest właśnie to nadanie tych studiów. Dajmy, puśćmy naszego LLM na studia i zróbmy naszego LLM prawnikiem. Ja nie jestem fanem, już wam o tym powiedziałem, ale powiem wam kiedy to można zastosować, a potem powiem wam co zrobić, żeby jednak nie uczyć LLM i jakie to niesie ze sobą zagrożenia.

Ogólnie fine-tunujemy modele w wyjątkowych sytuacjach. Mi się to zdarzyło dawno temu właśnie kiedy pracowałem w takich bardzo starych modelach, bo one tę wiedzę ogólną po pierwsze miały nikłą, a poza tym mogły bardzo mało przyjąć na wejście. No ale chcieliśmy na przykład, żeby ów LLM stał się bardziej prawnikiem, więc mogliśmy trochę go prawniczo podszlifować, podtunować. Można też takim fine-tuningiem nadać mu specyficzny ton wypowiedzi, żeby on był zawsze miły albo żeby był zawsze taki bardzo krótko odpowiadał, albo w jakiś tam inny sposób lub żeby miał jakąś precyzję, której jakimś dziwnym przypadkiem nie było w zbiorze ogólnej bazy do uczenia i trenowania tych dużych modeli.

Dlaczego to jest trudne i dlaczego niekoniecznie to jest potrzebne? To jest trudne z kilku powodów. Po pierwsze, tak jak już zauważyłem wcześniej, powiedziałem wam, bardzo trudno jest złapać bardzo dobrą bazę, zbiór danych do nauczenia, do fine-tunowania takiego właśnie modelu językowego. No i to rodzi duże ryzyko, ponieważ jeśli przez przypadek w tej bazie dokumentów znajdą się dane osobowe – bo na przykład mamy dokumentację techniczną maszyn i przez przypadek w jednej z dokumentacji było imię, nazwisko i adres e-mail jakiegoś serwisanta – no to istnieje szansa, że nasz LLM, który został sfine-tunowany tymi danymi, odpowie nam tymi danymi osobowymi.

To jest bardzo duże zagrożenie, dlatego ta baza musi być super dobrze przygotowana. A co więcej, jeśli ta baza dokumentów się zmienia, bo na przykład przychodzą nowe maszyny i tam są nowe dokumentacje, no to LLM już nic nie wie na ich temat i znowu go trzeba fine-tunować, co jest operacją drogą i kosztowną i niekoniecznie potrzebną.

 

Wykorzystanie prompt engineeringu

I już właśnie wam mówię jakie są inne praktyki, które dzisiaj stosujemy, żeby rzeczywiście nie uczyć tego LLM-a i nie mieć tej łatki, że my uczymy modele, więc podlegamy pod masę innych restrykcji prawnych, które będą, że tak powiem, nam trochę może przeszkadzać, a może trochę chronić. Natomiast można to sobie ułatwić. Nie trenujemy LLM, bo możemy bardzo dużo rzeczy zrobić bez tego treningu.

W dobie dzisiejszej technologii mamy modele typu Gemini 2.5, które potrafią przyjąć 2 miliony tokenów w kontekście. To znaczy, że nasz prompt, który tam napiszemy sobie, zapytamy o coś naszego LLM, Gemini, może być tak długi jak 14 książek Pan Tadeusz wklejonych jedna pod drugą. To jest bardzo, bardzo dużo i to jest zagadnienie prompt engineeringu.

I dawno temu, jeśli tam mieliśmy tokenów zaledwie nie wiem 1000 na wejściu, to mogliśmy zadać jedno krótkie pytanie i tyle, nie nadawać tam i nie mogliśmy nadać żadnego kontekstu. Dzisiaj kiedy mamy tak olbrzymie wejście do tego modelu to możemy bezpośrednio tam wszystko napisać to co chcemy napisać łącznie z wyjaśnieniem tego żargonu, podrzuceniem jakichś nawet dokumentów które wchodzą w skład części dokumentacji, więc można bardzo dobry efekt uzyskać bez fine-tunowania modeli. Można uzyskać bardzo dobry efekt tylko tym, że po prostu napisaliśmy bardzo dobry prompt i wykorzystaliśmy to, co dzisiaj nam technologia daje.

 

Grounding i technologia RAG

Natomiast oczywiście są przypadki, które też miałem przyjemność wdrażać, że to za mało. To znaczy, że te 2 miliony tokenów to jest nadal za mało, bo właśnie to jest taki przykład z hali produkcyjnej, gdzie tam wszystkie maszyny miały swoje dokumentacje i ktoś chciał rozmawiać z dokumentacjami, mówiąc: „Tu mam taką maszynę, jaka to śrubka, coś tam, coś tam”. No i okaże się, że to są jednak setki tysięcy stron tych maszyn. No i to jest trochę za mało już nawet… za dużo dla dwóch milionów tokenów na wejściu.

Wówczas możemy zastosować coś takiego, co się nazywa grounding, czyli takim uziemianiem, ja to nazywam, czyli podaniem AI-owi trochę w postaci takiej zewnętrznej bazy wiedzy informacji o tym wszystkim, co jest potrzebne do pracy tego AI.

No i jak ten RAG działa? Bo tutaj mówimy o RAG-u, czyli Retrieval-Augmented Generation. To jest takie właśnie uzupełnienie prompta na podstawie prompta użytkownika. I już tłumaczę o co chodzi. Otóż kiedy wchodzi sobie człowiek na halę produkcyjną i mówi: „Stoję sobie przed maszyną, interesuje mnie coś tam, coś tam”, to wówczas ten prompt, który wpisał użytkownik jest brany i dzięki technikom wyszukiwania semantycznego pośród tych setek tysięcy stron wyciąga tylko te kawałki tekstu, które pasują do zapytania użytkownika w sposób semantyczny, czyli on pytał o tę maszynę, o jakąś tam śrubkę, coś tam, coś tam.

No i wówczas te kawałki tekstu wchodzą właśnie do tego prompta, o którym mówiłem krok wcześniej, czyli możemy zrobić właściwie sobie bardzo precyzyjny LLM, bardzo precyzyjnego chatbota, który się posługuje wiedzą, której nigdy się nie nauczył, ale ma ją dostępną pod ręką i wie jak z niej skorzystać. Więc to jest też bardzo fajna technika, z której często korzystamy dla bardzo dużych zbiorów danych.

No i w tych przypadkach w ogóle nie musimy się martwić o to, że AI uczy się na naszych danych, jeśli korzystamy oczywiście z komercyjnych rozwiązań. No ale w tym wypadku to już właściwie zawsze korzystamy z tych biznesowych rozwiązań. Dlatego nie musimy się martwić o to, że AI uczy się na naszych danych i to jest w ogóle klucz do sukcesu wielu projektów, żeby to po prostu rozwiać te wszystkie wątpliwości, kiedy trenujemy, kiedy fine-tunujemy, a tak naprawdę dlaczego w ogóle nie powinniśmy tego robić, bo jest bezpieczniej, bo będzie taniej, szybciej i bardzo łatwo to będzie utrzymać. Dużo łatwiej niż w przypadku fine-tunowanych LLM.

 

Jakość danych to klucz

I tutaj przechodząc dalej do trochę innej dziedziny, ja całe życie sobie brudzę ręce danymi, więc dane widziałem w różnej postaci. Natomiast dane to jest klucz, dane to jest złoto. Danymi się karmi AI i zarówno jeśli mówimy tu o prompcie, jak i o machine learningu, który się będzie uczył na naszych danych, no to dane mają znaczenie. Nawet to w jaki sposób wygląda dokumentacja dla tych rozwiązań z bazą wiedzy to też ma znaczenie.

Dlatego bardzo ważne jest to, żeby zadbać o jakość danych i pilnować tych danych, bo dawniej, w latach jeszcze pewnie 2000 o danych myślano trochę jako o odpadzie. Natomiast już dzisiaj wszyscy zdajemy sobie sprawę, że to jest złoto, na którym śpimy. Czasami je trzeba po prostu oczyścić, przetopić i wydobyć z tego rzeczywiście wartość.

Natomiast najczęstsze problemy z danymi to są właśnie problemy jakościowe, czyli błędy, duplikaty, brak spójności, formatowanie jest często niepoprawne, ale także dostępność tych danych nie jest w czasie bardzo szybkim dla użytkowników biznesowych czy dla LLM. Oczywiście trzeba pamiętać tutaj o danych osobowych i o danych szczególnej wrażliwości, o których Damian mówił.

Natomiast tutaj też mogę za chwilę wrócić do tych machine learningowych rzeczy, czyli do modeli, które możemy sami przetrenować. One są dużo mniejsze niż LLM, nie kosztują milionów te treningi. Natomiast tutaj jeśli znowu nauczymy złymi danymi nasz model machine learningowy, no to możemy się spodziewać bardzo słabych wyników. Także tutaj jest bardzo wiele technik czyszczenia, jakości, poprawy jakości, uspójniania formatów i w ogóle jest całe zagadnienie do tego, w jaki sposób zadbać o data quality. Natomiast to jest bardzo ważne w życiu AI. AI się karmi danymi.

 

Opiekun biznesowy i mity

Z innymi wyzwaniami to właśnie są te wyzwania takie trochę bardziej biznesowe, bym powiedział i ludzkie. To znaczy jak przeszliśmy przez… udało nam się dostać tę akceptację, bo już wiemy, że nie trenujemy żadnych modeli, że żaden AI nie zostanie nakarmiony naszymi danymi, nawet jeśli przez przypadek dane osobowe trafią do naszego promptu, to podczas wdrożeń musimy mieć takiego tak naprawdę, albo nie musimy mieć, ale super byłoby mieć jakiegoś opiekuna biznesowego projektu AI, kogoś kto rozumie cel nadrzędny, wie, że to nam pomoże, wie, będzie nadawał temu rytm.

Czyli oprócz tego, że jest technologia i my wiemy co chcemy zrobić, to jest fajnie, żeby ktoś po stronie biznesu również wspierał ten projekt właśnie biznesowo i nadawał i krzepił ludzi wewnątrz firmy. To się wydaje takie trywialne, natomiast to jest bardzo ważne, bo o ludziach jeszcze za chwilę będę miał kolejny slajd i o rozwijaniu kilku mitów, które są związane. Dane to jest kolejny etap, o nich przed chwilą mówiłem. Mają być czyste, powinny być czyste, jeśli chcemy z nich coś mądrego wyciągnąć. Z drugiej strony technologia – no to zostawcie to nam, my to zrobimy. Oczywiście bezpieczeństwo – zostawcie to Damianowi, pomożemy wam w tym. No i użytkownicy to też jest fajne wyzwanie, świetnie się pracuje z użytkownikami. 

Właśnie takie webinary jak ten często pomagają zrozumieć im co się stanie albo co się nie wydarzy lub że mogą czuć się bezpieczni wkładając tam różnego typu informacje do modeli.

I mówiąc o użytkownikach, to są mity, które blokują wdrożenia. No i nie ma mocniejszego mitu niż mit, który mówi: AI nas zastąpi. I podczas tych dziesiątek wdrożeń, pewnie setek botów i różnych rozwiązań AI, Gen AI, ludzie użytkownicy końcowi zazwyczaj się boją, że AI nas zastąpi. Strach przed utratą pracy jest zakorzeniony głęboko w naszych głowach. Wcale się nie dziwię tym ludziom, naprawdę się nie dziwię. Ten strach się często pojawia, natomiast ten strach jest trochę nieuzasadniony, ponieważ to nie jest nigdy tak, że AI sam pracuje.

AI nie działa w próżni, o czym też będę jeszcze za chwilę gadał. Natomiast AI nam pomaga. AI jest po to, żebyśmy my jako ludzie, jako użytkownicy końcowi pracowali szybciej, lepiej, wydajniej, pewniej, a nasz czas, który mamy, który nam się uwolni przez to, żeby nas AI wspiera, mogli poświęcić na inne rzeczy, na przykład na to, żeby zbudować relację z klientem, bo przecież AI tego dla nas nie zrobi. Akurat tego nie. Okej, może podpowiadać jakąś bazę, może przygotować tam odpowiedź na maila, ale ta relacja na przykład jest bardzo kluczowa. Jeszcze nie widziałem takich wdrożeń, gdzie spadałyby głowy, ponieważ właśnie AI się pojawił.

Drugim takim mitem jest taki mit trochę w drugą stronę, że AI zrobi wszystko samo. W sensie jest AI, no to niech ono rozmawia z klientem, tak? Niech ono tam ofertę robi, niech sprzedaje. Okej, to można zrobić oczywiście AI, natomiast to nie jest takie trywialne w pierwszym i AI się też wdraża iteracyjnie, czyli krok po kroku. Najpierw robimy to, okej, fajnie działa, testujemy, zbieramy feedback od użytkowników, natomiast z drugiej strony możemy później dokładać kolejne kawałki tego, ale to nie jest znowu tak, że AI robi wszystko, a na pewno nie robi wszystkiego za nas.

A jeszcze wracając do tego, że AI nas zastąpi, to ja bardzo lubię takie stwierdzenie, że AI nas nie zastąpi. Chyba, że nie korzystasz z AI, to zostaniesz zastąpiony ludźmi, którzy korzystają z tego AI. I to jest taka prawdziwa obawa. Czyli jeśli odmówimy wewnętrznie pracy z AI i zaczniemy tak naprawdę odstawać wydajnościowo względem reszty zespołu, który korzysta z AI i my to robimy ze względu na to, że się boimy pracy, to my tę pracę raczej wtedy stracimy właśnie, bo nie jesteśmy efektywni, nie jesteśmy tak dobrzy jak zespół i tak dalej. Więc AI tutaj jeszcze raz podkreślam, nas nie zastąpi pod warunkiem, że będziemy z niego korzystać. I to jest to.

No i później mamy takie dwa troszkę mniejsze mity: po co korzystać z AI, skoro mamy ludzi, no a to wynika trochę z tego, że nas AI zastąpi, no i wystarczy wrzucić model z internetu. No to tutaj jest właśnie to wszystko, co mówiłem dzisiaj razem z Damianem i co dalej mówię. Trzeba osadzić ten model w bezpiecznym miejscu, w bezpiecznym regionie, w EOG najchętniej dla nas i tak dalej, nadać temu kontekst biznesowy, przeprowadzić mądre wdrożenie, a nie wziąć model z internetu, najlepiej darmowy i zobaczyć, co z tego wyniknie i nie wiedzieć, co się z tymi naszymi danymi dzieje.

 

AI nie działa w próżni

I tak jak powiedziałem, AI nie działa w próżni. To nie jest tak, że AI to są tylko chatboty. Dajemy ludziom czata, z którym sobie mogą rozmawiać i nic się nie dzieje. Dzisiaj AI to są agenci, czyli takie sztuczne inteligencje, takie LLM, takie chatboty, takie voiceboty, które mają w swoich dłoniach narzędzia, z których mogą skorzystać na przykład po to, żeby coś wykonać, czyli odpytać jakąś bazę albo zapisać jakieś wydarzenie w kalendarzu. No i do tego właśnie służą różne implementacje.

Tutaj mamy wymienione dwa protokoły, moim zdaniem najważniejsze w tym świecie AI. To jest MCP, Model Context Protocol, który służy do tego, żeby modele mogły brać jego kontekst dany z innych narzędzi. I tutaj taki przykład: na przykład Gmail jest oprogramowany MCP, czyli ma zaimplementowany protokół MCP, z którym również Gemini może korzystać z MCP bez problemu, może odwołać się do waszej skrzynki mailowej i zacząć rozmawiać z waszymi mailami. To jest właśnie Model Context Protocol i to oczywiście nie tylko do Gmaila, ale do Jiry, do wszystkich innych serwisów, Optimy i innych to ma zastosowanie.

No i jest też A2A, czyli Agent-to-Agent, gdzie mamy bezpośrednią komunikację między agentami, gdzie uwaga, jednym z agentów może być też człowiek, to nic nie stoi na przeszkodzie. Natomiast jeśli pierwszy agent, który miałby coś zrobić, mówi: „Hej, to nie jest zadanie dla mnie”, może przekazać taką konwersację innemu agentowi, którego to jest zadanie, albo właśnie człowiekowi, ponieważ tam jest jakieś bardzo specyficzne pytanie, które wymaga decyzji człowieka. Więc to są mega, mega fajne otwarte protokoły, które są implementowane przez większość dużych graczy, zarówno po stronie narzędziowej, jak i AI-owej, z których warto korzystać, ale tak AI nie działa w próżni.

 

Współpraca z użytkownikiem końcowym

No i już tak kończąc, tutaj mamy taki bardziej scenariusz machine learningowy, gdzie ten machine learning troszkę przypomina czarną skrzynkę, wrzucamy dane, dostajemy output. No i tutaj handlowcy nam nie ufają, że nasze predykcje sprzedaży są poprawne, ponieważ oni nie wiedzą jak to działa. No i tak trochę jest, że nie wiemy jak to działa. Tam się układa jakaś sieć neuronowa, tam się coś liczy w środku, ciężko to wytłumaczyć. Na pewno nie wytłumaczymy tego na webinarze.

Natomiast tutaj trzeba zawsze współpracować z użytkownikiem końcowym, trzeba zbierać feedback. Trzeba też sprawdzać w jaki sposób ta predykcja później się zmaterializowała, czyli czy rzeczywiście nasz AI, który był pewny na 70% trafił, że taka rzecz się wydarzy. Dlatego tutaj warto się zaopatrzyć w takie techniki, które się nazywają human in the loop i pozwolić użytkownikowi na ocenę pracy tego AI, po pierwsze i no i zbierać feedback. No i to może nam uratować wdrożenie jako coś, co po pierwsze poprawi jakość AI.

Bo będziemy mieli ten reinforcement learning from human feedback, ponieważ ludzie dają nam feedback, że coś poszło nie tak. Będziemy mieli później dane, które przyjdą na żywo i sprawdzimy, czy nasze predykcje się okazały okej. No ale też ludzie będą mieli miejsce gdzie żeby żeby dać nam feedback i ewentualnie coś poprawić w naszym modelu machine learningowym.

No a z drugiej strony taki przykład no to jest właśnie to, że nasze AI, LLM nie mają dostępu do danych w czasie rzeczywistym. Wykorzystując właśnie MCP i możliwość integracji to jakby znika. Natomiast bardzo często właśnie te modele z neta, które sobie weźmiemy i sobie opublikujemy, no to one trochę wolniej potrafią się rozwijać, więc nie muszą implementować wszystkich nowinek technologicznych od razu. To znaczy, że te chatboty po prostu nie będą korzystać z aktualnej wiedzy, z aktualnych danych, z których powinny korzystać i dzięki temu albo przez to mogą oddawać bardzo nieskuteczne odpowiedzi.

Więc tutaj warto naprawdę zadbać o profesjonalne wdrożenie. No a też cały czas pytać, pytać, pytać użytkownika końcowego o to, czy to jest odpowiednie rozwiązanie, czy spełnia swoje zadanie. I to by było na tyle z mojej strony. Mam nadzieję, że przekazałem wam dużo informacji i zapamiętamy wszyscy tutaj, że nie trenujemy modeli, możemy je fine-tunować, ale nie warto.

 

Sesja Q&A

Magdalena Cuper: Tak, ja bym bardzo chciała podziękować tobie Mariusz, jak i Damianowi za tak świetną prezentację i też przedstawienie tylu ciekawych elementów. Teraz jeszcze raz też państwa pytania. Ja część oczywiście widziałam tutaj, przekazałam do prelegentów jakbyście mogli się zapoznać. W międzyczasie jak będziecie tutaj sprawdzali te pytania to chciałabym jeszcze raz też państwa zachęcić do kontaktu z FOTC, ale również z Follow Legal, bo jak już mogli państwo zauważyć specjaliści są naprawdę na wysokim poziomie i z całego serduszka państwu polecam. No i tutaj przedstawiam już tutaj do panów na sesji Q&A jakbym mogła prosić o kilka informacji, jeżeli jest taka możliwość na te pytania, co się pojawiły wcześniej.

Okej, może ja zacznę, bo jest pytanie z mojej działki.

P: Czy wykorzystanie danych osobowych w AI to odrębny cel przetwarzania i wymaga odrębnej zgody, czy wystarczy uzasadniony interes administratora?

Damian Fedeczko: Samo wykorzystanie AI, nie utożsamiajmy tego z celem. To jest narzędzie, które ma nam służyć do realizacji jakiegoś celu. Natomiast sytuacja jest trochę specyficzna, bo też zależy co my będziemy robili z tym AI. Tak jak mówiliśmy, jeżeli będziemy podejmowali za pośrednictwem AI zautomatyzowane decyzje wobec człowieka, na przykład wobec kandydata do pracy, to to wymaga odrębnej zgody, odrębnej, wyraźnej zgody. Więc wtedy prosimy.

Jeżeli wykorzystujemy AI jako narzędzie, czyli mamy to pod spodem, gdzieś nam to działa, prowadzi analizy, to w tej sytuacji zgoda nie jest nam potrzebna. Natomiast pamiętajmy o tym, że z AI Act wynika też ta zasada informowania i zasada przejrzystości. Czyli na przykład, jeżeli nasz klient korzysta z chatbota, którego wystawimy i on jest AI-em, to powinien mieć tego świadomość, powinien być o tym poinformowany.

Magdalena Cuper: Super, dziękujemy.

Mariusz Zyśk: Dobra, to teraz teraz widzę pytania do mnie, przynajmniej takie dwa. 

P: Czy korzystanie z modeli AI poprzez API jest bezpieczniejsze niż za pomocą chatbota – rozumiem, interfejsu webowego?

To i tak i nie, bo z jednej strony tak, bo korzystając przy API nigdy ci od AI nie odda dwóch odpowiedzi, nie poprosi cię o oddanie lepszej, więc trochę tak. Natomiast to wszystko zależy od tego, co jest pod spodem i z jakiego API korzystasz i na jakich warunkach licencyjnych i jakie są polityki prywatności, o których Damian mówił. Więc trochę tak, ale nie bierz tego jako pewnik, jako coś wypisanego. Może to trochę zabezpieczyć, ale to nie jest tak, że API się nie nakarmi twoimi danymi, więc tutaj warto po prostu czytać to, o czym Damian mówił. No i Grzegorz zapytałeś też czy RAG jest lepszy.

P: Czy RAG jest lepszy?

Bardzo ogólne pytanie. To zależy. To jest poprawna odpowiedź na to pytanie, ale to zależy tak naprawdę. To zależy, to trzeba trochę policzyć. Czasami pokusimy się o RAG-a, jeśli sam prompt nie wystarcza, no to już wtedy musimy nawet to zrobić. To trochę o czym mówiłem.

Natomiast w specyficznych przypadkach wykorzystamy RAG-a, nawet jeśli dane zmieściłyby się w prompcie. No ale to już jest kalkulacja po prostu, co się bardziej opłaca, czy utrzymanie bazy wektorowej z bazą wiedzy w środku, czy może jednak za każdym razem pytanie z dwoma milionami tokenów w kontekście. To zależy tak więc odpowiedź naprawdę chciałbym odpowiedzieć, czy RAG jest lepszy. Nie wiem od czego, ale to zależy.

 

Podsumowanie i zakończenie

Magdalena Cuper: Ja wiem, że czasami też pytania się pojawiają po czasie, po tym jak już państwo będą uczestnikami po tym webinarze i nagle pojawia się to zapytanie i teraz gdzie się będzie trzeba odezwać. Tak jak wspominałam, my ten webinar nagrywaliśmy. Nagranie będzie w ciągu czterech dni roboczych i również w tym nagraniu będzie podany kontakt, gdzie będą mogli państwo zadawać pytania, ale również promocja, o której wspominałam od Follow Legal, za którą jeszcze raz serdecznie dziękujemy.

Proszę państwa, jest państwa bardzo dużo, za co też serdecznie w ogóle dziękujemy. Jeszcze raz chciałabym też podziękować prelegentom. No mamy poniedziałek. Podejrzewam, że dużo jeszcze rzeczy dzisiaj przed nami, tak więc nie przedłużając serdecznie dziękujemy. Zapraszam też na webinar jeszcze w sierpniu do obserwowania naszych social mediów. Jesteśmy w kontakcie w takim razie i do usłyszenia już za niedługo, bo tak jak wspominałam koniec sierpnia, kolejny webinar, więc dziękujemy prześlicznie.