Obejrzyj nagranie z webinaru:
Google Cloud: Co to jest Disaster Recovery Plan?
Obejrzyj nagranie z webinaru:
Podczas spotkania online eksperci FOTC oraz Follow Legal pokażą, jak poradzić sobie z rosnącymi cyberzagrożeniami, spełnić wymagania regulacyjne i uniknąć wysokich kar — łącząc wiedzę prawną z praktycznymi rozwiązaniami technologicznymi.
TRANSKRYPCJA WEBINARU:
Webinar: Obsługuj tysiące klientów jednocześnie z asystentami głosowymi AI
Prelegenci: Mariusz Zyśk, Michał Kowalik (ElevenLabs)
Screeny: Screeny z prezki
Mariusz Wilczek: Powiedzcie, czy nas widać, czy nas słychać. Nie mamy na razie potwierdzenia. Jest okej. Widać, słychać. Super. Damy sobie minutkę, dwie jeszcze na dołączenie. Chcieliby jeszcze tutaj nas posłuchać i będziemy lecieć z naszym tematem dzisiejszym. Jeszcze jest minutka, żeby ewentualnie sobie może kawę jakąś dorobić w międzyczasie.
Mariusz Zyśk: Gorąco polecam.
Myślę, że sobie już powoli zaczniemy. Pewnie jeszcze uczestnicy będą sobie dołączać w trakcie. Także tak oficjalnie witam wszystkich na webinarze „Obsługuj tysiące klientów jednocześnie z asystentami głosowymi AI”. Dzisiaj porozmawiamy sobie właśnie o asystentach, o tej technologii, jak ona się może przysłużyć firmom. Ze mną dzisiaj jest Mariusz Zyśk z FOTC i Michał Kowalik z Eleven Labs. Zanim przejdziemy do przedstawienia, jeszcze tylko troszeczkę opowiem o FOTC, o naszej firmie.
Kilka słów o FOTC
Jesteśmy w Fly on the Cloud i pomagamy firmom wykorzystywać możliwości chmury danych i AI. Jesteśmy również partnerami Google Cloud. Zajmujemy się właśnie wdrażaniem rozwiązań cyfrowych, które usprawniają tę pracę w chmurze. Między innymi jest to digital workspace, cloud. Tworzymy różnego rodzaju integracje. I wdrażamy rozwiązania AI. Na rynku działamy od ponad dekady. Wspieramy firmy już z ponad 50 krajów.
Współpracujemy także właśnie z partnerami takimi jak dzisiaj, którymi jest Eleven Labs i właśnie z ramienia Eleven Labs jest dzisiaj z nami Michał Kowalik, który troszeczkę opowie też o naszej współpracy. Także Michał, oddaję ci tutaj głos.
Współpraca z Eleven Labs
Michał Kowalik: Super, dzięki Mariusz. Witajcie wszyscy. Nazywam się Michał Kowalik, tak jak już zostało to wspomniane. Zajmuję się partnerstwami w firmie Eleven Labs i sobie razem z Fly on the cloud dzisiaj jesteśmy na webinarze dotyczącym agentów i dotyczącym Voice IT, voice AI. Pewnie wszyscy wiecie i zauważyliście, że od końca 2023 roku, kiedy OpenAI wypuściło pierwszy taki w miarę zgrzebnie działający model, postęp w sztucznej inteligencji, w najprostszych sposobach użycia LLMów, ale także w użyciu agentów rośnie bardzo szybko. Gdziekolwiek się nie spojrzymy, ktoś coś sobie tam dłubie i bardzo szybko ląduje to na produkcji. I dokładnie to samo chcemy, to samo robimy w Eleven Labs.
Budujemy w miarę prosty do obsługi system, bardzo prostą do obsługi platformę agentów voicowych. Jesteśmy multi channelowi, więc nie tylko voiceowi, również możemy to przez tekst, przez email, przez czat. Natomiast voice jest naszym głównym elementem. Firma Eleven Labs powstała jako biuro badawcze, gdzie Mati i Piotr razem stwierdzili, że chcą zbudować najlepszą maszynę, najlepszy model do generacji głosu oraz do spisu tego głosu. Na podstawie tego komponentu jesteśmy w stanie budować wszystkie elementy związane z obsługą tego głosu, tak aby ten głos brzmiał naturalnie, oraz budowanie platformy orkiestracyjnej, aby głos naturalnie brzmiał.
To nie tylko element wytworzenia głosu, który brzmi jak polski, angielski czy jakikolwiek inny, ale to również takie rzeczy jak badanie, sprawdzanie, kiedy jest jakaś przerwa, kiedy ktoś wejdzie komuś w słowo, kiedy ktoś już skończył kwestię. Jeżeli tych elementów nie ma w modelu głosowym, to wszystko już dalej brzmi robotycznie, mimo że głos jest słodki. Więc dzisiaj chciałbym was zaprosić do wsłuchania się w to, co Mariusz Zyśk ma do powiedzenia. Razem z Fly on the Cloud pracujemy już prawie od ponad roku i FOTC jest jednym z naszych najbliższych partnerów w regionie, więc chłopaki, dziewczyny wiedzą co robią i byłoby super, jeżeli coś was zainteresuje potem podczas tego webinaru, żeby sobie razem usiąść i porozmawiać czy sobie razem coś zbudować. Wielkie dzięki jeszcze raz za spędzony czas i Mariusz, oddaję głos tobie.
Dalsza agenda webinaru
Mariusz Wilczek: Dzięki bardzo. Dzięki za opowiedzenie. Przejdziemy sobie teraz do dalszej agendy. Opowiemy też oczywiście o tej technologii od Eleven Labs w dalszej części webinaru. Resztę webinaru poprowadzi Mariusz Zyśk, nasz Data and AI Evangelist. Ja jeszcze tylko pod koniec dodam, że pod koniec webinaru będziemy mieli też sesję Q&A, więc zachęcam do zadawania właśnie w tej sekcji pytań. Webinar jest oczywiście też nagrywany, także otrzymacie nagranie po webinarze. Dobra Mariusz, ja przestaję udostępniać, oddaję tobie prezentację, także możesz tutaj już się włączyć.
Sztuczna inteligencja i dane
Mariusz Zyśk: Dzięki wam za intro. Mam nadzieję, że teraz krótko widać po mojej stronie. Dzięki za intro, zwłaszcza Michałowi. Jak zostaniecie i będziecie cierpliwi, zostaniecie do końca, to ja wam pokażę, jak dzisiaj można to zrobić właśnie w oparciu o technologię Eleven Labs. Postawić prostego voicebota, którego możecie ocenić na własnej stronie internetowej, więc zostańcie ze mną do końca.
Cześć, ja się nazywam Mariusz Zyśk. Nazywajcie mnie Mańkiem, jeśli chcecie. Ja rzeczywiście jestem gościem, który jest odpowiedzialny za technologię, zwłaszcza tę danową i sztucznej inteligencji, a z drugiej strony jestem ewangelistą dzisiaj, czyli właśnie tym takim osobnikiem tutaj z ramienia FOTC, który wygłasza dobrą nowinę, opowiada o nowinkach technologicznych, bo sam bardzo dużo nimi sobie rąk brudzę. Tyle o mnie, bo to są jakieś nudy.
Natomiast mamy takie pierwsze zdanie, że nie ma sztucznej inteligencji bez danych. I to jest zawsze takie śliskie stwierdzenie. Jest to z jednej strony trochę truizm, a z drugiej strony warto się w nie troszeczkę zagłębić, bo co to znaczy, że nie ma sztucznej inteligencji bez danych? Można to rozumieć wielorako, natomiast fajnie jest sobie najpierw podzielić tę sztuczną inteligencję na kilka obszarów, bo z jednej strony są LLMy, w ogóle cała generatywna sztuczna inteligencja, a z drugiej strony jest coś, co nazywamy uczeniem maszynowym, czyli coś, co znamy od lat 40., 50. minionego wieku.
AI nie ma bez danych, bo te modele generatywnej sztucznej inteligencji zostały na tych danych wytrenowane, więc tak można powiedzieć, nie ma AI bez danych. Ale z drugiej strony każdy, kto mówi dane, często ma właśnie na myśli takie tabelki, poukładane kolumny, wszystko jest tam czyste, nie ma pustych dziurek w środku tej tabelki. Poukładane dane bardzo często się przydają, zwłaszcza tym, którzy chcą budować rozwiązania z dziedziny uczenia maszynowego, czyli próbować zarekomendować coś, przewidzieć, skategoryzować, sklasyfikować, a dodatkowo jeszcze to potem zmierzyć, czy mi się udało to sklasyfikować po prostu.
Z drugiej strony mamy ten GenAI, który się karmi tymi danymi, które często są uważane za śmieciowe dane czy dane po prostu nieustrukturyzowane. Czytaj: faktury, maile, wszystko, co nie ma jakiegoś takiego ogarniętego formatu. I to też są dane mimo wszystko. Ja wiem, że część z nas uważa, że to nie są dane, ale to są dane, to są informacje. I tutaj oczywiście z tego śmietnika informacji nieustrukturyzowanych LLMy dzisiaj są w stanie nam dowieźć bardzo dużo informacji.
Czym są voiceboty?
W voicebotach potrzebujemy raczej właśnie często tego bałaganu danych, którymi LLMy się karmią, ponieważ tam są często ukryte bazy wiedzy. Natomiast nie wykluczamy używania tych drugich danych również przy voicebotach. Opowiem wam o tym później.
Co to są voiceboty? Voiceboty to są takie kawałki oprogramowania, które potrafią gadać z użytkownikiem, rozpoznawać jego intencje, przeprowadzać po prostu rozmowę w sposób interaktywny i sposób głosowy, bo to ważne. Gdybyśmy mówili o innych botach, to mogłyby być chatboty, które możemy również implementować. By the way, rozwiązania ElevenLabs pozwalają na implementację voicebotów i chatbotów jako jedno rozwiązanie, więc zasilenie bazą wiedzy na przykład takiego voicebota powoduje to, że nasz chatbot na stronie również jest mądry, nie trzeba do niego gadać głosem, tylko można pisać. Ale o tym jeszcze później.
Klasyfikacja voicebotów
Jak już wiemy, czym są voiceboty, to powiem wam, w jaki sposób je klasyfikujemy i dlaczego tak jest. Na pierwszej szali będą voiceboty konwersacyjne, czyli takie, z którymi możemy sobie pogadać, trochę luźno pogadać, przerwać, mieć tę charakterystykę takiej czystej współpracy z człowiekiem. Można mu właśnie przerwać, on będzie reagował na nasze emocje, na tempo mowy, na niepewność. Także to są bardzo naturalne tematy, które się nadają zazwyczaj do miękkich rzeczy albo do jakiejś bazy wiedzy i takiej dość frywolnej rozmowy.
Natomiast to nie jest cel biznesowy każdego implementowanego voicebota, bo należy się skupić na tym, co my chcemy rozwiązać, jaki problem chcemy rozwiązać albo jakie pytania zaadresować dla użytkowników wdzwaniających się do tego voicebota. A więc to jest takie nie do końca być może dla każdego rozwiązanie, żeby pozwolić tak swobodnie na swobodną rozmowę o wszystkim naszym użytkownikom. Natomiast da się tutaj rzeczywiście pozbierać trochę informacji.
Case study: Ankiety satysfakcji
Pierwszym tutaj case study będzie to, jak w oparciu o technologię Eleven Labs stworzyliśmy ankiety dla dużego dostawcy energetycznego w Polsce, który montuje również fotowoltaikę na dachach naszych domów. Ankiety, których zespół po stronie naszego klienta, zespół call center, był maksymalnie tym znudzony. Wykonywał setki takich samych telefonów dziennie i musiał słuchać tego samego i zadawać te same pytania. Więc w ogóle to po stronie klienta też było bardzo trudne, żeby utrzymać ten zespół, bo robota taka powtarzalna nie jest ani ciekawa, ani kreatywna.
Ja wiem, że ludzie mogą różnie odpowiadać na te pytania, natomiast zadawanie tych samych pytań, a później przesłuchiwanie się i odznaczanie czegoś w formularzu nie było nazbyt ciekawym zajęciem dla tych ludzi. Więc ten zespół często rotował i dlatego zaimplementowaliśmy voicebota, który robi to za ten zespół. Ergo, pozwalamy klientowi się wypowiadać swobodnie, wyłapując po drodze zmienne, które chcemy rzeczywiście zapisać. Bo to nie jest tylko tak, że mówimy co chcemy i mamy transkrypcję, czyli napisy to, co klient powiedział i dzięki temu mamy ocenę. Tak też można zrobić.
Natomiast w trakcie tej rozmowy po pierwsze ten voicebot może dopytywać, a po drugie zapisywać masę informacji, które wyłapie po drodze. Na przykład właśnie terminowość czy ocena satysfakcji od zera do 10. Jeśli zadają takie pytanie, to możemy po prostu sobie złapać taką zmienną w trakcie tej rozmowy, co tutaj uczyniliśmy i mieliśmy bardzo fajne efekty.
Voiceboty procesowe
Kolejną częścią klasyfikacji voicebotowej, o której chciałbym wam opowiedzieć, to są voiceboty procesowe. Tak jak powiedziałem, logika konwersacyjna nie jest dla każdego i nie dla każdego rozwiązania czy biznesu się będzie nadawać. Są biznesy, w których voicebot musi być formularzem, bo będzie coś przyspieszał, bo będzie proaktywnie zbierał informacje, będzie miał bardzo jasno zdefiniowany flow i będzie prowadził krok po kroku. A nawet bardzo często w takich sytuacjach nie będzie pozwalał sobie na jakieś przerwania jemu, ponieważ określone są zasady i trzymanie się ram tej swobody.
Natomiast to, co go wyróżnia, to jest na pewno wysoka powtarzalność i jakość zbieranych informacji, bo tutaj nie ma miejsca na pomyłkę albo nie pozostawiamy miejsca na to, żeby ów zmienna nie została zebrana, zanim przejdzie do kolejnego kroku. Voicebot będzie dopytywał o informacje na przykład kilka razy, dopóki albo mechanizm jakiejś eskalacji nie zadziała, żeby przerzucić go do człowieka, albo z drugiej strony nie uzyska odpowiedzi na pytanie.
Case study: Likwidacja szkód
I jak to wygląda w oparciu o case study naszego klienta? Kiedy zdarzył się w Polsce kataklizm meteorologiczny związany z powodziami na głębokim Dolnym Śląsku, czy to w Stroniu Śląskim, zaimplementowaliśmy bardzo szybko voicebota, który realizował proces likwidacji szkód zalaniowych, który to przyspieszył wypłaty odszkodowania tysiącom Polaków. Więc ja jestem bardzo dumny z tego rozwiązania, ponieważ wiedzieliśmy, mieliśmy bardzo mało czasu, wiedzieliśmy: okej, za tydzień, półtora maksymalnie będą olbrzymie szkody w naszym kraju prawdopodobnie. Oczywiście to jest jakaś tam spekulacja, jakiś zakład położyliśmy na to, że tak będzie.
Klient, który nas zgłosił, powiedział: „Słuchajcie, musimy pomóc Polakom odzyskać ich majątki, bo to za chwilę się wydarzy”. I tak zresztą było. Niestety kataklizm dotknął nasz region i dzięki temu, że zbudowaliśmy tego voicebota, który był właśnie voicebotem takim dość sztywnym, procesowym, pomagaliśmy naszym klientom odzyskać majątki. Tak żeby pokazać, jak mniej więcej wygląda ten proces – on jest stylowo troszkę nieczytelny, natomiast zbieramy tutaj bardzo dużo informacji w sposób zapętlony w zależności od tego, na przykład ile pomieszczeń nam zalało.
Działanie voicebota w praktyce
Za chwilę postaram się poprosić tego voicebota, żeby do mnie zadzwonił i pokażę wam kilka rzeczy w tych voicebotach. W tym i poprzednim, o którym mówiłem, oczywiście jest pełne logowanie, więc my zapisujemy każdą informację, która się dzieje – co klient mówi, to jest jasne, nagrania, jasne, ale też potrafimy odpytać różne systemy i w tym wypadku też tak jest, że odpytujemy kilka systemów po drodze. Pierwszym z tych systemów jest system do autoryzacji po drodze. To znaczy, że voicebot odpyta bazy, czy ja na pewno to jestem ja. Teraz na chwilkę przerwę, bo przełączę mikrofon.
17:50 (ukazanie działania voicebota)
Dobra, powiem gorzej, natomiast voicebota będzie słychać lepiej i pozwólcie, że poproszę voicebota, co by do mnie zadzwonił. Tutaj dzwoni taki numerek. Jak go odbiorę i wrzucę na głośnik.
Voicebot: Dzień dobry. Dzwonimy w sprawie zgłoszonej szkody i na wstępie informujemy, że rozmowa jest nagrywana. Jeżeli nie ma zgody na nagrywanie, prosimy o zakończenie połączenia. W celu przyspieszenia likwidacji szkody chcemy zebrać dodatkowe informacje. Aby to uczynić, musimy się upewnić, czy dodzwoniliśmy się do prawidłowej osoby. Proszę podać wyłącznie pełne swoje imię po powiedzeniu start. Start.
Mariusz Zyśk: Mariusz.
Voicebot: W pierwszym pytaniu prosimy opisać…
Mariusz Zyśk: Dobra, rozłączam się z nim i wrócę na lepszą jakość dźwięku dla was. Jest to voicebot, który nie pozwolił mi na pewno przerwać. W pierwszym pytaniu musiałem dobrze odpowiedzieć na to pytanie. Jeśli ktoś mi nie wierzy, możemy zostać po webinarze, ja zadzwonię i powiem, że jestem Adam i zobaczycie, że mnie nie przepuści dalej. W kolejnych krokach ten voicebot zacząłby mnie pytać, co się stało, a następnie o liczbę pokojów. Następnie tyle, ile mu podałem tej liczby pokojów, zacząłby literować: podaj nazwę pierwszego pokoju, podaj wysokość wody, która się wdarła, podaj szkody w każdym pokoju, jakieś tam ruchomości, które uległy szkodzie.
Zbierając dane dzięki takiemu pełnemu formularzowi, likwidatorzy szkód mieli zdecydowanie uproszczoną pracę. A jeśli ktoś bardzo sumiennie tutaj powypełąniał wszystko, czasami ten proces kończył się po prostu wysyłką od razu jakiejś oferty zwrotu kosztów odszkodowania. Nie jestem tutaj specjalistą w tej nomenklaturze, także przepraszam, jeśli ktoś takim jest.
Automatyzacja badania satysfakcji
Jedźmy sobie dalej. Automatyzacja badania satysfakcji klientów – to jest kolejny case study. Jest bardzo podobne zresztą do tego voicebotowego, gdzie już trochę opowiadałem o tym, więc postaram się dość szybko przedyskutować ten temat, bo tych voicebotów my naprawdę dużo zrobiliśmy, a to jest dość popularna rzecz, bo bardzo ciężko utrzymać zespoły, które dzwonią i się pytają: „Hej, a jak tam było? A co tam słychać?”. Więc to są bardzo duże koszty po stronie zatrudnienia człowieka.
Z jednej strony analityka danych jest też opóźniona. Nie wiemy troszkę, co się dzieje na bieżąco, nie wiemy czasami od momentu instalacji jakiegoś rozwiązania albo po prostu dostarczenia jakiejś usługi mija bardzo długo, zanim ktoś do nas zadzwoni i zapyta, co i jak poszło. Więc po wdrożeniu takich rozwiązań mamy zawsze bardzo wysoką precyzję, bo o dziwo – a może nie o dziwo – ludzie lubią rozmawiać z voicebotami, a zwłaszcza z tymi, które im pomagają. Tak jak w przypadku likwidacji szkód powodziowych, tam mieliśmy bardzo dużą skuteczność, bo ludzie bardzo chcieli odzyskać swoje środki, a wiedzieli też, że nawet jeśli wszyscy rzeczoznawcy majątkowi zjadą się z całej Polski do tego miejsca, to i tak ich nie obsłużą i będą czekać w kolejce. A voicebot miał to do siebie, że w kolejce nie trzeba czekać.
Także tutaj również po prostu na bieżąco mamy dostęp do tych informacji. Osiągamy bardzo precyzyjne wyniki z ankiet. One są krótsze, voiceboty są bardzo wyraźnie mówiące, zawsze tym samym dźwiękiem, głosem czy nawet dialektem, bo dla niektórych to ma znaczenie.
Wspólne funkcje voicebotów
Coś, co łączy te wszystkie nasze voiceboty, to zazwyczaj to, że mają część funkcji wspólnych. Po pierwsze, wszystkie potrafią nagrywać rozmowy. Oczywiście możemy to odłączyć, jeśli nie chcemy przekazywać takich materiałów. Natomiast pewnie czasami warto. Zaraz wam powiem w kolejnym case dlaczego i co fajnego można z tym zrobić. Mamy pełną transkrypcję, czyli oprócz tego, że wiemy, jak brzmiało nagranie i jaki był ton, to wiemy też, jak wygląda transkrypcja – czyli to, co zostało powiedziane, zostanie napisane.
Z trzeciej strony, coś o czym już mówiłem, to są integracje. Integracje do systemów, tak jak voicebot, którego wam przed chwilą tutaj prezentowałem, który sięgnął do systemu autoryzacyjnego i sprawdził, czy ja to ja. Oczywiście w produkcyjnym rozwiązaniu można też zaimplementować podanie numeru szkody, która jest znana. A co więcej jeszcze ważne – warto czasami uprzedzić, że taki voicebot będzie dzwonił, żeby nie zaskakiwać klientów. Więc my w przypadku tych powodziowych voicebotów wysyłaliśmy najpierw SMS-a, że taka sytuacja będzie miała miejsce.
Bazy wiedzy to znowu jest coś, co bardzo często łączy wiele voicebotów. I analiza skuteczności, analiza rozmów właśnie – czyli jaki był sentyment, jaka była skuteczność, czy cel został zrealizowany w danej rozmowie. To też już w większości oprogramowań do voicebotów jest, a zwłaszcza tutaj kieruję swoje słowa do technologii Eleven Labs, która to dość dobrze ogarnia. Ta analityka jest tam całkiem poważna i przyjemna.
Zastosowanie i przewagi biznesowe
Do jakich celów można zastosować bota? Strasznie lubię to pytanie i tu są jakieś przykłady, których w ogóle nie zamierzam czytać, bo jeśli o czymś możemy pogadać, to do tego też może być voicebot, z którym będziemy rozmawiać. Ale to są różne branże tak naprawdę, od wsparcia klienta przez retail, po – wymyślcie sobie dowolny rynek, gdzie ktokolwiek musi do kogokolwiek zadzwonić, to właśnie tam można zaimplementować voicebota. Oczywiście warto zwrócić uwagę na to, czy to jest ekonomicznie uzasadnione, żeby na przykład automatyzować proces, który dotyczy jednego telefonu w miesiącu voicebotem. Natomiast na pewno można to zrobić.
Także te branże są w miarę jasne. Fajnie się sprawdza w windykacji, bo to sprawdziliśmy właśnie, w zbieraniu takich danych, onboarding klientów albo w ogóle pracowników wewnątrz dla HR-ów wewnętrznych. Wewnętrznie też robiliśmy voiceboty z dużym naciskiem na bazy wiedzy znajdujące się w firmie, bo to jest całkiem istotne. Czyli mogę się zapytać voicebota: „Powiedz mi proszę, jak mam zgłosić wniosek urlopowy albo jak rozlicz przejazd do klienta?” i różne takie tego typu historie. Także możecie sobie wymyślić dowolną z tych rzeczy, a ja wam powiem, że tam można postawić bota.
Jakie są przewagi? Trochę już napomknąłem, opowiadając o tych voicebotach. Pierwszą przewagą jest brak kolejek. To znaczy, że każdy się może dodzwonić i zawsze bot powinien odebrać. I to jest coś wyjątkowego przy dużym ruchu. Oczywiście infrastrukturę też trzeba przygotować na ten ruch, bo to nie jest takie oczywiste. Z drugiej strony mamy stałą jakość rozmowy, czyli boty w miarę są powtarzalne. Z trzeciej strony jest pełna analityka, czyli możemy zapisywać wieloma narzędziami, odpytywać się o inne systemy. I właśnie nie mamy kosztów rotacji pracowników i nie mamy często też kosztów pracowników.
Żeby jeszcze wam powiedzieć – najlepsze rozwiązania voicebotowe są takie, które później, na jakimś etapie rozmowy, przekazują tę rozmowę do człowieka. Więc to nie jest tak, że AI tutaj znowu zabierze komukolwiek pracę. Raczej ludzie, którzy pracują przy call centrach, są dedykowani do obsługi trudniejszych tematów lub utrzymania relacji z klientem, żeby to nie było takie bezosobowe. I wtedy te rozwiązania voicebotowe są najskuteczniejsze – to taki hint biznesowy, który sam posiadam, który obserwuję podczas wdrożeń. Jeśli zapytamy również o koszt, czy voicebot będzie tańszy, czy zatrudnienie człowieka i wyszkolenie go, a potem za kilka miesięcy rekrutacja kolejnego – co będzie tańsze, to odpowiedź myślę, że będzie w miarę jednoznaczna i domyślacie się jaka. Voiceboty będą tańsze.
Integracje i magazynowanie danych
Integracje. Już trochę o nich mówiłem, natomiast zintegrować się możemy z każdym właściwie systemem. Nie widziałem jeszcze tylko integracji bezpośrednio do mózgu, a tak to już chyba sam zaimplementowałem większość technologii. Dowolny system, który jest w waszej organizacji, może być zintegrowany jako część po pierwsze bazy wiedzy albo część logiki działania rozmowy – tak jak w moim przypadku odpytanie się o moje imię w bazie danych, czy właśnie złapanie jakiejś informacji ze strony internetowej, która może być częścią bazy wiedzy. Czy z trzeciej strony dostęp do Salesforce’a albo ServiceNow, żeby odpytać się o status jakiegoś ticketa założonego przez nas jakiś czas temu. To są popularne rozwiązania i warto o nich pamiętać.
My dodatkowo jeszcze za każdym przejściem do kolejnego etapu rozmowy odkładamy sobie logi do naszego po prostu do naszej bazy danych, zazwyczaj BigQuery, w której magazynujemy właśnie te przepływy – w jaki sposób klienci rozmawiali, kiedy się ewentualnie rozłączyli, kiedy coś się na przykład na linii u klienta zadziało lub o czym po prostu mówiono, łącznie z tymi znacznikami czasowymi, żebyśmy wiedzieli dokładnie, w ilu sekundach co kiedy albo jaki był czas oczekiwania. Dużo rzeczy zbieramy, bo jesteśmy zachłanni na dane, a zwłaszcza ja jestem super zachłanny.
Case study: Retail Fashion
Jeśli chodzi o to, co można zrobić z nagraniami, to jest coś, o czym też bardzo lubię rozmawiać, bo z tych nagrań można wyciągnąć bardzo dużo rzeczy. Powiedziałem, że Eleven Labs i wiele tych narzędzi do voicebotów ma swoją analitykę danych i to prawda, i to jest super, ale to znowu nie dla każdego. To znaczy, może dla każdego to jest dostępne i w cenie, natomiast są rozwiązania albo potrzeby klientów na tyle specyficzne, że musimy troszkę jeszcze pokombinować z tymi nagraniami. I chciałem wam opowiedzieć o branży Retail Fashion, bardzo dużej organizacji, która działa na wielu rynkach, która rozmawiała w kilkunastu językach ze swoimi klientami, sprzedając coś z branży retail fashion, tak to nazwijmy.
Losowali tylko 1% nagrań, i to polskich nagrań, ponieważ też w Polsce działają, i manualnie odsłuchiwano, a następnie wypełniano pokrętne, macierzowe Excele dla każdej rozmowy z ankietą oceny jakości rozmowy. I to było straszne, bo nawet to nie był jeden Excel, gdzie jeden wiersz to jedna rozmowa, więc nie dało się nawet zobaczyć całego obrazka tych polskich rozmów, tego 1%, który został przesłuchany. Zaproponowaliśmy rozwiązanie, że przesłuchamy wszystkie nagrania. Znaczy oczywiście nie my, tylko nasi agenci to zrobią. Następnie dokonamy transkrypcji każdego, a później przetłumaczymy na język polski, żeby ułatwić ocenę jakości w polskim Headquarters i zaprzęgniemy AI do tego, żeby wygenerowało za nas kartę oceny jakości danej rozmowy. Zrobiliśmy to i był to ogromny sukces.
A chcę wam powiedzieć, że to była końcówka 2023 roku, z tego co pamiętam. Więc dla sprawnych oczu tutaj jeszcze można zobaczyć w prawym dolnym rogu – jeszcze w ogóle nawet Gemini nie było, tylko był Text Bison, model z rodziny PaLM 2 w Google, więc to są naprawdę zamierzchłe czasy. Oczywiście z biegiem czasu ta architektura tego rozwiązania, której postaram się nie opisywać, zmieniła się, ponieważ rynek zaproponował nam dużo mądrzejszych LLMów właściwie za darmo. To znaczy, nic nie robiąc, zwiększyliśmy również skuteczność swojego rozwiązania. Natomiast tutaj i tak uzyskaliśmy przewspaniałe wyniki w kontekście samej transkrypcji.
Zrobiliśmy to w siedmiu językach. To był polski, niemiecki, bułgarski, rumuński, litewski, łotewski, węgierski. I to nie są łatwe języki, to są niszowe języki, natomiast na tych rynkach działał nasz klient. Wówczas wykorzystywaliśmy Speech-to-Text od Google, który nazywał się Chirp v3 i udało nam się osiągnąć 98% skuteczności, łącznie z podziałem na aktorów – to znaczy na mówców, na dwóch mówców, którzy prowadzili tę rozmowę, mimo że te nagrania były nie zawsze najlepszej jakości. I to udało nam się osiągnąć, 98% skuteczności samej transkrypcji, co potwierdzali eksperci dziedzinowi.
Następnie zaimplementowaliśmy tłumaczenie, a później elektroniczną kartę oceny jakości i nasza efektywność osiągnęła do 87%, z czego to i tak jest zaniżony wynik ze względu na to, że klient w trakcie trwania naszych prac zmienił te karty oceny jakości, więc nasze algorytmy były, że tak powiem, może niedouczone – tak to nazwę kolokwialnie rzecz ujmując, więc 87%, wynik zaniżony.
A dlaczego potrafimy to obliczyć? Ponieważ mieliśmy mimo wszystko do dyspozycji pewnie kilka tysięcy nagrań i odsłuchów manualnych z kartą oceny jakości, więc wzięliśmy te same nagrania, wrzuciliśmy w nasz automat i zestawiliśmy to, jak ludzie oceniali, versus to, jak oceniała sztuczna inteligencja.
Co więcej, jestem w stanie zaryzykować stwierdzenie, że te 87% i tak było pewnie dużo bardziej skuteczne niż odsłuch ludzi, ponieważ AI nie ma złego dnia, AI nie ulega emocjom, AI nie ma uprzedzeń do różnych akcentów i tak dalej, więc świetna tutaj robota. Jak takie rozwiązania się później zazwyczaj przeradzają? Przeradzają się w asystentów treningowych do call center, czyli właśnie mogą podpowiadać też na bieżąco. To rozwiązanie skończyło się na tym, że było w czasie prawie rzeczywistym, czyli po zakończeniu rozmowy, mniej więcej dwie minuty później, były widoczne już wyniki danej rozmowy, co też bardzo pomagało w biznesie.
Można było również analizować biznes w trakcie trwania dnia, to znaczy kategorie rozmowy. Na przykład jeśli w Rumunii wszystkie zgłoszenia dotyczą tego, że kurier nie dowozi, no to może warto się zainteresować, skontaktować z firmą kurierską, o co chodzi. Albo na przykład, że dany model ubrania posiada ten sam defekt i wszyscy to zgłaszają, więc dużo szybciej można reagować też i pomagać swojemu biznesowi po prostu być lepszym, silniejszym.
Możliwości platformy Eleven Labs
Zaraz przechodzimy sobie do demo, jak zrobić swojego voicebota w pięć minut i myślę, że tyle to mniej więcej zajmie. Natomiast przeprowadzę was też trochę przez funkcjonalności tego, co może dzisiaj Eleven Labs zrobić, a z drugiej strony opowiem o tym, jak wygląda panel i co się w nim klika, ale to już chwilkę później.
Czyli zastosowanie technologii Labs – można zastosować ją zarówno do tej kreatywnej części, czyli podkłady głosowe, audiobooki, artykuły, podcasty. Ja sam z tego korzystam, bo czasami sobie napiszę jakąś prelekcję ciekawą, a potem sam chcę jej sobie posłuchać i zobaczyć, jak na przykład sztuczna inteligencja zaproponowała mi, żebym głosił swoją dobrą nowinę do was. Dubbing również tutaj jest w tym creative, podsumowywanie artykułów, muzyka, tworzenie tak samo. No i agenci. O agentach dzisiaj właśnie trochę więcej mówimy. Na tej kreatywnej części się już nie będę skupiał, natomiast warto zerknąć – fajne, ciekawe, można sobie głos sklonować. To tutaj oczywiście ta logika agentowa, o której przez całe nasze spotkanie do was rozmawiam.
Trzy filary strategii, które Eleven Labs wyróżnia: ultra niska latencja, czyli czas oczekiwania na odpowiedź, na reakcję naszego voicebota. To jest też konfigurowalne w zależności od stu tysięcy czynników i parametrów, które możemy sobie zmienić, począwszy od tego, jakiego LLM-a wybierzemy. Konfigurowalność, czyli wybieramy języki, wybieramy głos, wybieramy sobie narzędzia, którymi się będziemy integrować na przykład z systemami. No i bezpieczeństwo. O bezpieczeństwie jest bardzo dużo, no bo dane powinny być przetwarzane w odpowiednich miejscach i spełniać najbardziej rygorystyczne wymogi Unii Europejskiej i krajów, w których implementuje się te voiceboty. Co więcej, tego nie ma na slajdach, ale wam powiem, że w razie czego to można też bardzo precyzyjnie i lokalnie wydać rozwiązanie Eleven Labs w waszym Google Cloud, ponieważ tam też jest zawiązane bardzo ważne partnerstwo strategiczne.
I to, co Eleven Labs sam jeszcze od strony biznesowej potrafi – oprócz tego, że bardzo szybko gada, jest inteligentny emocjonalnie, to znaczy potrafi wychwycić różne niuanse w głosie czy płacz, reaguje na przerwanie wypowiedzi, ma naturalne głosy i to już nie wiem, kilkanaście tysięcy ich do wyboru. Natomiast to wszystko trzeba spiąć. Pod spodem jest LLM, z drugiej strony osobowość.
I teraz trzeba zrobić, żeby ten mózg z tą osobowością sobie tak złączyć, i tutaj jest nasza rola. FOTC jest takim układem nerwowym, czyli łączymy te dwie rzeczy. To my jesteśmy doświadczeni w tych rzeczach i wdrażamy rozwiązania inkrementalnie. Bardzo rzadko się zdarza, że w pierwszej iteracji te rozwiązania są doskonałe, dlatego trzeba stale je poprawiać.
Bezpieczeństwo jako ostatni slajd. Tutaj mamy fajne znaczki: HIPAA, SOC 2, ISO, GDPR i tak dalej. Oczywiście nie żartuję z security, to jest bardzo poważny temat. Bezpieczeństwo i zgodność compliance’owa jest tutaj na pierwszym miejscu i warto o to zadbać. Na szczęście Eleven nam pomaga zadbać i dba by design o te rzeczy.
Panel Eleven Labs i konfiguracja (39:30 demo)
Słuchajcie, to co, przejdziemy sobie do panelu Eleven Labs. Ja wam tutaj pokażę, jak to wygląda. Mniej więcej wygląda to tak: mamy sobie taki panel domowy i możemy zrobić kilka rzeczy. Tutaj jestem w takim panelu właśnie w Eleven Labs agents, w którym mogę zacząć budować swoich agentów. Ja już ich tutaj kilkoro mam, natomiast możemy sobie zbudować jednego nowego i zobaczymy, jak to wyjdzie za pierwszym uderzeniem. Natomiast zanim jeszcze przejdziemy do budowania, mamy rzeczy, które możemy sobie skonfigurować wcześniej, które będziemy udostępniać wszystkim naszym agentom w danym środowisku. Jestem w środowisku demowym, w którym przeprowadzę dema na żywo. Ciekawe, czy mi dzisiaj wyjdzie, bo to różnie z tym bywa, ale ja się tym w ogóle nie stresuję. Jestem bardzo świadomy tej technologii i totalnie jej ufam.
Knowledge base, czyli bazy wiedzy, które możemy zrobić – możemy ją wrzucić ze strony internetowej, z plików, ustawić jakąś synchronizację folderów i przygotować po prostu kawał materiału do tego, żeby nasze voiceboty mogły się posługiwać cały czas tą wiedzą. Na przykład dla HR-u, o czym już wam mówiłem, czyli procedury związane z urlopami, z zakupami na firmę, z rozliczeniem wyjazdów, zamówieniem hotelu. To wszystko tu może być. Potem można zadzwonić albo pisać do takiego bota i wiedzieć wszystko.
Narzędzia są bardzo różne. Można tutaj sobie podejrzeć, z czym się możemy integrować, nawet z Calendly czy jakimiś innymi Salesforce’ami. Czyli mając w tym stosie tutaj już kilkadziesiąt integracji dostępnych by design, możemy pozwolić botom już umawiać nas na spotkanie. Czyli ktoś tam dzwoni i mówi: „Hej, pomóż mi tam się umówić na spotkanie”, bot sprawdza kalendarz, załóżmy Mańka, czyli mój jest dostępny wtedy, wtedy i wtedy, wybierz sobie termin. Wybieram ten termin – pach, a ja mam w kalendarzu i klient ma w kalendarzu. Fajnie to działa. Jest dużo innych takich bardzo customowych rzeczy, jak odpytywanie się przez proste zapytania do różnych systemów, co jest super fajne. Są bezpośrednie integracje do najbardziej popularnych systemów, z którymi klienci najczęściej współpracują, jak Freshdesk czy Jira Service Desk, i bardzo ułatwione są tam takie integracje. No i głosy, którymi można sobie zarządzać, jest ich trochę.
Voicebot testowy ElevenLabs: Zacznijmy od prostego pytania: jakbyś mi to…
Mariusz Zyśk: Słyszeliście to, prawda? Chciałbym, żebyście słyszeli to, co moja przeglądarka też mówi. Tak lub nie? Kciuk w dół, kciuk w dół. Dawajcie, ktoś pisze, a ja czytam. Tak? No i wspaniale. Tych głosów jest bardzo dużo.
I tu są oczywiście testy, konwersacje. Można to zdeplojować. Właśnie, à propos deploymentu – ja wam dzisiaj oczyw…