AI w firmie jest często wykorzystywana, zanim przedsiębiorca formalnie określi zasady korzystania z takich narzędzi. Pracownicy i współpracownicy samodzielnie sięgają po ChatGPT, Copilot, Gemini oraz inne aplikacje, aby przygotowywać teksty, oferty, analizy, odpowiedzi dla klientów lub projekty dokumentów.
Podstawowe ramy prawne dotyczące wykorzystywania sztucznej inteligencji wyznacza rozporządzenie Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. w sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji, określane jako AI Act. Rozporządzenie nie nakłada jednak takich samych obowiązków na każdą firmę korzystającą z AI. Ich zakres zależy między innymi od roli przedsiębiorcy, przeznaczenia systemu oraz sposobu, w jaki narzędzie jest wykorzystywane.
Dlatego wdrożenie AI w firmie nie powinno ograniczać się do wyboru odpowiedniej aplikacji. Przedsiębiorca powinien wiedzieć, z jakich narzędzi korzystają pracownicy, jakie informacje są do nich wprowadzane, do jakich celów wykorzystywane są otrzymywane wyniki oraz czy podlegają one odpowiedniej kontroli przed użyciem lub publikacją.
W artykule wyjaśniamy, jakie obowiązki mogą wynikać z AI Act, kiedy potrzebne są szkolenia pracowników, polityka AI lub rejestr narzędzi oraz jak ograniczyć ryzyka związane z ochroną danych osobowych, informacji poufnych i wykorzystywaniem wyników generowanych przez systemy AI.
AI w firmie – od czego powinien zacząć przedsiębiorca?
Pierwszym krokiem nie powinno być automatyczne przygotowanie rozbudowanej polityki AI. Najpierw trzeba ustalić, w jaki sposób sztuczna inteligencja jest rzeczywiście wykorzystywana w organizacji.
Przegląd powinien objąć używane narzędzia, osoby i działy korzystające z AI, cele wykorzystania oraz rodzaje wprowadzanych informacji. Szczególnego sprawdzenia wymagają zastosowania, w których wyniki systemu wpływają na klientów, pracowników, kandydatów do pracy lub inne osoby.
Trzeba również ustalić, czy poszczególne aplikacje zostały zatwierdzone przez firmę. W wielu organizacjach występuje tzw. shadow AI, czyli korzystanie z narzędzi bez wiedzy zarządu, działu IT lub osoby odpowiedzialnej za compliance. Pracownik może na przykład założyć prywatne konto w publicznym chatbocie i wprowadzać do niego dokumenty firmowe, nie sprawdzając warunków korzystania z usługi.
Dopiero na podstawie takiej inwentaryzacji można ocenić ryzyka prawne i zdecydować, czy potrzebna jest krótka instrukcja, pełniejsza polityka AI, rejestr aplikacji lub dodatkowe zabezpieczenia techniczne.
Więcej o tym, od kiedy obowiązuje AI Act, kogo dotyczą przepisy i jakie mają znaczenie dla firm, można przeczytać w artykule: AI Act – od kiedy obowiązuje i jakie znaczenie ma dla przedsiębiorców?
AI w firmie – od czego zależą obowiązki przedsiębiorcy?
Zakres obowiązków zależy od roli przedsiębiorcy wobec konkretnego systemu AI, jego przeznaczenia i sposobu wykorzystania. Trzeba przy tym odróżnić trzy kwestie: korzystanie z systemu jako podmiot stosujący, występowanie w roli dostawcy oraz używanie systemu AI wysokiego ryzyka.
Kiedy firma jest podmiotem stosującym system AI?
Podmiotem stosującym jest przedsiębiorca, który wykorzystuje system AI pozostający pod jego kontrolą w ramach działalności zawodowej. W praktyce będzie to najczęściej firma korzystająca z gotowego narzędzia dostarczanego przez inny podmiot, takiego jak ChatGPT, Copilot lub Gemini, na potrzeby własnych procesów biznesowych.
Przedsiębiorca może występować w tej roli niezależnie od tego, czy narzędzie zostało zakupione przez firmę, udostępnione pracownikom w ramach firmowej licencji czy jest używane za pośrednictwem bezpłatnego konta. Istotne jest to, że system jest wykorzystywany w działalności zawodowej, a firma decyduje o jego zastosowaniu, użytkownikach oraz sposobie wykorzystania otrzymanych wyników.
Przykładem podmiotu stosującego będzie firma, której pracownicy wykorzystują AI do przygotowywania projektów wiadomości, analizowania dokumentów, tworzenia treści marketingowych, obsługi klientów lub wspierania innych procesów wewnętrznych. Przedsiębiorca nie opracowuje wówczas samego systemu, lecz korzysta z rozwiązania udostępnionego przez jego dostawcę.
Samo używanie gotowego narzędzia nie powoduje, że przedsiębiorca staje się jego dostawcą. Firma pozostaje podmiotem stosującym, jeżeli korzysta z systemu stworzonego i udostępnionego przez inny podmiot oraz nie podejmuje działań, które prowadziłyby do przypisania jej innej roli na gruncie AI Act.
Kiedy przedsiębiorca jest dostawcą systemu AI?
Dostawcą jest podmiot, który rozwija system AI lub model AI ogólnego przeznaczenia albo zleca jego rozwój, a następnie pod własną nazwą lub własnym znakiem towarowym wprowadza go do obrotu lub oddaje do użytku. Nie ma znaczenia, czy system jest udostępniany odpłatnie, czy bezpłatnie.
W praktyce dostawcą może być przedsiębiorca, który tworzy własne rozwiązanie AI i oferuje je klientom, ale także firma, która zleca opracowanie systemu zewnętrznemu wykonawcy, a następnie udostępnia go pod własną marką. Samodzielne wykonanie wszystkich prac technicznych nie jest więc konieczne. Znaczenie ma to, kto występuje wobec użytkowników jako podmiot odpowiedzialny za wprowadzenie systemu do obrotu lub oddanie go do użytku.
Firma nie staje się jednak dostawcą wyłącznie dlatego, że jej pracownicy korzystają z gotowego narzędzia AI. Utworzenie konta firmowego, wykupienie licencji, wybór standardowych ustawień, dodanie narzędzia do wewnętrznego procesu lub nadanie projektowi roboczej nazwy nie spełniają same w sobie definicji dostawcy.
Przykładowo przedsiębiorca korzystający z ChatGPT do przygotowywania treści pozostaje podmiotem stosującym. Inaczej może wyglądać sytuacja firmy, która zleca stworzenie własnego chatbota, udostępnia go klientom pod swoją marką i przedstawia jako własny system. W takim przypadku konieczna jest ocena, czy przedsiębiorca występuje już w roli dostawcy w rozumieniu AI Act.
System AI wysokiego ryzyka – jakie obowiązki ma przedsiębiorca?
Odrębnej oceny wymaga ustalenie, czy konkretne narzędzie i sposób jego zastosowania pozwalają zakwalifikować je jako system AI wysokiego ryzyka. Do tej kategorii mogą należeć między innymi niektóre systemy wykorzystywane w rekrutacji, ocenie pracowników i zarządzaniu personelem. Nie każde narzędzie używane przez dział kadr jest jednak automatycznie systemem wysokiego ryzyka – decydują jego przeznaczenie i rzeczywiste funkcje.
Podmiot stosujący system AI wysokiego ryzyka podlega dodatkowym obowiązkom określonym w art. 26 AI Act. Dotyczą one między innymi korzystania z systemu zgodnie z instrukcją dostawcy, zapewnienia odpowiedniego nadzoru człowieka oraz monitorowania jego działania.
W odniesieniu do systemów AI wysokiego ryzyka znaczenie ma również art. 25 AI Act, który określa sytuacje, w jakich podmiot stosujący, importer, dystrybutor lub inna osoba trzecia przejmuje obowiązki dostawcy takiego systemu. Następuje to, jeżeli podmiot ten:
- umieszcza własną nazwę lub znak towarowy na systemie AI wysokiego ryzyka, który został już wprowadzony do obrotu lub oddany do użytku;
- dokonuje istotnej zmiany takiego systemu, a po jej wprowadzeniu system nadal pozostaje systemem AI wysokiego ryzyka;
- zmienia przeznaczenie systemu, który wcześniej nie był systemem AI wysokiego ryzyka, w taki sposób, że wskutek nowego zastosowania uzyskuje on taki status.
Każda z tych przesłanek jest samodzielna. Standardowa konfiguracja narzędzia lub jego włączenie do procesu firmowego nie powodują automatycznie przejęcia obowiązków dostawcy. Ocena może być jednak odmienna, jeżeli ingerencja stanowi istotną zmianę systemu albo prowadzi do zmiany jego przeznaczenia w rozumieniu AI Act.
Dodatkowe informacje o zakresie AI Act, zasadach klasyfikacji systemów AI wysokiego ryzyka oraz obowiązkach dostawców i podmiotów stosujących Komisja Europejska przedstawia w materiale Navigating the AI Act.
Kompetencje pracowników w zakresie AI – czy szkolenie jest obowiązkowe?
Dostawcy i podmioty stosujące systemy AI mają obowiązek podejmować działania wspierające rozwój kompetencji w zakresie AI wśród swojego personelu oraz innych osób, które w ich imieniu zajmują się działaniem lub wykorzystywaniem takich systemów. Obowiązek nie dotyczy zatem automatycznie wszystkich pracowników, lecz osób faktycznie korzystających z AI albo uczestniczących w jego obsłudze.
AI Act nie wymaga przeprowadzenia jednego, jednakowego szkolenia dla całej organizacji. Rodzaj podejmowanych działań powinien uwzględniać:
- wiedzę techniczną, doświadczenie, wykształcenie i dotychczasowe przygotowanie użytkowników;
- sposób oraz cel wykorzystywania systemu AI;
- ryzyka związane z konkretnym zastosowaniem;
- osoby lub grupy osób, na które mogą wpływać wyniki systemu.
Przepisy nie wymagają również, aby przedsiębiorca zagwarantował każdemu pracownikowi osiągnięcie konkretnego poziomu wiedzy ani uzyskanie formalnego certyfikatu. Obowiązek dotyczy podjęcia odpowiednich działań wspierających rozwój kompetencji, a nie osiągnięcia przez wszystkie osoby identycznego rezultatu.
Jak może wyglądać szkolenie pracowników z AI?
Zakres działań powinien być dostosowany do sposobu wykorzystywania AI w firmie. W prostszych przypadkach wystarczające mogą być instrukcja, materiały informacyjne i omówienie podstawowych zasad. Jeżeli system jest używany w procesach związanych z rekrutacją, oceną pracowników, obsługą klientów, analizą poufnych dokumentów lub podejmowaniem istotnych decyzji, potrzebne może być bardziej szczegółowe szkolenie dostosowane do konkretnej funkcji.
Podejmowane działania mogą obejmować w szczególności:
- wyjaśnienie możliwości i ograniczeń używanych narzędzi;
- zasady ochrony danych osobowych i informacji poufnych;
- ryzyko uzyskania nieprawdziwych, niepełnych lub dyskryminujących wyników;
- obowiązek merytorycznej weryfikacji rezultatów AI;
- zasady nadzoru człowieka i odpowiedzialności za wykorzystanie wyniku;
- sposób zgłaszania błędów, naruszeń i innych incydentów.
Nie jest to zamknięty katalog wynikający wprost z art. 4 AI Act, lecz przykładowy sposób realizacji obowiązku odpowiednio do rodzaju narzędzia i jego zastosowania. Komisja Europejska publikuje przykłady działań podejmowanych przez organizacje, obejmujące między innymi szkolenia stacjonarne, kursy internetowe, warsztaty i programy dostosowane do różnych grup pracowników. Samo zastosowanie jednego z takich rozwiązań nie tworzy jednak automatycznego domniemania zgodności z AI Act.
Czy działania dotyczące kompetencji w zakresie AI trzeba dokumentować?
Art. 4 AI Act nie wskazuje obowiązkowej formy dokumentacji ani nie nakazuje prowadzenia odrębnego rejestru szkoleń z AI. Z perspektywy dowodowej zasadne jest jednak zachowanie informacji pozwalających wykazać, jakie działania podjęto, kogo nimi objęto oraz w jaki sposób dostosowano ich zakres do używanych systemów.
Pomocne mogą być programy szkoleń, listy uczestników, materiały instruktażowe, potwierdzenia zapoznania się z zasadami oraz informacje o okresowych aktualizacjach wiedzy. Dokumentacja powinna odzwierciedlać rzeczywiście przeprowadzone działania, a nie ograniczać się do formalnego potwierdzenia odbycia szkolenia.
Polityka AI w firmie – czy jest obowiązkowa?
AI Act nie ustanawia ogólnego obowiązku przyjęcia przez każdą firmę odrębnego dokumentu regulującego zasady korzystania z AI. Nie oznacza to jednak, że korzystanie ze sztucznej inteligencji nie wymaga żadnych zasad wewnętrznych. Zakres obowiązków zależy od roli przedsiębiorcy, rodzaju wykorzystywanego systemu i sposobu jego zastosowania.
Przykładowo dostawcy systemów AI wysokiego ryzyka muszą posiadać system zarządzania jakością udokumentowany w formie pisemnych polityk, procedur i instrukcji. Podmioty stosujące takie systemy są natomiast zobowiązane do wdrożenia odpowiednich środków technicznych i organizacyjnych. Przepisy te nie ustanawiają jednak powszechnego obowiązku posiadania jednego dokumentu określanego jako polityka AI.
W przypadku większości przedsiębiorców polityka AI będzie zatem rekomendowanym narzędziem organizacyjnym, a nie obowiązkowym dokumentem wynikającym wprost z AI Act. Pozwala przełożyć wymagania prawne, zasady bezpieczeństwa oraz przyjęty w firmie poziom ryzyka na konkretne reguły postępowania pracowników i współpracowników.
Co powinna określać polityka AI w firmie?
Zakres dokumentu powinien być dostosowany do rzeczywistego sposobu wykorzystywania AI. Polityka może regulować w szczególności:
- dozwolone zastosowania – do jakich zadań pracownicy mogą wykorzystywać AI;
- zastosowania zakazane – w jakich procesach używanie AI jest niedopuszczalne bez dodatkowej zgody;
- zatwierdzone narzędzia – z jakich aplikacji i wersji można korzystać w celach służbowych;
- ochronę informacji – jakich danych osobowych, dokumentów i informacji poufnych nie wolno wprowadzać do narzędzi;
- kontrolę rezultatów – kto i w jakim zakresie odpowiada za merytoryczną weryfikację wyników;
- zasady publikowania treści – kiedy materiał przygotowany z pomocą AI wymaga dodatkowej akceptacji lub oznaczenia;
- korzystanie z kont – czy dopuszczalne jest używanie prywatnych kont i bezpłatnych wersji aplikacji;
- zgłaszanie nieprawidłowości – w jaki sposób pracownik powinien zgłosić błąd, ujawnienie informacji lub inne zdarzenie związane z AI.
Polityka AI nie powinna być uniwersalnym wzorem oderwanym od działalności przedsiębiorcy. Innych zasad potrzebuje niewielka firma wykorzystująca AI jedynie do korekty językowej, a innych organizacja stosująca systemy do rekrutacji, obsługi klientów lub wspierania decyzji dotyczących konkretnych osób.
Samo przyjęcie dokumentu również nie zapewnia zgodności. Polityka powinna odpowiadać rzeczywistym procesom, być znana osobom korzystającym z AI oraz pozostawać spójna z zasadami ochrony danych osobowych, bezpieczeństwa informacji, poufności i korzystania z firmowych systemów.
Rejestr narzędzi AI w firmie – czy jest obowiązkowy?
AI Act nie nakłada na każdego przedsiębiorcę ogólnego obowiązku prowadzenia wewnętrznego rejestru wszystkich używanych narzędzi AI. Taki rejestr może jednak stanowić praktyczny element zarządzania ryzykiem, zwłaszcza gdy z różnych aplikacji korzysta kilka działów lub pracownicy przetwarzają za ich pomocą dane osobowe i informacje poufne.
Wewnętrznego rejestru narzędzi AI nie należy utożsamiać z przewidzianą w AI Act rejestracją określonych systemów w unijnej bazie danych. Obowiązki wynikające z art. 49 AI Act dotyczą wskazanych w tym przepisie systemów AI wysokiego ryzyka oraz określonych kategorii dostawców i podmiotów stosujących. Nie tworzą one powszechnego obowiązku zgłaszania każdego firmowego zastosowania ChatGPT, Copilota, Gemini lub podobnych aplikacji.
Rejestr wewnętrzny a rejestracja w bazie UE
Wewnętrzny rejestr narzędzi AI jest co do zasady dobrowolnym rozwiązaniem organizacyjnym. Rejestracja w bazie UE jest natomiast obowiązkiem ustawowym dotyczącym wyłącznie przypadków określonych w AI Act.
Jakie informacje warto uwzględnić w rejestrze narzędzi AI?
Zakres rejestru powinien odpowiadać sposobowi wykorzystywania AI w firmie. Może on obejmować w szczególności:
- nazwę narzędzia i jego dostawcę;
- dział lub osoby korzystające z aplikacji;
- cel i sposób jej wykorzystywania;
- kategorie wprowadzanych danych i dokumentów;
- informację, czy narzędzie przetwarza dane osobowe lub informacje poufne;
- podstawowe warunki licencji i zasady dalszego wykorzystywania danych przez dostawcę;
- osobę odpowiedzialną za dane narzędzie;
- wynik przeprowadzonej oceny ryzyka;
- datę zatwierdzenia oraz termin ponownego przeglądu.
Rejestr nie powinien ograniczać się do listy nazw aplikacji. Jego podstawową funkcją jest umożliwienie przedsiębiorcy ustalenia, kto, w jakim celu i na jakich zasadach korzysta z AI.
Jak zatwierdzać nowe narzędzia AI w firmie?
Rejestr można połączyć z prostą procedurą zgłaszania nowych aplikacji. Pracownik przed rozpoczęciem służbowego korzystania z narzędzia przekazuje podstawowe informacje o jego funkcjach, celu użycia i rodzaju danych, które mają być w nim przetwarzane.
W zależności od zastosowania ocena może obejmować:
- zgodność z wymaganiami prawnymi i zasadami wewnętrznymi;
- ochronę danych osobowych i informacji poufnych;
- bezpieczeństwo techniczne oraz sposób zarządzania dostępami;
- warunki umowne i licencyjne dostawcy;
- konieczny zakres kontroli człowieka nad wynikami;
- ryzyko wpływu systemu na klientów, pracowników lub inne osoby.
W procesie mogą uczestniczyć osoby odpowiedzialne za prawo, ochronę danych, IT, bezpieczeństwo informacji lub compliance. W mniejszej organizacji nie muszą to być odrębne działy, ważne jest przypisanie odpowiedzialności i określenie, które zastosowania wymagają wcześniejszej zgody.
Procedura nie powinna nadmiernie utrudniać korzystania z prostych narzędzi. Powinna jednak ograniczać ryzyko instalowania niesprawdzonych aplikacji, używania prywatnych kont do celów służbowych oraz przekazywania danych firmowych dostawcom, których warunki świadczenia usług nie zostały wcześniej zweryfikowane.
RODO a AI – jakich danych nie należy wprowadzać do narzędzi?
Zgodność z AI Act nie zastępuje obowiązków wynikających z RODO. Jeżeli korzystanie z systemu AI wiąże się z przetwarzaniem danych osobowych, przedsiębiorca musi zapewnić zgodność całego procesu z przepisami o ochronie danych.
Pracownicy nie powinni samodzielnie wprowadzać danych osobowych do publicznych narzędzi AI. Dotyczy to w szczególności danych klientów, pracowników i kandydatów do pracy, treści korespondencji, umów, reklamacji, akt osobowych, dokumentacji medycznej oraz innych materiałów pozwalających na zidentyfikowanie konkretnej osoby.
Sama możliwość technicznego przesłania dokumentu do aplikacji nie oznacza, że jego wykorzystanie jest zgodne z prawem. Przedsiębiorca powinien wcześniej ustalić, czy przetwarzanie danych jest rzeczywiście niezbędne, na jakiej podstawie prawnej ma się odbywać oraz w jaki sposób informacje będą wykorzystywane, przechowywane i zabezpieczane przez dostawcę narzędzia.
Dane wymagające szczególnej ochrony
Do narzędzi AI nie należy wprowadzać w szczególności:
- danych klientów, pracowników i kandydatów do pracy;
- treści wiadomości e-mail oraz innej korespondencji;
- umów, reklamacji, akt osobowych i dokumentacji medycznej;
- danych finansowych oraz informacji o sytuacji rodzinnej lub zawodowej;
- informacji dotyczących zdrowia, poglądów politycznych, przekonań religijnych, przynależności związkowej;
- numerów identyfikacyjnych oraz innych informacji pozwalających na rozpoznanie konkretnej osoby
Anonimizacja a pseudonimizacja danych
Samo usunięcie imienia i nazwiska nie oznacza, że dane zostały skutecznie zanonimizowane. Jeżeli osobę można nadal rozpoznać na podstawie treści dokumentu, numeru sprawy, stanowiska, adresu, historii zdarzeń lub innych informacji, materiał pozostaje zbiorem danych osobowych.
Dane pseudonimizowane również podlegają RODO, ponieważ możliwe jest ponowne powiązanie ich z konkretną osobą przy użyciu dodatkowych informacji. Dopiero skutecznie zanonimizowane informacje, których nie można przypisać do osoby fizycznej za pomocą rozsądnie dostępnych środków, przestają być danymi osobowymi. Ocena anonimowości powinna być przeprowadzana indywidualnie, z uwzględnieniem możliwości identyfikacji osoby lub wydobycia jej danych z modelu.
W praktyce ochrona danych a AI wymaga więc nie tylko sprawdzenia samego narzędzia, ale również określenia, jakie dane pracownicy mogą do niego wprowadzać, w jakich celach i pod jakimi warunkami.
Tajemnica przedsiębiorstwa a AI – jak chronić poufne informacje?
Do narzędzi AI nie należy wprowadzać poufnych informacji firmowych bez uprzedniego sprawdzenia, w jaki sposób dostawca będzie je przetwarzał, przechowywał i dalej wykorzystywał. Dotyczy to w szczególności niepublikowanych umów, danych finansowych, informacji o klientach i kontrahentach, kodu źródłowego, dokumentacji technicznej, strategii biznesowych oraz planów marketingowych.
Nie każda informacja poufna stanowi jednak tajemnicę przedsiębiorstwa w rozumieniu prawa. Taki status mogą uzyskać informacje mające wartość gospodarczą, które nie są powszechnie znane ani łatwo dostępne dla osób zwykle zajmujących się danym rodzajem informacji, pod warunkiem że uprawniony podjął z należytą starannością działania w celu utrzymania ich w poufności.
Niekontrolowane przekazywanie poufnych materiałów do zewnętrznych narzędzi AI może utrudnić wykazanie, że przedsiębiorca rzeczywiście chronił informacje przed ujawnieniem.
Wprowadzenie dokumentu do narzędzia AI może oznaczać przekazanie jego treści zewnętrznemu usługodawcy. W zależności od warunków korzystania z usługi informacje mogą być przechowywane przez określony czas, dostępne dla dalszych podmiotów lub wykorzystywane do rozwijania usługi. Takie działanie może naruszać umowę o poufności, zobowiązania wobec klienta albo wewnętrzne zasady bezpieczeństwa. Bezprawne ujawnienie lub wykorzystanie cudzych informacji stanowiących tajemnicę przedsiębiorstwa może być czynem nieuczciwej konkurencji.
Jak ograniczyć ryzyko ujawnienia poufnych informacji?
Zasady korzystania z AI w firmie mogą przewidywać w szczególności:
- zakaz wprowadzania określonych kategorii dokumentów i informacji do publicznych narzędzi;
- korzystanie wyłącznie z aplikacji zatwierdzonych przez firmę;
- usuwanie lub ograniczanie informacji, które nie są niezbędne do wykonania zadania;
- weryfikację regulaminu, ustawień prywatności, czasu przechowywania danych i zasad ich wykorzystywania przez dostawcę;
- stosowanie odpowiednich umów, ograniczeń dostępu i zabezpieczeń technicznych;
- zakaz używania prywatnych kont do pracy z informacjami firmowymi;
- obowiązek zgłaszania przypadków omyłkowego przekazania danych do niezatwierdzonego narzędzia.
Samo korzystanie z płatnej lub biznesowej wersji aplikacji nie gwarantuje ochrony poufności. Przedsiębiorca powinien sprawdzić konkretne warunki usługi, dostępne ustawienia oraz rzeczywisty sposób przetwarzania informacji. Zabezpieczenia powinny być dostosowane do wartości i charakteru danych oraz do ryzyka związanego z ich ujawnieniem.
Kontrola człowieka nad wynikami AI – kto odpowiada za rezultat?
Wyniku wygenerowanego przez AI nie należy automatycznie uznawać za prawdziwy, kompletny, zgodny z prawem ani gotowy do wykorzystania. Narzędzie może podawać nieistniejące fakty i źródła, popełniać błędy w obliczeniach, pomijać istotny kontekst lub generować treści naruszające prawa innych osób.
AI Act nie ustanawia ogólnego obowiązku sprawdzania każdego wyniku wygenerowanego przez każdy system AI. Szczególny obowiązek zapewnienia nadzoru człowieka dotyczy systemów AI wysokiego ryzyka. Systemy te muszą być zaprojektowane w sposób umożliwiający skuteczny nadzór, a podmiot stosujący powinien powierzyć jego sprawowanie osobom posiadającym odpowiednie kompetencje, przeszkolenie, uprawnienia i wsparcie.
W przypadku pozostałych narzędzi kontrola wyników stanowi przede wszystkim praktyczny środek ograniczania ryzyka. Jej zakres powinien zależeć od celu wykorzystania AI oraz możliwych skutków błędu.
Na czym powinna polegać weryfikacja wyniku AI?
Kontrola nie powinna ograniczać się do poprawienia stylu, języka lub interpunkcji. Osoba odpowiedzialna za wykorzystanie rezultatu powinna – odpowiednio do rodzaju zadania – sprawdzić:
- prawdziwość informacji i istnienie powołanych źródeł;
- poprawność obliczeń, danych i wniosków;
- zgodność treści z prawem oraz zasadami obowiązującymi w firmie;
- ryzyko naruszenia praw autorskich, dóbr osobistych lub zakazu dyskryminacji;
- adekwatność wyniku do konkretnego przypadku;
- czy rezultat nie zawiera danych lub informacji, które nie powinny zostać ujawnione.
Poziom kontroli powinien rosnąć wraz z ryzykiem związanym z wykorzystaniem wyniku. Innego sprawdzenia wymaga robocza propozycja hasła reklamowego, a innego odpowiedź na reklamację, ocena kandydata do pracy lub rekomendacja wpływająca na prawa i obowiązki konkretnej osoby.
Nadzór człowieka nie może być pozorny
Osoba weryfikująca wynik powinna mieć rzeczywistą możliwość zakwestionowania rekomendacji systemu, poprawienia jej, odrzucenia albo wstrzymania dalszego wykorzystania narzędzia. W przypadku systemów AI wysokiego ryzyka nadzór powinien również ograniczać ryzyko bezkrytycznego polegania na rezultacie tylko dlatego, że został wygenerowany przez system. AI Act określa to ryzyko jako skłonność do automatycznego polegania na wynikach systemu, czyli tzw. automation bias.
Wewnętrzne zasady korzystania z AI powinny zatem wskazywać, kto odpowiada za sprawdzenie wyniku, jaki zakres weryfikacji jest wymagany oraz w jakich przypadkach rezultat AI nie może stanowić samodzielnej podstawy działania lub decyzji. Ostateczna odpowiedzialność za wykorzystanie treści lub rekomendacji w działalności firmy nie przechodzi na narzędzie AI.
AI w rekrutacji i zarządzaniu pracownikami – jakie obowiązki ma pracodawca?
Wykorzystanie AI w firmie do rekrutacji, oceny pracowników lub podejmowania decyzji kadrowych wymaga szczególnej ostrożności. System może wpływać na dostęp do zatrudnienia, warunki pracy, awans, przydział obowiązków, ocenę efektywności lub zakończenie współpracy, a więc na sytuację zawodową i źródło utrzymania konkretnej osoby.
Kiedy system AI stosowany w HR jest systemem wysokiego ryzyka?
Zgodnie z załącznikiem III do AI Act do systemów AI wysokiego ryzyka zalicza się przede wszystkim rozwiązania przeznaczone do:
- umieszczania ukierunkowanych ogłoszeń o pracę;
- analizowania i filtrowania aplikacji;
- oceny kandydatów;
- podejmowania decyzji wpływających na warunki zatrudnienia;
- podejmowania decyzji o awansie lub zakończeniu stosunku pracy;
- przydzielania zadań na podstawie indywidualnego zachowania, cech osobowości lub charakteru;
- monitorowania lub oceny wydajności i zachowania pracowników oraz innych osób pozostających w stosunkach związanych z wykonywaniem pracy.
Nie oznacza to, że każda aplikacja używana przez dział HR jest automatycznie systemem wysokiego ryzyka. System wymieniony w załączniku III może nie uzyskać takiego statusu, jeżeli nie stwarza znaczącego ryzyka dla zdrowia, bezpieczeństwa lub praw podstawowych, w szczególności dlatego, że nie wpływa istotnie na wynik decyzji. AI Act wskazuje w tym zakresie między innymi systemy wykonujące wąskie zadania proceduralne, zadania przygotowawcze lub wspierające wcześniej zakończoną czynność człowieka. Wyjątek ten nie ma jednak zastosowania, jeżeli system profiluje osoby fizyczne.
O kwalifikacji nie decyduje więc sama nazwa narzędzia ani fakt, że korzysta z niego dział kadr. Trzeba ustalić jego przeznaczenie, wykonywane funkcje oraz rzeczywisty wpływ wyników na proces rekrutacyjny lub decyzję dotyczącą pracownika.
Procedura reagowania na incydenty AI – co powinna obejmować?
AI Act nie nakłada na każdego przedsiębiorcę ogólnego obowiązku przyjęcia odrębnej procedury reagowania na incydenty związane z AI. Taka procedura może jednak stanowić istotny element zarządzania ryzykiem, zwłaszcza gdy pracownicy korzystają z wielu narzędzi, przetwarzają za ich pomocą dane osobowe lub informacje poufne albo wykorzystują wyniki AI w procesach dotyczących klientów i pracowników.
Co może być incydentem związanym z AI?
Na potrzeby wewnętrzne za incydent można uznać każde zdarzenie, które może prowadzić do naruszenia prawa, ujawnienia informacji lub wyrządzenia szkody. Przykładem może być:
- wprowadzenie poufnego dokumentu do niezatwierdzonego narzędzia;
- ujawnienie danych osobowych;
- przesłanie klientowi błędnej informacji wygenerowanej przez AI;
- opublikowanie materiału naruszającego prawa osoby trzeciej;
- wykorzystanie dyskryminującego wyniku w rekrutacji;
- nieprawidłowe działanie chatbota lub innego systemu.
Tak rozumianego incydentu wewnętrznego nie należy utożsamiać z „poważnym incydentem” zdefiniowanym w AI Act. To pojęcie ustawowe obejmuje zdarzenia prowadzące między innymi do śmierci lub poważnego uszczerbku na zdrowiu, poważnego naruszenia obowiązków służących ochronie praw podstawowych, poważnej szkody na mieniu lub dla środowiska albo poważnego i nieodwracalnego zakłócenia infrastruktury krytycznej. Zwykły błąd w treści wygenerowanej przez AI nie będzie więc automatycznie poważnym incydentem w rozumieniu AI Act.
Jak powinna przebiegać reakcja na incydent?
Procedura powinna wskazywać przede wszystkim:
- sposób zgłoszenia zdarzenia – pracownik powinien wiedzieć, komu i w jakim trybie przekazać informację;
- działania zabezpieczające – w zależności od sytuacji może być konieczne wstrzymanie korzystania z narzędzia, zablokowanie dostępu lub wycofanie błędnej treści;
- zabezpieczenie dowodów – należy zachować polecenia, odpowiedzi systemu, dokumenty, ustawienia, rejestry zdarzeń i korespondencję z dostawcą;
- ocenę skutków – trzeba ustalić, jakie osoby, dane i procesy zostały objęte zdarzeniem;
- kwalifikację prawną – incydent może wymagać analizy na gruncie AI Act, RODO, prawa pracy, cyberbezpieczeństwa, praw autorskich, umów lub zasad ochrony poufności;
- działania naprawcze – mogą one obejmować usunięcie danych, poprawienie informacji, zawiadomienie właściwych podmiotów, zmianę ustawień lub dodatkowe szkolenie personelu;
- udokumentowanie sprawy – zapis przebiegu incydentu ułatwia wykazanie podjętych działań oraz zapobiega powtórzeniu podobnego zdarzenia.
W ocenę powinny zostać zaangażowane osoby odpowiedzialne za obszary związane ze zdarzeniem, w szczególności IT, bezpieczeństwo informacji, ochronę danych osobowych, compliance oraz obsługę prawną.
Audyt AI w firmie – na czym powinien polegać?
Audyt AI powinien przede wszystkim pokazać, z jakich narzędzi korzysta firma, do czego są wykorzystywane i jakie ryzyka się z tym wiążą. W praktyce obejmuje on:
- inwentaryzację narzędzi AI i ich zastosowań;
- ustalenie roli przedsiębiorcy na gruncie AI Act;
- ocenę poziomu ryzyka;
- analizę przetwarzania danych osobowych i informacji poufnych;
- weryfikację regulaminów i umów z dostawcami;
- sprawdzenie zasad kontroli wyników AI;
- ocenę kompetencji pracowników;
- wskazanie brakujących zabezpieczeń i działań naprawczych.
Celem audytu nie jest tworzenie dokumentów „na wszelki wypadek”, lecz rozpoznanie rzeczywistych zagrożeń i dobranie rozwiązań odpowiednich do sposobu wykorzystywania AI w firmie.
Jakie procedury dotyczące AI warto wdrożyć?
Zakres potrzebnych zasad powinien wynikać z audytu. W zależności od skali działalności i poziomu ryzyka firma może wdrożyć politykę korzystania z AI, instrukcję dla pracowników, rejestr zatwierdzonych narzędzi, procedurę zgłaszania nowych aplikacji, zasady ochrony informacji, kontroli wyników i reagowania na incydenty oraz program szkoleń.
Dokumentacja powinna być proporcjonalna. Mała firma wykorzystująca AI wyłącznie do korekty tekstów nie potrzebuje takich samych rozwiązań jak organizacja stosująca systemy w rekrutacji, profilowaniu klientów lub podejmowaniu decyzji dotyczących konkretnych
AI w firmie – podsumowanie
Korzystanie z AI w firmie powinno zostać najpierw rozpoznane, a następnie uporządkowane. Przedsiębiorca powinien wiedzieć, z jakich narzędzi korzystają pracownicy i współpracownicy, jakie informacje są do nich wprowadzane oraz w jaki sposób weryfikowane są otrzymywane wyniki.
Nie każda firma podlega takim samym obowiązkom. Polityka AI, rejestr narzędzi czy procedura zatwierdzania nowych aplikacji nie są dokumentami wymaganymi automatycznie od każdego przedsiębiorcy. Zakres wdrażanych rozwiązań powinien odpowiadać skali działalności, sposobowi wykorzystywania AI oraz związanemu z tym poziomowi ryzyka.
Samo przyjęcie polityki lub instrukcji nie wystarczy, jeżeli osoby korzystające z AI nie znają jej zasad albo nie stosują ich w praktyce. Kluczowe znaczenie mają kompetencje personelu, ochrona danych osobowych i informacji poufnych oraz rzeczywista, merytoryczna kontrola wyników generowanych przez systemy AI.
Wsparcie prawne przy wdrażaniu AI w firmie
Kancelaria Prawna Krysztoforski wspiera przedsiębiorców w przeprowadzaniu audytów wykorzystywania AI, ocenie ryzyk prawnych oraz przygotowywaniu polityk, procedur i dokumentacji dopasowanej do działalności konkretnej firmy. Doradztwo w tym zakresie może stanowić element szerszej obsługi prawnej firm, obejmującej również umowy i dokumenty gospodarcze, prawo nowych technologii, ochronę danych osobowych oraz prawo pracy.
Zapraszamy do kontaktu, jeżeli chcą Państwo uporządkować zasady korzystania z AI w firmie, przeprowadzić audyt wykorzystywanych narzędzi lub przygotować dokumentację dopasowaną do rzeczywistych procesów i poziomu ryzyka w organizacji.