Algorytmy i sztuczna inteligencja w PZP — czyli tanie urzędnicze loty w kosmos

W erze cyfryzacji administracja publiczna nieustannie poszukuje nowych rozwiązań, chcąc sprostać oczekiwaniom społeczeństwa i rozwojowi technologii, zmuszona jest niejako do permanentnego usprawnienia swoich działań i dostosowania do nowej rzeczywistości. Jednym z kluczowych trendów jest rosnące wykorzystanie narzędzi informatycznych, takich jak zaawansowane systemy e-administracji (np. e-obywatel, ePUAP, system ZUS PUE, czy wchodzący w życie z dniem 10.12.2023 r. system e-doręczeń w administracji publicznej). To zaangażowanie w technologię jest widoczne w wielu aspektach działania administracji, od usług cyfrowych po zarządzanie danymi.

W ramach tej ewolucji pojawiają się dyskusje dotyczące potencjalnego wykorzystania takich rozwiązań jak smart contracts, szczególnie w kontekście dopełnienia elektronizacji prawa zamówień publicznych. Inne obszary zainteresowania obejmują implementację technologii blockchain oraz algorytmów do oceny ryzyka zakupowego przez jednostki sektora publicznego.

Wprowadzenie tych innowacji niesie za sobą obietnicę znaczącej optymalizacji i transparentności, pełniejszej realizacji zasady - best value for money - ale jednocześnie rodzi pytania dotyczące bezpieczeństwa, prywatności i etycznych aspektów wykorzystania sztucznej inteligencji w administracji. W poniższym artykule przyjrzymy się wybranym kierunkom rozwoju administracji publicznej, w tym dynamicznie rozwijającym się środowisku, i środkom ostrożności, które powinny być podejmowane w ramach zawieranych umów.

AI w PZP

Wdrażanie nowoczesnych technologii w obszarze zamówień publicznych wykracza poza samą ich elektronizację. Chociaż ten aspekt unijnej reformy z 2014 roku był znaczący, nie stanowił rewolucji, zwłaszcza w porównaniu z praktykami w sektorze prywatnym. Elektronizacja jest jedynie narzędziem usprawniającym procesy transakcyjne dla zamawiających i wykonawców, mającym również pozytywny wpływ na cały system. Jednak to tylko początek głębszych zmian. Przed sektorem zamówień publicznych stoi era innowacji technologicznych, w tym Big Data, IoT, uczenia maszynowego, sztucznej inteligencji i blockchainu. Świadomość i regulacja tych technologii są kluczowe dla dalszego rozwoju systemu zamówień publicznych w nowej erze technologicznej.

Należy w tym miejscu zauważyć, że rozwój technologii wymusza stworzenie rozwiązań systemowych, prawnych w celu weryfikacji i zabezpieczenia prawidłowości funkcjonowania administracji publicznej. Część powstających, starających się sprostać wyzwaniu, aktów prawodawczych miała charakter wybitnie postulatywny i nie przekładała się wprost na pragmatyczne, możliwe do sformułowania, rozwiązania - choćby - umowne. Formę taką przybierała chociażby rezolucja Parlamentu Europejskiego z dnia 3 maja 2022 r. w sprawie sztucznej inteligencji w epoce cyfrowej (2020/2266(INI)) z dnia 3 maja 2022 r. w pkt. 131 wskazuje, że “[...] istnieje potrzeba ustanowienia opartych na ryzyku ram prawnych dla AI, obejmujących w szczególności wysokie normy etyczne oparte na przejrzystości, weryfikowalności i rozliczalności w powiązaniu z przepisami dotyczącymi bezpieczeństwa produktów, odpowiednimi zasadami dotyczącymi odpowiedzialności i przepisami sektorowymi, z jednoczesnym zapewnieniem przedsiębiorstwom i użytkownikom wystarczającej elastyczności, pewności prawa i równych warunków działania, aby wspierać wprowadzanie AWI i związanych z nią innowacji.”

Podobny charakter zresztą posiadała uchwała Nr 196 Rady Ministrów w sprawie ustanowienia „Polityki dla rozwoju sztucznej inteligencji w Polsce od roku 2020” (M.P. z 2021 r. poz. 23).

Wśród zawartych w nich celów krótkoterminowych na 2023 r. określono m.in., iż:

1) w ramach sektora publicznego nastąpi koordynowanie wszystkich prac i działań związanych z rozwojem polskiego ekosystemu AI,

2) dojdzie do wypracowanie reguł przejrzystości, audytowania i odpowiedzialności za wykorzystanie algorytmów przez administrację publiczną poprzez:

a) wprowadzenie obowiązkowej samooceny ex-ante, określającej problem, rozkład odpowiedzialności za działanie systemu, potencjalne błędy (w tym algorytmiczną stronniczość) oraz podejmowane środki zaradcze;

b) wypracowanie modelowego wyjaśnienia decyzji podejmowanej przy wsparciu AI oraz możliwości odwołania od takich decyzji, w szczególności jeśli mają one bezpośredni wpływ na prawa i wolności obywatelskie.

Takiego charakteru nie będą jednak miały przygotowywane przepisy Aktu w sprawie sztucznej inteligencji. Podjętym przez UE pracom nad Rozporządzeniem Parlamentu Europejskiego i Rady ustanawiającym zharmonizowane przepisy dotyczące sztucznej inteligencji (Akt w sprawie sztucznej inteligencji) zmieniającym niektóre akty ustawodawcze Unii przyświecają następujące cele szczegółowe:

• zapewnienie, aby systemy sztucznej inteligencji wprowadzane do obrotu w Unii i znajdujące się w użyciu były bezpieczne i zgodne z obowiązującym prawem w obszarze praw podstawowych oraz z unijnymi wartościami;

• zapewnienie pewności prawa na potrzeby ułatwienia inwestycji i innowacji w dziedzinie sztucznej inteligencji;

• poprawa zarządzania i skuteczne egzekwowanie obowiązujących przepisów dotyczących praw podstawowych i wymogów bezpieczeństwa mających zastosowanie do systemów sztucznej inteligencji;

• ułatwienie rozwoju jednolitego rynku zgodnych z prawem, bezpiecznych i wiarygodnych zastosowań sztucznej inteligencji oraz zapobieganie fragmentacji rynku.

W swoich założeniach Akt ma prezentować wyważone i proporcjonalne horyzontalne podejście regulacyjne do sztucznej inteligencji, które to podejście ma ograniczać się do minimalnych wymogów niezbędnych do zaradzenia ryzyku i problemom związanym ze sztuczną inteligencją bez nadmiernego ograniczania lub utrudniania rozwoju technologicznego lub powodowania w inny sposób nieproporcjonalnego zwiększenia kosztów wprowadzania do obrotu rozwiązań AI (https://eur-lex.europa.eu/legal-content/PL/TXT/?uri=COM%3A2021%3A0206%3AFIN).

Aktualny przebieg prac legislacyjnych można śledzić TUTAJ.

Algorytmy sztucznej inteligencji nie wydają jeszcze krajowych decyzji administracyjnych. Niemniej jednak nie oznacza to, że administracja publiczna nie korzysta z mniej zaawansowanych rozwiązań cyfrowych do analizy danych jak np. automatyczne systemy decyzyjne, które już teraz mają kluczowy wpływ na pewne obszary władztwa publicznego w szczególności w ramach realizacji uprawnień administracji skarbowej.

Nadto widać przygotowania i prace nad rozwojem zaawansowanych systemów analizy w obszarze zamówień publicznych, a więc na styku finansów publicznych i biznesu.

Nie będzie bowiem wielce odkrywczym stwierdzeniem, że korzystanie z zaawansowanych algorytmów i automatycznych systemów decyzyjnych jest na obecnym etapie funkcjonowania zamawiających i wykonawców pewnym standardem. Taki sam los zapewne spotka sztuczną inteligencję i to bez względu na charakter i rangę kreowanych w tym zakresie postulatów normatywnych i poziom (nie) przygotowania administracji publicznej.

Wpływ algorytmów sztucznej inteligencji na zamówienia może być tym bardziej istotny, że systemy będą umożliwiały optymalizację i obiektywizację analizy danych o dużo większym zakresie i dokładności niż obecna analityka urzędnicza przeprowadzana przez ludzi. Zamówienia publiczne to umowy, na mocy których dostarczony zostać ma określony substrat (roboty budowlane, usługę, produkt). Zarówno zatem zapotrzebowanie Zamawiającego jak i dobór metodologii pracy, skład zespołu, dostaw, czy technologii może zostać poddany analizie, której skutkiem będzie wynik zawierający optymalne parametry przedmiotu umowy i najkorzystniejszy sposób jego realizacji (np. pod względem ceny, czy innych parametrów krytycznych dla danego zamówienia).

Pozostawienie dowolności wykonawcy w zakresie sposobu wykonania świadczenia może stanowić jedną z form realizacji zasad efektywności zamówień publicznego, jako celu końcowego. Zgodnie z zasadami wyrażonymi w art. 17 ust. 1 Pzp Zamawiający udziela zamówienia w sposób zapewniający:

1) najlepszą jakość dostaw, usług, oraz robót budowlanych, uzasadnioną charakterem zamówienia, w ramach środków, które zamawiający może przeznaczyć na jego realizację, oraz

2) uzyskanie najlepszych efektów zamówienia, w tym efektów społecznych, środowiskowych oraz gospodarczych, o ile którykolwiek z tych efektów jest możliwy do uzyskania w danym zamówieniu, w stosunku do poniesionych nakładów.

Uzyskanie możliwie najlepszych efektów wiąże się zatem z koniecznością wręcz wykorzystania analizy danych a wraz z postępem również algorytmów sztucznej inteligencji.

Powyższe nie wyklucza zatem wykorzystania przez wykonawców algorytmów przy procesie pozyskiwania zamówienia, jak i w toku jego realizacji (dalej: „AWI”). W myśl zasady "co nie jest prawem zabronione, jest dozwolone", jeżeli nie postanowiono inaczej w umowie, brak będzie podstaw do kwestionowania wytworzonych przez lub przy udziale np. słabej sztucznej inteligencji AWI spełniających wymagania umowne, zamówionych raportów, opracowań, projektów architektonicznych, aktów planistycznych, studiów wykonalności, projektów uchwał, decyzji administracyjnych, systemów operacyjnych, programów komputerowych do obsługi administracji, czy systemów ochrony baz danych.

Wykorzystanie AWI w zamówieniach związane jest przy tym z przynajmniej dwoma obszarami ryzyk. W pierwszej kolejności wskazać należy na kwestie zapewnienia ochrony konkurencyjności ofert wykonawców i zabezpieczenia ich tajemnicy handlowej. Drugi aspekt dotyczy zaś w ten sposób wytworzonych przedmiotów umowy. Nie sprowadza się jednak do często podnoszonej kwestii praw autorskich, ich przeniesienia czy udzielenia licencji. Interes zamawiającego oraz wykonawcy w umowach nie odnosi się jedynie do sfery prawa własności, ale obejmuje także np. odpowiedzialność za produkt, ryzyka związane z jego wprowadzeniem do systemu, czy gwarancję prawidłowości użytkowania i prawidłowości wyników (rozumianą jako pewien standard ochrony praw człowieka i respektowania zasad państwa prawa). Także wcześniej przyjmowane, istniejące rozwiązania, w zakresie granic ochrony tego interesu mogą okazać się niewystarczające.

Przykładowo zastosowanie zabezpieczenia integralności informacji, zapewnienia ciągłości funkcjonowania baz poprzez zapewnienie zamawiającemu szerokiego dostępu, nie tylko do funkcjonalności produktów, ale także do przekazania licencji do kodów źródłowych (por. wyrok KIO z 7.06.2017 r., KIO 1043/17, LEX nr 232368), jeśli w przypadku standardowych programów może zapewniać określone gwarancje, to w przypadku procesów opartych na AI byłaby ona niewystarczająca.

Umowy o udzielenie zamówień publicznych już teraz nie powinny obchodzić się z obojętnością wobec konieczności dostosowania ich zapisów wobec zdobyczy nowych technologii. Fakt wykorzystania AWI przez wykonawców nie wyklucza możliwości realizacji zamówień publicznych przy ich zastosowaniu. Zjawisko to jest pożądane także w zakresie zamówień publicznych – obok bowiem tego – że zadaniem administracji publicznej powinno być wyznaczanie standardów wdrożeń rozwiązań AWI, w szczególności zapewniających poszanowanie etyki AWI, ochronę praw człowieka i podnoszenie jakości oferowanych usług publicznych, to w ramach polityki zakupowej – w ramach zamówień publicznych – zamawiający nie powinni prowadzić do wykluczenia rozwiązań, które odpowiadają postulowanym np. w ramach AIA regulacjom, a jednocześnie pozwalają dokonywać zakupów oraz realizować umowy w sposób efektywny.

Skorzystanie z już dostępnych i znanych rozwiązań prawnych, pozwalających na testowanie dostarczanych próbek przez wykonawców, sprawdzanie ich źródeł, określenie sposobów odbioru produktów i stawianych im wymagań – przy uwzględnieniu możliwości nowych technologii jest koniecznością. Zamawiający kreując postępowanie powinien bowiem za każdym razem przewidywać i zadawać sobie pytanie o granice ich wykorzystania w konkretnym zamówieniu, ale też z perspektywy postępującej cyfryzacji i algorytmizacji. W innym przypadku, kierując się nieprzemyślanymi kryteriami (np. jedynie ceną) realizacja umowy może w rzeczywistości przypominać podróż w nieznane, która niekoniecznie zrealizuje wszystkie zamierzone cele, a może doprowadzić do poważnych utrudnień w korzystaniu z przedmiotu po ukończeniu umowy, czy naruszeń praworządności w szerszej perspektywie gwarancji państwa prawa.