Do listopada 2027 r. Ministerstwo Cyfryzacji opublikuje listę systemów AI używanych przez administrację publiczną, po konsultacji z organizacjami społecznymi na temat zakresu takiego rejestru - przekazał PAP wiceminister cyfryzacji Dariusz Standerski. Jest to postulat organizacji Watchdog Polska.
Watchdog chce większej przejrzystości
„Obywatel powinien wiedzieć, czy sztuczna inteligencja uczestniczyła w przygotowaniu dokumentu, pisma, rekomendacji, analizy albo decyzji dotyczącej jego sprawy” - oceniła Sieć Obywatelska Watchdog Polska w komentarzu do raportu, który dotyczy korzystania przez administrację publiczną z narzędzi AI.
Każde użycie AI ma być ujawniane
Organizacja wskazała w nim, że pracownicy sektora publicznego zaczynają korzystać z AI, ale „przejrzystość tych działań jest nierówna, reaktywna i zbyt często zależy od dociekliwości obywateli lub organizacji społecznych”. Watchdog zarekomendował w raporcie m.in. utworzenie publicznego rejestru zastosowań AI w administracji publicznej.
- Jeżeli chodzi o raport Watchdoga, do mnie informacja w tej sprawie dotarła po raz pierwszy podczas posiedzenia komisji senackiej rozpatrującej ustawę o system sztucznej inteligencji (miało to miejsce 23 czerwca br. – PAP). Poprosiliśmy organizację o konkretne postulaty i czekamy na propozycje - poinformował PAP wiceminister cyfryzacji Dariusz Standerski, pytany o tę sprawę.
- Znam postulat opublikowania listy systemów, z których korzysta administracja publiczna. Jestem jak najbardziej za i chcę, w konsultacjach z Watchdogiem oraz innymi organizacjami społecznymi, wspólnie określić, co będzie publikowane na tej liście. Czy tylko nazwy systemów używanych w administracji, czy też publikować, jakie wersje lub w jakim w jakim zakresie dany podmiot publiczny korzysta z narzędzi AI i do czego. Uważam, że na pewno opublikujemy taką listę przed końcem kadencji - poinformował ponadto Standerski.
Organizacja Watchdog przekazało PAP pismo z 2 lipca br., skierowane do senackiej komisji infrastruktury ws. postulatów związanych z ustawą o systemach sztucznej inteligencji. W dokumencie znajduje się adnotacja, że został on również skierowany do wiadomości wiceministra Standerskiego.
W piśmie Watchdog wystosował trzy postulaty. Zdaniem organizacji, publiczny rejestr zastosowań sztucznej inteligencji w administracji publicznej powinien odnotowywać każdą sytuację, w której system AI „analizuje dane, porządkuje informacje, rekomenduje rozwiązania, dokonuje preselekcji, nadaje priorytety, ocenia ryzyko albo w inny sposób wpływa na tok postępowania prowadzącego do decyzji”.
Organizacja postuluje ponadto, by każdy dokument zawierający decyzję administracji publicznej albo będący wynikiem procesu, w którym brała udział sztuczna inteligencja, został „wyraźnie i stosownie oznaczony”. Zdaniem sieci, zastosowanie wyłącznie logo czy formuły „wspierane przez AI”, byłoby niewystarczające.
„Dokument powinien zawierać czytelną, łatwo dostrzegalną i konkretną referencję do odpowiedniego wpisu lub odpowiednich wpisów w publicznym rejestrze zastosowań sztucznej inteligencji” - zaapelował Watchdog w piśmie.
Ponadto zdaniem organizacji, każde wykorzystanie sztucznej inteligencji w procesie lub procedurze prowadzącej do podjęcia decyzji w administracji publicznej, które nie zostało ujawnione w rejestrze, powinno być uznane za nielegalne. „Administracja publiczna nie powinna mieć możliwości korzystania z AI w sposób niejawny, nieudokumentowany lub niemożliwy do zweryfikowania przez obywateli, organizacje społeczne i organy nadzorcze” - ocenił Watchdog.
Zdaniem organizacji tylko łączne wdrożenie tych trzech mechanizmów może zapewnić realną transparentność wykorzystania sztucznej inteligencji w sektorze publicznym. „Samo oznaczanie dokumentów bez publicznego rejestru nie dawałoby obywatelom wystarczającej wiedzy o danym zastosowaniu AI. Z kolei oba te rozwiązania byłyby nieskuteczne, gdyby nie towarzyszyła im zasada, że nieujawnione wykorzystanie AI w procesach decyzyjnych administracji publicznej jest niedopuszczalne” - wskazała organizacja.
PLLuM podbija administrację publiczną
Podczas poniedziałkowego spotkania z dziennikarzami wiceminister Standerski poinformował, że z polskiego modelu sztucznej inteligencji PLLuM korzysta lub planuje korzystać coraz szersze grono podmiotów publicznych. Pełne wdrożenia PLLuM zrealizowały już m.in. samorządy w Gdyni, Międzyzdrojach i Poznaniu. Obecnie wirtualnego asystenta urzędnika, czyli narzędzie AI oparte na PLLuM, testują natomiast Kancelaria Prezesa Rady Ministrów, Kancelaria Senatu oraz Prokuratoria Generalna.
- Pójdziemy w kierunku informowania, że przed daną jednostkę, w danym procesie i w określonym zakresie bierze udział sztuczna inteligencja - zadeklarował wówczas Standerski, pytany przez PAP, czy na każdym dokumencie administracji publicznej znajdzie się informacja o tym, że urzędnik korzystał z AI. Przekazał również, że za każdą decyzję odpowiedzialny będzie zawsze urzędnik, który podpisał się pod danym pismem, a nie sztuczna inteligencja.
Standerski poinformował ponadto, że resort nie prowadzi listy wdrożeń PLLuM w administracji publicznej. Jak mówił, wynika to ze specyfiki dystrybucji modelu – PLLuM został bowiem udostępniony na otwartej licencji na platformie Hugging Face. Każdy urząd, samorząd czy firma może go pobrać i wdrożyć samodzielnie, bez konieczności zgłaszania tego faktu resortowi czy ubiegania się o zgodę. Informacje o pełnych wdrożeniach modelu w jednostkach publicznych, MC posiada więc wyłącznie z publicznych doniesień samych podmiotów lub z bezpośredniego kontaktu jednostek z resortem - powiedział Standerski.
Problemy z kontrolą i oceną ryzyka
W raporcie opublikowanym w maju br. Watchdog ocenił, że problemem w używaniu AI przez pracowników sektora publicznego, są: „brak przejrzystości, rozmywanie definicji AI oraz niemal całkowity brak wewnętrznych zasad korzystania z takich narzędzi przez pracowników”. Raport powstał na podstawie badania Watchdoga na ok. 4 tys. organizacji.
W raporcie opublikowanym 2 czerwca br. Watchdog wskazał, że administracja publiczna wykorzystuje AI przede wszystkim do analizy obrazu i monitoringu, w tym do rozpoznawania tablic rejestracyjnych, obiektów, osób czy sytuacji nietypowych. Drugie częste zastosowanie to automatyzacja kontaktu z obywatelami, czyli wykorzystanie chatbotów, voicebotów i wirtualnych asystentów. Trzeci popularny obszar to przetwarzanie tekstu, dokumentów i mowy z użyciem AI, czyli m.in. transkrypcja, analiza faktur, klasyfikacja dokumentów i wsparcie w pracy z informacjami prawnymi. W wielu przypadkach instytucje nie przeprowadziły kwalifikacji ryzyka systemów AI zgodnie z unijnym AI Actem - podał Watchdog. Część instytucji nie przeprowadziła też obowiązkowej oceny skutków dla ochrony danych, a większość nie posiadała oceny wpływu AI na prawa podstawowe obywateli. Zidentyfikowano też problemy z jasnym oznaczaniem użycia AI. Watchdog zwrócił przy tym uwagę, że niektóre podmioty korzystały z modeli ogólnego przeznaczenia, takie jak rozwiązania OpenAI i Microsoft. Raport powstał w oparciu o badanie na 28 instytucjach.
PLLuM to otwarty i darmowy model językowy stworzony przez konsorcjum polskich ośrodków naukowych oraz instytucji, na czele z NASK-PIB. Miał on swoją premierę pod koniec lutego 2025 r. na platformie Hugging Face. Obecnie model jest dostępny w 37 wariantach.
Ustawa o systemach sztucznej inteligencji, która wdraża w Polsce unijny AI Act, weszła w życie co do zasady 11 sierpnia br.
Monika Blandyna Lewkowicz (PAP)
mbl/ drag/
