KE wystosowała formalne wnioski o informacje do twórców najbardziej zaawansowanych modeli sztucznej inteligencji, tak aby zweryfikować ich bezpieczeństwo oraz przestrzeganie praw autorskich — poinformowała wiceszefowa KE Henna Virkkunen w wywiadzie dla European Newsroom, do którego należy PAP.
Virkkunen podkreśliła, że unijny Akt o sztucznej inteligencji (AI Act) ma zapobiec wprowadzaniu na rynek nieprzetestowanych, niebezpiecznych systemów w realiach ostrej globalnej konkurencji.
- Widzimy wyraźnie, że konkurencja jest obecnie tak twarda na świecie, iż istnieje ryzyko wprowadzania przez firmy na rynek produktów, których nie przetestowano wystarczająco. Widzieliśmy też kilka incydentów, w których (...) dostawcy usług i deweloperzy AI nie byli w stanie kontrolować własnych usług. I oczywiście są to bardzo poważne incydenty — ostrzegła wiceszefowa KE.
Poinformowała, że KE w ramach egzekwowania AI Act skierowała już do firm pytania.
- Wysyłaliśmy wnioski o informacje do firm posiadających najbardziej zaawansowane modele. Jedna grupa skupiała się na bezpieczeństwie i była skierowana do około 10 firm z najbardziej rozwiniętymi modelami, a druga obejmująca około 20 firm dotyczyła praw autorskich i tego, jakich danych użyto do trenowania modeli — wyjaśniła Virkkunen.
Potwierdziła, że pytania trafiły m.in. do amerykańskich gigantów OpenAI i Anthropic, a także do firm z Chin.
Virkkunen zwróciła uwagę na trudność w ocenie nowoczesnych algorytmów. - Te modele stały się tak zaawansowane, że ich ocena jest coraz trudniejsza. Potrzebny jest więc bardzo wysoki poziom jakości, talentu i wiedzy eksperckiej oraz wystarczająco dużo czasu. Dlatego wysyłając wnioski o informacje, przekazaliśmy firmom również wytyczne, jak taka zewnętrzna ewaluacja powinna zostać przeprowadzona — zaznaczyła.
Komisarz odniosła się też do obaw dotyczących wyścigu technologicznego USA z Chinami oraz kwestii ograniczania rozwoju AI w tych krajach.
- Jestem przekonana, że wszystkie kraje, które nie chcą uregulować kwestii AI, bardzo szybko do tego wrócą, ponieważ bez wyznaczenia ram ochronnych istnieje ryzyko bardzo poważnych incydentów. W przyszłości wyzwaniem mogą być ryzyka związane z bronią biologiczną czy dostępem zaawansowanych modeli w ręce terrorystów. Obecnie ryzyka skupiają się głównie wokół cyberbezpieczeństwa — oceniła.
Wiceprzewodnicząca KE podkreśliła konieczność budowy niezależności technologicznej Europy i wspierania rodzimych rozwiązań.
- Najważniejszą rzeczą jest przyspieszenie procesu tworzenia naszych własnych europejskich modeli bazowych, abyśmy nie byli zależni od modeli chińskich i amerykańskich. Bardzo ważne jest posiadanie własnych zdolności oraz systemów AI opartych na naszych wartościach — podsumowała Virkkunen.
Akt o sztucznej inteligencji (ang. AI Act) to unijne rozporządzenie stanowiące pierwsze na świecie ramy prawne regulujące rozwój, wdrażanie i wykorzystywanie sztucznej inteligencji. Przepisy opierają się na podejściu opartym na analizie ryzyka, dzieląc systemy AI na kategorie: od tych stwarzających zagrożenie, aż po rozwiązania o niskim ryzyku. Regulacja nakłada na twórców i dostawców technologii obowiązki związane z zarządzaniem ryzykiem, prawami autorskimi, oceną bezpieczeństwa oraz przejrzystością danych użytych do ich trenowania.
Polska Agencja Prasowa jest członkiem European Newsroom.
Z Brukseli Łukasz Osiński (PAP)
luo/ kj/
