Trudno dziś wskazać dziedzinę życia, w której algorytmy SI nie znajdują zastosowania: od optymalizacji produkcji i automatyzacji zadań, przez obsługę klienta i analizę dokumentów, po wspomaganie decyzji biznesowych. W wielu organizacjach narzędzia genSI są już używane na co dzień, często bez formalnych procedur i bez pełnej wiedzy kierownictwa.
Wraz z wejściem w życie AI Act sytuacja zaczyna się zmieniać. Nowe przepisy nie oznaczają zakazu korzystania ze sztucznej inteligencji, ale nakładają na organizacje obowiązek bardziej świadomego i odpowiedzialnego zarządzania tą technologią.
Zwykli użytkownicy odczują to pośrednio: treści generowane przez SI mają być oznaczane, a rozmawiając z chatbotem, mamy widzieć, że po drugiej stronie nie ma człowieka. Oznaczane mają być również określone treści wygenerowane lub zmodyfikowane przez sztuczną inteligencję.
Co warto zrobić już dziś?
Zacznij od prostego pytania: gdzie wykorzystujemy generatywną SI?
Dla wielu organizacji największym zaskoczeniem może być skala wykorzystania sztucznej inteligencji przez pracowników.
Chatboty służą do przygotowywania tekstów, generowania grafik do tworzenia materiałów promocyjnych, transkrypcji spotkań czy narzędzi analizujących dane. Często dzieje się to oddolnie i bez formalnego wdrożenia.
Pierwszym krokiem powinno być więc stworzenie listy wykorzystywanych narzędzi genSI oraz określenie, do jakich zadań są one używane. Warto również sprawdzić, jakie dane są do nich wprowadzane, kto ma do nich dostęp oraz czy wyniki ich działania pływają na decyzje dotyczące innych osób.
Oceń poziom ryzyka
Jednym z fundamentów AI Act jest podejście oparte na analizie ryzyka. Nie wszystkie systemy SI będą podlegają takim samym obowiązkom. Największe wymagania dotyczą systemów wysokiego ryzyka, które mogą wpływać na zdrowie, bezpieczeństwo, prawa obywateli lub dostęp do istotnych usług.
Dlatego warto odpowiedzieć sobie na kilka pytań:
- Czy system podejmuje lub wspiera decyzje dotyczące ludzi?
- Czy wykorzystuje dane osobowe?
- Czy jego działanie może wpływać na sytuację zawodową, finansową lub społeczną użytkowników?
- Czy ewentualny błąd systemu może wywołać istotne konsekwencje?
Im większy wpływ na człowieka, tym większa potrzeba kontroli.
Co z systemami wysokiego ryzyka? Termin został przesunięty
To jedna z najważniejszych informacji dla przedsiębiorców i instytucji korzystających ze sztucznej inteligencji. Systemy wysokiego ryzyka nie zostały objęte pełnym reżimem i w pełni będą stosowane od 2 grudnia 2027 r.
Przesunięcie terminów nie oznacza jednak, że organizacje mogą zrezygnować z przygotowań. Dodatkowy czas warto przeznaczyć na identyfikację wykorzystywanych systemów, ich prawidłową klasyfikację, analizę potencjalnych zagrożeń oraz uporządkowanie wewnętrznych zasad korzystania ze sztucznej inteligencji.
Sprawdź swoich dostawców
Dla wielu organizacji kluczowe będzie nie tworzenie własnych modeli SI, lecz korzystanie z gotowych rozwiązań dostarczanych przez zewnętrzne firmy.
Warto już teraz pytać dostawców o zgodność ich produktów z AI Act, sposób zarządzania danymi, zabezpieczenia oraz procedury dotyczące przejrzystości działania systemu.
Dla wielu producentów będzie to jeden z podstawowych elementów budowania przewagi konkurencyjnej na rynku europejskim.
Zadbaj o dane
Jakość danych staje się jednym z najważniejszych elementów odpowiedzialnego wykorzystania SI.
AI Act szczególną uwagę poświęca zarządzaniu danymi, jakości zbiorów treningowych, walidacyjnych i testowych oraz ograniczaniu ryzyka błędów i stronniczości systemów.
W praktyce oznacza to konieczność zadawania pytań nie tylko o to, co potrafi system, ale również o to, na jakich danych został zbudowany i jakie mogą być ograniczenia jego działania.
Organizacje powinny także określić, jakie informacje pracownicy mogą wprowadzać do publicznie dostępnych narzędzi SI. Szczególnej ochrony wymagają dane osobowe, informacje poufne, tajemnice przedsiębiorstwa, dokumenty wewnętrzne oraz dane objęte tajemnicą zawodową.Człowiek nadal pozostaje odpowiedzialny.
Jednym z najważniejszych założeń AI Act jest zachowanie nadzoru człowieka nad działaniem narzędzi wykorzystujących SI.
SI zawsze miała wspierać ludzi, a nie całkowicie ich zastępować w podejmowaniu decyzji mających znaczenie dla innych osób. Europejskie przepisy będą tę potrzebę formalizować zakładając, że technologia powinna pozostawać pod odpowiednią kontrolą człowieka.
Dlatego organizacje powinny już dziś określić, które decyzje i w jakim stopniu mają być wspierane przez SI.
Dokumentacja będzie równie ważna jak technologia
W przypadku bardziej zaawansowanych zastosowań sztucznej inteligencji znaczenia nabiera dokumentowanie sposobu działania systemu, procesów zarządzania ryzykiem oraz podejmowanych decyzji.
AI Act przewiduje wymagania dotyczące dokumentacji technicznej, monitorowania działania systemów oraz zarządzania ryzykiem.
Dobra dokumentacja może okazać się równie ważna jak sam algorytm czy model. Pozwala wykazać, że organizacja świadomie oceniła ryzyko, określiła odpowiedzialność i zastosowała właściwe zabezpieczenia.
Inwestuj w kompetencje
Nowe przepisy zwracają uwagę nie tylko na technologię, ale również na ludzi.
W AI Act pojawia się pojęcie kompetencji w zakresie sztucznej inteligencji. Chodzi o zapewnienie, aby osoby rozwijające, wdrażające lub wykorzystujące systemy SI rozumiały ich możliwości, ograniczenia oraz związane z nimi obowiązki.
W praktyce oznacza to konieczność szkoleń, budowania świadomości oraz tworzenia wewnętrznych zasad korzystania z narzędzi SI.
A co ze zwykłym użytkownikiem?
Choć AI Act został skierowany przede wszystkim do dostawców i organizacji wykorzystujących sztuczną inteligencję, nowe przepisy będą miały wpływ również na codziennych użytkowników.
Przede wszystkim coraz częściej będziemy wiedzieć, kiedy mamy do czynienia z systemem SI. Jednym z celów regulacji jest zwiększenie przejrzystości działania takich rozwiązań oraz ograniczenie ryzyka wprowadzania użytkowników w błąd.
Dla osób korzystających z chatbotów, generatorów obrazów czy narzędzi wspomagających naukę i pracę najważniejsze będzie jednak wyrobienie kilku prostych nawyków.
Nie traktuj genSI jak wyroczni
Generatywna sztuczna inteligencja potrafi popełniać błędy, zmyślać fakty i w przekonywujący sposób prezentować fałszywe informacje. Warto traktować ją jako pomocnika, a nie nieomylnego eksperta.Odpowiedź sformułowana poprawnym i profesjonalnym językiem nie musi być prawdziwa. Szczególną ostrożność należy zachować w przypadku informacji prawnych, medycznych, finansowych i technicznych.
Nie udostępniaj wszystkiego
Do publicznych narzędzi genSI nie należy wprowadzać poufnych danych, haseł, informacji objętych tajemnicą zawodową ani danych osobowych innych osób bez odpowiedniej podstawy prawnej.
Pamiętaj, że obraz i głos można dziś łatwo podrobić
Generatywna SI sprawia, że coraz trudniej odróżnić prawdziwe nagranie od materiału wygenerowanego komputerowo. Warto zachować ostrożność wobec sensacyjnych filmów, nagrań czy zdjęć publikowanych w mediach społecznościowych. Jeżeli materiał ma wywołać silną reakcję albo skłonić do natychmiastowego działania, należy sprawdzić jego pochodzenie w innych, wiarygodnych źródłach.
Rozwijaj kompetencje SI
AI Act podkreśla znaczenie kompetencji związanych ze sztuczną inteligencją. W praktyce oznacza to umiejętność świadomego korzystania z nowych narzędzi, rozumienia ich ograniczeń oraz krytycznej oceny generowanych treści.
Nie czekaj na ostatnią chwilę
Przesunięcie części obowiązków dotyczących systemów wysokiego ryzyka nie oznacza, że temat AI Act można odłożyć na później. GenSI już dziś jest obecna w codziennej pracy administracji publicznej, przedsiębiorstw, szkół, uczelni i instytucji badawczych.
W wielu organizacjach korzystanie z niej odbywa się spontanicznie, bez jasno określonych procedur, wyznaczonej odpowiedzialności i pełnej wiedzy o tym, jakie dane trafiają do poszczególnych narzędzi.
Najlepszym momentem na przygotowanie się do nowych wymagań jest okres przed pojawieniem się obowiązków prawnych i kontroli. Organizacje, które już teraz uporządkują sposób korzystania z SI, łatwiej dostosują się do nowych regulacji, ograniczą ryzyko oraz zwiększą zaufanie użytkowników do wykorzystywanych rozwiązań.
W przypadku zwykłych użytkowników przygotowanie oznacza przede wszystkim świadome korzystanie z nowych narzędzi. Tak jak kilkanaście lat temu nauczyliśmy się bezpiecznie korzystać z internetu, tak dziś uczymy się bezpiecznie korzystać z generatywnej sztucznej inteligencji.
AI Act nie wymaga rezygnacji z innowacji. Wymaga natomiast, aby rozwój i wykorzystanie sztucznej inteligencji odbywały się w sposób świadomy, przejrzysty i odpowiedzialny. Najlepszym momentem na rozpoczęcie przygotowań jest w właśnie teraz.