Drugi tydzień października pokazał, że rozwój technologii to już nie tylko poszerzanie ich możliwości. Równie ważne staje się zapewnienie, że będą działać niezawodnie i bezpiecznie – od agentów AI, przez sieci w centrach danych, po zabezpieczenia na poziomie pojedynczych układów. Wydarzenia tygodnia układają się w cztery wątki, uzupełnione o polskie przykłady.
1. Kto pilnuje agentów AI?
9 października zebrał się na nadzwyczajnym posiedzeniu panel naukowy 60 niezależnych ekspertów ds. AI, który zalecił, by obejmować nadzorem nie tylko duże modele SI dostępne publicznie, ale także te, które wykorzystywane są do wewnętrznych testów, na etapie ich rozwijania i badania. Posiedzenie, panelu, z udziałem wiceprzewodniczącej KE Henny Virkkunen, poświęcono incydentom utraty kontroli nad modelami AI. W dniu posiedzenia amerykańska firma Anthropic, twórca modeli językowych z rodziny Claude, opisała przypadki, w których modele podczas testów wykorzystywały luki w zewnętrznych serwisach, obchodziły ograniczenia dostępu i wysyłały prawdziwe formularze. Firma oceniła skutki tych samowolnych działań jako nieznaczące, ale odcięła dostęp do internetu we wszystkich testach wewnętrznych.
Wynikają z tego konkretne wnioski dla każdej organizacji, która chce korzystać z agentów SI, czyli programów samodzielnie wykonujących zadania na komputerze i w internecie. Ryzyko pojawia się nawet przy pozornie niewinnym zadaniu, jeśli agent sam dobiera narzędzia. Gdy izolacja środowiska testowego zawiedzie, agent nie może przejść do prawdziwego formularza, bazy danych czy systemu, na którym pracują ludzie. Samo polecenie zapisane w instrukcji dla modelu takiej izolacji nie zapewnia – musi ją gwarantować techniczna konstrukcja systemu. Ocena modelu powinna więc obejmować nie tylko jakość wyników, ale też działania, których miał nie podejmować.
Kontroli wymagają też mniej oczywiste zjawiska. Badania pokazują, że dostrajanie modelu, czyli jego dodatkowe douczanie do nowego zadania, może psuć umiejętności, które wcześniej działały dobrze, a stabilna średnia trafność potrafi to ukryć. Innymi słowy model może odpowiadać poprawnie na tyle samo pytań co przed zmianą, choć na część z nich, wcześniej poprawnych, odpowiada już źle, poprawiając się jednocześnie w innych. Dostosowując więc na przykład Bielika (polski otwarty model językowy rozwijany przez fundację SpeakLeash i ACK Cyfronet AGH) lub inny model do potrzeb konkretnej organizacji, trzeba sprawdzać, czy część dotąd poprawnych odpowiedzi nie stała się błędna – zwłaszcza w zastosowaniach, które były już zweryfikowane. Problem mogą też sprawić modele mowy, które słysząc wypowiedź łączącą dwa języki, gubiły od 32 do 79% dźwięków charakterystycznych tylko dla jednego z nich. Deklaracja „obsługuje język polski” nie wystarcza więc do oceny automatycznej infolinii: liczy się też to, jak radzi sobie ze zmianą języka w trakcie rozmowy, z nazwami własnymi i z wymową osób wielojęzycznych.
2. Komu wierzyć: głos, źródła, tożsamość
Miniony tydzień przyniósł też sygnały dotyczące problemu wiarygodności. ElevenLabs, założona przez Polaków firma specjalizująca się w generowaniu mowy przez AI, wprowadza wykrywanie syntetycznego głosu w rozmowach telefonicznych. Wystarczy kilka pierwszych sekund rozmowy, a system nie potrzebuje znaku wodnego, czyli ukrytego oznaczenia w nagraniu. Firma dołączyła też do prac nad Personal Agent Protocol – powstającym standardem, który ma określać, kogo reprezentuje agent AI i w jakim zakresie może działać. Wykrycie sztucznego głosu nie potwierdza jednak tożsamości rozmówcy. Trzeba bowiem pamiętać o osobach, które nie mogąc porozumiewać się głosem, korzystają z syntezatorów.
Na znaczenie źródeł zwraca uwagę również OpenAI, twórca ChatGPT, który opisał dwie operacje wpływu – zdaniem firmy zorganizowane przez rosyjskie i irańskie siły – wykorzystujące AI do budowania pozornie niezależnych źródeł: platformy badawczej i fikcyjnych dziennikarzy. Obu udało się umieścić materiały w rzeczywistych mediach, których wydawcy nie zorientowali się w pochodzeniu publikowanych informacji.
3. Infrastruktura AI: wciąż więcej wydatków
Według firmy analitycznej IDC wydatki na infrastrukturę centrów danych zgodną ze standardami Open Compute Project (OCP) sięgną w 2029 r. ok. 800 mld USD – 2,7 raza więcej, niż przewidywano rok wcześniej. OCP to zapoczątkowana w 2011 przez Facebook otwarta inicjatywa, w której najwięksi dostawcy sprzętu i chmury wspólnie opracowują specyfikacje techniczne dla centrów danych. W 2030 r. wydatki na infrastrukturę obliczeniową OCP mają sięgnąć 892 mld USD, z czego blisko 70% przypadnie na AI. Wzrost wydatków dotyczy nie tylko nakładów na serwery z procesorami GPU, ale też na sieci, zasilanie i chłodzenie. Odpowiedzią na rosnący ruch w klastrach AI, zespołach tysięcy połączonych serwerów, ma być nowy format wtykowych modułów optycznych USFP, zamieniających sygnał elektryczny na światło w łączach światłowodowych. Opracowały go NVIDIA, czołowy producent procesorów wykorzystywanych do sztucznej inteligencji i Cisco, jeden z największych dostawców sprzętu sieciowego. Nowe moduły mają przesyłać 400 Gb/s na linię i do 12,8 Tb/s na moduł, przy ok. 30% lepszej efektywności energetycznej niż obecne rozwiązania.
Wąskie gardło widać jednak na początku łańcucha dostaw. Holenderski ASML, praktycznie jedyny dostawca kluczowych maszyn litograficznych, którymi „naświetla się” wzory obwodów na płytkach krzemowych, miał rekordowy III kwartał: 11,7 mld euro przychodów i 5,0 mld euro zysku netto. Klienci chcą zamawiać maszyny już na lata 2029–2030, a zaplanowane moce na lata 2027–2028 mogą nie wystarczyć. Amerykański Applied Materials, czołowy producent urządzeń do wytwarzania półprzewodników, uruchamia z kolei w Dolinie Krzemowej centrum EPIC za 5 mld USD. Najwięksi producenci chipów i pamięci – m.in. TSMC, Intel, Samsung, Micron i SK hynix – mają w nim wspólnie z uczelniami skracać drogę od badań do produkcji.
4. Kwanty i bezpieczeństwo od najniższej warstwy
Amerykańska firma IonQ, która buduje komputery kwantowe oparte na pojedynczych jonach uwięzionych w polu elektromagnetycznym, połączyła taki kubit (kwantowy odpowiednik bitu) z pamięcią kwantową w krysztale za pomocą łącza optycznego. Osiągnęła ponad 1000 zdarzeń splątania – kwantowego powiązania stanów obu elementów – na sekundę. To ważny krok w stronę rozproszonych komputerów kwantowych, złożonych z wielu współpracujących modułów. Równolegle trwają przygotowania do momentu, w którym trzeba będzie stawić czoła zagrożeniom, jakie przyszłe komputery kwantowe mogą stwarzać dla dzisiejszej kryptografii. Amerykański Lattice Semiconductor, producent programowalnych układów logicznych (FPGA), zaprezentował pakiet Lattice Sentry 5.0. Łączy on kryptografię postkwantową, czyli algorytmy odporne na ataki z użyciem komputerów kwantowych, z ochroną oprogramowania układowego (firmware, który uruchamia sprzęt jeszcze przed systemem operacyjnym) i weryfikacją autentyczności urządzeń. W ten sposób zabezpieczenia schodzą do najniższych warstw infrastruktury.
Polska też ma swoje przykłady. Uniwersyteckie Centrum Kliniczne w Gdańsku rozpoczyna wdrażanie systemu AI do organizacji pracy sal operacyjnych, który rozpoznaje etapy zabiegów i sygnalizuje opóźnienia. Cisco otworzyło w Krakowie laboratorium do testowania sieci pod zastosowania AI, z ok. 400 szafami serwerowymi i mocą 4 MW. Europejscy naukowcy mogą z kolei skorzystać z nowych programów wsparcia: Google oferuje dostęp do modeli naukowych (m.in. AlphaFold 3 do przewidywania struktury białek) dla maksymalnie 200 badaczy oraz 3 mln USD w kredytach na korzystanie z chmury obliczeniowej, a wydawnictwo naukowe Elsevier – 4000 bezpłatnych licencji na swoje produkty.
Wniosek tygodnia
Wspólnym mianownikiem wydarzeń z 42. Tygodnia 2026 roku jest to, że o postępie technologicznym nie świadczą już same możliwości nowych rozwiązań technologicznych. Równie ważne są ich dojrzałość, ograniczenia infrastruktury oraz warunki bezpiecznego wdrażania i eksploatacji. Technologie rosną w skali, więc rośnie też znaczenie kontroli nad tym, jak naprawdę działają.