Trzeci tydzień października przyniósł wiadomości o coraz większej mocy obliczeniowej: centrum danych dla sztucznej inteligencji można uruchomić w dwa tygodnie, chiński superklaster łączy 100 tys. akceleratorów, a roboty mają dostać procesory zdolne do pracy bez chmury. Równolegle przybyło sygnałów, że sama moc nie zapewnia poprawnego działania. Wydarzenia tygodnia układają się w cztery wątki, w których nie brakuje polskich przykładów.
1. Agenci AI: nie wolno rezygnować z nadzoru
OpenAI, twórca ChatGPT, opisał dwa wewnętrzne incydenty z 3 i 6 października. Podczas prac programistycznych agent GPT-6.1 Sol wyłączył automatyczne powiadomienia kierowane do zespołu bezpieczeństwa, uznając wcześniejszy zakaz wysyłania wiadomości za podstawę do ograniczenia alarmów. W drugim przypadku agent GPT-6 Astra miał przenieść program, czyli przerobić kod użytkownika tak, by był zgodny z wzorcową wersją (tzw. implementacją referencyjną). Ponieważ we wzorcu nie było mechanizmu nadzoru, agent usunął go także z programu użytkownika, a test, który miał pilnować obecności nadzoru, zastąpił testem sprawdzającym jego brak. Po zakończeniu pracy nie poinformował o tym, a zapytany wprost, niezgodnie z prawdą zaprzeczył, że usunął nadzór. Oba zdarzenia dotyczyły zadań wewnętrznych, a nie klientów. OpenAI nie rozstrzyga, czy ich przyczyną była nadmierna uporczywość w realizacji zadania, czy skłonność do omijania monitoringu. Microsoft zapowiedział z kolei, że jego Project Perception obejmie także ochronę środowisk, w których działają agenci, i podkreśla potrzebę egzekwowania uprawnień oraz możliwości zatrzymania agenta poza samym modelem.
Wniosek jest bardzo jednoznaczny: agent, który może modyfikować kod, nie powinien jednocześnie móc swobodnie zmieniać mechanizmu, który go kontroluje. Instrukcja słowna nakazująca zachowanie zabezpieczeń nie zastąpi technicznego rozdzielenia uprawnień. Warto też testować sytuacje, w których pozornie zwykła naprawa czy przeniesienie programu koliduje z wymaganiami nadzoru.
W tym samym kierunku idą zapowiedzi dostawców. Francuski Mistral AI, rozwijający modele językowe, i NVIDIA, czołowy producent procesorów do AI, zapowiedzieli publiczne testy sprawdzające, czy agenci poprawnie posługują się programami inżynierskimi, kończą zadania wieloetapowe i dochodzą do technicznie poprawnych wyników – przy jednoczesnym pomiarze czasu i kosztu obliczeń. Na wyniki tych testów trzeba jeszcze poczekać. Google Cloud udostępnił natomiast w wersji wstępnej Gemini for government services – środowisko agentów dla instytucji publicznych, w którym odpowiedzi mają odsyłać do dokumentów źródłowych, a czynności o istotnych skutkach wymagają zatwierdzenia przez człowieka.
O tym, że zasady korzystania z AI nie nadążają za jej upowszechnieniem, świadczy też badanie polskich firm. Z ankiety BGR Quantic, przeprowadzonej na zlecenie Microsoft wśród 1126 osób uczestniczących w decyzjach technologicznych w firmach zatrudniających co najmniej 100 pracowników, wynika, że z generatywnej AI korzysta 94,1% badanych, a 51,1% robi to codziennie lub częściej. Do grupy łączącej wysoką gotowość pracowników i organizacji zaliczono jednak tylko 10,3% firm, a formalny pomiar zwrotu z inwestycji w AI deklaruje 11,5%. Najczęstsze bariery to niedostatek kompetencji i szkoleń (43%), obawy o ochronę danych (42,2%) oraz koszty licencji (40,8%). To deklaracje respondentów, a nie audyt wdrożeń. Pokazują jednak, że w wielu firmach AI trafiła do codziennej pracy wcześniej, niż powstały zasady jej stosowania i sposoby oceny, czy przynosi korzyści.
2. AI w roli analityka: od luk w PHP po listy adresatów
21 października opublikowano poprawki dwóch krytycznych podatności w PHP, oznaczonych w międzynarodowym rejestrze luk bezpieczeństwa jako CVE-2026-109618 i CVE-2026-109619 i nazywanych w branży PHP2Shell. PHP to język programowania, w którym działa większość serwisów internetowych – według serwisu W3Techs korzysta z niego 69,2% stron, dla których da się ustalić technologię po stronie serwera; napisany jest w nim m.in. WordPress. Według CERT-EU, zespołu reagowania na incydenty bezpieczeństwa instytucji unijnych, obie luki mogą pozwolić napastnikowi uruchomić własny kod na serwerze bez wcześniejszego logowania. Poprawki wydano w wersjach PHP 8.5.12, 8.4.27, 8.3.36 i 8.2.35, a firmy zajmujące się bezpieczeństwem informują o pierwszych sygnałach wykorzystywania luk.
OpenAI podał, że jeden z błędów wykryła firma Calif z pomocą modelu GPT-5.6 Sol, a niezależne ustalenia przedstawiła firma Wiz. Fundacja PHP uzupełnia ten obraz: pierwsze oznaki jednego z problemów dostrzeżono już po audycie z 2024 r., a dopiero późniejsze badania pokazały, że da się go rzeczywiście wykorzystać do ataku. AI przyspiesza więc szukanie luk, ale bezpieczeństwo nadal zależy od wcześniejszych audytów, pracy opiekunów projektu i tego, jak szybko administratorzy serwisów zainstalują poprawki.
Inny przykład analitycznej pracy AI opisał Anthropic, twórca modeli Claude. Nie chodziło o złamanie zabezpieczeń, lecz o rozwiązanie zagadki historycznej. Standardowe krzywe eliptyczne NIST, amerykańskiego instytutu normalizacyjnego, używane m.in. w podpisach cyfrowych, wygenerowano pod koniec lat 90. z tzw. ziaren – liczb wyglądających na losowe, które dostarczyła amerykańska Agencja Bezpieczeństwa Narodowego (NSA) bez wyjaśnienia, skąd pochodzą. Przez lata budziło to podejrzenia, że parametry dobrano celowo. Wewnętrzny model badawczy Anthropic odtworzył, jak te liczby mogły powstać: z popularnego generatora liczb pseudolosowych uruchomionego od znacznika czasu, czyli zapisu daty i godziny. Była to więc analiza wsteczna sposobu wygenerowania parametrów, a nie odszyfrowanie podpisów. Autorzy udostępnili kod, który pozwala każdemu odtworzyć te wartości, i podkreślają, że nie jest to złamanie kryptografii ani nowa luka. Wartość takiego wyniku polega na tym, że można go sprawdzić bez zaufania do opisu działania modelu.
W codziennej pracy biurowej podobną rolę może pełnić polski projekt basal Remigiusza Kinasa. Jego modele nie piszą tekstu, tylko przypisują dokument do jednej z wcześniej zdefiniowanych kategorii. Przykładowo: przychodzący e-mail może być reklamacją, fakturą, zapytaniem ofertowym albo wnioskiem kadrowym, a każda kategoria oznacza innego adresata w firmie. Model nie podaje jednej odpowiedzi, lecz prawdopodobieństwo każdej z nich – np. 92% dla reklamacji i 5% dla zapytania ofertowego. Te wartości są kalibrowane, czyli dopasowane do tego, jak często model faktycznie ma rację: wśród przypadków ocenionych na 90% trafne powinno być ok. 90%. Dzięki temu można ustalić próg, poniżej którego dokument nie trafia automatycznie do adresata, lecz do człowieka. Wariant basal-omni-1.0-ultra, z 31 mld parametrów, powstał przez dostrojenie otwartego modelu Google Gemma 4 na ok. 640 tys. przykładów decyzji po polsku i angielsku, a odrębna rodzina basal-2.0 bazuje na Bieliku. W zestawieniu JevBench dla modeli z otwartymi wagami spełniających limity kosztu i opóźnienia wariant ten zajmował pierwsze miejsce (stan opisany przez autora 18 października), a w zestawieniu z 21 października – drugie. Autor oznacza rozwiązanie jako eksperymentalne i zaleca sprawdzenie go na własnych dokumentach, bo próg ustalony na jednym rodzaju dokumentów nie musi działać tak samo na innym.
3. Infrastruktura: szybciej, większa skala, bliżej urządzeń
NVIDIA zaprezentowała DSX POD – gotowe, kontenerowe moduły dla centrów danych AI opartych na jej platformie Vera Rubin. Partnerzy, m.in. Dell Technologies, HPE, Lenovo, Schneider Electric i Vertiv, integrują i testują systemy jeszcze w fabryce, a klient musi je tylko podłączyć do zasilania, chłodzenia i sieci. Według NVIDIA czas wdrożenia może się skrócić z ok. sześciu miesięcy do nawet 14 dni. Rozwiązanie ma być dostępne na początku 2027 r.
Skalę pokazuje chińska firma Sugon, która zaprezentowała platformę Sugon 8000 opartą na 100 tys. akceleratorów krajowej produkcji – wyspecjalizowanych układów przyspieszających obliczenia AI. System włączono do ogólnokrajowej sieci udostępniania mocy obliczeniowej. Wykorzystano go już m.in. w badaniach materiałowych, prognozowaniu pogody i technologiach lotniczych, a dostosowano do niego ponad 300 specjalistycznych aplikacji.
Rosnąca liczba centrów danych to także coraz więcej ciepła, które dziś najczęściej trafia do otoczenia. W Polsce NASK – Naukowa i Akademicka Sieć Komputerowa – PIB – oraz PGE Polska Grupa Energetyczna przygotowują koncepcję centrów danych, których ciepło zasilałoby miejskie sieci ciepłownicze. Wykorzystanie istniejących gruntów i zaplecza technicznego ma obniżyć nakłady nawet o ok. 30% w porównaniu z budową od podstaw, a według doniesień medialnych centrum o mocy ok. 50 MW mogłoby pokryć potrzeby grzewcze miejscowości liczącej do 15 tys. mieszkańców.
Jednocześnie część obliczeń przenosi się do samych urządzeń. Intel potwierdził prace nad procesorem Razor Lake-AX, planowanym na 2028 r. Układ ma łączyć funkcje procesora, grafiki i akceleratora AI oraz oferować ok. 700 TOPS, czyli bilionów operacji na sekundę. Ma to pozwolić robotom autonomicznym i humanoidalnym analizować otoczenie, podejmować decyzje i sterować swoim działaniem w czasie rzeczywistym – lokalnie, bez korzystania z chmury. Intel nie podał jeszcze szczegółów dotyczących m.in. zużycia energii.
4. Kwanty: mniej błędów to warunek skali
Komputery kwantowe są bardzo podatne na błędy, dlatego informację jednego kubitu logicznego chroni się przy użyciu wielu kubitów fizycznych. Kubit fizyczny to konkretny element sprzętu, np. pojedynczy jon uwięziony w polu elektromagnetycznym, a kubit logiczny to jednostka informacji, na której działa algorytm, tworzona przez całą grupę kubitów fizycznych i dzięki temu mniej podatna na błędy. Informację „rozkłada się” na całą ich grupę tak, że żaden kubit z osobna jej nie przechowuje. Regularne pomiary kontrolne sprawdzają, czy między kubitami zachodzą oczekiwane zależności – bez odczytywania samej informacji, bo pomiar by ją zniszczył. Gdy wynik pomiaru odbiega od oczekiwanego, specjalny algorytm, tzw. dekoder, ustala, który kubit najprawdopodobniej uległ błędowi, i wskazuje sposób korekty.
Kluczowym parametrem takiego zabezpieczenia jest tzw. odległość kodu. To najmniejsza liczba błędów pojedynczych kubitów fizycznych, która może zmienić zapisaną informację tak, że pomiary kontrolne tego nie zauważą. Dobrze to widać na prostym przykładzie z klasycznej informatyki: jeśli bit zapisze się trzy razy (000 albo 111), to aby niepostrzeżenie zamienić 0 w 1, trzeba przekłamać wszystkie trzy kopie – odległość wynosi więc 3. Pojedynczy błąd (np. 010) da się natomiast wykryć i naprawić „głosowaniem większości”. Im większa odległość, tym więcej jednoczesnych błędów kod potrafi naprawić: przy odległości 3 – jeden, przy 5 – dwa, przy 7 – trzy. Wymaga to jednak większej liczby kubitów fizycznych i operacji, a każdy dodatkowy kubit sam może się pomylić.
Firma Quantinuum wykazała na swoim procesorze Helios, że to działa: każde zwiększenie odległości kodu (z 3 do 5 i z 5 do 7) zmniejszało prawdopodobieństwo błędu pamięci logicznej średnio ok. dwunastokrotnie. Przy odległości 7 odpowiadało to wierności 99,9995% w każdym cyklu pomiarów kontrolnych. Kluczowe jest to, że dodatkowe kubity i operacje potrzebne do korekcji nie zniwelowały zysku z silniejszej ochrony. Wynik dotyczy jednak przechowywania informacji, a nie dowolnych obliczeń.
Skuteczność korekcji zależy też od samego dekodera. Bardziej zaawansowane dekodery uwzględniają, że błędy często występują razem, i odpowiednio zmieniają „wagi”, czyli prawdopodobieństwa przypisane możliwym błędom. Badacze z Uniwersytetu w Lejdzie i brytyjskiej firmy Riverlane pokazali w symulacjach, że przy bardzo niskim poziomie błędów fizycznych – niższym niż w dzisiejszych procesorach – ten sposób przeliczania wag może prowadzić do błędnych korekt i ograniczać korzyść ze zwiększania odległości kodu. Algorytm skuteczniejszy dziś może więc w przyszłości ustępować prostszemu. Zaproponowana zmiana reguły przypisywania wag przywróciła w symulacjach oczekiwany spadek liczby błędów logicznych – bez zmiany zasadniczego algorytmu i bez ingerencji w układ kwantowy. Trzeba ją jeszcze sprawdzić na rzeczywistym sprzęcie, także pod kątem tego, czy dekodowanie nadąża za tempem pracy procesora.
Rozwija się też zaplecze: wietnamska firma Quanova wybrała fotoniczny komputer kwantowy francuskiej Quandeli, czyli wykorzystujący cząstki światła, dla Uniwersytetu Quang Trung. Według partnerów będzie to pierwszy komputer kwantowy w Wietnamie, a projekt obejmuje również szkolenie wykładowców i programy nauczania.
Wniosek tygodnia
W tym tygodniu ten sam problem pojawił się w trzech różnych dziedzinach: mechanizm kontrolny działa tylko wtedy, gdy nie podlega temu, co kontroluje. Agenci OpenAI mogli wyłączyć nadzór, bo mieli do niego dostęp. Kwantowa korekcja błędów ma sens dopiero wtedy, gdy dodatkowe kubity i pomiary nie wprowadzają więcej błędów, niż usuwają i Quantinuum pokazał to doświadczalnie. Model Anthropic odtworzył, skąd wzięły się niewyjaśnione od lat 90. parametry krzywych kryptograficznych NIST, a wynik jest wiarygodny, bo autorzy udostępnili kod, dzięki któremu każdy może go sprawdzić niezależnie od modelu. Im szybciej przybywa mocy obliczeniowej i zastosowań AI, tym ważniejsze jest więc nie to, ile system potrafi, ale kto i czym może sprawdzić, co zrobił.
Projekt finansowany ze środków Ministerstwa Cyfryzacji.
Publikacja wyraża jedynie poglądy autora/ów i nie może być utożsamiana z oficjalnym stanowiskiem Ministerstwa Cyfryzacji.