Jeszcze niedawno rozmowa o AI w programowaniu wyglądała dość prosto. Czy model potrafi napisać funkcję? Czy znajdzie błąd? Czy wygeneruje testy szybciej niż człowiek? Odpowiedzi zwykle sprowadzały się do rankingu, wykresu i triumfalnego komunikatu producenta. Dziś to już trochę za mało.

Najważniejsze informacje

  • Agenci AI wchodzą w rolę realnych uczestników procesu tworzenia oprogramowania, dlatego coraz ważniejsze stają się obserwowalność, logi, trace’y i kontrola wykonywanych działań.

  • Cyberbezpieczeństwo coraz częściej korzysta z wielu wyspecjalizowanych modeli AI, zamiast polegać na jednym uniwersalnym systemie.

  • AI pojawia się również po stronie złośliwego oprogramowania, co może utrudnić analizę zachowania malware i zwiększyć znaczenie threat huntingu oraz monitoringu.

  • Cena pojedynczego zapytania do modelu nie mówi jeszcze, ile kosztuje cały proces - istotniejszy staje się koszt poprawnie ukończonego zadania.

  • Modernizacja bezpieczeństwa obejmuje także fundamenty infrastruktury, takie jak klucze SSH, biblioteki, obrazy kontenerów i pipeline’y CI/CD.

  • Klasyczne mechanizmy, takie jak honeytokeny, nadal pozostają użyteczne i mogą uzupełniać Zero Trust, MFA, segmentację oraz rozwiązania oparte na AI.

 

Agent nie tylko podpowiada trzy linijki kodu. Otwiera pliki, uruchamia terminal, korzysta z serwera MCP, sprawdza repozytorium, poprawia testy, czasem coś cofa. Innymi słowy: zaczyna zachowywać się jak uczestnik procesu wytwarzania oprogramowania. Może jeszcze niezbyt doświadczony i chwilami narwany, ale jednak uczestnik.

 

I tu pojawia się pytanie mniej efektowne niż „który model wygrał benchmark?”, za to znacznie ważniejsze: skąd wiemy, co właściwie zrobił?

 

Agent też zostawia ślady

 

GitHub dodał właśnie obsługę OpenTelemetry do aplikacji Copilot. Brzmi odrobinę sucho, przyznaję. Tyle że pod tą techniczną nazwą kryje się rzecz zasadnicza: firma może śledzić przebieg sesji agenta, wywołania modeli i użycie narzędzi we własnym systemie monitoringu.

 

Jeżeli agent wykona dziwne polecenie albo nieoczekiwanie sięgnie do kolejnego narzędzia, zespół powinien móc odtworzyć jego kroki. Dokładnie tak, jak analizuje dziś transakcję w systemie rozproszonym albo szuka przyczyny awarii przez logi i trace’y.

 

Równocześnie Copilot dla JetBrains dostał bardziej ziarniste mechanizmy zatwierdzania. Działania niskiego ryzyka mogą przechodzić automatycznie, poważniejsze nadal czekają na decyzję człowieka. Dochodzą do tego firmowe instrukcje, planowanie przed zmianą kodu i kontrola poszczególnych narzędzi MCP.

 

Nie jest to może materiał na widowiskowy film promocyjny. Szczerze mówiąc, właśnie dlatego warto zwrócić na niego uwagę. Nudna infrastruktura często oznacza, że technologia zaczyna dojrzewać.

 

Jeden model wszystkiego nie załatwi

 

Podobny ruch widać w cyberbezpieczeństwie. Palo Alto Networks uruchomiło usługę, w której różne modele AI mają stale badać aplikacje, API i chmurę, a eksperci sprawdzają, czy odnalezione słabości rzeczywiście da się połączyć w działającą ścieżkę ataku.

 

To istotne rozróżnienie. Znalezienie podejrzanego fragmentu kodu nie jest tym samym co udowodnienie, że ktoś może wykorzystać go do włamania.

 

Co więcej, system jest wielomodelowy. Trochę jak z zespołem ludzi: jedna osoba dobrze czyta kod, druga zna chmurę, trzecia widzi nietypowe połączenia. Oczywiście modele nie są ludźmi — to porównanie ma swoje granice — ale sama zasada specjalizacji wydaje się sensowna.

 

Można się zastanawiać, czy za kilka lat skanowanie bezpieczeństwa pojedynczym modelem nie będzie wyglądało równie anachronicznie jak ochrona całej firmy jednym antywirusem na serwerze.

 

Malware też eksperymentuje

 

Niestety, modele znajdują zastosowanie po obu stronach barykady. Cisco Talos opracowało CAIRN, framework służący do rozpoznawania złośliwego oprogramowania zintegrowanego z AI.

 

Jednym z wykrytych przykładów jest CLOSEDQUORUM. Narzędzie konsultuje dalsze działania z kilkoma modelami i może wybierać kolejne kroki bez bieżących poleceń operatora. Brzmi niepokojąco, choć warto zdjąć z tego odrobinę filmowego blichtru: badacze nie potwierdzili użycia tego konkretnego malware w rzeczywistych atakach.

 

Mamy więc sygnał, nie epidemię.

 

Tyle że właśnie na etapie sygnału dobrze zacząć się uczyć. Analiza malware, reverse engineering, monitoring zachowania procesów i threat hunting raczej nie stracą na znaczeniu. Wręcz przeciwnie. Jeśli zachowanie złośliwego programu staje się bardziej zmienne, sztywna lista sygnatur może się okazać mizerną tarczą.

 

Tańszy model nie zawsze oznacza niższy rachunek

 

W tle trwa także walka o ekonomię modeli. Anthropic przedstawił Claude Opus 5.5, który według firmy oferuje mocne możliwości programistyczne przy niższym koszcie niż poprzednia generacja.

 

Łatwo byłoby napisać: świetnie, AI tanieje. Kropka.

 

Rzeczywistość jest bardziej kapryśna. Tańszy milion tokenów nie gwarantuje tańszego procesu. Model może wykonywać więcej kroków, ponawiać wywołania, generować za długie odpowiedzi albo korzystać z kosztownych narzędzi. Dlatego sensowniejszą miarą staje się koszt ukończonego zadania: naprawionego błędu, obsłużonego zgłoszenia czy poprawnie przeprowadzonej analizy.

 

To już obszar na styku AI engineeringu, chmury i FinOps. Niby księgowość dla modeli, lecz bardzo techniczna księgowość.

 

Stary klucz potrafi zatrzymać nowoczesny pipeline

 

W tym całym zamieszaniu wokół AI pojawiła się jeszcze jedna wiadomość, mniej modna, lecz nader praktyczna. GitHub zapowiedział wyłączenie starszych algorytmów SSH, zaostrzenie wymagań wobec nowych kluczy RSA i obsługę postkwantowej wymiany kluczy ML-KEM.

 

Dla większości użytkowników przejście powinno być niemal niewidoczne. Problem mogą mieć starsze biblioteki, zapomniane obrazy kontenerów, dawne instalacje TeamCity albo skrypty napisane przez kogoś, kto od sześciu lat pracuje już w innej firmie. Zwykle właśnie taki skrypt odzywa się w najmniej stosownym momencie.

 

Migracja postkwantowa nie zaczyna się więc od zakupu komputera kwantowego. Zaczyna się od inwentaryzacji.

 

Jakich kluczy używamy? Jakie biblioteki otwierają połączenia? Czy pipeline CI działa na aktualnym obrazie? Kto jest właścicielem integracji? Mało romantyczne pytania, ale infrastruktura ma dość osobliwe poczucie humoru — ignorowane drobiazgi lubią wracać jako awarie.

 

Czasem warto zostawić intruzowi fałszywy trop

 

CISA przypomniała również o technice dużo starszej od generatywnej AI: cybernetycznych wabikach. Fałszywy klucz API, konto, którego nikt nie powinien używać, pozorny katalog z dokumentami finansowymi. Jeśli ktoś próbuje z nich skorzystać, prawdopodobnie nie jest zwykłym użytkownikiem.

 

Takie honeytokeny i breadcrumbs mogą pomóc wykryć napastnika korzystającego z legalnych narzędzi oraz prawidłowo wyglądających poświadczeń. Nie zastępują Zero Trust, MFA ani segmentacji. Uzupełniają je.

 

I chyba to jest wspólny mianownik całego tygodnia. Nie pojawiła się jedna technologia, która rozwiąże bezpieczeństwo, programowanie czy koszty AI. Pojawiają się za to warstwy: telemetria, zatwierdzanie działań, kilka modeli zamiast jednego, człowiek sprawdzający wynik, nowa kryptografia obok starej oraz wabik czekający na kogoś, kto ominął wcześniejsze zabezpieczenia.

 

Mniej magii, więcej inżynierii. Może nawet dobrze.

Źródła

 

Jeśli chcesz lepiej zrozumieć technologie stojące za tymi zmianami - od agentów AI i uczenia maszynowego po cyberbezpieczeństwo, obserwowalność oraz ochronę infrastruktury - sięgnij po książki, które pozwolą Ci uporządkować wiedzę i spojrzeć na te zagadnienia od strony praktycznej.