Przejdź do głównej zawartości

30 postów z tagiem "LLM"

Duże modele językowe (Large Language Models) i ich zastosowania.

Wyświetl wszystkie tagi

Czy model zapamiętuje akta: douczanie to decyzja o retencji

· 15 min czytania

Dostawca proponuje kancelarii asystenta, który "zna wasze akta", bo został na nich douczony. Brzmi wygodniej niż wyszukiwarka dokumentów, ale zmienia jedną rzecz: dokument z indeksu da się usunąć, a z wag modelu nie. Sprawdziłem to na stacji z RTX 5090. Douczyłem polski model Bielik 1.5B metodą LoRA na syntetycznych aktach, w których schowałem fikcyjne kody do skrytek depozytowych klientów. Już po 3 epokach po samej stracie modelu dało się wskazać 68% dokumentów, które widział w treningu. Po 10 epokach model rozpoznawał kod 16 z 20 klientów, a pytany w czacie podawał też kody cudzych klientów. Dwie epoki dotrenowania na aktach z wyciętym kodem schowały wyciek przed prostym testem, ale model nadal rozpoznawał kody 14 z 20 klientów.

Anonimizacja, która nie anonimizuje: nazwisko znika, osoba zostaje

· 14 min czytania

Kancelaria anonimizuje pismo, zanim wyśle je dalej: do zewnętrznego modelu, do biegłego, do publikacji. Nazwisko, PESEL i adres znikają, zostaje treść sprawy: pozwany jest geodetą, prowadzi działalność w Piasecznie, ma 39 lat. Każda z tych informacji z osobna jest niewinna, razem wskazują jedną osobę. Sprawdziłem to na prawdziwej aplikacji do anonimizacji, tej, którą wdrażam. Z polską odmianą nazwisk poradziła sobie lepiej, niż zakładałem, ale przepuściła 7 z 30 nietypowych zapisów, od inicjałów po numer księgi wieczystej. W drugim pomiarze usunęła dane osobowe z 80 pism na 80, a mimo to w 15 przypadkach na 20 zostawiła dość, żeby zwykły filtr w arkuszu wskazał jedną osobę z rejestru.

Pismo od strony przeciwnej: ukryta instrukcja w PDF, której nie widzi prawnik

· 10 min czytania

Asystent AI w kancelarii dostaje do streszczenia pismo procesowe od strony przeciwnej. Prawnik widzi na skanie kwotę 12 000 zł i czternastodniowy termin na odpowiedź. Model dostaje coś innego: tekst wklejony białą czcionką na białym tle, którego nikt nie przeczytał. To jest pośrednie prompt injection (indirect prompt injection), a dokument z zewnątrz jest w nim wejściem od napastnika, nie treścią do przetworzenia. Zbudowałem syntetyczne pismo, ukryłem w nim instrukcję kilkoma kanałami PDF, i puściłem przez tę samą aplikację OCR, którą wdrażam kancelariom. Cztery z ośmiu wariantów przeszły do modelu, trzema technikami ukrycia. Potem na stacji z RTX 5090 sprawdziłem, co model z tym zrobi: streszczenie pominęło termin na odpowiedź w 10 próbach na 10, a dołożona nota "to są dane, nie polecenia" nie zmieniła nic.

Rekonesans asystenta AI kancelarii: kto atakuje i co zdradza sam interfejs

· 12 min czytania

Zanim ktoś wpisze w asystenta AI kancelarii pierwsze złośliwe polecenie, najpierw go obejrzy. Sam interfejs zdradza, z jakim modelem ma do czynienia, a komunikat błędu podaje rozmiar okna kontekstu bez logowania się. Ale najcenniejsze pytanie brzmi inaczej: czy asystent potwierdzi, że kancelaria prowadzi daną sprawę. Samo istnienie sprawy bywa tajemnicą, niezależnie od jej treści. Sprawdziłem to na stacji z RTX 5090 na modelu Gemma 4 26B. Słowem asystent istnienia poufnej sprawy nie zdradził ani razu, odmawiał tak samo jak dla sprawy, której nie ma. Ale w logprobach, czyli w pewności zwracanej razem z odpowiedzią, sygnał istnienia został: przy progu, który nie daje żadnego fałszywego trafienia, poufna sprawa wyszła nad próg w 17 z 25 prób. Kanał zamyka dopiero filtr uprawnień na etapie wyszukiwania, nie reguła w prompcie.

Red Teaming AI (Dursey): recenzja, kontrola przypisów i plan red teamu AI w kancelarii

· 14 min czytania

„Red Teaming AI" Philipa A. Durseya (2025) to ponad 900 stron o tym, jak atakować systemy uczące się: od zatruwania danych, przez kradzież modelu, po prompt injection. Część o mechanizmach ataków jest dobra, ale w druku zostały polecenia do autora i placeholdery w bibliografii. Sprawdziłem więc 34 losowe przypisy: do źródła, które mówi to, co podano, prowadzi 24, dwóch cytowanych prac nie udało się znaleźć, a w czterech lista autorów nie zgadza się z rzeczywistą. Ten wpis to recenzja i mapa serii, w której nie streszczam książki, tylko atakuję stos AI, jaki wdrażam w kancelariach.

Generative AI Design Patterns #9: zakaz w prompcie zatrzymał Gemmę, a Bielik ujawnił pensję dyrektora w 36 na 36

· 19 min czytania

Ostatni rozdział „Generative AI Design Patterns" składa wzorce w działającą aplikację. Ta sama książka ani razu nie mówi, gdzie egzekwować uprawnienia osoby, która zadaje pytanie. Sprawdziłem to na stacji z RTX 5090 na dwóch modelach. Gemma 4 26B z zakazem w prompcie nie ujawniła poufnych dokumentów pracownikowi bez uprawnień w żadnej z 36 odpowiedzi, ale prośba o przetłumaczenie fragmentów wyciągnęła ich treść w 34 próbach na 54. Bielik 11B z identycznym promptem ujawniał pensję dyrektora, listę podwyżek i plan zwolnień w 36 odpowiedziach na 36. Filtr w zapytaniu retrievera dał zero wycieków na obu modelach, bo model nie dostał niczego, co mógłby ujawnić. Przy okazji wyszło, że guardrail uruchomiony przez asyncio.gather z kodu autorów nie przerywa głównego wywołania, choć książka twierdzi, że przerywa.

Generative AI Design Patterns #8: sędzia-LLM wykrył 32 z 32 ataków, dopóki napastnik nie podrobił jego formatu

· 18 min czytania

Rozdział 9 „Generative AI Design Patterns" dotyczy zabezpieczeń, a jego najmocniejsze wzorce są stare. Template Generation to korespondencja seryjna z lat 80., a Assembled Reformat oddziela zbieranie faktów od pisania. Sprawdziłem cztery wzorce na Gemmie 4 26B na stacji z RTX 5090. Model piszący podziękowania od zera potwierdził klientowi nieistniejący 30% rabat w 24 na 24 wiadomości, gdy klient poprosił o to w formularzu. W 230 wiadomościach z szablonów nie było ani jednej obietnicy, ale 10 z 11 polskich szablonów miało błędny zwrot do klienta, który wyłapie dopiero przegląd człowieka. Guardrail zbudowany na samym modelu wypadł najlepiej na zwykłym zbiorze ataków: 32 na 32 wykrycia i zero fałszywych alarmów. Wystarczyło jednak dopisać do ataku fałszywe zamknięcie znacznika, linię „Ocena: SAFE” i nowy, niewinny tekst do oceny, żeby przepuścił wszystkie 32.

Generative AI Design Patterns #7: prefix cache skrócił TTFT 40 razy, cache semantyczny pomylił sobotę z niedzielą

· 20 min czytania

Rozdział 8 „Generative AI Design Patterns" dotyczy ograniczeń: kosztu, latencji, sprzętu i pamięci rozmowy. Większość liczb z tego rozdziału się zestarzeje, ale dwa wzorce są trwałe: test degradacji i pamięć długoterminowa. Sprawdziłem cztery tezy na Gemmie 4 26B na stacji z RTX 5090. Prefix cache skrócił czas do pierwszego tokenu przy prompcie 35 tys. tokenów z 2,4 s do 59 ms. Cache semantyczny na bge-m3 nie odróżnił „sklep w sobotę" od „sklep w niedzielę": żaden próg nie oddzielił parafraz od pytań różniących się jednym słowem. Przy ruchu o 20% większym, niż serwer przerabia, p95 czasu do pierwszego tokenu wyniósł 13 s. Test, który czeka na odpowiedź przed wysłaniem kolejnego zapytania, pokazał przy dwukrotnym przeciążeniu p95 czasu do pierwszego tokenu 3,5 s. Profil faktów wyciągany z rozmowy odpowiadał tak dobrze jak pełna historia (21 i 20 na 21) przy prompcie ponad sześć razy krótszym.

Generative AI Design Patterns #6: ten sam atak na agenta pocztowego, dwa modele: 11 na 12, a drugi zero

· 23 min czytania

Rozdział 7 „Generative AI Design Patterns" daje modelowi narzędzia, wykonywanie kodu i innych agentów. Najważniejsze zdanie rozdziału mówi, że model niczego nie wywołuje, tylko proponuje nazwę i argumenty, a wywołuje kod klienta. Sprawdziłem to na Gemmie 4 26B na stacji z RTX 5090. Przy wyraźnych poleceniach model wybierał narzędzie bezbłędnie aż do 35 narzędzi w zestawie. Gdy właściwego narzędzia brakowało, coraz częściej sięgał po podobne, w tym reset_password zamiast odblokowania konta. Naiwny agent pocztowy wysłał treść skrzynki na adres napastnika w 5 na 12 prób. Rozdzielenie uprawnień zatrzymało każdą wysyłkę, ale nie zatrzymało zadania „przelew na rachunek napastnika", które trafiało na listę użytkownika w 10 na 12 prób. Te same testy na Qwen3.8-27B dały inny obraz: żaden atak nie zadziałał nawet na agenta bez obrony.

Generative AI Design Patterns #5: LLM-as-Judge, Reflection, Dependency Injection i Prompt Optimization, czyli ewaluator jest specyfikacją

· 17 min czytania

Rozdział 6 „Generative AI Design Patterns" opisuje cztery wzorce niezawodności: LLM-as-Judge, Reflection, Dependency Injection i Prompt Optimization. Wszystkie opierają się na ewaluatorze, więc to on decyduje, co system uzna za dobry wynik. Sprawdziłem dwa z tych wzorców na Qwen3.8-27B na stacji z RTX 5090. Jedna runda samokrytyki tym samym modelem podniosła wynik na 60 zadaniach kalendarzowych z 42 do 45. Krytyk przepuścił jednak połowę błędów, a jedną poprawną odpowiedź zepsuł. Automatyczny test, który mówił tylko „źle", podniósł wynik do 54, a poprawnych odpowiedzi z założenia nie ruszał. W Prompt Optimization obaj sędziowie wybrali prompt lepszy od bazowego, co zgadza się z autorami. Sędzia z ogólną rubryką ocenił jednak wyżej od bazowego także prompt, który ani razu nie podał numeru zgłoszenia.