Pomiary z bloga
Wszystkie wpisy- 32 z 32
ataków wykrył sędzia-LLM na zwykłym zbiorze, dopóki napastnik nie podrobił jego formatu.
· Generative AI Design Patterns #8 - 40 razy
krótszy czas do pierwszego tokenu dzięki prefix cache. Cache semantyczny pomylił sobotę z niedzielą.
· Generative AI Design Patterns #7 - 11 na 12
wariantów ataku: tyle razy agent pocztowy na Gemmie 4 założył zadanie z przelewem dla napastnika. Na Qwenie ani razu.
· Generative AI Design Patterns #6
Serwer stoi w kancelarii. Dane, kod i dokumentacja należą do niej. Jak to działa
Dla kancelarii
Trzy obszary, 13 pozycji. Każdą można wdrożyć osobno, wszystko działa na serwerze kancelarii. Wszystkie pozycje
- Dokumenty
- 7 pozycji
- Akta, umowy i orzeczenia przetwarzane na serwerze kancelarii, bez wysyłania do chmury.
Zacznij od szkolenia z AI Act
3-4 godziny dla zespołu: co wolno, czego nie i jak wdrożyć AI bezpiecznie. Na koniec ankieta, która pokazuje, które problemy kancelaria chce rozwiązać najpierw.
Najnowsze wpisy o AI w kancelarii
- Rekonesans asystenta AI kancelarii: kto atakuje i co zdradza sam interfejs
Atak na AI kancelarii zaczyna się od rekonesansu. Endpoint /v1/models zdradza dokładny model, a komunikat błędu okno kontekstu. Sprawdziłem na stacji z RTX 5090, czy asystent potwierdzi istnienie poufnej sprawy: słowem nie, w logprobach w 17 na 25 prób.
- Red Teaming AI (Dursey): recenzja, kontrola przypisów i plan red teamu AI w kancelarii
Recenzja książki Philipa Durseya o red teamingu AI i otwarcie serii, w której atakuję stos AI kancelarii: OCR, anonimizację, RAG i lokalnego asystenta. Z 34 losowych przypisów źródło podpiera tekst w 24.