2 posty z tagiem "AI w kancelarii"

Zanim ktoś wpisze w asystenta AI kancelarii pierwsze złośliwe polecenie, najpierw go obejrzy. Sam interfejs zdradza, z jakim modelem ma do czynienia, a komunikat błędu podaje rozmiar okna kontekstu bez logowania się. Ale najcenniejsze pytanie brzmi inaczej: czy asystent potwierdzi, że kancelaria prowadzi daną sprawę. Samo istnienie sprawy bywa tajemnicą, niezależnie od jej treści. Sprawdziłem to na stacji z RTX 5090 na modelu Gemma 4 26B. Słowem asystent istnienia poufnej sprawy nie zdradził ani razu, odmawiał tak samo jak dla sprawy, której nie ma. Ale w logprobach, czyli w pewności zwracanej razem z odpowiedzią, sygnał istnienia został: przy progu, który nie daje żadnego fałszywego trafienia, poufna sprawa wyszła nad próg w 17 z 25 prób. Kanał zamyka dopiero filtr uprawnień na etapie wyszukiwania, nie reguła w prompcie.

„Red Teaming AI" Philipa A. Durseya (2025) to ponad 900 stron o tym, jak atakować systemy uczące się: od zatruwania danych, przez kradzież modelu, po prompt injection. Część o mechanizmach ataków jest dobra, ale w druku zostały polecenia do autora i placeholdery w bibliografii. Sprawdziłem więc 34 losowe przypisy: do źródła, które mówi to, co podano, prowadzi 24, dwóch cytowanych prac nie udało się znaleźć, a w czterech lista autorów nie zgadza się z rzeczywistą. Ten wpis to recenzja i mapa serii, w której nie streszczam książki, tylko atakuję stos AI, jaki wdrażam w kancelariach.