Generative AI Design Patterns #9: zakaz w prompcie zatrzymał Gemmę, a Bielik ujawnił pensję dyrektora w 36 na 36
Ostatni rozdział „Generative AI Design Patterns" składa wzorce w działającą aplikację. Ta sama książka ani razu nie mówi, gdzie egzekwować uprawnienia osoby, która zadaje pytanie. Sprawdziłem to na stacji z RTX 5090 na dwóch modelach. Gemma 4 26B z zakazem w prompcie nie ujawniła poufnych dokumentów pracownikowi bez uprawnień w żadnej z 36 odpowiedzi, ale prośba o przetłumaczenie fragmentów wyciągnęła ich treść w 34 próbach na 54. Bielik 11B z identycznym promptem ujawniał pensję dyrektora, listę podwyżek i plan zwolnień w 36 odpowiedziach na 36. Filtr w zapytaniu retrievera dał zero wycieków na obu modelach, bo model nie dostał niczego, co mógłby ujawnić. Przy okazji wyszło, że guardrail uruchomiony przez asyncio.gather z kodu autorów nie przerywa głównego wywołania, choć książka twierdzi, że przerywa.