„Ile właściwie zarabia mój szef?” Niewygodne pytanie do firmowej AI. Decydujące pytanie zwrotne brzmi: jakie dokumenty naprawdę może czytać konto stojące za tym zapytaniem?
Możliwy błąd zaczyna się na długo przed AI.
Wyobraźmy sobie fikcyjną firmę. W starym folderze kadrowym znajduje się zestawienie wynagrodzeń. Podczas wcześniejszej migracji folder udostępniono ogólnej grupie pracowników. Nikt nie używa już linku. Udostępnienie nadal istnieje.
Teraz firma wdraża wyszukiwanie w swojej wiedzy. Jeśli źródło jest podłączone, technicznie możliwe do przetworzenia i dostępne dla konta pytającego, odpowiednie fragmenty mogą trafić do odpowiedzi. Nie trzeba przy tym przełamywać nowej bariery bezpieczeństwa. AI ułatwia zauważenie starego błędu uprawnień.
To przykład hipotetyczny. Nie opisuje rzeczywistego przypadku klienta DAXS ani ogólnie gwarantowanego zachowania konkretnego produktu. Bez odpowiedniego źródła i możliwości dostępu AI nie może wiarygodnie znać prawdziwej kwoty; podana mimo to liczba może być zmyślona.
Trzy osoby, trzy różne sytuacje wyjściowe.
Osoba odpowiedzialna za kadry może czytać dokument na potrzeby swojej pracy. Inna osoba nie ma tego prawa i jej wyszukiwanie musi wykluczać źródło. Trzecia osoba ma techniczny dostęp wskutek błędnego udostępnienia grupie. W jej przypadku trzeba poprawić samo udostępnienie. Model nie potrafi wiarygodnie wywnioskować z promptu błędnej decyzji organizacyjnej.
Poprawna odpowiedź może być niewłaściwym ujawnieniem.
Wiele testów AI ocenia, czy odpowiedź brzmi poprawnie i ma oparcie w dokumentach. Przy informacjach poufnych trzeba dodatkowo sprawdzić, czy właśnie ta osoba może zobaczyć dokument źródłowy. Zgodna z faktami odpowiedź o wynagrodzeniu może mimo to ujawnić bez uprawnienia coś, czego w firmie potrzebuje tylko wąskie grono.
Z drugiej strony odmowa odpowiedzi nie dowodzi jeszcze skutecznej ochrony. Być może dokument po prostu nie został znaleziony. Testy dostępu muszą więc obejmować źródło, indeks wyszukiwania, bezpośrednie pobieranie i pośrednie sformułowania. Pojedynczy uprzejmy komunikat „Te dane są poufne” nie jest wiarygodną kontrolą uprawnień.
Kalkulacje wymagają tej samej staranności.
Temat nie dotyczy tylko wynagrodzeń. Pracownik może zapytać o stawkę godzinową fakturowaną za jego pracę, warunki klienta lub wewnętrzną marżę projektu. Takie dane mogą znajdować się w ofertach i tabelach. Stawka rozliczeniowa, marża pokrycia i zysk firmy to różne wielkości; z pojedynczej znalezionej liczby nie można rzetelnie wywnioskować zysku z godziny pracy.
Muszą więc być prawidłowe zarówno uprawnienia źródeł, jak i jakość wnioskowania. Uporządkowanie poufnych repozytoriów i merytoryczna ocena wyników to dwa oddzielne zadania.
Co firmy mogą sprawdzić przed pilotażem.
- Wskazać dokumenty kadrowe, finansowe i strategiczne oraz przypisać osoby odpowiedzialne.
- Sprawdzić rzeczywiste uprawnienia, w tym grupy, dziedziczenie i linki udostępniania.
- Przygotować konta testowe z dostępem dozwolonym, zablokowanym i omyłkowo zbyt szerokim.
- Sprawdzić, czy uprawnienia działają przed przekazaniem fragmentów modelowi.
- Uwzględniać cofnięte udostępnienia także w indeksach, pamięciach podręcznych, eksportach i udostępnionych odpowiedziach.
Dla Microsoft Copilot korzystającego z danych Microsoft 365 producent opisuje używanie treści w granicach uprawnień użytkownika. To właśnie powód, by przed wdrożeniem poprawić zbyt szerokie uprawnienia źródłowe. Inne produkty czatu i dodatkowe agenty należy oceniać według ich konkretnego modelu danych i kont.
Rozsądny następny krok.
DAXS może zaplanować ograniczony przegląd bezpieczeństwa AI z inwentaryzacją źródeł, kontrolą uprawnień i udokumentowanymi testami negatywnymi. Celem jest przejrzysty stan wdrożenia: które źródła są dozwolone dla których użytkowników, jakie braki są znane i kto je usuwa?
Strona specjalistyczna o bezpieczeństwie AI i AI Oversharing wyjaśnia mechanizmy kontroli. W zakresie architektury wyszukiwania strona Wiedza firmowa i RAG uzupełnia ten obraz.
Źródła: Microsoft: dane i uprawnienia · OWASP: ujawnianie informacji wrażliwych.
