Zgodność z AI Act po stronie technicznej

Co może pójść nie tak i co z tym robimy.

1. ✕1. Dokumentacja napisana raz, prawdziwa przez tydzień✓Co zostaje u was: dokumentacja generowana z kodu tam, gdzie to możliwe, ze wskazaną osobą odpowiedzialną i przeglądem po każdym istotnym wydaniu

   Co się dzieje

   Dokumentacja techniczna powstaje jako produkt projektu, zostaje podpisana i odłożona. System się zmienia, jak to systemy, a nic nie odtwarza dokumentu. Rok później plik opisuje architekturę, której już nie ma. To gorsze niż brak dokumentu, bo plik jest przedstawiany jako dowód.

   Co z tym robimy

   Wyprowadzamy z repozytorium te części, które da się wyprowadzić, żeby zmieniały się razem z systemem. Części opisowe trzymamy na tyle krótkie, żeby ich aktualizacja była realna. Przegląd uruchamia każde istotne wydanie systemu, a raz na kwartał sprawdzamy dokumentację wobec zmian w wytycznych.

2. ✕2. Logi są, a decyzji nie da się odtworzyć✓Co zostaje u was: jedna historyczna decyzja odtworzona w całości oraz lista luk, które zamknęliśmy, żeby było to możliwe

   Co się dzieje

   Logowanie zaprojektowano do debugowania, więc zapisuje, co serwis zrobił, a nie co zdecydował i na jakiej podstawie. Gdy ktoś pyta, dlaczego ten wnioskodawca dostał w marcu taką odpowiedź, uczciwa odpowiedź brzmi: wejść, wersji modelu i promptu nie da się już odzyskać. Obowiązek dotyczy identyfikowalności, a identyfikowalność to co innego niż observability.

   Co z tym robimy

   Sprawdzamy, czy jedną decyzję z przeszłości da się odtworzyć od początku do końca. Tam, gdzie się nie da, specyfikujemy brakujące elementy: przypięcie wersji, zapis wejść z właściwą retencją i zapis kroku wykonanego przez człowieka; wdrożenie jest częścią projektu, jeśli tak uzgodnimy. Dowodzimy tego, odtwarzając decyzję historyczną, jeśli dane istnieją, albo nową decyzję po wdrożeniu zmian.

3. ✕3. Nadzór człowieka, który nie może powiedzieć nie✓Co zostaje u was: udokumentowana ścieżka uchylenia decyzji z jej zmierzonym kosztem oraz dowód, że została użyta przynajmniej raz

   Co się dzieje

   Człowiek zatwierdza decyzje systemu, a proces nie daje mu ani czasu, ani umocowania, żeby którąś uchylić. Zatwierdza, bo zatwierdzenie to jedyna ścieżka, która nie zatrzymuje kolejki. Na papierze jest nadzór, w praktyce jest podpis, a różnica wychodzi dokładnie wtedy, gdy ktoś ją sprawdzi.

   Co z tym robimy

   Sprawdzamy, co się dzieje, gdy człowiek się nie zgadza: czy istnieje ścieżka, ile trwa i czy ktoś kiedykolwiek z niej skorzystał. Gdy ścieżki nie ma, projektujemy ją. Gdy obciążenie pracą uniemożliwia przegląd, mówimy to wprost zamiast to certyfikować.