Bezpieczeństwo AI w wytwarzaniu

Zasady korzystania z narzędzi AI w zespole developerskim — żeby przyspieszenie pracy nie odbywało się kosztem kontroli nad kodem i danymi.

Adresujemy wymagania techniczne
NIS2UKSCISO 27001
Zasady dla pracy z AI
  1. Podpowiedzico wolno wkleić, a czego nigdy
  2. Danebez danych klientów i sekretów
  3. Wygenerowany kodta sama recenzja i skany
  4. Integracjeminimalne uprawnienia
  5. Zależnościweryfikacja proponowanych bibliotek
  6. Zespółszkolenie na przykładach

Zespół dalej pracuje szybciej — tylko w znanych granicach.

Jak to wygląda dzisiaj

Tak wygląda punkt wyjścia w wielu firmach, które dowożą szybko i podlegają regulacjom.

Zespół już używa asystentów AI, zwykle bez ustalonych zasad. Kod powstaje szybciej, ale nikt nie sprawdza, co wchodzi do podpowiedzi, skąd pochodzi wygenerowany fragment ani czy przeszedł te same kontrole co kod pisany ręcznie.

  1. Asystent AI
  2. Wklejone dane klienta
  3. Kod z AI
  4. Bez recenzji
  5. Produkcja

Co robimy

Zakres ustalamy po diagnozie — zaczynamy od elementu, który najszybciej obniży Wasze ryzyko.

Zasady zamiast szarej strefy.

Ustalamy, co wolno wkleić do narzędzia AI, a czego nigdy — z uwzględnieniem danych klientów i kodu objętego umowami. Wygenerowany kod obejmujemy tym samym procesem sprawdzania co kod pisany ręcznie, bez wyjątków, bo pochodzenie fragmentu nie zmienia jego ryzyka. Porządkujemy dostępy asystentów i integracji, żeby dostawały tylko te uprawnienia, których naprawdę potrzebują. Zespół szkolimy na konkretnych przykładach zamiast wprowadzać ogólny zakaz, którego i tak nikt nie przestrzega.

Cztery etapy

Po każdym etapie zostaje u Was konkretny rezultat, a nie notatka ze spotkania.

  1. 01

    Ustalamy zasady korzystania

    Co wolno wkleić do narzędzia, a czego nigdy — z uwzględnieniem danych klientów.

    RezultatKrótkie zasady: co wolno wkleić do narzędzia AI, a czego nigdy

  2. 02

    Obejmujemy wygenerowany kod kontrolą

    Ten sam proces sprawdzania co dla kodu pisanego ręcznie, bez wyjątków.

    RezultatWygenerowany kod objęty tymi samymi kontrolami co reszta

  3. 03

    Porządkujemy dostępy narzędzi

    Asystent i integracje dostają tylko te uprawnienia, których naprawdę potrzebują.

    RezultatUprawnienia asystentów i integracji zawężone do potrzebnych

  4. 04

    Szkolimy zespół

    Konkretne przykłady zamiast ogólnego zakazu, którego nikt nie przestrzega.

    RezultatZespół przeszkolony na przykładach z Waszej pracy

Co dostajecie w praktyce

Wdrożenie kończy się działającą konfiguracją i dowodami, a nie raportem z listą zaleceń. Tak to wygląda na przykładzie.

Zasady korzystaniafragment
Rodzaj danychW narzędziu AI
kod open sourcetak
kod objęty umową z klientemtylko w narzędziu zatwierdzonym przez firmę
dane osobowe klientównigdy
klucze, hasła, tokenynigdy

Jedna strona zasad zamiast zakazu, którego nikt nie przestrzega.

Te same kontrole dla kodu z AI.pre-commit-config.yaml
repos:
  - repo: https://github.com/gitleaks/gitleaks
    rev: v8.21.2
    hooks:
      - id: gitleaks

Sekret nie trafi do repozytorium, niezależnie od tego, kto napisał kod.

Uprawnienia agenta AIkonfiguracja
Narzędzie
agent AI w procesie recenzji
Może
czytać kod, komentować zmiany
Nie może
scalać, wdrażać, czytać sekretów
Przegląd
co kwartał
Status
zatwierdzone

Narzędzie dostaje tylko te uprawnienia, których naprawdę potrzebuje.

Ilustracja. Zakres i narzędzia dobieramy po diagnozie.

Co zostaje u Was

Dane firmy i klientów nie wyciekają przez podpowiedzi

Wygenerowany kod przechodzi te same kontrole co reszta

Zespół ma jasne zasady zamiast szarej strefy

Najczęstsze pytania

Ile to trwa?+

Zakres ustalamy po rozmowie i diagnozie. Mniejsze wdrożenia zamykają się w kilku tygodniach, większe dzielimy na etapy, żeby efekt był widoczny po pierwszym.

Czy musimy dać Wam dostęp do kodu?+

Zwykle nie do całego. W większości przypadków wystarczy dostęp do konfiguracji procesu budowania i ustawień organizacji. Zakres ustalamy pisemnie przed startem.

Czy nasz zespół musi się zaangażować?+

Tak, ale nie na pełen etat. Potrzebujemy kontaktu z osobą, która zna system, i przeglądu naszych zmian. Reszta jest po naszej stronie.

Co jeśli mamy już narzędzia?+

Wpinamy się w to, co u Was działa. Wymiana narzędzia to najdroższy i najrzadziej potrzebny sposób poprawy bezpieczeństwa.

Czy uzależniamy się od Was?+

Nie. Pracujemy na standardach i narzędziach, które Wasz zespół zna albo szybko pozna — nie na autorskiej metodyce, którą rozumiemy wyłącznie my. Wszystko jest udokumentowane i przekazane.

Czy to nie spowolni wydawania?+

Tak wpinamy kontrole, żeby działały w tle. Jeśli któraś zaczyna blokować pracę, dostrajamy ją albo zmieniamy jej miejsce w procesie.

Sprawdźmy, gdzie ryzyko
powstaje w Waszym procesie

Odpowiadamy w 24h w dni robocze