AI Act wszedł w życie w sierpniu 2024 roku, ale wiele firm nadal nie zdaje sobie sprawy, że nowe przepisy ich bezpośrednio dotyczą.
Jeśli sprzedajesz SaaS, wdrażasz AI w procesach klientów albo budujesz narzędzia automatyzujące decyzje, AI Act dotyczy Twojej firmy.
Poniżej znajdziesz praktyczne wyjaśnienie, co to oznacza w biznesie B2B – bez prawniczego żargonu, ale z konkretnymi obowiązkami.
1. Co to jest AI Act i dlaczego dotyczy firm B2B?
AI Act to pierwsze w UE kompleksowe rozporządzenie regulujące sztuczną inteligencję.
Reguluje nie firmy, tylko systemy AI i ich zastosowanie.
Dlaczego dotyczy B2B?
Bo przepisy nie patrzą na wielkość firmy, tylko na to:
- co robi system AI
- jaki wpływ ma na ludzi
- w jakim obszarze jest używany
Przykłady systemów objętych AI Act:
- systemy rekrutacyjne z AI
- scoring klientów i ocena ryzyka
- chatboty obsługujące klientów
- systemy rekomendacyjne w SaaS
2. Kto jest kim w AI Act?
AI Act definiuje kilka ról, które mogą się nakładać.
2.1 Provider (dostawca AI)
To firma, która:
- tworzy system AI
- wprowadza go na rynek
- sprzedaje go pod własną marką
Najczęściej: software house, SaaS, startup AI
2.2 Deployer (wdrożeniowiec)
To firma, która:
- używa systemu AI w swojej działalności
- nie sprzedaje go dalej
- korzysta z niego operacyjnie
np. e-commerce używający AI do obsługi klientów
2.3 Integrator (rola praktyczna)
Integrator:
- łączy różne systemy AI
- dostosowuje rozwiązania do klienta
To nie jest formalna kategoria w AI Act, ale ważna biznesowo rola.
3. Obowiązki dostawców AI (providerów)
Jeśli jesteś dostawcą AI, AI Act nakłada konkretne obowiązki.
3.1 Ocena ryzyka i dokumentacja
Musisz:
- zidentyfikować ryzyka systemu
- opisać ich wpływ
- udokumentować środki zaradcze
3.2 System zarządzania jakością
Wymagane są procesy:
- testowania AI
- monitorowania działania
- aktualizacji modeli
- reagowania na błędy
3.3 Transparentność
Użytkownik musi wiedzieć:
- że korzysta z AI
- jak system działa
- jakie ma ograniczenia
3.4 Human oversight (nadzór człowieka)
System musi umożliwiać:
- ingerencję człowieka
- wstrzymanie decyzji AI
- weryfikację wyników
3.5 Rejestr systemów AI
Dla systemów wysokiego ryzyka:
- obowiązek zgłoszenia do unijnej bazy danych
4. Transparentność w AI Act
Transparentność to jeden z kluczowych obowiązków.
Co musi wiedzieć użytkownik?
- że korzysta z AI
- jakie decyzje podejmuje system
- na jakiej podstawie działa
Przykłady:
- chatbot musi informować, że jest AI
- system rekrutacyjny musi ujawniać automatyzację
- scoring klientów musi być wyjaśnialny
5. Kategorie ryzyka AI
AI Act dzieli systemy na 4 poziomy ryzyka:
5.1 Systemy niedopuszczalne
Zakazane w UE:
- social scoring obywateli
- manipulacja zachowaniem
- wykorzystywanie dzieci
5.2 Systemy wysokiego ryzyka
Dotyczą m.in.:
- HR i rekrutacji
- scoringu finansowego
- infrastruktury krytycznej
- systemów decyzyjnych
5.3 Systemy ograniczonego ryzyka
Wymagana głównie transparentność:
- chatboty
- deepfake
- generowanie treści AI
5.4 Systemy minimalnego ryzyka
Bez dodatkowych obowiązków:
- filtry spamowe
- rekomendacje treści
6. Human-in-the-loop i etyka AI
Human-in-the-loop oznacza, że:
człowiek musi mieć możliwość kontroli decyzji AI
Przykłady:
- rekrutacja: AI analizuje CV, człowiek decyduje
- scoring: człowiek może zweryfikować wynik
Dlaczego to ważne?
- zmniejsza ryzyko błędów
- ogranicza odpowiedzialność
- zwiększa bezpieczeństwo prawne
7. Typowe błędy firm (czerwone flagi)
1. Brak oceny ryzyka AI
Firmy wdrażają AI bez analizy regulacyjnej.
2. Brak zapisów w umowach
Brakuje:
- odpowiedzialności
- zasad użycia AI
- zgodności z AI Act
3. Brak human review
System działa w 100% automatycznie.
4. Brak dokumentacji prawnej
Jest tylko dokumentacja techniczna, brak compliance.
5. Brak informacji dla użytkowników
Użytkownik nie wie, że korzysta z AI.
8. Kiedy sprawdzić zgodność z AI Act?
Warto to zrobić, jeśli:
- wdrażasz AI w HR, scoringu lub analizie danych
- używasz AI w SaaS
- automatyzujesz procesy klientów
- podpisujesz umowy z dostawcami AI
- rozwijasz produkt technologiczny
Podsumowanie
AI Act zmienia sposób, w jaki firmy technologiczne i B2B korzystają z AI.
Najważniejsze obowiązki to:
- ocena ryzyka
- transparentność
- nadzór człowieka
- dokumentacja
- odpowiedzialność kontraktowa
Firmy, które wdrożą AI Act poprawnie, zyskują:
- większe bezpieczeństwo prawne
- przewagę w przetargach
- zaufanie klientów
Chcesz sprawdzić zgodność Twojego AI z AI Act?
Jeśli chcesz zweryfikować swoje rozwiązania AI lub umowy SaaS pod kątem nowych przepisów, warto zrobić analizę zanim pojawią się ryzyka.