Pierwsza norma AI Act: czy obejmuje chatbota na stronie?
EN 18286:2026 wspiera dostawców systemów AI wysokiego ryzyka w spełnianiu wymagań dotyczących zarządzania jakością. Sprawdź, co oznacza to dla chatbota na stronie firmy.
W skrócie: typowy chatbot na stronie, który odpowiada na pytania o ofertę, zbiera dane do zapytania i przekazuje je pracownikowi, zwykle nie staje się systemem wysokiego ryzyka tylko dlatego, że używa AI. Norma EN 18286:2026 jest skierowana do dostawców systemów AI wysokiego ryzyka i pomaga im spełniać wymagania systemu zarządzania jakością z art. 17 AI Act. O tym, czy konkretny system jest wysokiego ryzyka, decyduje jego przeznaczenie i zastosowanie, nie samo miejsce umieszczenia. Komisja Europejska opublikowała informację o normie 19 października 2026 r.
Co to oznacza dla firmy usługowej?
Jeśli chatbot przedstawia firmową ofertę, odpowiada na pytania o godziny otwarcia lub zbiera informacje potrzebne do kontaktu, sama ta funkcja nie przesądza o kwalifikacji wysokiego ryzyka. Trzeba ocenić, do czego system został zaprojektowany i jak jest używany. AI Act wskazuje ścieżki kwalifikacji związane między innymi z systemami będącymi elementami bezpieczeństwa określonych produktów oraz zastosowaniami wymienionymi w załączniku III. Art. 6 AI Act opisuje te kryteria.
Inaczej może być, jeśli firma używa rozwiązania do zadań z obszaru wymienionego w załączniku III, na przykład do oceny kandydatów w rekrutacji lub oceny zdolności kredytowej klientów. Wtedy trzeba zbadać konkretne przeznaczenie systemu. Nazwanie go „chatbotem” nie rozstrzyga sprawy.
Czym jest EN 18286:2026 i kogo dotyczy?
EN 18286:2026 to norma dotycząca systemu zarządzania jakością na potrzeby AI Act. Komisja wskazuje, że opracowano ją dla dostawców systemów AI wysokiego ryzyka, aby pomóc im spełnić wymagania z art. 17. Jeśli dostawca zastosuje normę, uzyskuje domniemanie zgodności z tymi wymaganiami z art. 17, które norma obejmuje. Nie oznacza to automatycznie zgodności z całym AI Act. Opis Komisji wyjaśnia zakres tego domniemania.
Norma nie jest checklistą dla każdego przedsiębiorcy, który kupuje chatbot. Jeżeli firma korzysta z gotowego narzędzia do zwykłej obsługi zapytań, warto ustalić przede wszystkim, jaki jest jego deklarowany cel i czy planowane zastosowanie w firmie pokrywa się z tym celem. Jeżeli system ma zastosowanie wysokiego ryzyka, kwestia EN 18286 staje się istotna przede wszystkim dla jego dostawcy, który odpowiada za system zarządzania jakością wymagany od dostawców takich rozwiązań.
| Sytuacja | Co sprawdzić | Znaczenie EN 18286:2026 |
|---|---|---|
| Chatbot odpowiada na pytania o ofertę i zbiera zapytania | Czy jego funkcja ogranicza się do obsługi klienta, czy wpływa na decyzje z obszaru wysokiego ryzyka | Sama obecność chatbota na stronie nie przesądza o zastosowaniu normy |
| AI ocenia kandydatów, klientów lub inne osoby w obszarze z załącznika III | Przeznaczenie systemu, jego wpływ na decyzje i kryteria z art. 6 | Dostawca systemu wysokiego ryzyka może stosować normę do wykazania zgodności z objętymi nią wymaganiami art. 17 |
| Chatbot informuje, że rozmawia z AI | Jak i kiedy użytkownik otrzymuje tę informację | To odrębny obowiązek przejrzystości, niezależny od kwalifikacji wysokiego ryzyka |
Jak ocenić własnego chatbota: cztery kroki
- Zapisz konkretne zadania systemu. Na przykład: „odpowiada na pytania o usługi na podstawie materiałów firmy i przekazuje zapytanie do zespołu”. Zapisz również, czego chatbot nie robi, np. nie przyznaje finansowania ani nie wybiera kandydatów.
- Sprawdź przeznaczenie i obszar użycia. Porównaj funkcje z kryteriami art. 6 oraz zastosowaniami w załączniku III AI Act. Sprawdź cały proces, w którym uczestniczy chatbot, a nie tylko jego interfejs na stronie.
- Ustal role dostawcy i firmy. Zapytaj dostawcę, do jakiego zastosowania system został zaprojektowany, czy określa go jako system wysokiego ryzyka i jakie informacje o zgodności udostępnia. Porównaj te informacje z rzeczywistym planem wdrożenia.
- Oddziel klasyfikację od przejrzystości. Jeśli chatbot bezpośrednio rozmawia z osobami, sprawdź obowiązek poinformowania ich, że wchodzą w interakcję z systemem AI. Art. 50 przewiduje przekazanie tej informacji najpóźniej przy pierwszej interakcji, chyba że z kontekstu jest oczywiste, że użytkownik rozmawia z AI. Szczegóły zawiera art. 50 AI Act.
Przykład dla biura nieruchomości: chatbot odpowiada na pytania o godziny pracy, zbiera preferowaną lokalizację nieruchomości i przekazuje zapytanie agentowi. To inny scenariusz niż system, który automatycznie ocenia wiarygodność finansową osoby i na tej podstawie wpływa na decyzję o udzieleniu jej kredytu. W drugim przypadku trzeba sprawdzić zastosowanie w świetle kategorii z załącznika III.
W praktyce: poproś dostawcę o opis przeznaczenia systemu, jego funkcji i przewidzianych ograniczeń. Jeśli planujesz użycie do oceny lub selekcji osób, nie zakładaj, że zwykła etykieta „chatbot” rozwiązuje kwestię klasyfikacji.
Norma nie zastępuje pozostałych obowiązków
Domniemanie zgodności wynikające z normy obejmuje wyłącznie wymagania art. 17 objęte jej zakresem. Samo wdrożenie EN 18286 nie rozstrzyga więc wszystkich obowiązków wynikających z AI Act ani z innych przepisów. Komisja opisuje normy zharmonizowane jako dobrowolną drogę wykazania zgodności; można posłużyć się innym sposobem spełnienia wymagań. Zastosowanie normy może dać domniemanie zgodności w zakresie objętych nią wymagań. Strona Komisji o normalizacji AI Act wyjaśnia tę rolę norm.
Dla menedżera wybierającego narzędzie oznacza to, że warto pytać o konkretne zastosowanie, a nie tylko o certyfikat lub deklarację zgodności. W przypadku zwykłego chatbota obsługującego pytania klientów ważne pozostają też jakość firmowej wiedzy, sposób przekazywania zapytań do zespołu oraz jasne przedstawienie ograniczeń odpowiedzi AI.
FAQ
Czy każdy chatbot AI na stronie jest systemem wysokiego ryzyka?
Nie. Ocena zależy od przeznaczenia systemu oraz tego, czy mieści się w kryteriach art. 6, w tym w zastosowaniach wymienionych w załączniku III. Sam fakt, że chatbot działa na stronie firmy, nie przesądza o wysokim ryzyku.
Czy mała firma musi wdrożyć EN 18286:2026?
Sama norma jest dobrowolną drogą wykazania zgodności. Komisja wskazuje, że jest skierowana do dostawców systemów AI wysokiego ryzyka i dotyczy wymagań systemu zarządzania jakością z art. 17. To, czy firma ma obowiązki związane z systemem wysokiego ryzyka, zależy od konkretnego zastosowania i roli firmy.
Czy EN 18286 potwierdza zgodność z całym AI Act?
Nie. Domniemanie zgodności dotyczy wymagań art. 17 objętych normą. Nie należy traktować go jako potwierdzenia spełnienia wszystkich obowiązków wynikających z AI Act.
Czy zwykły chatbot musi ujawniać, że jest AI?
Art. 50 przewiduje informowanie osób o bezpośredniej interakcji z systemem AI, chyba że jest to oczywiste w danych okolicznościach. Informację należy przekazać najpóźniej przy pierwszej interakcji. To odrębna kwestia od tego, czy chatbot jest wysokiego ryzyka.
Co dalej
Przed wyborem narzędzia sprawdź także chatbota, RODO i AI Act: co skontrolować przed wdrożeniem. Jeśli chcesz omówić zastosowanie chatbota do pierwszego kontaktu w swojej firmie, napisz do mnie.