15 września 2026 r. Mirosław Maj, prezes FBC, uczestniczył w konferencji „Prawa człowieka w erze nowych technologii. W stronę nowego modelu regulacji i zarządzania”, która odbyła się w Sejmie RP. Organizatorem wydarzenia była Komisja Sprawiedliwości i Praw Człowieka, kierowana przez posła Pawła Śliza. Konferencja służyła wymianie doświadczeń przedstawicieli instytucji publicznych, nauki i praktyki oraz wypracowaniu rekomendacji dotyczących ochrony praw człowieka w państwie cyfrowym.

Prezes FBC wziął udział w panelu poświęconym Shadow AI, ochronie danych osobowych i bezpieczeństwu informacji. Dyskusję moderował Łukasz Nowatkowski, a obok Mirosława Maja uczestniczyli w niej Justyna Żylińska, Mateusz Jakubik, Michał Nowakowski i Marcin Olender. Rozmowa dotyczyła ryzyk związanych z wykorzystywaniem narzędzi AI poza kontrolą organizacji oraz możliwości ich ograniczania.

Mirosław Maj zwrócił uwagę na zmieniający się charakter zagrożeń związanych z Shadow AI. Ryzyko to nie sprowadza się już wyłącznie do wprowadzania danych organizacji do modeli sztucznej inteligencji i potencjalnego wycieku informacji. Coraz większe znaczenie mają niekontrolowane działania agentów AI, którzy mogą również realizować cele atakujących — między innymi wskutek ataków typu prompt injection, polegających na podsuwaniu instrukcji manipulujących ich zachowaniem.

W ocenie prezesa FBC rosnąca rola agentów AI, przy ograniczonych możliwościach kontrolowania ich działań, staje się największym ryzykiem związanym z AI w najbliższej przyszłości. W tym kontekście przywołał przykład ataku na Hugging Face, podkreślając, że zagrożenia te wymagają już dziś konkretnych działań po stronie organizacji.

Najważniejszą rekomendacją było jak najszybsze uruchomienie projektu technologicznego monitorowania wykorzystania AI i reagowania na naruszenia. Samo ograniczanie dostępu do sztucznej inteligencji nie stanowi wystarczającej odpowiedzi na zjawisko Shadow AI. Kluczowe jest uzyskanie wiedzy o tym, jak AI jest wykorzystywana, do jakich zasobów mają dostęp jej agenci i jakie działania podejmują — oraz zapewnienie możliwości interwencji w przypadku wykrycia zagrożenia. Taki nadzór powinien stać się istotnym elementem cyberbezpieczeństwa każdej organizacji korzystającej z AI.

Zapis transmisji konferencji na stronie Sejmu <https://www.sejm.gov.pl/sejm10.nsf/transmisje_arch.xsp#DE62047938AED88AC1258E6E0042A6C0> – udział Mirosława Maja od godz. 14:05:20.