Nicholas Kathmann – CISO w LogicGate
Nicholas Kathmann pełni funkcję Chief Information Security Officer (CISO) w LogicGate, gdzie kieruje programem bezpieczeństwa informacji, nadzoruje innowacje w zakresie zabezpieczeń platformy oraz współpracuje z klientami w obszarze zarządzania ryzykiem cyberbezpieczeństwa. Ma ponad 20 lat doświadczenia w IT, w tym 18+ lat w cyberbezpieczeństwie, i budował zespoły bezpieczeństwa zarówno w małych firmach, jak i korporacjach z listy Fortune 100.
Czym zajmuje się LogicGate?
LogicGate to platforma do zarządzania ryzykiem i zgodnością, która pomaga firmom automatyzować i skalować programy governance, risk i compliance (GRC). Dzięki flagowemu produktowi, Risk Cloud®, zespoły mogą identyfikować, analizować i kontrolować ryzyko w całej organizacji, korzystając z konfigurowalnych procesów, analiz w czasie rzeczywistym i integracji. Platforma wspiera różne zastosowania, takie jak zarządzanie ryzykiem dostawców, zgodność cyberbezpieczeństwa czy audyt wewnętrzny, pomagając firmom budować bardziej elastyczne strategie.
Jak AI zmieni rolę CISO i CIO w ciągu najbliższych 2–3 lat?
AI już teraz wpływa na te stanowiska, ale w najbliższych latach kluczową rolę odegra tzw. Agentic AI, który zrewolucjonizuje codzienne procesy biznesowe. Zadania takie jak resetowanie haseł, instalacja oprogramowania czy obsługa help desk’u mogą być realizowane przez AI. Kolejnym ważnym zastosowaniem będzie automatyzacja żmudnych audytów, co pozwoli CISOs i CIOs skupić się na strategicznych inicjatywach.
Jak przedsiębiorstwa powinny wdrażać AI w obliczu deregulacji i cięć w cyberbezpieczeństwie?
W USA obserwujemy trend deregulacyjny, ale w UE przepisy są zaostrzane. Firmy międzynarodowe muszą być gotowe na globalne wymogi dotyczące odpowiedzialnego wykorzystania AI. Dla przedsiębiorstw działających tylko w USA kluczowe będzie opracowanie silnych zasad zarządzania AI i utrzymanie nadzoru ludzkiego, aby uniknąć niekontrolowanego rozwoju technologii.
Jakie są największe wyzwania w integracji AI z istniejącymi systemami cyberbezpieczeństwa?
Głównym problemem jest śledzenie lokalizacji i przepływu danych. Wprowadzenie AI utrudnia monitorowanie, ponieważ dane nie zawsze trafiają bezpośrednio do modelu AI, co ogranicza skuteczność tradycyjnych narzędzi, takich jak DLP czy monitoring sieci.
Dlaczego wiele strategii zarządzania AI to „papierowe tygrysy”?
„Papierowe tygrysy” to strategie, które znane są tylko wąskiej grupie osób i nie są egzekwowane w całej organizacji. AI dotyka każdego działu, więc uniwersalne podejście nie zadziała. Zespoły finansowe wdrażające AI w ERP różnią się od zespołów produktowych korzystających z AI w rozwoju oprogramowania. Kluczem jest dostosowanie zasad do konkretnych przypadków, korzystając z wytycznych IAPP, OWASP czy NIST.
Jak zapobiegać dryfowi modeli AI bez nadmiernej biurokracji?
Dryf to naturalny element użytkowania technologii, ale w przypadku AI może przebiegać szybciej. Firmy potrzebują strategii testowania, która wykryje błędy, uprzedzenia i inne problemy. Ważne jest, aby od początku mieć narzędzia do pomiaru i korygowania tych zjawisk.
Jaką rolę odgrywają logi zmian i systemy feedbacku w zarządzaniu AI?
Obecnie pomagają ograniczyć ryzyko dla dostawców, ale zbyt częste aktualizacje utrudniają klientom skuteczne zarządzanie AI.
Czy AI może prowadzić do dyskryminacji w scoringu kredytowym i usługach BNPL?
Tak – nawet dobrze wytrenowane modele mogą podejmować zaskakujące decyzje. Przykładowo, jeśli w komunikacji pojawi się fraza „doskonała zdolność kredytowa”, AI może automatycznie odmówić pożyczki, niezależnie od kontekstu. Banki muszą wprowadzić lepszy nadzór, aby minimalizować takie sytuacje.
Jak audytować algorytmy podejmujące kluczowe decyzje?
Należy stale testować modele w warunkach zbliżonych do rzeczywistych, choć wyniki mogą wymagać ludzkiej weryfikacji. Odpowiedzialność powinna spoczywać na organizacjach wdrażających AI, tak jak w przypadku decyzji podejmowanych przez ludzi.
Jak AI wpływa na ubezpieczenia cybernetyczne?
AI pomaga analizować dane i identyfikować wzorce ryzyka. Po stronie klientów ułatwia zarządzanie zagrożeniami, a ubezpieczyciele wykorzystują ją do wykrywania niespójności w zgłoszeniach.
Jak firmy mogą wykorzystać AI do obniżenia składek ubezpieczeniowych?
Kluczem jest skupienie się na najpoważniejszych ryzykach, zamiast rozpraszać się każdym drobnym problemem. AI pomaga odfiltrować szum i skoncentrować się na działaniach, które realnie obniżają ryzyko.
Od czego zacząć odpowiedzialne wdrażanie AI?
Najpierw określ cele i przypadki użycia, a następnie dopasuj odpowiednie frameworki. Silne zarządzanie AI jest kluczowe nie tylko dla redukcji ryzyka, ale też dla utrzymania zaufania partnerów biznesowych.
Jakie będzie największe zagrożenie związane z AI za 5 lat?
Atakujący będą wykorzystywać Agentic AI do oszustw, manipulując agentami w celu osiągnięcia szkodliwych efektów. Już teraz widzimy przypadki omijania zabezpieczeń w chatbotach obsługi klienta.
Dziękujemy za rozmowę! Więcej informacji znajdziesz na stronie LogicGate.