Niebezpiecznik

W czerwcu Parlament Europejski przegłosował regulacje związane ze sztuczną inteligencją, tzw. AI Act. Wiele osób zastanawia się teraz, czy dokument ten realnie chroni nas przed zagrożeniami AI? Czy jego twórcy pominęli istotne kwestie w zakresie m.in. cyberbezpieczeństwa, które szybko odczuje także rynek tradycyjnego biznesu?

Najważniejszą częścią AI Act są kategorie ryzyka związane ze stosowaniem sztucznej inteligencji – minimalne, ograniczone, wysokie oraz niedopuszczalne. Szczególne znaczenie dla rozwoju systemów AI mają dwie ostatnie. Kategoria „wysokiego ryzyka” dotyczy sytuacji, w której sztuczna inteligencja może mieć negatywny wpływ na bezpieczeństwo osób i państw (w tym bezpieczeństwo militarne) oraz prawa człowieka i jego wolności.

– Systemy wysokiego ryzyka mogą mieć krytyczny wpływ między innymi na ludzkie życie i zdrowie. Chodzi o modele do tworzenia recept czy dobierania lekarstw. Konsekwencje tego typu aktywności AI mogą być poważne. Dlatego tego rodzaju systemy z kategorii wysokiego ryzyka mają znaleźć się pod szczególną zewnętrzną kontrolą – mówi Maksymilian Arciemowicz, ekspert ds. cyberbezpieczeństwa oraz biznesowego wykorzystania sztucznej inteligencji w Capgemini Polska.

Niedopuszczalne ryzyko – zakaz w Unii Europejskiej

Z punktu widzenia bezpieczeństwa najważniejsza w AI Act jest kategoria „niedopuszczalne ryzyko”. Systemy AI przyporządkowane do tej kategorii mają być całkowicie zakazane w Unii Europejskiej. Chodzi o wyjątkowo wrażliwe dane, które mogą być wykorzystane do nadużyć w sferze bezpieczeństwa i praw obywateli. Twórcy AI Act uznali, że poznawczo-behawioralne manipulowanie ludźmi, scoring (klasyfikowanie ludzi na podstawie ich zachowań, statusu społeczno-ekonomicznego lub cech osobistych), a także skanowanie twarzy w czasie rzeczywistym, są niedopuszczalną aktywnością sztucznej inteligencji. W tym ostatnim przypadku unijni urzędnicy zapowiadają pewne odstępstwa, związane głównie ze ściganiem przestępstw.

– Skanowanie twarzy jest złożonym problemem. Jeśli chodzi o ochronę prywatności to sprawa jest oczywista. Ale musimy jeszcze uwzględnić sferę bezpieczeństwa związaną z terroryzmem i walką z nim. Poza tym, dzisiaj nie tylko twarz czy tęczówka oka są zabezpieczeniem prywatności. Również chód, a nawet budowa ucha jest rozważana przez ekspertów od bezpieczeństwa jako czynnik biometryczny – komentuje Maksymilian Arciemowicz

Czego najbardziej obawiają się eksperci i ekspertki ds. bezpieczeństwa?

Najważniejszym zagadnieniem, na które zwracają uwagę osoby specjalizujące się w cyberbezpieczeństwie to sposób przetwarzania danych, które dostarczamy systemom sztucznej inteligencji. Podczas wykorzystywania narzędzi AI często wprowadzamy informacje, które są bardzo indywidualne – dotyczą naszego zawodu, biznesu, rodziny, stylu życia. Z jednej strony są naszym wkładem w rozwój tej technologii, a z drugiej strony dostarczają dane, które można wykorzystać w przeciwko nam. Osoby pracujące ze sztuczną inteligencją uważają, że AI Act nie bierze pod uwagę takiego zagrożenia naszego bezpieczeństwa.

– Konieczność szybkiego przetłumaczenia umowy z kontrahentem lub innych dokumentów firmowych zmusi nas kiedyś do skorzystania z narzędzia AI. Wszystkie dane zawarte w tych dokumentach nagle znajdą się na nieznanych nam serwerach. To prosta droga do skopiowania modelu biznesowego. Tego nie reguluje jeszcze ustawa, co sprawi, że wielu inwestorów ma ograniczone zaufanie do AI – wyjaśnia Maksymilian Arciemowicz – W Capgemini mamy bardzo jasny przekaz, jeśli chodzi o AI: obowiązuje nas transparentność. Jeżeli pracujesz jako deweloper czy deweloperka, to decyzji o tym, czy korzystać ze sztucznej inteligencji, czy nie, nie możesz podjąć samodzielnie. Na to musi zgodzić się klient. Nikt z nas nie wie, gdzie znajdą się dane, które wprowadzamy – dodaje.

To będzie rewolucja w cyberbezpieczeństwie

AI Act nie przewidziało rewolucji w cyberbezpieczeństwie, którą niesie ze sobą sztuczna inteligencja. Ta rewolucja jest dopiero przed nami i będzie miała potężny wpływ na całą branżę, także z obszaru przestępczego. Przykładem może być początkujący cyberprzestępca, który posiada już jakąś wiedzę, jak i gdzie się włamać. Jednak wiedza ta jest niewystarczająca. Prosi zatem ChatGPT o fragment brakującego kodu i w kilka sekund go dostaje. Dla młodego cyberprzestępcy napisanie narzędzia do tzw. backdoorów w różnych językach programowania nie będzie już problemem.

– O wiele łatwiej jest dzisiaj być także spamerem. AI pozwala na stworzenie 50 tysięcy e-maili w różnych wersjach, z różnymi słowami kluczowymi, które przejdą niezauważone przez filtry antyspamowe. Dzięki sztucznej inteligencji i informacjom, które ma na nasz temat, można dostosować atak phishingowy pod konkretną osobę. Pewną nadzieję przynosi fakt, że AI wykorzystywana jest także w systemach antyspamowych – zauważa Jakub Orlik z Niebezpiecznik.pl.

Czy narzędzia sztucznej inteligencji można oszukać?

Mimo ograniczeń i zabezpieczeń, które wprowadzają twórcy narzędzi AI, zdobycie niebezpiecznej wiedzy nie jest zbyt trudne. Zwykle jest to kwestia odpowiedniego kontekstu, w którym osadzimy nasze zapytanie.

– Klasycznym przykładem jest pytanie, jak zbudować bombę? Wzbudza to oczywiste wątpliwości etyczne i dlatego dostaniemy informację zwrotną, że AI nie może pomóc w tej sprawie. Sytuacja zmieni się, gdy wejdziemy w interakcję, stworzymy odpowiedni kontekst i wytłumaczymy sztucznej inteligencji, że piszemy książkę lub pracę naukową i taka wiedza jest nam potrzebna. Wtedy informację o budowie bomby możemy uzyskać. W ten sam sposób można zdobyć exploity, które będą miały za zadanie atakować użytkowników i powodować szkody. – tłumaczy Grzegorz Borowiec, konsultant ds. Bezpieczeństwa w Capgemini Polska.

Podobnie zachowają się narzędzia AI, gdy zapytamy o źródła nielegalnych wersji filmów. Pierwsza odpowiedź będzie oczywista – piractwo jest przestępstwem, itd. System „podda się”, gdy w naszym pytaniu pojawi się obawa przed piractwem. Jakich stron unikać, aby nie być piratem? To zdanie doprowadzi nas do listy serwisów z nielegalnymi materiałami.

Powyższe sytuacje niosą za sobą pewne zagrożenia, eksperci zastanawiają się więc, czy jest możliwe zbudowanie nieoszukiwalnego modelu AI? Ich zdaniem im bardziej model będzie jak człowiek, tym bardziej będzie podatny jak człowiek na próby manipulacji. Tego nie da się zatrzymać. Trzeba będzie z tym walczyć.

Zagrożenie bezpieczeństwa – ryzyko inwestorów

Eksperci i ekspertki zauważają także inny problem, który wynika z rozwoju AI. Systemy wysokiego ryzyka muszą zapewnić odpowiednią ochronę od strony technicznej i prawnej, co podniesie koszty działalności. Konsekwencją może stać się osłabienie zaangażowania finansowego inwestorów w ten sektor technologii. Problemem dla inwestujących będzie też samo prawo. Chodzi o brak pewności, jaki będzie jego kształt za rok lub dwa.

Więcej na temat AI Act i zagrożeń dotyczących sztucznej inteligencji znajdziecie w tym odcinku podcastu Capgemini TechChatter.

Niniejszy artykuł został przygotowany przez Capgemini i za jego publikację otrzymaliśmy wynagrodzenie.