Flipper Zero

Postępy w kwestii unijnej ustawy o sztucznej inteligencji – spotkanie 24 października. Liliana Kotval

Unijne ramy AI Act zostały pierwotnie przedstawione przez Komisję Europejską w kwietniu 2021 r., a Parlament Europejski zatwierdził ich projekt w maju tego roku. Ostateczny kształt jest obecnie nadal negocjowany, a po zatwierdzeniu będzie to pierwsze na świecie kompleksowe prawo dotyczące sztucznej inteligencji. Jeśli zostanie pomyślnie wdrożony, ustanowi globalny standard polityki w zakresie sztucznej inteligencji. 

W tym roku Rada UE, Parlament i Komisja uczestniczyły w regularnych spotkaniach trójstronnych w celu omówienia ustawy o sztucznej inteligencji i ustanowienia przepisów dla producentów i użytkowników, aby zapewnić, że systemy sztucznej inteligencji są bezpieczne, przejrzyste, identyfikowalne, niedyskryminujące i przyjazne dla środowiska. Jak dotąd, podczas poprzednich trzech spotkań, które odbyły się w czerwcu, lipcu i wrześniu, Komisja sklasyfikowała poziomy ryzyka stwarzanego przez systemy AI – niedopuszczalne, wysokie, ograniczone i minimalne – i zaproponowała odpowiednie środki regulacyjne. 

Na ostatnim spotkaniu, które odbyło się 24 października, unijni decydenci spotkali się w celu przeprowadzenia ostatecznych, intensywnych negocjacji dotyczących ustawy. Rozmowy wyjaśniły ponadto wyłączenia systemów sztucznej inteligencji z kategorii wysokiego ryzyka, jeśli okażą się one czysto pomocnicze (art. 6 ustawy). Obejmuje to systemy AI, które: 

  •  Są w stanie wykonać określone zadanie proceduralne  
  •  Są w stanie wykryć odchylenia od wzorców decyzyjnych  
  •  Nie wpływają na decyzje, takie jak udzielenie pożyczki lub złożenie oferty pracy  
  •  Poprawiają jedynie jakość pracy, np. inteligentny program do sprawdzania gramatyki lub tłumacz. 

Decyzja o tym, czy system sztucznej inteligencji należy do kategorii wysokiego ryzyka, może być niejednoznaczna, a Komisja Europejska chce zachować uprawnienia do modyfikowania tych odstępstw w miarę upływu czasu. 

Ponadto, w odniesieniu do sztucznej inteligencji w egzekwowaniu prawa, zaproponowano rozwiązanie, które odnosi się do wykorzystania modeli fundamentalnych i sztucznej inteligencji ogólnego przeznaczenia, jednak ostateczna decyzja nie została uzgodniona. Może to okazać się trudne do wdrożenia, ponieważ egzekwowanie prawa wymaga pewnych narzędzi AI, których Parlament Europejski może chcieć zakazać, takich jak rozpoznawanie twarzy lub zdalne systemy identyfikacji biometrycznej. 

Ogólnie rzecz biorąc, wiele pytań wciąż pozostaje bez odpowiedzi, a rozmowy trójstronne mają się odbyć ponownie 6 grudnia, z nadzieją na przyjęcie ustawy do końca roku. Według Kaia Zennera, doradcy europosła Axela Vossa, negocjacje będą dotyczyły nierozwiązanych przeszkód w postaci zakazów w art. 5, modeli fundamentalnych i generatywnej sztucznej inteligencji, definicji sztucznej inteligencji, urzędu ds. sztucznej inteligencji i testów w warunkach rzeczywistych. 

Zatwierdzenie ustawy do końca tego roku może być trudne, jednak Zenner dodatkowo zauważył, że najkorzystniej byłoby zakończyć negocjacje podczas obecnej prezydencji hiszpańskiej i przed nową prezydencją w UE w 2024 roku. 

Flipper Zero & inne kontrowersyjne gadżety technologiczne Liliana Kotval

Żyjemy w erze technologii o zdumiewających i niewiarygodnych możliwościach. Postęp techniki umożliwia dokonywanie przełomowych odkryć, ale niesie za sobą również istotne zagrożenia. Jeden z potencjalnie niebezpiecznych gadżetów dostępnych w sprzedaży publicznej – Flipper Zero – zyskał sławę w mediach społecznościowych, jako ten, który jest w stanie wejść do budynków, pokoi hotelowych czy samochodów; zdolny klonować karty kredytowe, zmieniać ceny benzyny na stacjach i nie tylko. Chociaż niektóre z tych twierdzeń są słuszne, inne nie do końca. Szkody mogą zostać wyrządzone wtedy, kiedy urządzenie znajdzie się w niewłaściwych rękach. 

Flipper Zero został po raz pierwszy wydany w Rosji przez Pavla Zhovnera w sierpniu 2020 roku, który przeniósł swoją siedzibę do USA z powodu wybuchu wojny, twierdząc, że nie ma dalszych powiązań z Rosją. Urządzenie przypomina odtwarzacz MP3 i może być kontrolowane bez użycia dodatkowych sprzętów. Jest w stanie zbadać każdy rodzaj systemu kontroli dostępu poprzez interakcję, przechwytywanie, klonowanie i naśladowanie sygnałów NFC, 125 kHz RFID, podczerwieni oraz Sub-1 GHz. Ideą stojącą za Flipper Zero był pentesting i namierzanie luk w systemach. Jednak jego użytkownicy odkryli, że Flipper Zero ma znacznie więcej do zaoferowania – rzekomo może uzyskać dostęp do budynków, systemów bezpieczeństwa, a nawet zdobyć informacje o karcie kredytowej. Według Andrésa Soriano, hiszpańskiego eksperta ds. cyberbezpieczeństwa i szefa ds. bezpieczeństwa Universae (wiodącej wyższej uczelni technicznej w Madrycie), głównym niebezpieczeństwem jakie niesie za sobą Flipper Zero jest możliwość uzyskiwania dostępu do systemów kontroli, które są obecnie używane w firmach, domach, garażach itp. Niemniej jednak, aby tego dokonać, potrzebny jest pewien poziom specjalistycznej wiedzy. 

Z drugiej strony, w przeciwieństwie do tego, co sugerowano w mediach społecznościowych, jeśli chodzi o kradzież samochodów oraz duplikowanie kart kredytowych, Flipper Zero nie stanowi dużego zagrożenia. Urządzenie może uzyskać dostęp do informacji na karcie, ale musi znajdować się w bardzo bliskiej odległości od niej. Nie będzie też w stanie wykorzystać skradzionych informacji do dokonania jakichkolwiek płatności dzięki zabezpieczeniom systemów NFC. Kradzież samochodów za pomocą tego sprzętu również nie jest taka łatwa – większość nowoczesnych pojazdów wysyła każdorazowo unikalny zaszyfrowany kod podczas otwierania, więc zduplikowanie jednego kodu w celu uzyskania dostępu okazuje się bezużyteczne. Należy zatem podjąć pewne środki ostrożności w przypadku Flipper Zero i sposobu jego wykorzystania, jednak w przeciwieństwie do twierdzeń popularnych w social mediach, przeciętna osoba nie będzie w stanie popełnić wyżej wymienionych czynów za pomocą tego urządzenia. Przewidywani nabywcy – maniacy pentestingu – są osobami z większym doświadczeniem, a tym samym większymi predyspozycjami do wyrządzenia szkody. 

Flipper Zero nie jest jedynym kontrowersyjnym gadżetem, który uważany jest za potencjalnie niebezpieczny. Społeczeństwo ma dostęp do szerokiej gamy urządzeń, jak i możliwości, które mogą być wykorzystywane w złych intencjach, np. do szpiegowania inteligentnych sprzętów domowych oraz tworzenia deepfake’ów. Inteligentne urządzenia domowe śledzą dane osobowe użytkownika, w tym historię przeglądania, aby odpowiadać na zapytania i stać się maksymalnie do niego dopasowanymi. Jest to bardzo wygodne dla korzystających, jednak przyrząd musi być stale świadomy swojego otoczenia, aby móc odpowiedzieć na „słowo budzenia”, pozostawiając tym samym wiele przestrzeni na nadużycia hakerom czy szpiegom. Eksperci zalecają zasłanianie mikrofonów oraz kamer inteligentnych sprzętów, ale i to nie gwarantuje stuprocentowej ochrony. W czerwcu tego roku Amazon zapłacił 25 milionów dolarów w ramach ugody przeciwko zarzutom Federalnej Komisji Handlu USA (FTC) za to, że 30 000 jej pracowników miało dostęp do nagrań głosowych użytkowników Alexy między sierpniem 2018 a wrześniem 2019 roku. FTC oznajmiła, że Amazon przechowywał nagrania głosowe przez lata, aby wykorzystać je do własnych celów. Stwierdzono, że nie jest całkowicie jasne, w jakim stopniu pracownicy firmy nadal mają dostęp do nagrań użytkowników, co stanowi oczywiste naruszenie prywatności. 

Co więcej, narzędzia oparte na sztucznej inteligencji i technologie deepfake stają się coraz łatwiej dostępne dla społeczeństwa sprawiając, że dokonanie nadużyć z ich wykorzystaniem staje się jeszcze prostsze. W ciągu kilku godzin, za pomocą krótkiego klipu audio lub zdjęcia osoby, można wygenerować wideo, w którym ta osoba (lub raczej ofiara w większości przypadków) może zrobić i powiedzieć praktycznie wszystko. Wykracza to daleko poza zabawne filmy z zamianą twarzy, ponieważ deepfakes mogą być wykorzystywane nawet w konfliktach i bardzo delikatnych sprawach rangi międzynarodowej. W marcu ubiegłego roku deepfake przedstawiający prezydenta Wołodymyra Zełenskiego poddającego się Rosji został wyemitowany w zhakowanej, ukraińskiej sieci telewizyjnej. 

Nawet dla maniaków technologii niemożliwe jest nadążanie za każdym nowym urządzeniem i potencjalnymi zagrożeniami jakie się z nim wiążą. Najlepszym środkiem zapobiegawczym jest bycie ich świadomym. Gadżety technologiczne łatwo dostępne dla ogółu społeczeństwa są w większości przyjazne dla użytkowników i nie powodują dużych szkód w rękach przeciętnej osoby. Mając to na uwadze, trzeba jednak pamiętać, że nadal istnieje wiele legalnych urządzeń (niezwykle przydatnych i mogących znacznie ułatwić życie), które użyte w złych intencjach mogą wywołać niepożądane skutki. A Ty, jak dużo technologii chcesz zintegrować ze swoim życiem? Jak bardzo jesteś świadomy zagrożeń technologicznych, które stwarza tak wiele urządzeń wokół nas?