Korzystanie z inteligentnych okularów Meta z AI i LLM do doxingu nieznajomych

Najnowsze okulary rozszerzonej rzeczywistości (AR) firmy Meta o nazwie Orion mogły przyciągnąć sporą uwagę w ostatnim tygodniu, ale projekt zainicjowany przez dwóch studentów Harvardu na nowo rozpalił dyskusje na temat inteligentnych okularów Ray-Ban firmy Meta.

Okulary Ray-Ban Meta Smart Glasses są wyposażone w kamerę o wysokiej rozdzielczości (HD) i zintegrowany głośnik, dzięki czemu użytkownicy mogą cieszyć się cyfrowym doświadczeniem bez użycia rąk. Dzięki tym okularom użytkownicy mogą wykonywać połączenia, słuchać muzyki oraz bezproblemowo robić zdjęcia i filmy lub przesyłać je strumieniowo na żywo.

Demonstracja stworzona przez studentów AnhPhu Nguyen i Caine Ardayfio pokazuje, jak nagrania wideo z okularów, w połączeniu z technologią rozpoznawania twarzy, mogą potencjalnie ujawnić prywatne informacje nieznajomych w przestrzeni publicznej. Pomimo że podstawowa technologia jest dostępna od lat, ta demonstracja wywołuje poczucie dyskomfortu, szczególnie że wiele osób nie zdaje sobie sprawy, jak łatwo dostępna jest taka technologia dla przeciętnego cywila. Doprowadziło to do tego, że wielu użytkowników określiło tę technologię jako dystopijną, odzwierciedlając sposób, w jaki wielu ją sobie wyobrażało. Jednak obecnie jest ona rzeczywistością.

Nguyen opublikował na portalu X (dawniej Twitter) film prezentujący technologię o nazwie I-XRAY w działaniu.

Czy jesteśmy gotowi na świat, w którym nasze dane są widoczne na pierwszy rzut oka? @CaineArdayfio i ja oferujemy odpowiedź, jak się chronić: https://t.co/LhxModhDpk
pic.twitter.com/Oo35TxBNtD

— AnhPhu Nguyen (@AnhPhuNguyen1) 30 września 2024 r.

Ta technologia wykorzystuje kamerę w okularach do transmisji wideo na żywo na ich konto na Instagramie. Zaprogramowali aplikację komputerową do monitorowania transmisji i używają AI do identyfikacji twarzy.

Po rozpoznaniu twarzy jest ona przetwarzana za pomocą usług rozpoznawania twarzy, takich jak PimEyes, które odpowiednio dopasowują obraz do publicznie dostępnych zdjęć danej osoby w Internecie. Następnie obrazy te są analizowane przy użyciu dużych modeli językowych (LLM) w celu wyodrębnienia informacji, takich jak imię i nazwisko osoby, zawód i inne. Dane te można następnie zestawić z publicznie dostępnymi bazami danych, aby odkryć numery telefonów, a nawet częściowe numery ubezpieczenia społecznego.

Jak wspomniano wcześniej, niemal wszystkie technologie wykorzystane w I-XRAY są dostępne od lat i obejmują kamery, narzędzia do rozpoznawania twarzy, takie jak PimEyes, oraz bazy danych, takie jak FastPeopleSearch i Cloaked.com.

Niepokojący charakter tej demonstracji potęguje jej dyskretny i natychmiastowy sposób działania. Okulary Ray-Ban Meta 2 pokazane w filmie przypominają standardowe okulary i chociaż posiadają wskaźnik prywatności, który informuje o aktywnym nagrywaniu wideo, trudno go zauważyć w jasno oświetlonych miejscach na zewnątrz. W związku z tym osoba nosząca te okulary może Cię nagrywać bez Twojej wiedzy.

Ponadto autonomiczny charakter gromadzenia informacji pogłębia niepokój. Zaangażowani LLM-owie mogą automatycznie odkrywać szczegóły, takie jak nazwiska i dane osobowe z różnych źródeł internetowych, bez żadnego udziału człowieka. Wideo ilustruje, jak ci studenci doxują osobę na ulicy, swobodnie wykorzystując zebrane informacje, aby udawać znajomość, tak jakby spotkali się na imprezie społecznej.

Podstawowym zamysłem tego projektu jest podkreślenie, jak łatwo nieznajomi mogą uzyskać dostęp do danych osobowych w dzisiejszym cyfrowym krajobrazie. Duet studentów zdecydował się nie udostępniać publicznie żadnego kodu, ale udostępnił metody ochrony prywatności osób. Wiele z tych baz danych oferuje bezpłatne usługi pomagające w usuwaniu danych osobowych. Jednak całkowite wyeliminowanie Twojej obecności online pozostaje trudnym zadaniem. Dzięki tym środkom możesz spróbować nieco zmniejszyć dostępność swoich informacji.