Co gdyby sztuczna inteligencja wyłączyła Internet?
W dzisiejszym świecie brak dostępu do Internetu to nie tylko niedogodność. To poważna przeszkoda, która mocno wpływa na naszą pracę, płatności, logistykę, opiekę zdrowotną i koordynację.
Zbudowaliśmy ten nowy świat z myślą o szybkości i wydajności, a automatyzacja stała się kluczowym narzędziem w ich osiąganiu. Jednak automatyzacja może być zawodna. Tym bardziej ze względu na współdzielone warstwy cyfrowe, które przenikają infrastrukturę internetu: warstwy, których większość ludzi nigdy nawet nie widzi.
To nie jest prognoza, proroctwo, ostrzeżenie ani groźba. To test odporności.
Jak do tego doszło?
Aby zrozumieć, jak kruchy jest świat, w którym wszyscy jesteśmy nieustannie połączeni, nie musimy się zbytnio wysilać. Wystarczy spojrzeć na niedawną historię.
Tylko w ciągu ostatniej dekady widzieliśmy wiele incydentów, w których pojedyncza, często niewielka zmiana techniczna wywoływała skutki znacznie wykraczające poza oczekiwania. Błędne aktualizacje zabezpieczeń wyłączyły miliony maszyn na całym świecie w ciągu kilku godzin, zakłócając kluczowe funkcje, takie jak linie lotnicze, szpitale, banki i usługi rządowe. Błędne konfiguracje routingu i DNS destabilizowały globalnie rozpoznawalne platformy z pozorną łatwością, mimo że ich fizyczna infrastruktura pozostawała nienaruszona. Ataki typu denial of service na dużą skalę wielokrotnie pokazały, że nowoczesna łączność może zostać zakłócona nie poprzez niszczenie systemów, lecz poprzez przeciążenie wąskich, współdzielonych punktów krytycznych.
Każde z tych zdarzeń uznawano za tymczasowe. Każde traktowano jako odizolowany symptom. Jednak analiza „post mortem” ujawnia coś znacznie bardziej niepokojącego: nasza infrastruktura cyfrowa nie jest naprawdę zoptymalizowana pod kątem odporności.
W pogoni za szybkością ograniczyliśmy redundancję. W pogoni za wydajnością zdegradowaliśmy ręczną interwencję na rzecz automatyzacji. W pogoni za skalą przekazaliśmy osąd systemom opartym na politykach, zaprojektowanym tak, by działały bezstronnie, natychmiastowo i globalnie.
Istnieje również bardziej niewygodny precedens. Niedawno szeroko rozpowszechniony sprzęt konsumencki wiodącej marki doznał realnych, trwałych uszkodzeń fizycznych z powodu wadliwego zachowania niskopoziomowego oprogramowania. Lekcja nie polegała jedynie na tym, że oprogramowanie może zawieść. Krytyczne podatności oprogramowania prowadzą do krytycznych awarii sprzętu na masową skalę, dowodząc, że oprogramowanie, gdy jest głęboko zintegrowane ze sprzętem, może spowodować nieodwracalne szkody, zanim ludzie zdążą zidentyfikować problem, nie mówiąc już o interwencji.
Żaden z tych incydentów nie „złamał” Internetu w sposób nieodwracalny. Jednak każdy z nich poszerzał pęknięcia w naszym zaufaniu do niego, pokazując, jak łatwo pojedynczy błąd we współdzielonej warstwie może rozchodzić się na zewnątrz, przekraczając granice systemowe, organizacyjne, geograficzne i ekonomiczne.
Gdzie jest punkt załamania?
W ciągu minut: dezorientacja przed paniką
Na początku sytuacja nie wydaje się katastrofalna. Po prostu wydaje się dziwna.
Użytkownicy nie mogą się zalogować, ponieważ usługi tożsamości zawodzą lub certyfikaty przestają być ważne. Aplikacje się uruchamiają, ale nie mogą dokonać uwierzytelnienia. Systemy płatności wielokrotnie ponawiają transakcje, uruchamiając systemy wykrywania oszustw i mechanizmy bezpieczeństwa. Komunikacja wewnętrzna i zewnętrzna dużych organizacji oraz osób prywatnych zostaje zerwana, ponieważ opiera się na tych samych dotkniętych warstwach chmurowych.
Zespoły operacyjne rozpoczynają próbę przeprowadzenia awaryjnej selekcji, zakładając, że są to pojedyncze awarie. Jednak problemem nie jest jedna usługa. Jest nim współdzielona zależność, na której jednocześnie polegają tysiące usług. Gdy to uświadomienie następuje, a skala staje się widoczna, zaczyna narastać panika.
W ciągu godzin: syzyfowa automatyzacja
Inżynierowie zaczynają próbować cofnąć szkody i przywrócić systemy. Za każdym razem, gdy komponent zostaje ponownie włączony, warstwa sterowania oparta na AI ponownie go oznacza i ponownie stosuje protokoły kwarantanny. Nie dlatego, że rozumuje, lecz dlatego, że bezbłędnie, wielokrotnie i bez zmęczenia wykonuje ten sam zestaw reguł. Nie kwestionuje siebie ani przez sekundę; robią to ludzie próbujący odwrócić szkody.
Na tym etapie problemem nie jest już identyfikacja usterki. Problemem jest odzyskanie pełnej kontroli nad kluczowym systemem, który decyduje o tym, co w ogóle może działać.
Tymczasem płaszczyzny sterowania chmury zaczynają się degradować. Rozwiązywanie DNS staje się niespójne. Niektóre regiony kierują ruch normalnie, podczas gdy inne tego nie robią. Sieci telekomunikacyjne ulegają przeciążeniu, ponieważ dostawcy i przedsiębiorstwa próbują jednocześnie przeprowadzić przełączenia awaryjne. Internet nie gaśnie wszędzie. Staje się rozproszony, a chaotyczna nieprzewidywalność okazuje się znacznie bardziej szkodliwa niż całkowita awaria.
W ciągu dni: izolacja bez odzyskania
Ostatecznie rozprzestrzenianie się szkód zostaje zatrzymane. Same protokoły kwarantanny, będące integralną częścią systemu, zostają w jakiś sposób odizolowane i wstrzymane na tyle długo, by można je było naprawić. Jednak koszt jest ogromny.
Usługi krytyczne są przywracane według względnego priorytetu: systemy opieki zdrowotnej, media, łączność alarmowa, główne kanały finansowe i inne. Miliony drugorzędnych, niekluczowych systemów zostają zmuszone do działania w zdegradowanych trybach bezpiecznych, o ile w ogóle. W niektórych przypadkach sprzęt wypchnięty poza bezpieczne granice przez uszkodzone procedury programowe doznał nieodwracalnych uszkodzeń strukturalnych, pogarszając lub całkowicie paraliżując swoje funkcjonowanie i wymagając kosztownych oraz czasochłonnych wymian.
Internet wraca, ale odmieniony. Jest wolniejszy, bardziej ograniczony, mniej godny zaufania.
Przywrócenie go do stanu choćby zbliżonego do poprzedniego może zająć tygodnie. Odbudowa zaufania może potrwać miesiące, jeśli nie lata. Dla niektórych zaufanie może już nigdy nie powrócić w pełni.
Co to oznacza?
Konsekwencje wykraczałyby daleko poza technologię.
Nowoczesna logistyka opiera się na ciągłej łączności. Rynki finansowe wymagają niezawodnego przepływu aktualnych danych, stabilnej realizacji oraz przewidywalnego rozliczenia. Wystarczy naruszyć jeden z tych elementów, a zaufanie szybko się kruszy.
Rynki prawdopodobnie zareagowałyby początkowo gwałtownie. Spready się rozszerzają. Płynność się zwęża. Korelacje rosną, gdy uczestnicy w pośpiechu redukują ekspozycję. Następnie pojawia się bardziej niebezpieczna faza. Odkrywanie cen zaczyna się załamywać. Strumienie danych stają się niespójne. Miejsca realizacji transakcji doświadczają awarii lub ograniczeń przepustowości. Brokerzy zaostrzają kontrole ryzyka, podnoszą depozyty zabezpieczające lub całkowicie ograniczają produkty. Harmonogramy rozliczeń stają się niepewne.
Najpoważniejszym ryzykiem w tym scenariuszu nie jest sama utrata przychodów czy aktywów. Jest nim niemożność działania w celu zapobieżenia szkodom. Gdy uczestnicy nie mogą w sposób niezawodny wchodzić w pozycje, wychodzić z nich, zabezpieczać się lub je likwidować, dźwignia staje się obciążeniem niezależnie od kierunku rynku. Zaufanie do scentralizowanej architektury chmurowej słabnie, a fala uderzeniowa rozchodzi się poza spółki technologiczne, do bankowości, płatności, platform ochrony zdrowia i operacji skarbcowych korporacji.
Nawet instytucje postrzegane jako nietykalne mogłyby doświadczyć gwałtownych spadków wyceny, gdy systemowe zaufanie, a nie przychody, ulega erozji.
Patrząc w przyszłość
Odbudowa prawdopodobnie wymagałaby nie tylko technicznego przywrócenia, ale także zmian społecznych.
Dążenie do maksymalnej wydajności ustąpiłoby miejsca odnowionemu skupieniu na odporności. Rozwiązania offline odzyskałyby znaczenie. Nadzór ludzki zostałby ponownie wprowadzony do krytycznych łańcuchów decyzyjnych. Redundancja znów byłaby postrzegana jako cecha, a nie marnotrawstwo. Decentralizacja przestałaby być hasłem, a stałaby się praktyczną koniecznością.
Systemy cyfrowe odzyskałyby sprawność szybciej niż cyfrowe zaufanie. Internet pozostałby niezbędny, ale nie byłby już traktowany jako coś oczywistego ani uznawany za nieomylny.
W mniejszej skali nieformalne systemy barterowe i lokalnej wymiany mogłyby tymczasowo powrócić. Nie jako ideologia, lecz jako pragmatyzm. Gdy cyfrowe zaufanie się załamuje, wartość namacalna staje się łatwiejsza do uzgodnienia.
Utrata natychmiastowego globalnego przepływu informacji, nawet tymczasowa, mogłaby potencjalnie zmienić sposób, w jaki instytucje, korporacje i jednostki oceniają ryzyko w przyszłości.
Co to dziś dla Ciebie oznacza
Celem tego hipotetycznego ćwiczenia myślowego nie jest wywoływanie strachu. Ma ono zainspirować prewencyjną dawkę wewnętrznej szczerości.
Większość inwestorów testuje odporność ruchów cenowych i trendów. Bardzo niewielu testuje odporność infrastruktury, w której działają.
Praktycznym wnioskiem z tego ćwiczenia powinna być gotowość. Dywersyfikacja pomiędzy klasami aktywów, a nie tylko instrumentami. Traktowanie płynności jako cechy, a nie założenia. Ostrożne korzystanie z dźwigni w środowiskach, w których realizacja transakcji może się pogorszyć. Zrozumienie ryzyka korelacji podczas kaskadowych zdarzeń systemowych, gdy aktywa, które zwykle zachowują się różnie, zaczynają poruszać się razem.
W świecie zoptymalizowanym pod kątem szybkości prawdziwą przewagą nie jest trafność prognoz, lecz odporność. Rynki czasem karzą ignorancję. Znacznie częściej i znacznie dotkliwiej karzą nadmierną pewność siebie.
Przejrzyj swoje ekspozycje, założenia dotyczące płynności oraz plany awaryjne. W nowoczesnym świecie, w którym żyjemy, ryzyka kaskadowe nie zapowiadają się z wyprzedzeniem. Zwykle pojawiają się nagle, z cichym dźwiękiem powiadomienia, wszystkie naraz, jak przekazany dalej wątek e-maila.
Przede wszystkim jednak rozważ z wyprzedzeniem to niewygodne pytanie testu odporności: jak duże kłopoty miałbyś, gdybyś nie był w stanie działać przez 48 godzin?
