Wiosną tego roku, amerykańskie wojsko otrzymało raport wskazujący, że jeden z chińskich statków płynących w regionie Bliskiego Wschodu przewozi komponenty niezbędne do budowy broni atomowej. Pentagon szykował się do operacji przejęcia statku, jednak tuż przed jej rozpoczęciem analitycy odkryli, że raport przygotowano z użyciem AI, a zawarte w nim informacje były całkowicie fałszywe.
AI na polu bitwy
Militarne zastosowanie AI jest jednym z najbardziej kontrowersyjnych aspektów rozwoju tej technologii. Sprzeczne poglądy dotyczące rozwoju, m.in. autonomicznej broni stały się w zeszłym roku kością niezgody między Anthropic a Pentagonem i poskutkowały wykluczeniem firmy z kontraktów wojskowych. Administracja Donalda Trumpa, bardzo entuzjastycznie nastawiona do rozwoju AI w ogóle, silnie naciska na przyśpieszenie wdrażania i rozwoju sztucznej inteligencji w celach militarnych.
Zastosowanie takie nie ogranicza się jednak do autonomicznej broni. AI, dysponując ogromnymi możliwościami analizy informacji, jest wymarzonym narzędziem dla wywiadowców i strategów. Właśnie takiego raportu wywiadowczego dotyczył upubliczniony niedawno incydent.
Niebezpieczny błąd
W ubiegłych dniach CNN poinformowało, że wiosną tego roku, amerykańskie wojsko szykowało się do przechwycenia jednego z chińskich statków znajdujących się w regionie Bliskiego Wschodu. Przygotowania do operacji rozpoczęto w związku z raportem, stwierdzającym, że statek ten przewozi komponenty niezbędne do budowy i rozwoju broni atomowej. Bezpośrednio przed operacją odkryto, że raport został sporządzony przy użyciu Sztucznej Inteligencji, która błędnie określiła ładunek statku. Informacje, na podstawie których prawie przejęto chiński statek, okazały się zatem być całkowicie fałszywe.
Jest to prawdopodobnie najbardziej niepokojąca informacja o AI, którą usłyszeliśmy w ostatnich miesiącach: nieuzasadnione przechwycenie chińskiego statku mogło przerodzić się w kryzys międzynarodowy a nawet konflikt zbrojny. Niepokojący jest również fakt, że fałszywość raportu odkryto dopiero tuż przed operacją.
Wnioski
Od kilku tygodni czołowe postaci Doliny Krzemowej dyskutują o niebezpieczeństwach związanych z możliwością wyrwania się najbardziej zaawansowanych modeli AI spod kontroli ich twórców. Ta sytuacja pokazuje jednak, że najsłabszym ogniwem systemu jest człowiek, a najbardziej niebezpieczne incydenty powstać mogą w miejscu, gdzie AI styka się z ludzkimi decyzjami. Brak procedur dotyczących bezpiecznego korzystania z sztucznej inteligencji i weryfikowania wyników jej pracy, bezrefleksyjne przyjmowanie ich wyników i niefrasobliwie sprawowany nadzór, mogą skutkować katastrofalnymi pomyłkami.
Incydent otworzył dyskusję na temat stosowania modeli AI w działaniach wywiadowczych i strategicznych. Eksperci wskazali, że wciąż brak jednolitych standardów i procedur dotyczących stosowania sztucznej inteligencji przez amerykańskie podmioty rządowe – każda instytucja korzysta z innych narzędzi, zgodnie z innymi, wewnętrznymi regulacjami bezpieczeństwa. Brak standardów narzędzi i procedur występuje również w ramach samego wojska i wywiadu. Analitycy podkreślają, że Pentagon coraz częściej wykorzystuje AI do doboru celów, a ostatni incydent ujawnił tylko jak duże jest ryzyko katastrofalnego błędu na tym polu.
