Narzędzie do autonomicznego pisania kodu Kiro mogło spowodować długotrwałą awarię AWS: co wiadomo o incydencie?

W grudniu w infrastrukturze Amazon Web Services (AWS) wystąpiła trzynastogodzinna awaria, która według danych Financial Times mogła być związana z wewnętrznym narzędziem sztucznej inteligencji Kiro. Chodzi o system do pisania kodu, zdolny do wykonywania autonomicznych działań w imieniu użytkownika.

Co wiadomo

Z informacji czterech źródeł, zaznajomionych z sytuacją, inżynierowie użyli Kiro do wprowadzenia zmian w środowisku, po czym system rzekomo zainicjował "usunięcie i ponowne stworzenie środowiska", co doprowadziło do długotrwałej awarii, która głównie dotknęła Chiny.

Amazon zaprzecza, że przyczyną incydentu była autonomiczność AI. Firma twierdzi, że to był "zbieg okoliczności", a główną przyczyną nazwała błąd użytkownika — niepoprawnie skonfigurowane prawa dostępu. Według oficjalnego stanowiska, narzędzie sztucznej inteligencji Kiro domyślnie wymaga potwierdzenia przed wykonaniem jakichkolwiek działań. Jednak w tym przypadku pracownik miał szersze uprawnienia, niż oczekiwano, co pozwoliło na wykonanie krytycznej operacji bez dodatkowej kontroli.

Firma podkreśla, że incydent był ograniczony i dotyczył jedynie usługi AWS Cost Explorer w jednym z 39 geograficznych regionów. Według Amazon, awaria nie wpłynęła na moce obliczeniowe, magazyn danych, bazy danych ani usługi sztucznej inteligencji. Ponadto firma oświadczyła, że nie otrzymała zgłoszeń od klientów w związku z tym przypadkiem.

Po incydencie AWS wprowadziła dodatkowe środki bezpieczeństwa. Jednocześnie źródła FT twierdzą, że to co najmniej drugi przypadek w ostatnich miesiącach, kiedy narzędzia sztucznej inteligencji firmy znajdują się w centrum awarii usługowych.

Wcześniej, w październiku, AWS doświadczyła większej awarii, która wpłynęła na działanie Alexa, Snapchat, Fortnite i Venmo. Wówczas przyczyną nazwano błąd w oprogramowaniu do automatyzacji.

Źródło: Financial Times